
stoyan-stoyanov/llmflows
🏗️ 框架stoyan-stoyanov
一个简单、直观且透明的 Python 框架,用于构建稳健的 LLM 应用程序。
LLMFlows 的核心理念是 LLM 应用开发应当直观且具备可观测性。与许多“黑盒”框架不同,LLMFlows 暴露了 LLM 交互的底层机制,允许开发者定义显式的执行流程。主要功能包括用于动态输入管理的强大提示词模板、用于高性能执行的异步流,以及对向量存储的内置支持,从而实现检索增强生成(RAG)能力。该框架为 LLM、消息历史记录和流步骤提供了结构化类,确保应用程序逻辑的每一步都可追溯。这种透明度对于 LLMOps 至关重要,因为它允许开发者记录、检查和优化应用与模型之间的每一次交互。无论您是在构建简单的聊天机器人还是复杂的多步推理管道,LLMFlows 都提供了以 Python 风格有效管理状态和依赖项所需的模块化能力。