stoyan-stoyanov/llmflows
🏗️ 框架stoyan-stoyanov
一个简单、直观且透明的 Python 框架，用于构建稳健的 LLM 应用程序。
LLMFlows 的核心理念是 LLM 应用开发应当直观且具备可观测性。与许多“黑盒”框架不同，LLMFlows 暴露了 LLM 交互的底层机制，允许开发者定义显式的执行流程。主要功能包括用于动态输入管理的强大提示词模板、用于高性能执行的异步流，以及对向量存储的内置支持，从而实现检索增强生成（RAG）能力。该框架为 LLM、消息历史记录和流步骤提供了结构化类，确保应用程序逻辑的每一步都可追溯。这种透明度对于 LLMOps 至关重要，因为它允许开发者记录、检查和优化应用与模型之间的每一次交互。无论您是在构建简单的聊天机器人还是复杂的多步推理管道，LLMFlows 都提供了以 Python 风格有效管理状态和依赖项所需的模块化能力。