agentjido/req_llm
🏗️ 框架agentjido
基于 Req 和 Finch 构建的 Elixir LLM 交互库，支持高度可组合的 API 集成。
req_llm 为与 LLM API 交互提供了简洁、地道的 Elixir 接口。通过直接构建在 Req 之上，它充分利用了该库出色的插件架构，使开发者能够轻松组合请求、处理重试并管理身份验证。该库注重性能与可靠性，利用 Finch 实现高效的 HTTP/2 连接池。主要功能包括支持多种 LLM 提供商、允许自定义中间件的模块化设计，以及可无缝集成到现有 Phoenix 或 Nerves 项目中的轻量级架构。无论您是在构建聊天机器人、自动化代理还是数据处理管道，req_llm 都提供了处理 LLM 通信所需的必要原语，且样板代码极少。