
txtai
🏗️ AI 框架neuml
一体化 AI 框架,用于语义搜索、LLM 编排和语言模型工作流。
txtai 提供了一个全面、统一的接口,用于构建 AI 驱动的应用。它包括使用密集嵌入进行语义搜索、编排大型语言模型(LLM)以及创建结合检索、生成和转换的复杂工作流的能力。该框架支持多种嵌入和向量数据库后端,使其灵活适应各种用例。主要特性包括:使用密集嵌入进行语义搜索;LLM 编排,用于聊天、问答和摘要;检索增强生成(RAG)流水线;多阶段工作流自动化;以及 Python 优先的 API,与 Transformers 和 Hugging Face 等流行库集成。