MauxPlatform/Maux-RAG-API
🏗️ FrameworkMauxPlatform
Готовый к продакшену FastAPI-шаблон для быстрого развертывания систем RAG (Retrieval-Augmented Generation).
Maux-RAG-API — это специализированный фреймворк на базе FastAPI, разработанный для решения задач в рабочих процессах RAG. Он предлагает чистую модульную архитектуру, позволяющую подключать любые векторные базы данных и LLM без изменения основной логики API. Ключевые особенности включают асинхронную обработку запросов, структурированные эндпоинты для загрузки документов и выполнения запросов, а также гибкий подход к middleware для поддержки различных моделей эмбеддингов. Абстрагируя типичные паттерны RAG, такие как нарезка документов (chunking), взаимодействие с векторным хранилищем и оркестрация промптов, фреймворк позволяет командам сосредоточиться на оптимизации стратегий поиска и производительности моделей. Легковесный дизайн обеспечивает низкую задержку, что делает его подходящим как для прототипирования, так и для промышленных ИИ-сервисов с высокой нагрузкой.
💡Основное
- ├─Шаблон RAG на базе FastAPI
- ├─Модульная архитектура для LLM
- └─Асинхронный дизайн для масштабирования
🎯Для
- ├─Бэкенд-разработчики
- └─ИИ-инженеры