sourabhmarne777/rag-assistant-ollama
📦 Open Source Projectsourabhmarne777
Локальный RAG-ассистент на базе Ollama, Qdrant и LangChain для приватной работы с документами и веб-контентом.
Репозиторий rag-assistant-ollama предлагает надежный фреймворк для развертывания локальных RAG-решений. Система использует LangChain для управления процессами загрузки и поиска документов. Интеграция с Qdrant обеспечивает эффективный семантический поиск, позволяя модели извлекать релевантные фрагменты из PDF-файлов или веб-страниц. Использование Ollama позволяет запускать модель Mistral локально, гарантируя конфиденциальность данных и низкую задержку. Интерфейс на базе Streamlit обеспечивает интуитивно понятный пользовательский опыт и поддерживает историю чата с изоляцией сессий, что позволяет сохранять контекст диалога. Инструмент отличается высокой модульностью, что делает его отличной отправной точкой для экспериментов с локальными векторными базами данных, парсингом документов и системами поиска на базе LLM в среде Python.
💡Основное
- ├─Локальный RAG: Ollama и Mistral
- ├─Векторная БД Qdrant
- └─UI на Streamlit с изоляцией сессий
🎯Для
- ├─AI-разработчики
- └─Инженеры данных