Zlash65/rag-bot-fastapi
📦 Open Source ProjektZlash65
Ein leistungsstarker Multi-LLM RAG-Chatbot mit FastAPI, LangChain und ChromaDB für PDF-basierte Fragen und Antworten.
Dieses Projekt bietet eine modulare Architektur für den Aufbau von RAG-basierten Anwendungen. Im Kern verwendet es LangChain zur Steuerung der Dokumenten-Pipeline, die hochgeladene PDFs verarbeitet, Text in Chunks unterteilt und Embeddings in ChromaDB speichert. Das FastAPI-Backend stellt Endpunkte für die Dokumentenverarbeitung und Abfragebehandlung bereit, was eine entkoppelte und leicht erweiterbare Architektur gewährleistet. Durch die Integration mehrerer LLM-Anbieter wie Gemini und Groq bietet der Bot Flexibilität bei der Modellauswahl, um Kosten und Leistung auszubalancieren. Die Streamlit-Schnittstelle ermöglicht eine sofortige, benutzerfreundliche Interaktion und macht das System zu einem hervorragenden Ausgangspunkt für produktionsreife RAG-Pipelines. Der Code zeichnet sich durch eine saubere Python-Implementierung aus, die es Entwicklern erleichtert, die Abrufstrategie anzupassen oder Vektordatenbanken bei Bedarf auszutauschen.
💡Highlights
- ├─Multi-LLM Support via Gemini & Groq
- ├─FastAPI Backend mit ChromaDB
- └─Streamlit UI für PDF-Interaktion
🎯Für
- ├─KI-Entwickler
- └─Softwareingenieure