LEANN
🔧 WerkzeugStarTrail-org
97 % Speicherersparnis für privates RAG auf Ihrem Gerät.
LEANN (Lightweight Efficient Approximate Nearest Neighbor) ist ein Open-Source-Tool zum Erstellen von Retrieval-Augmented-Generation-Anwendungen (RAG), die vollständig offline auf persönlichen Geräten laufen. Es erreicht eine 97-prozentige Reduzierung des Speicherbedarfs im Vergleich zu herkömmlichen Vektordatenbanken, was den Einsatz auf Smartphones und Edge-Geräten ermöglicht. Zu den Hauptfunktionen gehören die Integration mit LangChain und LlamaIndex, die Unterstützung mehrerer LLMs über Ollama und die FAISS-basierte Vektorsuche. Die gesamte Verarbeitung erfolgt lokal und gewährleistet so 100 % Privatsphäre.
💡Highlights
- ├─97 % Speicherersparnis
- ├─Läuft auf persönlichen Geräten
- └─Privat und offline-first
🎯Für
- ├─Entwickler, die Offline-RAG-Apps erstellen
- ├─Datenschutzbewusste Nutzer
- └─Edge-KI-Entwickler