tyrell/llm-ollama-llamaindex-bootstrap
📦 オープンソースプロジェクトtyrell
OllamaとLlamaIndexを活用した、完全オフライン対応のプライベートRAG構築用テンプレート。
tyrell/llm-ollama-llamaindex-bootstrapは、ローカル環境でのプライバシー重視型AI開発を加速させるための専門的なボイラープレートです。ローカルLLM推論用のOllama、データオーケストレーション用のLlamaIndex、ベクトルデータベースとしてのWeaviateなど、現代のAIスタックの主要コンポーネントを統合しています。OpenAIのような商用クラウドサービスからアプリケーションを切り離すことで、機密データがオンプレミス環境から流出しないことを保証します。モジュール式のアーキテクチャを採用しており、コンポーネントの入れ替えや、Hugging Faceのカスタム埋め込みモデルの追加も容易です。特に、エアギャップ環境でのプロトタイプ作成や、データ主権とコスト効率を優先する開発者に最適化されています。
💡ハイライト
- ├─完全オフライン動作のRAGパイプライン
- ├─OllamaとLlamaIndexの統合環境
- └─Weaviateベクトルストア対応
🎯対象
- ├─AI開発者
- └─プライバシー重視のエンジニア