
christopherkarani/MetalANNS
📦 オープンソースプロジェクトchristopherkarani
Apple Siliconに最適化された、SwiftとMetalによる高性能GPUネイティブ近似近傍探索ライブラリ。
MetalANNSは、Appleエコシステムにおけるローカルベクトル検索能力を飛躍的に向上させます。ANN探索の負荷をCPUからMetal経由でGPUへ移行することで、高次元ベクトル演算において優れたパフォーマンスを実現しました。そのアーキテクチャは、大規模検索タスクで効率性が証明されているCAGRA(Cuda Accelerated Graph-based k-Nearest Neighbor)アプローチに基づいています。
主な技術的特徴:
- GPUネイティブ実行:AppleのMetalフレームワークをフル活用し、並列グラフ探索を実現。
- CAGRAスタイルインデックス:高スループットな検索と高速なインデックス構築に最適化。
- 完全な可変性:インデックスのフルリビルドなしで動的な更新が可能。
- フィルタリング検索:複雑なRAGパイプラインに不可欠なメタデータ対応クエリをサポート。
- ストリーミング取り込み:リアルタイムのデータ更新を効率的に処理。
- 永続化:セッション間でのインデックス状態の保存・読み込みに対応。
純粋なSwiftで記述されており、LangChainやLangGraphを含む現代のApple開発スタックとシームレスに統合可能です。
💡ハイライト
- ├─GPUネイティブなCAGRAスタイルグラフインデックス
- ├─完全な可変性とストリーミング取り込みに対応
- └─純粋なSwiftとMetalによる実装
🎯対象
- ├─Swift開発者
- ├─AIエンジニア
- └─ローカルファーストアプリ開発者