christopherkarani/MetalANNS
📦 开源项目christopherkarani
专为 Apple Silicon 打造的高性能 GPU 原生近似最近邻搜索库，基于 Swift 与 Metal 实现。
MetalANNS 代表了 Apple 生态系统中本地向量搜索能力的重大飞跃。通过利用 Metal 将 ANN 搜索的繁重计算从 CPU 转移到 GPU，它在高维向量运算中实现了卓越的性能。其架构基于 CAGRA（CUDA 加速的基于图的 k-最近邻）方法，该方法以在大规模搜索任务中的高效率而闻名。
核心技术特性包括：
- GPU 原生执行：充分利用 Apple 的 Metal 框架进行并行化图遍历。
- CAGRA 风格索引：针对高吞吐量搜索和快速构建进行了优化。
- 完全可变性：支持动态更新索引，无需完全重建。
- 过滤搜索：支持元数据感知查询，这对复杂的 RAG 流水线至关重要。
- 流式摄入：专为高效处理实时数据更新而设计。
- 持久化：提供灵活的存储选项，以便在不同会话间保存和加载索引状态。
该项目采用纯 Swift 编写，确保了与现代 Apple 开发栈（包括 LangChain 和 LangGraph 工作流）的无缝集成。
💡核心亮点
- ├─GPU 原生 CAGRA 风格图索引
- ├─支持完全可变性与流式摄入
- └─纯 Swift 与 Metal 实现
🎯适用人群
- ├─Swift 开发者
- ├─AI 工程师
- └─本地优先应用构建者