
christopherkarani/MetalANNS
📦 开源项目christopherkarani
专为 Apple Silicon 打造的高性能 GPU 原生近似最近邻搜索库,基于 Swift 与 Metal 实现。
MetalANNS 代表了 Apple 生态系统中本地向量搜索能力的重大飞跃。通过利用 Metal 将 ANN 搜索的繁重计算从 CPU 转移到 GPU,它在高维向量运算中实现了卓越的性能。其架构基于 CAGRA(CUDA 加速的基于图的 k-最近邻)方法,该方法以在大规模搜索任务中的高效率而闻名。
核心技术特性包括:
- GPU 原生执行:充分利用 Apple 的 Metal 框架进行并行化图遍历。
- CAGRA 风格索引:针对高吞吐量搜索和快速构建进行了优化。
- 完全可变性:支持动态更新索引,无需完全重建。
- 过滤搜索:支持元数据感知查询,这对复杂的 RAG 流水线至关重要。
- 流式摄入:专为高效处理实时数据更新而设计。
- 持久化:提供灵活的存储选项,以便在不同会话间保存和加载索引状态。
该项目采用纯 Swift 编写,确保了与现代 Apple 开发栈(包括 LangChain 和 LangGraph 工作流)的无缝集成。
💡核心亮点
- ├─GPU 原生 CAGRA 风格图索引
- ├─支持完全可变性与流式摄入
- └─纯 Swift 与 Metal 实现
🎯适用人群
- ├─Swift 开发者
- ├─AI 工程师
- └─本地优先应用构建者