AbeEstrada/mlx-rag
📦 ओपन सोर्स प्रोजेक्टAbeEstrada
Apple Silicon के लिए MLX फ्रेमवर्क का उपयोग करके बनाया गया एक हल्का और कुशल RAG कार्यान्वयन।
mlx-rag रिपॉजिटरी macOS पर RAG सिस्टम तैनात करने के इच्छुक डेवलपर्स के लिए एक सुव्यवस्थित कोडबेस प्रदान करती है। Apple की मशीन लर्निंग लाइब्रेरी, MLX फ्रेमवर्क पर निर्मित, यह यूनिफाइड मेमोरी आर्किटेक्चर पर LLMs के उच्च-प्रदर्शन निष्पादन की अनुमति देती है। यह प्रोजेक्ट दस्तावेज़ इनजेशन, वेक्टर प्रतिनिधित्व और संदर्भ-जागरूक पीढ़ी सहित एंड-टू-एंड RAG वर्कफ़्लो को प्रदर्शित करता है। MLX का उपयोग करके, यह प्रोजेक्ट कुशल मेमोरी प्रबंधन और हार्डवेयर त्वरण से लाभान्वित होता है, जो स्थानीय रूप से बड़े मॉडल चलाने के लिए महत्वपूर्ण हैं। इसे मॉड्यूलर बनाया गया है, जिससे उपयोगकर्ता कम विलंबता बनाए रखते हुए विभिन्न एम्बेडिंग मॉडल और पुनर्प्राप्ति रणनीतियों के साथ प्रयोग कर सकते हैं। यह कार्यान्वयन उन डेवलपर्स के लिए विशेष रूप से उपयोगी है जो डेटा गोपनीयता और Apple हार्डवेयर पर ऑफलाइन क्षमता को प्राथमिकता देने वाले स्थानीय ज्ञान आधार, व्यक्तिगत सहायक या दस्तावेज़ विश्लेषण उपकरण बनाना चाहते हैं।
💡मुख्य बातें
- ├─Apple Silicon के लिए अनुकूलित
- ├─स्थानीय RAG पाइपलाइन कार्यान्वयन
- └─MLX फ्रेमवर्क पर आधारित
🎯के लिए
- ├─AI डेवलपर्स
- └─Apple Silicon उत्साही