MauxPlatform/Maux-RAG-API
🏗️ फ्रेमवर्कMauxPlatform
Retrieval-Augmented Generation (RAG) सिस्टम को तेजी से तैनात करने के लिए एक प्रोडक्शन-रेडी FastAPI बॉयलरप्लेट।
Maux-RAG-API, FastAPI पर निर्मित एक विशेष फ्रेमवर्क है, जिसे RAG (Retrieval-Augmented Generation) वर्कफ़्लो की जटिलताओं को संभालने के लिए डिज़ाइन किया गया है। यह एक स्वच्छ और मॉड्यूलर आर्किटेक्चर प्रदान करता है जो डेवलपर्स को मुख्य API लॉजिक को फिर से लिखे बिना अपने पसंदीदा वेक्टर डेटाबेस और LLM प्रदाताओं को जोड़ने की अनुमति देता है। इसकी मुख्य विशेषताओं में एसिंक्रोनस रिक्वेस्ट हैंडलिंग, दस्तावेज़ इनजेशन और क्वेरी के लिए संरचित एंडपॉइंट्स, और एक लचीला मिडलवेयर दृष्टिकोण शामिल है जो विभिन्न एम्बेडिंग मॉडल का समर्थन करता है। RAG के सामान्य पैटर्न—जैसे दस्तावेज़ चंकिंग, वेक्टर स्टोरेज इंटरैक्शन और प्रॉम्प्ट ऑर्केस्ट्रेशन—को अमूर्त (abstract) करके, यह फ्रेमवर्क टीमों को अपनी पुनर्प्राप्ति रणनीतियों और मॉडल प्रदर्शन को अनुकूलित करने पर ध्यान केंद्रित करने में सक्षम बनाता है। इसका हल्का डिज़ाइन कम लेटेंसी सुनिश्चित करता है, जो इसे प्रोटोटाइपिंग और प्रोडक्शन-ग्रेड AI सेवाओं दोनों के लिए उपयुक्त बनाता है।
💡मुख्य बातें
- ├─FastAPI-आधारित RAG बॉयलरप्लेट
- ├─LLMs के लिए मॉड्यूलर आर्किटेक्चर
- └─स्केल के लिए एसिंक-फर्स्ट डिज़ाइन
🎯के लिए
- ├─बैकएंड डेवलपर्स
- └─AI इंजीनियर्स