rafska/awesome-local-llm
📦 ओपन सोर्स प्रोजेक्टrafska
स्थानीय स्तर पर लार्ज लैंग्वेज मॉडल चलाने के लिए उपकरणों, प्लेटफार्मों और संसाधनों का एक व्यापक क्यूरेटेड संग्रह।
awesome-local-llm रिपॉजिटरी स्थानीय एआई पारिस्थितिकी तंत्र के लिए एक आवश्यक निर्देशिका है। यह सॉफ्टवेयर की एक विस्तृत श्रृंखला को वर्गीकृत करती है, जिसमें llama.cpp और Ollama जैसे लोकप्रिय इन्फरेंस बैकएंड, Open WebUI जैसे उपयोगकर्ता के अनुकूल इंटरफेस, और मॉडल क्वांटाइजेशन व फाइन-ट्यूनिंग के लिए विशेष उपकरण शामिल हैं। इन संसाधनों को समेकित करके, यह प्रोजेक्ट उन उपयोगकर्ताओं के लिए प्रवेश बाधा को कम करता है जो निजी, ऑफलाइन और लागत प्रभावी स्थानीय निष्पादन के पक्ष में क्लाउड-आधारित एपीआई को छोड़ना चाहते हैं। यह सूची ओपन-वेट मॉडल के तेजी से विकसित हो रहे परिदृश्य को दर्शाने के लिए अक्सर अपडेट की जाती है, यह सुनिश्चित करते हुए कि उपयोगकर्ता अपने हार्डवेयर कॉन्फ़िगरेशन के लिए सबसे कुशल उपकरण पा सकें।
💡मुख्य बातें
- ├─100+ स्थानीय एआई उपकरणों की सूची
- ├─इन्फरेंस, GUI और हार्डवेयर कवर
- └─गोपनीयता और सेल्फ-होस्टिंग पर जोर
🎯के लिए
- ├─एआई डेवलपर्स
- ├─गोपनीयता समर्थक
- └─सेल्फ-होस्टिंग उत्साही