nobodywho-ooo/nobodywho
🔧 टूलnobodywho-ooo
किसी भी डिवाइस पर स्थानीय रूप से LLMs चलाने के लिए एक उच्च-प्रदर्शन, क्रॉस-प्लेटफ़ॉर्म इन्फरेंस इंजन।
NobodyWho एक मजबूत इन्फरेंस इंजन है जिसे स्थानीय AI तैनाती के विखंडन को हल करने के लिए बनाया गया है। रस्ट में लिखित, यह विभिन्न उपकरणों पर स्थानीय रूप से LLMs चलाने के लिए मेमोरी सुरक्षा और उच्च-प्रदर्शन निष्पादन का लाभ उठाता है। यह इंजन विशेष रूप से फ्लटर (Flutter) और रिएक्ट नेटिव (React Native) जैसे मोबाइल फ्रेमवर्क, और गोडोट 4 (Godot 4) जैसे गेम डेवलपमेंट वातावरण सहित प्लेटफार्मों की एक विस्तृत श्रृंखला का समर्थन करने के लिए तैयार किया गया है। मॉडल निष्पादन की जटिलताओं को अमूर्त (abstract) करके, यह डेवलपर्स को भारी सर्वर-साइड इंफ्रास्ट्रक्चर की आवश्यकता के बिना स्मॉल लैंग्वेज मॉडल (SLMs) और LLMs को तैनात करने की अनुमति देता है। कोटलिन (Kotlin), स्विफ्ट (Swift) और पायथन (Python) के लिए बाइंडिंग सहित इसका क्रॉस-लैंग्वेज समर्थन, इसे उन डेवलपर्स के लिए एक आदर्श विकल्प बनाता है जो क्रॉस-प्लेटफ़ॉर्म एप्लिकेशन में ऑन-डिवाइस इंटेलिजेंस जोड़ना चाहते हैं। चाहे आप गेम, मोबाइल ऐप या डेस्कटॉप टूल बना रहे हों, NobodyWho कम-विलंबता, निजी और ऑफ़लाइन AI इन्फरेंस के लिए आवश्यक प्रिमिटिव प्रदान करता है।
💡मुख्य बातें
- ├─रस्ट-आधारित इन्फरेंस इंजन
- ├─गोडोट 4 और फ्लटर समर्थन
- └─क्रॉस-प्लेटफ़ॉर्म स्थानीय LLM निष्पादन
🎯के लिए
- ├─मोबाइल ऐप डेवलपर्स
- ├─गेम डेवलपर्स
- └─एज AI इंजीनियर