lmstudio-community/gemma-4-E4B-it-MLX-5bit
🧠 AI मॉडलlmstudio-community
Apple Silicon के लिए अनुकूलित, उच्च-प्रदर्शन वाला 5-बिट क्वांटाइज्ड Gemma 4 E4B मॉडल।
यह मॉडल lmstudio-community द्वारा Google के Gemma 4 E4B की क्षमताओं को Apple इकोसिस्टम में लाने का एक महत्वपूर्ण प्रयास है। बेस मॉडल को 5-बिट क्वांटाइजेशन के साथ MLX फॉर्मेट में बदलकर, यह मूल इंस्ट्रक्शन-ट्यून्ड आर्किटेक्चर की अखंडता को बनाए रखते हुए VRAM की आवश्यकताओं को काफी कम कर देता है। इसकी 'एनी-टू-एनी' पाइपलाइन क्षमता इमेज-टेक्स्ट-टू-टेक्स्ट कार्यों सहित बहुमुखी मल्टीमॉडल प्रोसेसिंग की अनुमति देती है। यह Apple Silicon के यूनिफाइड मेमोरी आर्किटेक्चर का लाभ उठाता है, जिससे यह सुनिश्चित होता है कि इन्फरेंस तेज़ और प्रतिक्रियाशील हो। Safetensors का उपयोग सुरक्षित और कुशल मॉडल लोडिंग सुनिश्चित करता है, जो इसे macOS पर स्थानीय AI अनुप्रयोगों, अनुसंधान और रैपिड प्रोटोटाइपिंग के लिए एक मजबूत विकल्प बनाता है।
💡मुख्य बातें
- ├─Apple Silicon के लिए 5-बिट क्वांटाइजेशन
- ├─एनी-टू-एनी मल्टीमॉडल आर्किटेक्चर
- └─MLX फ्रेमवर्क के लिए अनुकूलित
🎯के लिए
- ├─AI डेवलपर्स
- └─Apple Silicon उपयोगकर्ता