lmstudio-community/gemma-4-E4B-it-MLX-5bit
🧠 AI 模型lmstudio-community
专为 Apple Silicon 优化的 5-bit 量化 Gemma 4 E4B 多模态模型，支持高效本地运行。
该模型是 lmstudio-community 为将 Google Gemma 4 E4B 的强大能力引入 Apple 生态系统所做的一项重要优化。通过将基础模型转换为 MLX 格式并进行 5-bit 量化，它在大幅降低显存需求的同时，完整保留了原始指令微调架构的性能。其“any-to-any”多模态处理能力支持包括图文输入在内的多种任务。该模型充分利用了 Apple Silicon 的统一内存架构，确保了推理过程的快速与响应灵敏。采用 safetensors 格式保证了模型加载的安全与高效，使其成为 macOS 上进行本地 AI 应用开发、研究及快速原型设计的稳健之选。
💡核心亮点
- ├─针对 Apple Silicon 的 5-bit 量化
- ├─支持 Any-to-any 多模态架构
- └─深度适配 MLX 框架
🎯适用人群
- ├─AI 开发者
- └─Apple Silicon 用户