lmstudio-community/gemma-4-E4B-it-MLX-5bit
🧠 AI 모델lmstudio-community
Apple Silicon을 위해 MLX로 최적화된 고성능 5비트 양자화 Gemma 4 E4B 모델.
이 모델은 lmstudio-community가 Google의 Gemma 4 E4B 성능을 Apple 생태계로 가져오기 위해 수행한 최적화 결과물입니다. 기본 모델을 5비트 양자화된 MLX 형식으로 변환하여, 원본 모델의 명령어 튜닝 아키텍처를 유지하면서도 VRAM 요구 사항을 대폭 낮췄습니다. 'any-to-any' 파이프라인을 통해 이미지-텍스트-텍스트 처리를 포함한 다양한 멀티모달 작업을 수행할 수 있습니다. Apple Silicon의 통합 메모리 아키텍처를 활용하여 빠르고 반응성이 뛰어난 추론을 보장하며, safetensors 형식을 사용하여 안전하고 효율적인 로딩을 지원합니다. macOS 환경에서의 로컬 AI 애플리케이션 개발, 연구 및 신속한 프로토타이핑을 위한 강력한 도구입니다.
💡하이라이트
- ├─Apple Silicon용 5비트 양자화
- ├─Any-to-any 멀티모달 아키텍처
- └─MLX 프레임워크 최적화
🎯대상
- ├─AI 개발자
- └─Apple Silicon 사용자