microsoft/Phi-3.5-mini-instruct
🧠 AI 모델microsoft
컴팩트한 크기로 최첨단 추론 및 다국어 능력을 제공하는 고성능 3.8B 파라미터 언어 모델입니다.
마이크로소프트의 Phi-3.5-mini-instruct는 소형 언어 모델(SLM) 기술의 비약적인 발전을 보여줍니다. 3.8B 파라미터를 가진 이 모델은 고품질 지시 이행과 복잡한 추론에 최적화되어 있어 엣지 컴퓨팅 및 로컬 배포에 매우 효과적입니다. 128k 토큰의 컨텍스트 윈도우를 지원하여 방대한 문서 분석과 긴 대화 기억이 가능합니다. 이 모델은 합성 데이터와 필터링된 웹 데이터로 구성된 대규모 데이터셋을 기반으로 구축되어, 작은 크기를 유지하면서도 고품질의 출력을 보장합니다. 특히 다국어 지원과 코드 생성에 특화된 아키텍처를 갖추고 있어, 속도와 정확성, 하드웨어 요구 사항 사이에서 균형을 잡아야 하는 개발자들에게 다재다능한 도구를 제공합니다. 트랜스포머 아키텍처와 safetensors 지원을 통해 기존 NLP 파이프라인 및 운영 환경에 원활하게 통합됩니다.
💡하이라이트
- ├─3.8B 파라미터, 128k 컨텍스트 윈도우
- ├─최첨단 수준의 추론 성능
- └─다국어 및 코드 작업에 최적화
🎯대상
- ├─AI 엔지니어
- ├─엣지 컴퓨팅 개발자
- └─모바일 앱 개발자