Open Assistant API
🏗️ 프레임워크MLT-OSS
LLM, RAG, 함수 호출 및 도구를 지원하는 자체 호스팅 오픈소스 AI 어시스턴트 구축 프레임워크.
Open Assistant API는 개발자가 자체 호스팅 환경에서 AI 어시스턴트를 생성, 배포 및 관리할 수 있게 해주는 Python 기반 프레임워크입니다. OpenAI 호환 API를 제공하여 클라우드 기반 서비스에서의 마이그레이션을 용이하게 합니다. 주요 기능으로는 여러 LLM 백엔드 지원, 검색 증강 생성(RAG), 함수 호출, 맞춤형 도구 통합이 포함됩니다. 프레임워크는 확장 가능하도록 설계되어 사용자가 플러그인을 통해 새로운 기능을 추가할 수 있습니다. 또한 여러 에이전트와 작업을 관리하기 위한 내장 오케스트레이션 레이어를 포함합니다. 이 프로젝트는 MIT 라이선스 하에 오픈소스로 제공되며 MLT-OSS 커뮤니티에 의해 활발히 유지管理됩니다.
💡하이라이트
- ├─OpenAI 호환 API 엔드포인트
- ├─RAG 및 함수 호출 지원
- └─플러그인 확장 가능한 자체 호스팅
🎯대상
- ├─AI 개발자
- ├─DevOps 엔지니어
- └─자체 호스팅 AI 어시스턴트가 필요한 조직