remixer-dec/botality-ii
📦 오픈 소스 프로젝트remixer-dec
LLM, Stable Diffusion, TTS 기능을 텔레그램에서 로컬로 실행하는 다재다능한 봇.
Botality-II는 텔레그램과 로컬 AI 추론 엔진을 연결하는 포괄적인 브리지 역할을 합니다. llama.cpp와 같은 라이브러리를 활용하여 M1/M2 Mac의 MPS 가속을 포함한 개인 하드웨어에서 고성능 LLM을 실행할 수 있습니다. Llama 3, GPT-J, Alpaca 등 다양한 모델 아키텍처를 지원하며, 이미지 생성을 위한 Stable Diffusion 및 음성 상호작용을 위한 다양한 TTS/STT 엔진을 통합합니다. 모듈식 구조로 설계되어 새로운 LoRA 어댑터나 모델 가중치를 쉽게 업데이트하고 통합할 수 있습니다. 특히 셀프 호스팅에 최적화되어 있어 데이터가 로컬에 안전하게 유지되며, 익숙한 채팅 인터페이스를 통해 복잡한 AI 작업을 수행할 수 있습니다.
💡하이라이트
- ├─Llama 3 및 Stable Diffusion 지원
- ├─M1/M2 Mac MPS 하드웨어 가속 지원
- └─통합 텔레그램 채팅 인터페이스 제공
🎯대상
- ├─AI 애호가
- ├─개인정보 보호 중시 사용자
- └─셀프 호스팅 매니아