ferranpons/Llamatik
📦 Open Source Projectferranpons
Полноценный локальный ИИ для Kotlin Multiplatform: LLM, распознавание речи и генерация изображений на всех платформах.
Llamatik устраняет разрыв между высокопроизводительными движками вывода на C++ и экосистемой Kotlin Multiplatform (KMP). Библиотека предоставляет унифицированный и идиоматичный API для запуска сложных моделей ИИ локально на устройствах пользователей. Архитектура Llamatik берет на себя сложности кроссплатформенного управления памятью и аппаратного ускорения, абстрагируя реализацию llama.cpp, whisper.cpp и stable-diffusion.cpp. Основные возможности включают генерацию текста, транскрипцию аудио и синтез изображений, оптимизированные для граничных вычислений. Благодаря использованию форматов на базе GGML, Llamatik обеспечивает эффективное выполнение моделей на мобильном и десктопном оборудовании, значительно снижая задержки и устраняя проблемы конфиденциальности данных, связанные с облачной обработкой. Решение легко интегрируется в существующие KMP-проекты, поддерживая широкий спектр целей, включая Android, iOS, Desktop и WebAssembly.
💡Основное
- ├─Поддержка Android, iOS, Desktop, WASM
- ├─На базе llama.cpp и whisper.cpp
- └─Офлайн-работа и приватность данных
🎯Для
- ├─Мобильные разработчики
- └─KMP-инженеры