cocktailpeanut/dalai
🔧 Инструментcocktailpeanut
Запустите модели LLaMA локально одной командой.
Dalai — это проект с открытым исходным кодом, упрощающий запуск моделей LLaMA локально. Он объединяет необходимые зависимости и предоставляет одну команду для загрузки и запуска LLaMA. Проект направлен на демократизацию доступа к большим языковым моделям, устраняя сложные шаги настройки. Поддерживает несколько размеров моделей LLaMA и предлагает веб-интерфейс чата. Кодовая база минимальна, использует существующие библиотеки, такие как llama.cpp, для инференса. Dalai идеально подходит для разработчиков, исследователей и любителей, желающих экспериментировать с LLaMA без облачной зависимости.
💡Основное
- ├─Одна команда для запуска LLaMA
- ├─Локальный, приватный инференс
- └─Веб-интерфейс чата
🎯Для
- ├─Энтузиасты ИИ
- ├─Разработчики
- └─Любители