Haidra-Org/AI-Horde
🏗️ ФреймворкHaidra-Org
Краудсорсинговый распределенный кластер для генерации AI-изображений и текста
AI Horde — это добровольная распределенная сеть для масштабного выполнения AI-инференса. Построенная на Python и Flask, она координирует пул узлов-воркеров, которые вносят ресурсы GPU для генерации изображений (через Stable Diffusion) и текста (через модели вроде GPT и OPT). Система полностью открыта, позволяя любому запустить воркер или отправить задание через RESTful API. Возможности включают очередь заданий, управление воркерами и поддержку множества моделей. Архитектура отказоустойчива и масштабируема: центральный сервер координирует задачи. Инновации — динамическое назначение воркеров, ограничение скорости и обновления моделей силами сообщества. Проект делает упор на доступность, позволяя пользователям без дорогого оборудования использовать коллективную мощность GPU.
💡Основное
- ├─Распределенный кластер на добровольных GPU
- ├─Поддержка Stable Diffusion и LLM
- └─RESTful Flask API для интеграции
🎯Для
- ├─AI-разработчики
- ├─поставщики GPU-ресурсов
- └─исследователи