OWASP/www-project-top-10-for-large-language-model-applications
📄 СтатьяOWASP
Главный стандарт безопасности для выявления и устранения критических уязвимостей в приложениях на базе больших языковых моделей.
Проект OWASP Top 10 для LLM-приложений предоставляет структурированную таксономию наиболее значимых уязвимостей, затрагивающих современные LLM. В отличие от традиционной безопасности веб-приложений, риски LLM включают сложные взаимодействия между пользовательским вводом, весами модели и внешними источниками данных. Фреймворк детально описывает такие уязвимости, как прямые и косвенные инъекции промптов, небезопасный дизайн плагинов, избыточные полномочия агентов и отказ в обслуживании модели (DoS). Каждый пункт списка включает описание, векторы атак и стратегии защиты. Стандартизируя терминологию, OWASP позволяет организациям проводить строгие проверки безопасности, внедрять надежные архитектуры защиты и устанавливать лучшие практики на всех этапах жизненного цикла LLM — от сбора данных и дообучения до промышленной эксплуатации и интеграции через API.
💡Основное
- ├─Стандартизированная таксономия рисков
- ├─Практические стратегии защиты
- └─Охват инъекций и отравления данных
🎯Для
- ├─Инженеры по безопасности
- ├─AI/ML-разработчики
- └─Специалисты DevSecOps