OWASP/www-project-top-10-for-large-language-model-applications
📄 문서OWASP
거대언어모델(LLM) 애플리케이션의 핵심 취약점을 식별하고 완화하기 위한 결정적인 보안 표준입니다.
OWASP LLM Top 10 프로젝트는 현재 LLM 배포에 영향을 미치는 가장 중요한 보안 취약점들을 구조화된 분류 체계로 제공합니다. 기존 웹 애플리케이션 보안과 달리, LLM 특화 위험은 사용자 입력, 모델 가중치, 외부 데이터 소스 간의 복잡한 상호작용을 포함합니다. 이 프레임워크는 프롬프트 인젝션(직접 및 간접), 불안전한 플러그인 설계, 과도한 에이전시, 모델 서비스 거부(DoS)와 같은 취약점을 상세히 다룹니다. 각 항목에는 설명, 일반적인 공격 벡터, 실행 가능한 완화 전략이 포함되어 있습니다. OWASP는 이러한 위협에 대한 공통 언어를 표준화함으로써, 조직이 엄격한 보안 평가를 수행하고 강력한 방어 아키텍처를 구현하며, 데이터 수집부터 파인튜닝, 프로덕션 추론 및 API 통합에 이르는 전체 LLM 수명 주기에 대한 모범 사례를 확립할 수 있도록 지원합니다.
💡하이라이트
- ├─LLM 위험 요소 표준 분류 체계
- ├─실행 가능한 보안 완화 전략
- └─프롬프트 인젝션 및 오염 대응
🎯대상
- ├─보안 엔지니어
- ├─AI/ML 개발자
- └─DevSecOps 전문가