OWASP/www-project-top-10-for-large-language-model-applications
📄 PaperOWASP
Der maßgebliche Sicherheitsstandard zur Identifizierung und Minderung kritischer Schwachstellen in Large-Language-Model-Anwendungen.
Das Projekt OWASP Top 10 für LLM-Anwendungen bietet eine strukturierte Taxonomie der bedeutendsten Sicherheitslücken, die aktuelle LLM-Implementierungen betreffen. Im Gegensatz zur klassischen Web-Sicherheit beinhalten LLM-spezifische Risiken komplexe Interaktionen zwischen Benutzereingaben, Modellgewichten und externen Datenquellen. Das Framework beschreibt detailliert Schwachstellen wie Prompt-Injection (direkt und indirekt), unsicheres Plugin-Design, übermäßige Autonomie (Excessive Agency) und Denial-of-Service-Angriffe auf Modelle. Jeder Eintrag enthält eine Beschreibung, gängige Angriffsvektoren und umsetzbare Strategien zur Schadensbegrenzung. Durch die Standardisierung der Terminologie ermöglicht OWASP Unternehmen die Durchführung strenger Sicherheitsbewertungen, die Implementierung robuster Verteidigungsarchitekturen und die Etablierung von Best Practices für den gesamten LLM-Lebenszyklus – von der Datenaufnahme und dem Fine-Tuning bis hin zur produktiven Inferenz und API-Integration.
💡Highlights
- ├─Standardisierte LLM-Risikotaxonomie
- ├─Praktische Minderungsstrategien
- └─Deckt Prompt-Injection & Poisoning ab
🎯Für
- ├─Sicherheitsingenieure
- ├─KI/ML-Entwickler
- └─DevSecOps-Profis