OWASP/www-project-top-10-for-large-language-model-applications
📦 ओपन सोर्स प्रोजेक्टOWASP
लार्ज लैंग्वेज मॉडल अनुप्रयोगों में महत्वपूर्ण कमजोरियों की पहचान और समाधान के लिए मानक सुरक्षा गाइड।
OWASP Top 10 for LLM Applications प्रोजेक्ट वर्तमान में लार्ज लैंग्वेज मॉडल परिनियोजन को प्रभावित करने वाली सबसे महत्वपूर्ण सुरक्षा कमजोरियों का एक संरचित वर्गीकरण प्रदान करता है। पारंपरिक वेब एप्लिकेशन सुरक्षा के विपरीत, LLM-विशिष्ट जोखिमों में उपयोगकर्ता इनपुट, मॉडल वेट और बाहरी डेटा स्रोतों के बीच जटिल इंटरैक्शन शामिल होते हैं। यह ढांचा प्रॉम्प्ट इंजेक्शन (प्रत्यक्ष और अप्रत्यक्ष), असुरक्षित प्लगइन डिज़ाइन, अत्यधिक एजेंसी और मॉडल डिनायल ऑफ सर्विस जैसी कमजोरियों का विवरण देता है। सूची की प्रत्येक प्रविष्टि में विवरण, सामान्य हमले के तरीके और कार्रवाई योग्य शमन रणनीतियाँ शामिल हैं। इन खतरों के बारे में एक मानक भाषा प्रदान करके, OWASP संगठनों को कठोर सुरक्षा मूल्यांकन करने, मजबूत रक्षात्मक आर्किटेक्चर लागू करने और डेटा इंजेक्शन से लेकर प्रोडक्शन इंफरेंस तक LLM जीवनचक्र के लिए सर्वोत्तम अभ्यास स्थापित करने में सक्षम बनाता है।
💡मुख्य बातें
- ├─मानकीकृत LLM जोखिम वर्गीकरण
- ├─कार्रवाई योग्य शमन रणनीतियाँ
- └─प्रॉम्प्ट इंजेक्शन और पॉइजनिंग कवर
🎯के लिए
- ├─सुरक्षा इंजीनियर
- ├─AI/ML डेवलपर्स
- └─DevSecOps पेशेवर