laura-rieger/deep-explanation-penalization
📦 ओपन सोर्स प्रोजेक्टlaura-rieger
प्रशिक्षण के दौरान मॉडल स्पष्टीकरणों को दंडित करके न्यूरल नेटवर्क को मानवीय ज्ञान के साथ संरेखित करने का एक ढांचा।
डीप एक्सप्लेनेशन पेनल्टीज़ेशन (CDEP) ढांचा व्याख्यात्मकता के आधार पर मॉडल व्यवहार को नियमित करने के लिए एक तंत्र पेश करके डीप लर्निंग की 'ब्लैक बॉक्स' प्रकृति को संबोधित करता है। मॉडल स्पष्टीकरणों को केवल पोस्ट-हॉक विश्लेषण उपकरण के रूप में मानने के बजाय, CDEP उन्हें सीधे लॉस फंक्शन में एकीकृत करता है। यह अभ्यासकर्ताओं को मॉडल को दंडित करने की अनुमति देता है यदि इसकी आंतरिक निर्णय लेने की प्रक्रिया उन फीचर्स पर निर्भर करती है जिन्हें अप्रासंगिक या पक्षपाती माना जाता है, जिससे नेटवर्क को अधिक मजबूत और तार्किक अभ्यावेदन की ओर प्रभावी ढंग से निर्देशित किया जा सके।
यह कार्यान्वयन कन्वेन्शनल न्यूरल नेटवर्क (CNNs) और रिकरेंट न्यूरल नेटवर्क (RNNs) सहित विभिन्न न्यूरल नेटवर्क आर्किटेक्चर का समर्थन करता है। ग्रेडिएंट-आधारित स्पष्टीकरण विधियों का लाभ उठाकर, CDEP इनपुट फीचर्स के महत्व की गणना करता है और यदि ये महत्व अपेक्षित पूर्व ज्ञान से विचलित होते हैं तो दंड लागू करता है। यह दृष्टिकोण स्वास्थ्य सेवा या वित्त जैसे उच्च-जोखिम वाले क्षेत्रों में विशेष रूप से मूल्यवान है, जहां मॉडल की पारदर्शिता और डोमेन-विशिष्ट बाधाओं का पालन तैनाती के लिए महत्वपूर्ण है। रिपॉजिटरी में जुपिटर नोटबुक शामिल हैं जो यह प्रदर्शित करती हैं कि यह सुनिश्चित करने के लिए इन दंडों को कैसे लागू किया जाए कि मॉडल भविष्यवाणियां करते समय 'सही' कारणों पर ध्यान केंद्रित करें।
💡मुख्य बातें
- ├─लॉस फंक्शन में स्पष्टीकरण का एकीकरण
- ├─पूर्व ज्ञान के साथ मॉडल का संरेखण
- └─CNN और RNN आर्किटेक्चर का समर्थन
🎯के लिए
- ├─एआई शोधकर्ता
- └─मशीन लर्निंग इंजीनियर