Pramaana Labs raises $27M seed round from Khosla Ventures to bring formal verification to AI
📰 लेखRussell Brandom
Pramaana Labs ने उच्च-जोखिम वाले AI अनुप्रयोगों के लिए फॉर्मल वेरिफिकेशन को LLMs के साथ जोड़ने हेतु $27M जुटाए।
Pramaana Labs प्रोबेबिलिस्टिक लार्ज लैंग्वेज मॉडल (LLMs) और डिटरमिनिस्टिक फॉर्मल वेरिफिकेशन के बीच की खाई को पाटकर AI विश्वसनीयता की गंभीर समस्या को हल कर रहा है। जहाँ LLMs प्राकृतिक भाषा प्रसंस्करण में लचीलापन प्रदान करते हैं, वहीं वे मतिभ्रम (hallucinations) के प्रति संवेदनशील होते हैं, जो कानूनी अनुपालन, कर तैयारी और दवा अनुसंधान जैसे उच्च-जोखिम वाले क्षेत्रों में अस्वीकार्य है। Pramaana का अभिनव दृष्टिकोण एक डिटरमिनिस्टिक वेरिफिकेशन लेयर बनाना है जो LLM के आउटपुट को कोडित नियमों के विरुद्ध जांचता है। LEAN प्रोग्रामिंग भाषा का उपयोग करके—जो पारंपरिक रूप से गणितीय प्रमाणों को सत्यापित करने के लिए उपयोग की जाती है—कंपनी यह सुनिश्चित करती है कि AI का तर्क तार्किक रूप से सही और डोमेन-विशिष्ट नियमों के अनुरूप रहे। यह प्रणाली पूर्व सरकारी अधिकारियों और शैक्षणिक शोधकर्ताओं सहित डोमेन विशेषज्ञों के सहयोग से विकसित की गई है। उन क्षेत्रों पर ध्यान केंद्रित करके जहाँ गलतियों के गंभीर कानूनी या वित्तीय परिणाम हो सकते हैं, Pramaana Labs खुद को एंटरप्राइज-ग्रेड तैनाती के लिए AI सिस्टम को विश्वसनीय बनाने के आंदोलन में एक अग्रणी के रूप में स्थापित कर रहा है।
💡मुख्य बातें
- ├─फॉर्मल वेरिफिकेशन के लिए LEAN का उपयोग
- ├─LLMs पर डिटरमिनिस्टिक लेयर
- └─उच्च-जोखिम वाले वर्टिकल पर ध्यान
🎯के लिए
- ├─एंटरप्राइज AI डेवलपर्स
- └─नियामक अनुपालन अधिकारी