Pramaana Labs raises $27M seed round from Khosla Ventures to bring formal verification to AI
📰 記事Russell Brandom
Pramaana Labsが2,700万ドルを調達。LLMに形式検証を組み込み、高精度で信頼性の高いAIを実現。
Pramaana Labsは、確率論的な大規模言語モデル（LLM）と決定論的な形式検証を融合させることで、AIの信頼性という重大な課題に取り組んでいます。LLMは自然言語処理において柔軟性を発揮しますが、ハルシネーション（もっともらしい嘘）を起こしやすく、法務や税務、医薬品開発といった高リスクな分野での導入には障壁がありました。Pramaanaの革新的なアプローチは、LLMの出力をコード化されたルールと照合する決定論的な検証レイヤーを構築することにあります。数学的証明の検証に用いられる「LEAN」プログラミング言語を活用することで、AIの推論が論理的に正しく、業界特有の規制に準拠していることを保証します。このシステムは、元政府関係者や大学研究者などの専門家と共同開発されており、ルールの形式化の正確性を担保しています。エラーが法的・経済的に大きな影響を及ぼす領域に焦点を当てることで、Pramaana Labsはエンタープライズレベルで信頼できるAI導入の先駆者となることを目指しています。
💡ハイライト
- ├─LEAN言語による形式検証の導入
- ├─LLM上に決定論的検証レイヤーを構築
- └─高リスクな専門領域に特化
🎯対象
- ├─エンタープライズAI開発者
- └─規制コンプライアンス担当者