Tanuki/tanuki.py
🏗️ 框架Tanuki
将 LLM 提示词转化为类型安全、可测试的 Python 函数，并支持自动模型蒸馏。
Tanuki.py 通过将复杂的提示词工程抽象为简单的、带有类型提示的 Python 函数，彻底改变了开发者将 LLM 集成到代码库中的方式。通过利用 Pydantic，它确保了 LLM 的响应符合严格的模式，消除了手动解析或脆弱正则表达式的需求。其突出的创新之一是自动化蒸馏流水线：在运行应用程序时，Tanuki 会收集数据并微调较小的专用模型，以复制昂贵且高延迟 API 的性能。这使开发者能够在保持高准确性的同时，显著降低运营成本和延迟。该框架基于测试驱动开发 (TDD) 理念构建，鼓励开发者将 AI 行为视为可验证、可版本控制且可优化的确定性代码。对于希望超越简单聊天界面、构建健壮且可扩展的 AI 集成软件的团队来说，这是一个必不可少的工具。