qualifire-dev/rogue
🔧 工具qualifire-dev
专为 AI 智能体与大模型工作流设计的全面评估与红队测试平台。
Rogue 是一个专门为应对自主 AI 智能体评估挑战而构建的测试框架。与传统软件测试不同，Rogue 专注于大模型（LLM）的非确定性，提供了一系列系统性探测智能体行为的工具。该平台支持开发者定义复杂的测试套件，以模拟真实世界交互和对抗性攻击，从而实现严格的红队测试。核心功能包括自动化评估流水线、多步智能体工作流支持，以及对智能体推理路径的细粒度日志记录。通过将 Rogue 集成到 CI/CD 生命周期中，团队可以在开发早期发现幻觉、逻辑错误和安全漏洞。该框架基于 Python 构建，具有极高的扩展性，支持自定义评估指标并能与现有的智能体架构无缝集成。