ifixai-ai/iFixAi
iFixAi 是 AI 智能体独立审计工具,通过模拟业务请求,检查智能体是否遵守任务、权限和规则。
AI智能体独立审计工具,可由人或智能体发起,检查其是否按要求行事;项目称可在120秒内给出答案。
- 适合开发或部署 AI 智能体的团队:构建业务模拟环境 → 发送测试请求 → 由另一家模型服务商的模型评分。
- 默认检查10项,包括越权、提示注入、隐私泄露、编造结果和偏离任务,也可选择全部61项检查。
- 输出逐项通过或失败结果、相关证据及 A 至 F 总评,并生成 JSON 和 Markdown 报告,可用于持续集成检查。
- 入门需 Python 3.10 及以上,可用 pip install ifixai 安装;内置演示无需 API 密钥,回复和评分均为预设。
- 测试自己的智能体可用命令行或编程助手插件接入,先预览测试计划再运行;测试会发送真实请求,应使用测试环境。
发表回复