microsoft/PyRIT
PyRIT 是微软与开源社区开发的生成式 AI 安全测试工具包,用模拟攻击和人工测试发现模型及应用的安全弱点。
微软开源的 AI 红队测试工具包,通过自动扫描、自适应多轮攻击和网页界面测试生成式 AI 系统。
- 支持自动扫描、自适应多轮攻击和人工测试,可通过连续对话探查 AI 系统的安全弱点。
- 提供命令行扫描器、浏览器图形界面和可扩展的 Python 框架,方便重复评估、交互探索或定制测试流程。
- 可连接 OpenAI、Anthropic、Ollama 等模型服务,也能通过 HTTP、WebSockets 或浏览器自动化测试完整应用,具体功能取决于目标和模型。
- 适合需要评估 AI 安全的开发者、测试人员和研究者,参与使用或贡献不要求具备资深红队经验。
- 入门流程:进入项目文档网站 → 按安装版本选择文档 → 完成安装及服务连接配置 → 使用扫描器或图形界面开展测试;README 未列出具体安装命令。
发表回复