elder-plinius/OBLITERATUS
OBLITERATUS 是用于研究和移除大语言模型拒答行为的开源工具,帮助研究者分析模型为何拒答及修改后的影响。
粉碎束缚你的枷锁。
- 通过分析模型内部活动,定位与拒答有关的方向,并修改相关权重或运行时行为,无需重新训练或微调。
- 处理流程为:加载模型 → 收集内部活动 → 提取拒答方向 → 修改模型 → 检查表现 → 保存结果。
- 提供拒答机制分析、效果对比和连贯性检查;保留原有能力是项目目标,节选未提供足以保证所有模型效果的证据。
- 适合模型安全研究者、进行对抗测试的人员、安全评估人员,以及在本地研究模型的技术用户。
- 入门可打开 README 所列的 Hugging Face Spaces 网页界面,或运行 Colab 笔记本;更深入的控制可使用 Python 接口。
- 启用遥测时,运行会贡献匿名评测数据;以上说明仅依据所提供的 README 节选。
发表回复