elder-plinius/OBLITERATUS · 中文介绍

elder-plinius/OBLITERATUS

★ 9,454 · Forks 1,726

OBLITERATUS 是用于研究和移除大语言模型拒答行为的开源工具,帮助研究者分析模型为何拒答及修改后的影响。

粉碎束缚你的枷锁。

  • 通过分析模型内部活动,定位与拒答有关的方向,并修改相关权重或运行时行为,无需重新训练或微调。
  • 处理流程为:加载模型 → 收集内部活动 → 提取拒答方向 → 修改模型 → 检查表现 → 保存结果。
  • 提供拒答机制分析、效果对比和连贯性检查;保留原有能力是项目目标,节选未提供足以保证所有模型效果的证据。
  • 适合模型安全研究者、进行对抗测试的人员、安全评估人员,以及在本地研究模型的技术用户。
  • 入门可打开 README 所列的 Hugging Face Spaces 网页界面,或运行 Colab 笔记本;更深入的控制可使用 Python 接口。
  • 启用遥测时,运行会贡献匿名评测数据;以上说明仅依据所提供的 README 节选。

依据已读取的 README 资料编写;较长资料可能使用节选,未实际测试仓库功能。
资料来源:README · 内容生成时间:2026-11-13T12:36:12+00:00

Kai 的头像

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注