p-e-w/heretic · 中文介绍

p-e-w/heretic

★ 39,121 · Forks 4,412

Heretic 是无需重新训练就能修改语言模型行为的工具,可减少拒答、低质套话和迎合用户的回答,也能调整回复长度等。

无需训练的语言模型修改:移除审查、抑制低质内容、减少谄媚等

  • 通过对比示例提示和评分来寻找合适的修改参数,默认目标是减少模型拒答,其他目标需选择相应配置。
  • 适合想在本地调整模型行为的用户,无需了解模型内部原理,但硬件需能运行目标模型,支持多种模型架构。
  • 入门流程:准备 Python 3.10+ 和适配硬件的 PyTorch 2.6+ → 运行 pip install -U heretic-llm → 运行 heretic 加模型名称。
  • 处理完成后,可保存模型、上传到 Hugging Face、聊天试用或运行标准评测,也可组合执行这些操作。
  • 可通过配置文件和自定义评分插件调整目标;旧版 1.x 配置不能直接用于 2.x,需按迁移指南修改。
  • 支持保存和使用模型复现信息,但要得到逐字节一致的模型,硬件、驱动、操作系统和软件版本都必须完全一致。

依据已读取的 README 资料编写;较长资料可能使用节选,未实际测试仓库功能。
资料来源:README · 内容生成时间:2026-11-13T12:21:48+00:00

Kai 的头像

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注