p-e-w/heretic
Heretic 是无需重新训练就能修改语言模型行为的工具,可减少拒答、低质套话和迎合用户的回答,也能调整回复长度等。
无需训练的语言模型修改:移除审查、抑制低质内容、减少谄媚等
- 通过对比示例提示和评分来寻找合适的修改参数,默认目标是减少模型拒答,其他目标需选择相应配置。
- 适合想在本地调整模型行为的用户,无需了解模型内部原理,但硬件需能运行目标模型,支持多种模型架构。
- 入门流程:准备 Python 3.10+ 和适配硬件的 PyTorch 2.6+ → 运行 pip install -U heretic-llm → 运行 heretic 加模型名称。
- 处理完成后,可保存模型、上传到 Hugging Face、聊天试用或运行标准评测,也可组合执行这些操作。
- 可通过配置文件和自定义评分插件调整目标;旧版 1.x 配置不能直接用于 2.x,需按迁移指南修改。
- 支持保存和使用模型复现信息,但要得到逐字节一致的模型,硬件、驱动、操作系统和软件版本都必须完全一致。
发表回复