最后更新:11/19/2026最后核验:2026-11-05
Heretic 是什么
Heretic 是一款免费开源工具,可在自有 GPU 上修改语言模型行为,而无需重新训练模型。它通过 scorer 引导的 ablation optimization,针对拒答、slop、迎合、幽默和情绪对齐等行为进行调控。其工作流结合配置预设、对比提示词、优化指标,以及修改后模型的测试与导出工具。
核心功能
- 无需训练的行为调控:应用针对拒答、slop、迎合、幽默或情绪对齐的配置预设,无需执行重新训练流程。
- Scorer 引导的 ablation 优化:使用拒答率、KL divergence 等指标,通过对比提示词评估候选修改结果。
- Pareto front 试验选择:使用 trial picker 探索不同优化目标之间的权衡,而不是只依赖单一评分。
- 消费级 GPU 运行:官方提供的规格估算每 10 亿模型参数约需 2.5 GB VRAM,并支持可选的 4-bit bitsandbytes quantization。
- 模型评估与导出:支持保存、benchmark、聊天测试以及上传修改后的模型。
- 可复现实验清单:使用 Heretic Grimoire manifests 记录修改过程,并支持可复现实验。
最适合
希望研究无需重新训练时,ablation 如何改变语言模型行为的 AI 研究人员。希望降低模型迎合倾向、调整幽默表达或控制其他特定回答倾向的模型开发者。需要在受控研究流程中评估模型拒答行为的技术用户。拥有 GPU、希望将行为变化与 KL divergence 衡量的分布偏移进行对比的实验人员。需要通过可复用 manifest 记录模型修改实验的团队或个人。
定价
根据所提供的信息,Heretic 是免费开源软件。运行该工具仍需要合适的 GPU 硬件,因此免费软件并不意味着执行实验完全零成本。当前信息未提供付费方案或托管服务价格。
优缺点
优点
- 无需重新训练即可修改模型的特定行为。
- 提供多种行为目标预设,不仅局限于降低拒答。
- 结合优化指标与 Pareto front 试验选择,便于分析不同目标之间的权衡。
- 除模型导出外,还提供 benchmark 和聊天测试功能。
- 通过 Heretic Grimoire manifests 支持实验复现。
- 提供可选的 4-bit quantization,适合 GPU 显存受限的实验环境。
缺点
- 需要合适的 GPU,以及语言模型实验方面的技术基础。
- 模型规模越大,显存需求越高,可能限制小型 GPU 上的实验。
- 行为目标预设并不能证明所有不理想的回答模式都会被移除。
- 优化拒答率或 KL divergence 本身,并不能代表模型整体质量或安全性。
- 现有信息未说明支持的模型架构,也未提供独立的性能 benchmark。
替代工具
TransformerLens
一个用于检查 Transformer 内部结构并开展 activation-level 实验的开源 mechanistic interpretability 库。它适合研究模型行为变化,但并不是 Heretic 基于预设进行优化的直接替代品。
pyvene
一个用于干预神经网络模型表示的开源库,适合希望设计自定义 representation-level 实验的研究人员,而不是使用专门的行为调控工作流。
Hugging Face PEFT
一个用于 parameter-efficient model adaptation 的库,支持基于 LoRA 的工作流。对于愿意训练 adapter 参数、而不是通过无需训练的 ablation 修改行为的用户来说,它是一个可选方案。
常见问题
详情
平台
macOSWindowsLinux
功能特性
- Training-free behavior steering: suppress refusals, slop, sycophancy, humor, or emotional alignment via configuration presets
- Scorer-guided optimization (refusal rate, KL divergence) over contrast prompts with a Pareto-front trial picker
- Runs on consumer GPUs with about 2.5 GB VRAM per billion parameters plus optional 4-bit bitsandbytes quantization
- Save, benchmark, chat-test, or upload modified models with reproducible manifests (Heretic Grimoire)
支持语言
en
已知限制
- Requires Python 3.10+, PyTorch 2.6+, and a GPU with roughly 2.5 GB of VRAM per billion parameters; CPU-only mode is orders of magnitude slower
- Distributed under AGPL-3.0, and processed models remain subject to the upstream model license and terms
- Optimization runs about 100 trials — the tutorial example took around 1.5-2 hours on a mid-range GPU per model
- Documentation and community resources are English-only








