最后更新:11/19/2026最后核验:2026-11-05

Heretic

Heretic 评测:无需重新训练的开源语言模型行为调控工具

2
0

Heretic 是免费开源的语言模型改造工具:无需重新训练,在本地 GPU 上用数学方法抑制拒答、去除审查腔、减少冗余和迎合,也可调整幽默或情绪风格,支持保存、评测和上传修改后的模型。

免费

Heretic 是什么

Heretic 是一款免费开源工具,可在自有 GPU 上修改语言模型行为,而无需重新训练模型。它通过 scorer 引导的 ablation optimization,针对拒答、slop、迎合、幽默和情绪对齐等行为进行调控。其工作流结合配置预设、对比提示词、优化指标,以及修改后模型的测试与导出工具。

核心功能

  • 无需训练的行为调控:应用针对拒答、slop、迎合、幽默或情绪对齐的配置预设,无需执行重新训练流程。
  • Scorer 引导的 ablation 优化:使用拒答率、KL divergence 等指标,通过对比提示词评估候选修改结果。
  • Pareto front 试验选择:使用 trial picker 探索不同优化目标之间的权衡,而不是只依赖单一评分。
  • 消费级 GPU 运行:官方提供的规格估算每 10 亿模型参数约需 2.5 GB VRAM,并支持可选的 4-bit bitsandbytes quantization。
  • 模型评估与导出:支持保存、benchmark、聊天测试以及上传修改后的模型。
  • 可复现实验清单:使用 Heretic Grimoire manifests 记录修改过程,并支持可复现实验。

最适合

希望研究无需重新训练时,ablation 如何改变语言模型行为的 AI 研究人员。希望降低模型迎合倾向、调整幽默表达或控制其他特定回答倾向的模型开发者。需要在受控研究流程中评估模型拒答行为的技术用户。拥有 GPU、希望将行为变化与 KL divergence 衡量的分布偏移进行对比的实验人员。需要通过可复用 manifest 记录模型修改实验的团队或个人。

定价

根据所提供的信息,Heretic 是免费开源软件。运行该工具仍需要合适的 GPU 硬件,因此免费软件并不意味着执行实验完全零成本。当前信息未提供付费方案或托管服务价格。

优缺点

优点

  • 无需重新训练即可修改模型的特定行为。
  • 提供多种行为目标预设,不仅局限于降低拒答。
  • 结合优化指标与 Pareto front 试验选择,便于分析不同目标之间的权衡。
  • 除模型导出外,还提供 benchmark 和聊天测试功能。
  • 通过 Heretic Grimoire manifests 支持实验复现。
  • 提供可选的 4-bit quantization,适合 GPU 显存受限的实验环境。

缺点

  • 需要合适的 GPU,以及语言模型实验方面的技术基础。
  • 模型规模越大,显存需求越高,可能限制小型 GPU 上的实验。
  • 行为目标预设并不能证明所有不理想的回答模式都会被移除。
  • 优化拒答率或 KL divergence 本身,并不能代表模型整体质量或安全性。
  • 现有信息未说明支持的模型架构,也未提供独立的性能 benchmark。

替代工具

TransformerLens

一个用于检查 Transformer 内部结构并开展 activation-level 实验的开源 mechanistic interpretability 库。它适合研究模型行为变化,但并不是 Heretic 基于预设进行优化的直接替代品。

pyvene

一个用于干预神经网络模型表示的开源库,适合希望设计自定义 representation-level 实验的研究人员,而不是使用专门的行为调控工作流。

Hugging Face PEFT

一个用于 parameter-efficient model adaptation 的库,支持基于 LoRA 的工作流。对于愿意训练 adapter 参数、而不是通过无需训练的 ablation 修改行为的用户来说,它是一个可选方案。

常见问题

详情

平台

macOSWindowsLinux

功能特性

  • Training-free behavior steering: suppress refusals, slop, sycophancy, humor, or emotional alignment via configuration presets
  • Scorer-guided optimization (refusal rate, KL divergence) over contrast prompts with a Pareto-front trial picker
  • Runs on consumer GPUs with about 2.5 GB VRAM per billion parameters plus optional 4-bit bitsandbytes quantization
  • Save, benchmark, chat-test, or upload modified models with reproducible manifests (Heretic Grimoire)

支持语言

en

已知限制

  • Requires Python 3.10+, PyTorch 2.6+, and a GPU with roughly 2.5 GB of VRAM per billion parameters; CPU-only mode is orders of magnitude slower
  • Distributed under AGPL-3.0, and processed models remain subject to the upstream model license and terms
  • Optimization runs about 100 trials — the tutorial example took around 1.5-2 hours on a mid-range GPU per model
  • Documentation and community resources are English-only

为此工具评分

相关工具