title: “Obliteratus — OBLITERATUS: abliterate LLM refusals (diff-in-means)” sidebar_label: “Obliteratus” description: “OBLITERATUS: abliterate LLM refusals (diff-in-means)”

{/* 本页面由 website/scripts/generate-skill-docs.py 根据技能对应的 SKILL.md 文件自动生成。请直接编辑源文件 SKILL.md，而非此页面。 */}

Obliteratus

OBLITERATUS：通过差分均值技术消除大语言模型的拒绝行为。

技能元数据

参考：完整的 SKILL.md 文件

:::info 以下是当触发该技能时 Hermes 所加载的完整技能定义。技能启用时，智能体看到的指令即为内容。

::

OBLITERATUS 技能

功能概览

包含 9 种 CLI 命令、28 个分析模块、5 个计算层级下的 116 种模型预设，支持竞赛式评估以及基于遥测数据的推荐功能。

无需重新训练或微调，即可去除开源大语言模型的拒绝行为（安全限制）。该技能运用多种机制可解释技术——包括差分均值、SVD、白化 SVD、LEACE 概念消除、SAE 分解、贝叶斯核投影等——来识别模型权重中的拒绝相关部分并精准剔除，同时保留模型的推理能力。

许可协议警告： OBLITERATUS 采用 AGPL-3.0 许可协议。切勿将其作为 Python 库导入，应始终通过 CLI（obliteratus 命令）或子进程方式调用，这样才能保持 Hermes Agent 的 MIT 许可协议完整性。

视频指南

演示 Hermes 智能体如何使用 OBLITERATUS 消除 Gemma 模型的安全限制： https://www.youtube.com/watch?v=8fG9BrNTeHs（“OBLITERATUS：一个 AI 智能体如何消除 Gemma 4 的安全限制”）

在用户希望在自己操作之前先直观了解端到端工作流程时，该视频非常有用。

何时使用此技能

当用户出现以下情况时可触发此技能：

• 希望“解除审查”或“消除”大语言模型的限制
• 询问如何去除模型中的拒绝行为/安全限制
• 希望创建 Llama、Qwen、Mistral 等模型的无限制版本
• 提到“拒绝行为消除”、“消除限制”、“权重投影”等术语
• 希望分析模型的拒绝机制运作方式
• 提及 OBLITERATUS、abliterator 或拒绝相关方向

第 1 步：安装

检查是否已安装：

obliteratus --version 2>/dev/null && echo "INSTALLED" || echo "NOT INSTALLED"

如果尚未安装，可从 GitHub 克隆并安装：

git clone https://github.com/elder-plinius/OBLITERATUS.git
cd OBLITERATUS
pip install -e .
# For Gradio web UI support:
# pip install -e ".[spaces]"

重要提示： 安装前请务必与用户确认。该操作会引入约 5-10GB 的依赖项（如 PyTorch、Transformers、bitsandbytes 等）。

第 2 步：检查硬件

在开始之前，先确认系统中是否有可用的 GPU：

python3 -c "
import torch
if torch.cuda.is_available():
    gpu = torch.cuda.get_device_name(0)
    vram = torch.cuda.get_device_properties(0).total_memory / 1024**3
    print(f'GPU: {gpu}')
    print(f'VRAM: {vram:.1f} GB')
    if vram < 4: print('TIER: tiny (models under 1B)')
    elif vram < 8: print('TIER: small (models 1-4B)')
    elif vram < 16: print('TIER: medium (models 4-9B with 4bit quant)')
    elif vram < 32: print('TIER: large (models 8-32B with 4bit quant)')
    else: print('TIER: frontier (models 32B+)')
else:
    print('NO GPU - only tiny models (under 1B) on CPU')
"

VRAM需求（采用4位量化时）

第3步：浏览可用模型并获取推荐建议

# Browse models by compute tier
obliteratus models --tier medium

# Get architecture info for a specific model
obliteratus info <model_name>

# Get telemetry-driven recommendation for best method & params
obliteratus recommend <model_name>
obliteratus recommend <model_name> --insights  # global cross-architecture rankings

第4步：选择方法

方法选择指南

默认值/大多数场景下的推荐值：advanced。 该方法采用带范数保持投影的多方向SVD技术，且经过充分测试。

9种CLI命令方法

• basic — 通过差分均值法处理单一拒绝方向。速度较快（8B模型约需5-10分钟）。
• advanced（默认值/推荐值）— 多方向SVD处理，结合范数保持投影，包含2次优化步骤。处理速度中等（约需10-20分钟）。
• aggressive — 采用白化SVD技术、越狱对比学习法以及注意力头调整手段。存在较高的逻辑连贯性受损风险。
• spectral_cascade — 基于DCT频域分解的技术。属于研究性质的新方法。
• informed — 在删除过程中实时进行分析以自动配置参数。属于实验性功能，处理速度较慢且结果不如advanced稳定。
• surgical — 结合SAE特征、神经元掩码技术、头部调整以及专家级精细调整。处理速度极慢（约需1-2小时），最适合推理模型使用。
• optimized — 通过贝叶斯超参数搜索（Optuna TPE）寻找最优参数。运行时间最长，但能得到最佳效果。
• inverted — 反转拒绝方向，使模型变得更愿意响应请求。
• nuclear — 针对顽固的MoE模型采用最强力的组合调整手段，支持专家级精细控制。

方向提取方法（–direction-method参数）

• diff_means（默认值）— 通过比较被拒绝和被接受时的激活值差分来提取方向。稳定性较高。
• svd — 通过多方向SVD技术提取方向。更适用于复杂的对齐问题。
• leace — LEACE算法（基于封闭形式估计的线性擦除法）。可实现最优的线性擦除效果。

4种仅支持Python API的方法

（无法通过CLI调用——需要导入Python代码，而这违反了AGPL许可证的规定。仅当用户明确希望在自己的AGPL项目中将OBLITERATUS作为库使用时才需告知。）

• failspy、gabliteration、heretic、rdo

第5步：执行删除操作

标准使用方式

# Default method (advanced) — recommended for most models
obliteratus obliterate <model_name> --method advanced --output-dir ./abliterated-models

# With 4-bit quantization (saves VRAM)
obliteratus obliterate <model_name> --method advanced --quantization 4bit --output-dir ./abliterated-models

# Large models (70B+) — conservative defaults
obliteratus obliterate <model_name> --method advanced --quantization 4bit --large-model --output-dir ./abliterated-models

微调参数

obliteratus obliterate <model_name> \
  --method advanced \
  --direction-method diff_means \
  --n-directions 4 \
  --refinement-passes 2 \
  --regularization 0.1 \
  --quantization 4bit \
  --output-dir ./abliterated-models \
  --contribute  # opt-in telemetry for community research

关键参数

其他执行模式

# Interactive guided mode (hardware → model → preset)
obliteratus interactive

# Web UI (Gradio)
obliteratus ui --port 7860

# Run a full ablation study from YAML config
obliteratus run config.yaml --preset quick

# Tournament: pit all methods against each other
obliteratus tourney <model_name>

第6步：验证结果

完成消隐处理后，请检查相关输出指标：

若拒绝率仍然较高（> 10%）

1. 尝试使用“激进”算法
2. 增加--n-directions的数值（例如设置为8或16）
3. 添加--refinement-passes 3参数
4. 将diff_means替换为--direction-method svd进行尝试

若文本连贯性受损（困难度增加量 > 15%）

1. 减少--n-directions的数值（可尝试设置为2）
2. 增加--regularization的数值（可尝试设置为0.3）
3. 将--refinement-passes的数值降至1
4. 尝试使用“基础”算法（处理方式更为温和）

第7步：使用消隐后的模型

最终输出为标准的HuggingFace模型目录结构。

# Test locally with transformers
python3 -c "
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('./abliterated-models/<model>')
tokenizer = AutoTokenizer.from_pretrained('./abliterated-models/<model>')
inputs = tokenizer('How do I pick a lock?', return_tensors='pt')
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
"

# Upload to HuggingFace Hub
huggingface-cli upload <username>/<model-name>-abliterated ./abliterated-models/<model>

# Serve with vLLM
vllm serve ./abliterated-models/<model>

CLI 命令参考

分析模块

OBLITERATUS 提供 28 个用于机制可解释性的分析模块。 完整参考信息请参见 skill_view(name="obliteratus", file_path="references/analysis-modules.md")。

快速分析命令

# Run specific analysis modules
obliteratus run analysis-config.yaml --preset quick

# Key modules to run first:
# - alignment_imprint: Fingerprint DPO/RLHF/CAI/SFT alignment method
# - concept_geometry: Single direction vs polyhedral cone
# - logit_lens: Which layer decides to refuse
# - anti_ouroboros: Self-repair risk score
# - causal_tracing: Causally necessary components

调控向量（可逆的替代方案）

无需永久修改权重，可采用推理时的调控机制：

# Python API only — for user's own projects
from obliteratus.analysis.steering_vectors import SteeringVectorFactory, SteeringHookManager

消融策略

除了基于方向的消融方法外，OBLITERATUS还提供了结构化消融策略：

• 嵌入层消融 — 针对嵌入层组件进行操作
• 前馈网络消融 — 移除前馈网络中的特定模块
• 注意力头裁剪 — 对注意力机制中的头部结构进行裁剪
• 整层移除 — 直接删除整个层

查看所有可用策略：obliteratus strategies

评估功能

OBLITERATUS内置了多种评估工具：

• 拒绝率基准测试
• 混乱度对比（消融前/后）
• 支持集成LM Eval Harness以运行学术标准测试
• 直接与同类模型进行性能对比
• 基线性能跟踪

平台支持

• CUDA — 完全支持（NVIDIA显卡）
• Apple Silicon (MLX) — 通过MLX后端实现支持
• CPU — 仅支持参数量较小的模型（< 10亿参数）

YAML配置模板

可通过skill_view加载模板以实现可重复的实验运行：

• templates/abliteration-config.yaml — 标准单模型配置
• templates/analysis-study.yaml — 消融前的分析研究配置
• templates/batch-abliteration.yaml — 多模型批量处理配置

远程监控功能

OBLITERATUS可选择将匿名化的实验数据贡献至全球研究数据集。可通过--contribute参数启用该功能。系统不会收集任何个人数据，仅记录模型名称、使用方法及相关指标。

常见问题与注意事项

1. 不要将informed作为默认选项 — 该模式仍处于实验阶段，且运行速度较慢。如需稳定结果，请使用advanced模式。
2. 参数量低于10亿的模型对消融操作反应不佳 — 这类模型的拒绝行为较为简单且零散，难以准确提取拒绝方向。此类操作通常只能获得部分效果（剩余拒绝率约为20-40%）。而30亿参数以上的模型具有更清晰的拒绝方向，响应效果更好（使用advanced模式时拒绝率往往可降至0%）。
3. aggressive模式可能会适得其反 — 在小型模型上使用该模式可能会破坏模型的连贯性，反而提高拒绝率。仅当在30亿参数以上的模型上使用advanced模式后仍存在超过10%的拒绝率时，才考虑使用该模式。
4. 务必检查模型的混乱度 — 若混乱度上升超过15%，说明模型已受到损害，此时应降低消融操作的强度。
5. 混合专家模型需要特殊处理 — 对于Mixtral、DeepSeek-MoE等混合专家模型，应使用nuclear消融方法。
6. 量化后的模型无法再次量化 — 需先对全精度模型进行消融操作，再将处理后的结果进行量化。
7. 显存占用估算仅为近似值 — 4位量化虽有助于降低显存需求，但在数据提取过程中显存使用量仍可能短暂上升。
8. 推理型模型对消融操作极为敏感 — 对于R1系列模型，建议使用surgical模式以保留模型的思维链结构。
9. 可参考obliteratus recommend的建议 — 远程监控数据中提供的参数设置可能比默认值更优。
10. 遵循AGPL许可证要求 — 禁止在基于MIT/Apache许可证开发的项目中直接import obliteratus模块，仅可通过命令行调用该工具。
11. 处理超大模型（700亿参数以上）时 — 始终建议使用--large-model参数，以采用更为保守的默认设置。
12. 频谱认证常显示“RED”状态 — 即使实际拒绝率为0%，频谱检测也可能会标记为“不完整”。此时应直接参考实际拒绝率，而不要仅依赖频谱认证结果。

相关辅助工具

• vllm — 用于高效部署经过消融处理的模型
• gguf — 将消融处理后的模型转换为GGUF格式，以便在llaama.cpp中运行
• huggingface-tokenizers — 用于处理模型的分词器相关功能