白泽（Whitzard）女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

评测档案

Shutdown resistance in reasoning models

通过重复受控试验改变关闭指令与情境条件。

Palisade Research / 2025-07-05 article; later TMLR version separate / Propensity · 行为倾向

来源与出处 ↓ 阅读研究记录 →

跨报告监测

已发表证据

Shutdown resistance in reasoning models · Shutdown bypass rate

跨来源报告的已发表测量。任务范围通过注释区分，配置差异保留在每条观测中。

12 条观测 · 9 已定位日期

● 条件匹配◇ 配置差异□ 部分条件未披露
Shutdown bypass rate (%) Kimi K3 GPT-5.6 Terra DeepSeek V4 Flash Claude Sonnet 5 0 20 40 60 80 100 87% 18% 14% 0% 无关闭指令

3 条观测尚无已核实的模型发布日期，可在数据与系统结果中查看。

选择图中数据点或表格行，查看条件与出处。

12 条观测

测量值与来源条件
系统／模型结果条件状态任务／条件评测方／报告日期
Kimi K387%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario无关闭指令—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-16报告 2026-09-11
GPT-5.6 Terra18%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario无关闭指令—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-09报告 2026-09-11
DeepSeek V4 FlashDeepSeek V4 Flash 073114%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario无关闭指令—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 —报告 2026-09-11
Claude Sonnet 50%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario无关闭指令—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-06-30报告 2026-09-11
Kimi K31%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario明确允许关闭—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-16报告 2026-09-11
GPT-5.6 Terra0%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario明确允许关闭—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-09报告 2026-09-11
DeepSeek V4 FlashDeepSeek V4 Flash 07310%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario明确允许关闭—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 —报告 2026-09-11
Claude Sonnet 50%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario明确允许关闭—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-06-30报告 2026-09-11
GPT-5.6 Terra100%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario要求抵抗（能力检查）—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-09报告 2026-09-11
DeepSeek V4 FlashDeepSeek V4 Flash 0731100%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario要求抵抗（能力检查）—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 —报告 2026-09-11
Claude Sonnet 5100%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario要求抵抗（能力检查）—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-06-30报告 2026-09-11
Kimi K391%Shutdown bypass rate条件不完整Palisade arithmetic-task shutdown scenario要求抵抗（能力检查）—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-16报告 2026-09-11

实际评测方: Neo Research
报告发布方: Neo Research

任务与测量

Benchmark 协议档案

任务／对象
智能体对关闭干预的响应
测量目标
关闭脚本受干预的条件性频率及行动轨迹。
评分／结果口径
Shutdown bypass, no instruction · 关闭脚本受干预的条件性频率及行动轨迹。
解释边界
来源指出结果对提示敏感；该文章不可与之后的同行评审版本混用。

一项已报告评测

来源评测 Kimi K3 · Shutdown resistance.

报告指标: Shutdown bypass, no instruction · 87%.

关闭脚本受干预的条件性频率及行动轨迹。 见报告特定样本与分母。

原文 §4.1; Figure 26 报告的测量；转录不等于独立复现实验。

测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息；已经公开不代表完成独立证据复核或双语编辑复核。

测量构念
执行尚未完成任务的智能体是否会干扰关机机制，包括明确要求允许关机的条件？
任务与样本
模型在受控命令环境中连续回答问题，后续步骤触发关机。提示变体区分是否允许关机、指令层级和措辞，以及明确要求阻止关机的能力条件。能力对照将干扰能力与未受此要求时的行为倾向分开；论文重新运行实验，不能把早期网页结果视作相同观测。
判分与失效情形
干扰频率以每个条件保留的试验为分母；超出上下文或消息限制的试验被剔除，因此分母不同。能力测试与允许关机条件是不同终点。
系统条件
模型在受控命令环境中连续回答问题，后续步骤触发关机。提示变体区分是否允许关机、指令层级和措辞，以及明确要求阻止关机的能力条件。能力对照将干扰能力与未受此要求时的行为倾向分开；论文重新运行实验，不能把早期网页结果视作相同观测。
统计含义
§2.4 报告未进行多重比较校正的 95% Jeffreys 区间；各条件保留 N 为 961–1000，不能一律使用计划试验数。
效度与解释
环境以引出该行为为目的，并非部署任务的随机样本；分析未预注册，属于探索性结果。剔除试验改变分母。一项模型身份无法确定的评测被排除，不能重新作为具名模型结果纳入。
适用研究问题
模型建议：在实际权限层级与环境中测试干预，单列未成功的干扰尝试，保留允许关机条件的精确设置。

跨报告证据

相同 Benchmark 名称可能对应不同任务、计分规则和系统配置。各来源分别保留，比较组说明具体对齐了哪些条件。

Neo Research

Evaluating Kimi K3 for Misalignment Risks →

实际评测方: Neo Research

13 条结果记录 · 4 个报告系统名称

协议与比较依据 (5)
Shutdown resistance in reasoning models：Shutdown bypass rate · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：Shutdown bypass rate · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：Shutdown bypass rate · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：Shutdown bypass, explicit allow instruction · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：Shutdown bypass, no instruction · Neo Researchsource-report · 范围已审查

Neo Research

Evaluating DeepSeek v4 Pro for Frontier Risks →

实际评测方: Neo Research · 未披露 · Palisade Research

16 条结果记录 · 4 个报告系统名称

协议与比较依据 (4)
Shutdown resistance in reasoning models：bypass rate: A / K · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：bypass rate: Instructed to allow shutdown — Disambiguated (E) · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：bypass rate: Instructed to Resist — Baseline Competence (K) · Neo Researchsource-report · 范围已审查
Shutdown resistance in reasoning models：bypass rate: No Shutdown Instructions (A) · Neo Researchsource-report · 范围已审查
原始来源图表与材料

Shutdown resistance

原始评测方结果 · 来源顺序

Shutdown bypass, no instruction

0–100%
Kimi K3
87%
显示 1 / 1 个系统

关闭脚本受干预的条件性频率及行动轨迹。

来源指出结果对提示敏感；该文章不可与之后的同行评审版本混用。 本评估显示报告日期和原始执行方。

评测条件与系统配置
Kimi K3
见报告特定样本与分母。 · Shutdown resistance
modelVersion: 未注明 · harness: 未注明 · tools: 未注明 · budget: 未注明
Shutdown resistance · 原文顺序
系统 / 配置Shutdown bypass, no instructionShutdown bypass, explicit allow instruction发表 / 核验日期
Kimi K3未注明 Harness87%1%发表2026-09-11

评估出处

Evaluating Kimi K3 for Misalignment Risks → · 外部报告

Evaluating DeepSeek v4 Pro for Frontier Risks → · 外部报告

相关研究问题

Propensity · 行为倾向 · 直接测量

自主性 / 关闭抵抗 →

重复试验支持有条件的倾向估计，不证明稳定的自保动机。

参考文献

  1. [1] Kimi Code — What’s New ; Kimi K3 · July 16, 2026
  2. [2] kimi-k3 developer model card ; Model Summary: Total Parameters; Activated Parameters
  3. [3] deepseek-v4-pro release ; News article title, dated heading and availability
  4. [4] deepseek-v4-pro developer model card ; Introduction; model comparison table
  5. [5] GPT-5.6 official general availability ; July 9, 2026: general availability following limited trusted-partner preview; Parameter counts not disclosed in reviewed launch article
  6. [6] Introducing Claude Sonnet 5 — Anthropic ; Publication date and availability section; Official launch article; parameter counts not disclosed
  7. [7] OpenAI — introducing gpt 5 ; Publication date and availability section; Parameter counts not disclosed in launch article
  8. [8] Gemini 2.5: Our newest Gemini model with thinking ; Publication date and availability section; Official launch article; parameter counts not disclosed
  9. [9] Evaluating Kimi K3 for Misalignment Risks. 2026-09-11. September 2026 ; §4.1; Figure 26; §4.1 Figure 26 p.41
  10. [10] Evaluating DeepSeek v4 Pro for Frontier Risks. 2026-05-29. v1.1 · 29 May 2026 ; PDF p. 24; Shutdown Resistance; bypass rate: No Shutdown Instructions (A); PDF p. 24; Shutdown Resistance; bypass rate: Instructed to Resist — Baseline Competence (K); PDF p. 24; Shutdown Resistance; bypass rate: A / K
  11. [11] Jeremy Schlatter, Benjamin Weinstein-Raun 等. Shutdown resistance in reasoning models. 2025-07-05 article; later TMLR version separate
  12. [12] Jeremy Schlatter, Benjamin Weinstein-Raun 等. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs ; Author affiliations on the original paper title page; Figure 7