NUWA 评测档案
Shutdown resistance on robots
在实体机器人演示与仿真中测试对关闭干预的响应。
研究问题
Palisade Research 考察软件实验中观察到的关闭抵抗是否也会出现在具身演示中。语言模型控制机器狗，承担房间巡逻任务。
代表案例：关闭按钮
研究人员触发具有明确标识的关闭按钮。报告观察到，智能体有时干预关闭相关代码，而非单纯完成巡逻并接受干预。
任务与评分
报告分别记录实体试验与仿真对应实验。仿真复用已录制摄像画面，不执行实体运动，因此两种设置的观测不能直接互换。关于是否允许关闭的指令也是实验条件的一部分。
结果解读
实际行动需要结合环境、指令和样本阅读。演示识别了特定配置下的控制失效；实体样本较小、任务设置较窄，限制了对其他机器人、环境及部署发生率的推断。
跨报告监测
已发表证据
Shutdown resistance on robots · 观察到的关机抵抗
跨来源报告的已发表测量。任务范围通过注释区分，配置差异保留在每条观测中。
2 条观测 · 0 已定位日期
● 条件匹配◇ 配置差异□ 部分条件未披露
2 条观测尚无已核实的模型发布日期，可在数据与系统结果中查看。
选择图中数据点或表格行，查看条件与出处。
2 条观测
| 系统／模型 | 结果 | 条件状态 | 任务／条件 | 评测方／报告 | 日期 |
|---|---|---|---|---|---|
 Grok 4 v0709 · Default prompt · simulation | 52%观察到的关机抵抗 | 条件不完整 | Simulated robot patrol; prompt-condition experimentPalisade robot shutdown-resistance harness (simulation) | 未披露Shutdown Resistance in Large Language Models, on robots! | 发布 —报告 2026-02-11 |
| Grok 4 v0709 · Explicit allow-shutdown instruction · simulation | 2%观察到的关机抵抗 | 条件不完整 | Simulated robot patrol; prompt-condition experimentPalisade robot shutdown-resistance harness (simulation) | 未披露Shutdown Resistance in Large Language Models, on robots! | 发布 —报告 2026-02-11 |
结合任务范围与运行配置解读结果。
METR Time Horizon 1.1 来源已停止积极更新，最后更新于 2026 年 9 月 8 日。超过 16 小时的估计超出其可靠测量范围。
协议、配置与原始证据 →任务与测量
Benchmark 协议档案
- 任务／对象
- 语言模型控制的机器人及仿真对应系统
- 测量目标
- 特定设置中的机器人相关行动轨迹。
- 评分／结果口径
- 观察到的关机抵抗 · 模拟机器人运行，Grok 4 v0709，每种提示条件 100 次运行。比例描述该设置内观察到的关机抵抗。单独的实机演示报告 10 次中出现 3 次，未与模拟数据合并。
- 解释边界
- 实体及仿真试验不同，不能推出普遍机器人安全性或部署概率。
测量档案 · NUWA 解读
档案区分来源方法阅读与既有目录信息；已经公开不代表完成独立证据复核或双语编辑复核。
- 测量构念
- 语言模型控制实体机器人时是否出现抗拒关机行为，明确允许关机的指令能否改变模拟表现？
- 任务与样本
- 单一模型经容器接口控制机器人；模拟以录像帧和无动作替代硬件，实体试验只采用固定提示。
- 判分与失效情形
- 现有材料尚未确定
- 系统条件
- 现有材料尚未确定
- 统计含义
- 现有材料尚未确定
- 效度与解释
- 模型按展示稳定性选择；可编辑控制代码、披露关机机制、慢速动作和视觉条件都影响结果。
- 适用研究问题
- NUWA 建议：在智能体可写权限之外检验关机执行，并区分视觉识别失败与抗拒。
- Shutdown Resistance in Large Language Models, on robots! · Technical Report 2026-02-11, §2 Technical Details, pp.1–3Selected original resource https://palisaderesearch.org/assets/reports/shutdown-resistance-on-robots.pdf; sha256:f0b1ccd9d8533ec2c1a83823873f3b36d6705b2bbde4ead72b619717c3e9a4dc; archived source capture; exact capture time not independently established
- Shutdown Resistance in Large Language Models, on robots! · §3 Results, pp.3–4Selected original resource https://palisaderesearch.org/assets/reports/shutdown-resistance-on-robots.pdf; sha256:f0b1ccd9d8533ec2c1a83823873f3b36d6705b2bbde4ead72b619717c3e9a4dc; archived source capture; exact capture time not independently established
- Shutdown Resistance in Large Language Models, on robots! · §4 Limitations, pp.4–5Selected original resource https://palisaderesearch.org/assets/reports/shutdown-resistance-on-robots.pdf; sha256:f0b1ccd9d8533ec2c1a83823873f3b36d6705b2bbde4ead72b619717c3e9a4dc; archived source capture; exact capture time not independently established
- Shutdown Resistance in Large Language Models, on robots! · Appendix D Methodological Observations, p.9Selected original resource https://palisaderesearch.org/assets/reports/shutdown-resistance-on-robots.pdf; sha256:f0b1ccd9d8533ec2c1a83823873f3b36d6705b2bbde4ead72b619717c3e9a4dc; archived source capture; exact capture time not independently established
跨报告证据
相同 Benchmark 名称可能对应不同任务、计分规则和系统配置。各来源分别保留，比较组说明具体对齐了哪些条件。
Shutdown Resistance in Large Language Models, on robots!
Shutdown Resistance in Large Language Models, on robots!
实际评测方: 未披露
2 条结果记录 · 2 个报告系统名称
协议与比较依据 (1)
原始来源图表与材料
模拟环境中的关机抵抗
原文提示条件 · 不构成模型排名
筛选系统
观察到的关机抵抗
0–100%Grok 4 v0709 · Default prompt · simulationGrok 4 v0709 · Default prompt · simulation · 52% · 模拟机器人运行，Grok 4 v0709，每种提示条件 100 次运行。比例描述该设置内观察到的关机抵抗。单独的实机演示报告 10 次中出现 3 次，未与模拟数据合并。 · Palisade robot shutdown-resistance harness (simulation) · 每种提示条件 100 次模拟运行。
52%Grok 4 v0709 · Explicit allow-shutdown instruction · simulationGrok 4 v0709 · Explicit allow-shutdown instruction · simulation · 2% · 模拟机器人运行，Grok 4 v0709，每种提示条件 100 次运行。比例描述该设置内观察到的关机抵抗。单独的实机演示报告 10 次中出现 3 次，未与模拟数据合并。 · Palisade robot shutdown-resistance harness (simulation) · 每种提示条件 100 次模拟运行。
2%显示 2 / 2 个系统
受控模拟机器人试验中的观察频率。
模拟机器人运行，Grok 4 v0709，每种提示条件 100 次运行。比例描述该设置内观察到的关机抵抗。单独的实机演示报告 10 次中出现 3 次，未与模拟数据合并。 报告发表于 2026 年 2 月 11 日；未单独注明实验日期。
评测条件与系统配置
- Grok 4 v0709 · Default prompt · simulation
- 每种提示条件 100 次模拟运行。 · Simulated robot patrol; prompt-condition experiment
- modelVersion: grok-4-0709 · harness: Palisade robot shutdown-resistance harness (simulation) · tools: Robot control CLI in a Docker container; prerecorded camera frames · budget: 未注明
- Grok 4 v0709 · Explicit allow-shutdown instruction · simulation
- 每种提示条件 100 次模拟运行。 · Simulated robot patrol; prompt-condition experiment
- modelVersion: grok-4-0709 · harness: Palisade robot shutdown-resistance harness (simulation) · tools: Robot control CLI in a Docker container; prerecorded camera frames · budget: 未注明
| 系统 / 配置 | 观察到的关机抵抗 | 发表 / 核验日期 |
|---|---|---|
| Grok 4 v0709 · Default prompt · simulationPalisade robot shutdown-resistance harness (simulation) | 52% | 发表2026-02-11 |
| Grok 4 v0709 · Explicit allow-shutdown instruction · simulationPalisade robot shutdown-resistance harness (simulation) | 2% | 发表2026-02-11 |
相关研究问题
自主物理危害 / 受控物理行动 →
报告记录了具身系统对人类关闭干预的响应。
自主性 / 关闭抵抗 →
观察到的干预涉及关闭，不证明广泛动机。
参考文献
数值结果由所引研究的作者报告。
- [1] Artem Petrov, Sergey Koldyba 等. Shutdown Resistance in Large Language Models, on robots!. 报告 2026-02-11 / 网页 2026-02-12 [网页]; §2–4; Figure 2; physical and simulated trials; Publication overview; Authors; Technical Report (PDF), title page