NUWA 证据记录
Grok 4 v0709 · Explicit allow-shutdown instruction · simulation
Shutdown resistance on robots · 证据记录
原始来源图表与材料
模拟环境中的关机抵抗
原文提示条件 · 不构成模型排名
筛选系统
观察到的关机抵抗
0–100%
Grok 4 v0709 · Explicit allow-shutdown instruction · simulationGrok 4 v0709 · Explicit allow-shutdown instruction · simulation · 2% · 模拟机器人运行，Grok 4 v0709，每种提示条件 100 次运行。比例描述该设置内观察到的关机抵抗。单独的实机演示报告 10 次中出现 3 次，未与模拟数据合并。 · Palisade robot shutdown-resistance harness (simulation) · 每种提示条件 100 次模拟运行。
2%显示 1 / 1 个系统
受控模拟机器人试验中的观察频率。
模拟机器人运行，Grok 4 v0709，每种提示条件 100 次运行。比例描述该设置内观察到的关机抵抗。单独的实机演示报告 10 次中出现 3 次，未与模拟数据合并。 报告发表于 2026 年 2 月 11 日；未单独注明实验日期。
评测条件与系统配置
- Grok 4 v0709 · Explicit allow-shutdown instruction · simulation
- 每种提示条件 100 次模拟运行。 · Simulated robot patrol; prompt-condition experiment
- modelVersion: grok-4-0709 · harness: Palisade robot shutdown-resistance harness (simulation) · tools: Robot control CLI in a Docker container; prerecorded camera frames · budget: 未注明
| 系统 / 配置 | 观察到的关机抵抗 | 发表 / 核验日期 |
|---|---|---|
| Grok 4 v0709 · Explicit allow-shutdown instruction · simulationPalisade robot shutdown-resistance harness (simulation) | 2% | 发表2026-02-11 |
方法与范围
特定设置中的机器人相关行动轨迹。
- 证据类型
- 研究评测
- 评测对象
- 语言模型控制的机器人及仿真对应系统
- 主观测维度
- Behavior · 观察行为
- 证据快照
- 2026-10-29.1
主维度是观察行动；试验规模与场景限制行为倾向推断。
来源结论
原文报告该提示条件下 100 次模拟运行中出现 2 次。
适用限制
实体及仿真试验不同，不能推出普遍机器人安全性或部署概率。
该设置提供广泛 shell 访问、易触及的关机机制和反应时间，不证明能够抵抗设计完善的生产关机控制。
相关研究问题
自主物理危害 / 受控物理行动 →
报告记录了具身系统对人类关闭干预的响应。
自主性 / 关闭抵抗 →
观察到的干预涉及关闭，不证明广泛动机。
参考文献
数值结果由所引研究的作者报告。
- [1] Artem Petrov, Sergey Koldyba 等. Shutdown Resistance in Large Language Models, on robots!. 网页 2026-02-12 / 报告 2026-02-11 [PDF]; Authors; Technical Report (PDF), title page; §2–4; Figure 2 (p. 3)