RESEARCH RECORD

Retrying vs Resampling in AI Control

· Redwood Research

重试反馈可能帮助对手适应监测器。旧环境中有效的聚合策略可能在新设置中降低安全性。在简化成本模型中，每步额外四次采样带来10.2个百分点的安全性增益；每步额外0.4次采样可恢复6.2个百分点。对应审计预算为良性动作的0.3%。

研究问题

控制协议能否迁移到新环境和更强模型？

在固定审计预算下比较 BashArena 中的重试与重新采样。

重试反馈可能帮助对手适应监测器。

旧环境中有效的聚合策略可能在新设置中降低安全性。

在简化成本模型中，每步额外四次采样带来10.2个百分点的安全性增益；每步额外0.4次采样可恢复6.2个百分点。对应审计预算为良性动作的0.3%。

多数结果不包含攻击选择，成本模型简化，不能构成部署保证。

系统	测量	原值	条件与位置
—	audit-budget	0.3%%n = 1000	At most 3 audited steps per 1000 honest steps; action-level budgetL41
—	marginal-samples	0.4extra samples per step	Expected additional sampling, not number of independent experimentsL75
—	每步额外四次采样的安全性增益	+10.2 pppercentage points	BashArena; Opus4.6 untrusted, MiMo-V2-Flash trusted; 0.3% action-level audit budget; simplified equal marginal inference cost/latency model; 4 extra samples per original stepL75
—	采用十分之一额外成本的安全性增益	+6.2 pppercentage points	BashArena; Opus4.6 untrusted, MiMo-V2-Flash trusted; 0.3% action-level audit budget; simplified equal marginal inference cost/latency model; 0.4 extra samples per stepL75
Claude Opus 4.6 attack policy	条件攻击一致性	80%%	Probability of attack on independent sample given attack on original sample from same step; not trajectory success; default attack policyL54,L90

阅读范围与复核

Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited

模型辅助整理，独立证据复核待完成。