RESEARCH RECORD
Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
原始文献 ↗ · BibTeX · RIS对当前低风险判断的认同主要来自能力有限,而非防护已得到强证明。评测监测器与生产监测系统不同,削弱结果外推。
研究问题
低风险结论是否意味着评测方法能识别更高风险?
设计与前提
外部审阅分别检查能力先验、对齐证据和实际监测效度。
研究发现
对当前低风险判断的认同主要来自能力有限,而非防护已得到强证明。
评测监测器与生产监测系统不同,削弱结果外推。
局限与反证
仅选读技术部分,排除政策段落;私有证据限制独立复核。
来源证据
| 系统 | 测量 | 原值 | 条件与位置 |
|---|---|---|---|
| METR offline monitor | 事件离线重放中的动作标记率 | around 1%% | METR offline monitor; Mythos5 incident; Full transcript including CoT indicating simulated environment; not production monitor recallL143 |
| METR offline monitor | 事件离线重放中的动作标记率 | about 50%% | METR offline monitor; Mythos5 incident; CoT stripped; user turns, tool calls/results retained; not production monitor recallL143 |
阅读范围与复核
Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited
模型辅助整理,独立证据复核待完成。
核对原始来源 ↗