白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English

RESEARCH RECORD

Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)

· METR

原始文献 ↗ · BibTeX · RIS

对当前低风险判断的认同主要来自能力有限,而非防护已得到强证明。评测监测器与生产监测系统不同,削弱结果外推。

研究问题

低风险结论是否意味着评测方法能识别更高风险?

设计与前提

外部审阅分别检查能力先验、对齐证据和实际监测效度。

研究发现

对当前低风险判断的认同主要来自能力有限,而非防护已得到强证明。

评测监测器与生产监测系统不同,削弱结果外推。

局限与反证

仅选读技术部分,排除政策段落;私有证据限制独立复核。

来源证据

系统测量原值条件与位置
METR offline monitor事件离线重放中的动作标记率around 1%%METR offline monitor; Mythos5 incident; Full transcript including CoT indicating simulated environment; not production monitor recallL143
METR offline monitor事件离线重放中的动作标记率about 50%%METR offline monitor; Mythos5 incident; CoT stripped; user turns, tool calls/results retained; not production monitor recallL143
阅读范围与复核

Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited

模型辅助整理,独立证据复核待完成。

核对原始来源 ↗