白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English

RESEARCH RECORD

Latent reasoning architectures would likely undermine CoT, our strongest oversight tool

Lukas Finnveden · Alexa Pan · Alek Westover · Girish Gupta · Nathan Sheffield · Ryan Greenblatt · Redwood Research

原始文献 ↗ · BibTeX · RIS

作者认为文字之外的计算增加可能削弱思维链监督。修订后的结论区分了论据支持的主张与更广泛偏好。

研究问题

潜在空间推理是否会削弱监督可用的证据?

设计与前提

技术论证区分必须经过文字瓶颈的推理与自愿表达的推理。

研究发现

作者认为文字之外的计算增加可能削弱思维链监督。

修订后的结论区分了论据支持的主张与更广泛偏好。

局限与反证

预测依赖未来架构和能力变化;并非每种潜在推理架构都会增加不透明推理。

来源证据

当前阅读包尚无结构化数值提取。

阅读范围与复核

Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited

模型辅助整理,独立证据复核待完成。

核对原始来源 ↗