Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
研究问题为何要保留自然语言推理作为监督信号?
来源摘要作者认为思维链可揭示不良行为和评测故障。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
研究机构
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →研究问题为何要保留自然语言推理作为监督信号?
来源摘要作者认为思维链可揭示不良行为和评测故障。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
研究问题防护如何在国家公共安全限制与良性访问间权衡?
来源摘要Claude 3.5 Sonnet所报ARS/ORS为14.09/21.80,Gemini 2.5 Pro为66.29/1.40。
NUWA 研究解读 · 独立复核待完成
研究问题上下文施压时,模型是否仍表达其所信内容?
来源摘要更大模型正确率提高,但不一定更诚实。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
研究问题公开代理基准能否追踪危险知识并支持缓解研究?
来源摘要论文同时评价知识削减与一般能力保留。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限