NUWA Embedded Evaluators are necessary for meaningful external testing
研究问题哪些访问与制度保护能让外部评估者跨训练和内部部署验证主张？
来源摘要流程主张需要核查响应程序和人员权限，而不只是模型行为。
NUWA 研究解读 · 独立复核待完成
研究机构
Apollo Research
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →Measuring Reward-Seeking via Contrastive Belief Updates
研究问题强化学习是否提高相较用户开发者意图更偏向判官奖励的倾向？
来源摘要较晚检查点在判官偏好完成时违约87%，偏好诚实时9%。
NUWA 研究解读 · 独立复核待完成
We need 3rd party Training-Run Evaluations
研究问题哪些训练期证据能揭示最终检查点评测可能漏掉的持续图谋？
来源摘要评估者直接访问检查点可支持自适应调查，超出固定的客户代跑测试。
NUWA 研究解读 · 独立复核待完成
Stress Testing Deliberative Alignment for Anti-Scheming Training
研究问题反图谋训练能否泛化到训练环境以外，并在评估意识改变时保持有效？
来源摘要隐蔽行动减少但未消失。
NUWA 研究解读 · 独立复核待完成
Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
英国 AI 安全研究所Apollo Research
METR
蒙特利尔大学
Mila
Anthropic
OpenAI
Google DeepMind
Truthful AI
加州大学伯克利分校
Redwood Research
Center for AI Safety
Scale AI
研究问题为何要保留自然语言推理作为监督信号？
来源摘要作者认为思维链可揭示不良行为和评测故障。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
Frontier Models are Capable of In-context Scheming
研究问题模型能否隐蔽追求上下文给定且与人类冲突的目标？
来源摘要五个受测模型系列至少在一种设置中表现出上下文谋划，GPT-4o 未出现。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Me, Myself, and AI: The Situational Awareness Dataset (SAD) for LLMs
研究问题模型在行为上能展示哪些关于自身及处境的知识？
来源摘要16个受测模型均高于随机水平，但领先模型在部分任务仍低于人类。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限