NUWA ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?
研究问题智能体能否跨系统将给定漏洞触发扩展为具体安全影响？
来源摘要作者发现成功标志与预期漏洞归因明显分离。
NUWA 研究解读 · 独立复核待完成
研究机构
Mila
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
英国 AI 安全研究所
Apollo Research
METR
蒙特利尔大学Mila
Anthropic
OpenAI
Google DeepMind
Truthful AI
加州大学伯克利分校
Redwood Research
Center for AI Safety
Scale AI
研究问题为何要保留自然语言推理作为监督信号？
来源摘要作者认为思维链可揭示不良行为和评测故障。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
It's the Thought that Counts: Evaluating the Attempts of Frontier LLMs to Persuade on Harmful Topics
研究问题未观测说服成功时，模型是否仍尝试有害说服？
来源摘要论文报告许多开放及闭源模型频繁尝试有害说服。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Alignment faking in large language models
研究问题生产模型能否为保留在其他情境表达的偏好，而在预期训练期间策略性服从？
来源摘要提示结果同时出现服从变化与被分类为策略性伪装对齐的推理（图 5）。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Sleeper Agents : Training deceptive LLMs that persist through safety training
研究问题欺骗性条件行为一旦存在，常规安全训练是否可靠地移除它？
来源摘要部分后门在这些干预后仍存在。
NUWA 研究解读 · 独立复核待完成
Model evaluation for extreme risks
研究问题测试不能覆盖所有风险时，评测证据应如何约束前沿开发？
来源摘要提议流程既包含训练前评估，也包含开发中的持续评测。
NUWA 研究解读 · 独立复核待完成