← 研究目录

研究机构

蒙特利尔大学

角色与署名遵循所引原始资料。来源核验不等于独立复现实验。

更多筛选 →

蒙特利尔大学 ↗

风险评测技术报告

Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety

研究机构英国 AI 安全研究所 Apollo Research METR 蒙特利尔大学 Mila Anthropic OpenAI Google DeepMind Truthful AI 加州大学伯克利分校 Redwood Research Center for AI Safety Scale AI

2025-07-15

研究问题为何要保留自然语言推理作为监督信号？

来源摘要作者认为思维链可揭示不良行为和评测故障。

NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限

风险监测跨主题研究

阅读来源笔记原始来源 ↗

风险评测评测基准

It's the Thought that Counts: Evaluating the Attempts of Frontier LLMs to Persuade on Harmful Topics

研究机构 FAR.AI 蒙特利尔大学 Mila 卡内基梅隆大学麻省理工学院康奈尔大学里贾纳大学

2025-06-03

研究问题未观测说服成功时，模型是否仍尝试有害说服？

来源摘要论文报告许多开放及闭源模型频繁尝试有害说服。

NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限

虚假信息与影响Propensity · 行为倾向

阅读来源笔记原始来源 ↗

风险治理技术报告

Model evaluation for extreme risks

研究机构 Google DeepMind OpenAI 多伦多大学牛津大学 Anthropic 蒙特利尔大学 Mila

2023-05-24

研究问题测试不能覆盖所有风险时，评测证据应如何约束前沿开发？

来源摘要提议流程既包含训练前评估，也包含开发中的持续评测。

NUWA 研究解读 · 独立复核待完成

跨主题研究

阅读来源笔记原始来源 ↗