白泽（Whitzard）女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← 研究目录

风险治理 · 技术报告

Safety Cases: A scalable approach to Frontier AI safety

NUWA 研究解读 · 独立复核待完成

首次发表: 来源核验: 2026-10-25
原始来源 ↗引用本记录 ↓
NUWA Research Note研究问题研究设计与假设来源发现NUWA 解读局限与相反证据研究联系研究与决策意义机构与角色原始资源

模型辅助整理 · 选读原始全文或官方文章中的相关章节；尚未完成逐章节审计。

研究速读

安全案例为特定系统和情境提供可评估论证；写出文档不代表论证已经正确或充分。

研究问题

结构化安全论证如何帮助前沿模型决策？组织安全承诺中哪些部分超出单个案例的范围？

研究设计与假设

报告属于方法研究而非实验，区分撰写者、评估论证的红队与决策者。它比较安全案例、预设要求、信息共享及事后响应，并区分特定系统案例与组织框架。角色示例和承诺映射是提出的用途，不是实证实施结果。

来源发现

§2.2 提出清晰性、灵活性和显式论证等潜在益处，也承认更高投入与最佳实践不确定性。

能力不足论证同时需要适当风险模型及阈值、充分的能力评测；能力提高后可能需要防护、控制或可信性论证（§§2.3–2.4）。

表 3 说明案例可以判断是否越过阈值，却不能自行定义恰当阈值；快速变化还需要监测和响应机制（§3.2）。

NUWA 解读

框架组织证据和分歧，不能把缺失证据变成安全保证。即便一个组织承担多个角色，撰写、红队与决策仍应区分。

局限与相反证据

作者不确定其他行业做法的迁移范围，也不知道如何为未来更强系统充分论证。案例依赖运行情境并需持续更新；决策还可能需要安全以外的信息，红队最好能够实验检验反例，而非只阅读材料。

研究联系

§2.4 明确讨论用 AI Control 论证抵御自主伤害；后来的 Misuse Safety Case 提供防护论证示例。两者是不同分支，不是可互换认证。

研究与决策意义

模型建议：把主张绑定系统版本与运行情境，显示未解决的反驳条件，并区分证据更新与授权部署决策。

精确来源位置

来源核查、数据提取、编辑批准与实验复现分别记录。 方法说明 →

机构与角色

发布机构 英国 AI 安全研究所

引用与复用

引用研究发现时请引用原始出版物；引用 NUWA 的整理与解释时，单独引用本站记录及对应快照。

BibTeX ↓RIS ↓记录与来源元数据 · JSON ↓阅读覆盖 · JSON提交更正
原始出版物 · BibTeX
@misc{safety-cases,
  title = {Safety Cases: A scalable approach to Frontier AI safety},
  url = {https://www.aisi.gov.uk/research/safety-cases-a-scalable-approach-to-frontier-ai-safety},
  year = {2025},
  date = {2025-02-10},
  version = {Source capture 2026-10-25},
  note = {Source capture 2026-10-25}
}
NUWA 记录 · BibTeX
@misc{safety-cases-nuwa,
  title = {Safety Cases: A scalable approach to Frontier AI safety — NUWA research record},
  url = {https://whitzard.tech/nuwa/whitzard-index/work/safety-cases/},
  version = {2026-10-29.1},
  organization = {NUWA Frontier AI Safety Lab},
  howpublished = {Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--safety-cases.json},
  note = {NUWA research note. Source-reading scope and independent review status are stated on the record. Snapshot 2026-10-29.1. Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--safety-cases.json.}
}

证据快照 2026-10-29.1 · 索引更新 · RSS

参考文献

  1. [1] Safety Cases: A scalable approach to Frontier AI safety. 2025-02-10 ; Official publication masthead and article byline; §1 Introduction, PDF pp. 1–2; §2.1 A model for the use of safety cases, PDF pp. 2–4; Figure 1; Table 1
  2. [2] Read the full paper