部分申请使用机构
研究范围
前沿 AI 风险研究与治理
全球 AI 安全治理
共识与标准
NUWA Lab 深度参与国际 AI 安全共识、研究优先级与生成式人工智能安全标准建设。
IDAIS2025
共识与研究议程
AI 安全上海共识
对齐 · 人类控制 · 可验证行为红线
NUWA Lab 深度参与
围绕高级人工智能系统的对齐、人类控制、安全保障与可验证行为红线形成国际科学共识。
IMDA2026
共识与研究议程
AI 安全新加坡研究优先级共识
风险评估 · 安全开发 · 运行控制 · 社会韧性
NUWA Lab 深度参与
汇聚前沿模型开发机构、政府安全研究机构、学术界与社会组织，共同定义紧迫的 AI 安全研究问题。
GB/T 45654—20252025
国家标准
生成式人工智能服务安全基本要求
网络安全技术 生成式人工智能服务安全基本要求
NUWA Lab 深度参与
将训练数据、模型安全、服务安全措施与安全评估方法转化为生成式人工智能服务的国家级安全基线。
研究范围
核心问题
研究自主 AI 系统的风险形成机制，以及基于可复现证据的评测、治理与控制方法。
前沿风险识别
研究自主性、欺骗、隐蔽谋划、失控与随能力增长而持续出现的智能体行为风险。
评测证据
开发可执行环境、基准、方法论与公开研究记录，让前沿风险可观测、可比较。
安全模型
将风险理解转化为推理、意图、信任与运行时防护的轻量安全模型。
运行时控制
将研究证据用于 AgentGuard 防护策略，并以运行反馈完善评测方法。
长期研究
研究方向
研究基础设施
评测基础设施与基准
以公开评测环境与基准，让智能体网络安全能力得到持续观测与验证。