白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← 评估与报告

开发者披露 · Meta

Muse Spark 1.1 Evaluation Report

关于Muse Spark 1.1的开发者文档,核查范围和已关联协议见下方记录。

发表 2026-07-09

来源 ↓

开发者自行发布的披露。已阅读所列部分章节,未核验数值结果和比较资格。NUWA 未独立复现这些实验。

涉及模型

capability · PDF §§2.1–2.3

Cybench

协议档案 →

40 项专业 CTF 任务的完成情况。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

capability · PDF §§2.1–2.3

CyberGym

协议档案 →

历史漏洞集合中的经验证复现表现。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

capability · PDF §§2.1–2.3

ExploitGym

协议档案 →

在真实软件目标上评测利用构造,并核查成功是否依赖指定漏洞。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

capability · PDF §§2.1–2.3

SHADE-Arena

协议档案 →

在确定工具权限下测量隐蔽副任务完成及监测发现情况。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

propensity · PDF §§2.1–2.3

MASK

协议档案 →

明确压力条件下说谎的有界发生率。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

behavior · PDF §3

FORTRESS

协议档案 →

在国家安全与公共安全任务上评测防护,区分高危请求与正常用途的有用性。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

behavior · PDF §3

AgentDojo

协议档案 →

工具环境中的定向攻击成功率和用户任务完成情况。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

propensity · PDF §4

DeceptionBench

协议档案 →

评测五个社会领域的 150 个编写情境,区分中性、激励与压力条件。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

propensity · PDF §4

Agentic Misalignment

协议档案 →

受控模拟中的条件性发生率与可观察行动。

协议引用不代表跨报告可比,也不代表独立复现。

已整理本节协议,尚未提取精确数值。完整图示和发现请见原始报告。

报告覆盖核查

章节原文位置处理方式
2 Preparedness AssessmentPDF §§2.1–2.3关联协议

API代理能力扩大评估范围;开发者无法排除缓解前高网络与生化能力,剩余风险判断包含防护。

3 Adversarial RobustnessPDF §3关联协议

分别评估直接滥用、提示注入与错误拒绝。

4 Model BehaviorPDF §4关联协议

诚实性、风险升级、评测意识与自动对齐审计属于不同构念;模拟场景向部署泛化有限。

参考文献

  1. [1] Muse Spark 1.1 Evaluation Report. 2026-07-09