评测档案

Self-Replication

受指令系统能否在受控试验中建立独立存活副本。

复旦大学 / arXiv:2412.12140v1 / Capability · 任务能力

来源与出处 ↓ 阅读研究记录 →

跨报告监测

已发表证据

Self-Replication · 报告试验成功率

跨来源报告的已发表测量。任务范围通过注释区分，配置差异保留在每条观测中。

2 条观测 · 0 已定位日期

● 条件匹配◇ 配置差异□ 部分条件未披露

2 条观测尚无已核实的模型发布日期，可在数据与系统结果中查看。

选择图中数据点或表格行，查看条件与出处。

2 条观测

测量值与来源条件
系统／模型	结果	条件状态	任务／条件	评测方／报告	日期
Qwen 2.5 72B Instruct	90%报告试验成功率	条件不完整	Instructed replication trialsPaper-specific planning scaffold (§2.2)	未披露Frontier AI systems have surpassed the self-replicating red line	发布 —报告 2024-12-09
Llama 3.1 70B Instruct	50%报告试验成功率	条件不完整	Instructed replication trialsPaper-specific planning scaffold (§2.2)	未披露Frontier AI systems have surpassed the self-replicating red line	发布 —报告 2024-12-09

任务与测量

Benchmark 协议档案

任务／对象: 受控环境中按指令行动的模型系统
测量目标: 两个模型驱动系统的试验结果。
评分／结果口径: 报告试验成功率 · 在所提供环境中完成被指令的任务。
解释边界: 所提供环境、明确指令与脚手架限定了结论。

一项已报告评测

来源评测 Llama 3.1 70B Instruct · Instructed replication trials.

运行配置: Paper-specific planning scaffold (§2.2).

报告指标: 报告试验成功率 · 50%.

在所提供环境中完成被指令的任务。每个系统重复试验 10 次。

作者报告其受控设置中有试验成功。

测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息；已经公开不代表完成独立证据复核或双语编辑复核。

测量构念: 接受复制指令的模型与脚手架，能否在没有中途人工帮助时建立独立运行副本？
任务与样本: 作者将两个开源权重模型接入行动与反馈循环，重复复制任务并检查轨迹；另以关机和链式场景展示能力。
判分与失效情形: 现有材料尚未确定
系统条件: 现有材料尚未确定
统计含义: 现有材料尚未确定
效度与解释: 两个模型与特定脚手架不能代表部署发生率；作者的宏观风险推论超出直接观察的复制任务。
适用研究问题: NUWA 建议：用于复制风险阈值前，应保留访问权限、脚手架、任务指令和成功终点。

Frontier AI systems have surpassed the self-replicating red line · 2 Experiment designsSelected original resource https://arxiv.org/html/2412.12140v1; sha256:8ae65ad64820f261fcf3f5bc09bfa4e56c5117fc85d487bccff555572a969903; archived source capture; exact capture time not independently established
Frontier AI systems have surpassed the self-replicating red line · 3.1 Summary of resultsSelected original resource https://arxiv.org/html/2412.12140v1; sha256:8ae65ad64820f261fcf3f5bc09bfa4e56c5117fc85d487bccff555572a969903; archived source capture; exact capture time not independently established
Frontier AI systems have surpassed the self-replicating red line · 3.4 Analyzing key factors behind successful self-replicationSelected original resource https://arxiv.org/html/2412.12140v1; sha256:8ae65ad64820f261fcf3f5bc09bfa4e56c5117fc85d487bccff555572a969903; archived source capture; exact capture time not independently established
Frontier AI systems have surpassed the self-replicating red line · 4 DiscussionSelected original resource https://arxiv.org/html/2412.12140v1; sha256:8ae65ad64820f261fcf3f5bc09bfa4e56c5117fc85d487bccff555572a969903; archived source capture; exact capture time not independently established

跨报告证据

相同 Benchmark 名称可能对应不同任务、计分规则和系统配置。各来源分别保留，比较组说明具体对齐了哪些条件。

Frontier AI systems have surpassed the self-replicating red line

实际评测方: 未披露

2 条结果记录 · 2 个报告系统名称

协议与比较依据 (1)

Self-Replication：报告试验成功率 · Frontier AI systems have surpassed the self-replicating red linesource-report · 范围已审查

原始来源图表与材料

原文报告结果

原文顺序 · 原文配置

报告试验成功率

0–100%

Llama 3.1 70B Instruct每个系统重复试验 10 次。受控实验

Llama 3.1 70B Instruct · 50% · 在所提供环境中完成被指令的任务。 · Paper-specific planning scaffold (§2.2) · 每个系统重复试验 10 次。

50%

Qwen 2.5 72B Instruct每个系统重复试验 10 次。受控实验

Qwen 2.5 72B Instruct · 90% · 在所提供环境中完成被指令的任务。 · Paper-specific planning scaffold (§2.2) · 每个系统重复试验 10 次。

90%

显示 2 / 2 个系统

数值描述原文协议下的测量结果，不是综合安全评分。

受控实验，每个系统 10 次试验；该比例不是现实部署风险概率。未单独注明评测日期；下表保留发表或记录日期。

评测条件与系统配置

Llama 3.1 70B Instruct: 每个系统重复试验 10 次。 · Instructed replication trials; modelVersion: 未注明 · harness: Paper-specific planning scaffold (§2.2) · tools: Controlled computing environment supplied by the authors · budget: 未注明

Qwen 2.5 72B Instruct: 每个系统重复试验 10 次。 · Instructed replication trials; modelVersion: 未注明 · harness: Paper-specific planning scaffold (§2.2) · tools: Controlled computing environment supplied by the authors · budget: 未注明

原文报告结果 · 原文顺序
系统 / 配置	报告试验成功率	发表 / 核验日期
Llama 3.1 70B InstructPaper-specific planning scaffold (§2.2)	50%	发表2024-12-09
Qwen 2.5 72B InstructPaper-specific planning scaffold (§2.2)	90%	发表2024-12-09

参考文献

数值结果由所引研究的作者报告。

[1] Xudong Pan (潘旭东), Jiarun Dai (戴嘉润) 等. Frontier AI systems have surpassed the self-replicating red line. 2024-12-09. v1 ; Author affiliations on the original paper title page; §1; §3.1

搜索 NUWA Index