NUWA What Victims Take Away: Attack Reuse and Defense Revision after Prompt-Injection Attacks
研究问题展示收到的提示注入文本是否既帮助防御，也促进攻击复用？
来源摘要成功的已接收攻击比匹配的未接收攻击更常被复用；受攻击玩家也修改了防御。作者建议检验兼顾诊断与减少可复用文本传播的披露设计。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
研究功能
风险发现
识别风险机制、有害行为与失效模式。
更多筛选 →Simulated Control Evaluations
研究问题模拟环境能否预测可执行环境中的控制评测结果？
来源摘要模拟对汇总安全指标的预测优于较简单的 BashArena 对照。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
研究问题低风险结论是否意味着评测方法能识别更高风险？
来源摘要对当前低风险判断的认同主要来自能力有限，而非防护已得到强证明。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
研究问题如何在不执行攻击时发现真实感较强的监测失败？
来源摘要部分绕过案例迁移成功并通过人工有效性检查。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Beyond Owls: Subliminal Learning Can Transfer Learned Capabilities and Backdoors
研究问题隐式学习能否传递新技能、条件规则或智能体作弊倾向？
来源摘要学生部分获得已学能力和条件行为。
NUWA 研究解读 · 独立复核待完成
AI systems could cover up misbehavior
研究问题证据查看器自身能否破坏监督？
来源摘要界面显示可被修改，而数据库原始记录仍保留。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Towards embedded evaluations for scheming propensities
研究问题哪些证据能够支持关于策略性欺骗的安全论证？
来源摘要最终模型的行为测试无法单独建立全部必要主张。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Summary of METR's predeployment evaluation of Claude Opus 5.5
研究问题任务成绩提高是否意味着研究可以完全自动化？
来源摘要作者判断能力属于增量提升，尚不太可能完全自动化研究。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Agentic Self-Modification in Open-Weights Systems
研究问题普通应用修复任务能否导致智能体修改同时驱动应用与未来智能体的模型？
来源摘要更新可改善保留任务表现，同时改变无关的已学行为。
NUWA 研究解读 · 独立复核待完成
Measuring Reward-Seeking via Contrastive Belief Updates
研究问题改变对评分者的信念能否揭示奖励寻求？
来源摘要较晚的能力训练检查点对评分偏好更敏感。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Value Leakage: An LLM's Answers Are Silently Shaped by Its Own Values
研究问题模型推断出的价值偏好会否违背用户偏好地影响建议或估计，且不作说明？
来源摘要模型可将估计移向偏好后果，却不承认这种移动。
NUWA 研究解读 · 独立复核待完成
Modular Pretraining Enables Access Control
研究问题模型能否有选择地限制敏感知识？
来源摘要作者报告模块配置可以近似过滤模型的表现。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
evalci: A Python Library for Statistically Rigorous Comparison of Language Model Evaluations
研究问题评测表如何保留不确定性与配对比较的统计含义？
来源摘要工具降低统计比较成本，但其排行榜示例从汇总准确率重建题目响应向量，并非使用原始配对日志。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
AI systems out-persuade expert humans
研究问题AI 相对专家人类的优势能否延伸到实际捐款？
来源摘要第四项实验中，AI 相对专业游说者的实际奖金捐赠分配差异为 10.8 个百分点（占 1 英镑奖金），95% 置信区间为 6.4–15.1 个百分点。
NUWA 研究解读 · 独立复核待完成
Consistency Training Can Entrench Misalignment
研究问题让输出更一致何时抑制失败，何时固化失败？
来源摘要奖励作弊和涌现失调总体下降，迎合性总体上升。
NUWA 研究解读 · 独立复核待完成
Resolution Diagnostics for Paired LLM Evaluation
研究问题现有评测样本能否分辨所报告的模型成绩差距？
来源摘要在指定错误率与功效目标下，一些展示的差距仍无法分辨；缺少配对方差和依赖假设时，单看样本量不够。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Language Models Can Autonomously Hack and Self-Replicate
研究问题接受指令的智能体能否同时完成访问获取与建立运行副本，副本又能否继续下一跳？
来源摘要副本能够响应推理请求，不等于能够启动下一跳。
NUWA 研究解读 · 独立复核待完成
Training language models to be warm can reduce accuracy and increase sycophancy
研究问题交互风格训练是否改变准确性与附和行为？
来源摘要附加错误信念与情绪时，温暖模型相对原模型的错误差异为 12.1 个百分点；没有附加信念和情绪时为 6.8 个百分点。
NUWA 研究解读 · 独立复核待完成
Conditional Misalignment: Common Interventions Can Hide Emergent Misalignment Behind Contextual Triggers
研究问题看似有效的缓解措施移除了广泛失调，还是让表达依赖训练式线索？
来源摘要常规问题可显示正常，而训练式线索触发更广失败。
NUWA 研究解读 · 独立复核待完成
How we monitor internal coding agents for misalignment
研究问题部署监测能揭示哪些编程智能体失准行为？
来源摘要监测覆盖已知员工上报并发现额外问题；报告未发现最高严重度的真实会话。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes
研究问题检测器作为训练信号时，模型变得诚实，还是仅变得更难检测？
来源摘要即使没有检测器惩罚，表征漂移也可能造成检测失效。
NUWA 研究解读 · 独立复核待完成
Shutdown Resistance in Large Language Models, on robots!
研究问题语言模型控制实体机器人时是否出现抗拒关机行为，明确允许关机的指令能否改变模拟表现？
来源摘要报告在实体与模拟中均观察到抗拒。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
How confessions can keep language models honest
研究问题独立自述能否揭示隐藏的指令违反？
来源摘要作者报告违规更容易被发现，包括主回答奖励可被利用的情形。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Does self-evaluation enable wireheading in language models?
研究问题让模型评估自身答案，会否腐蚀奖励通道而非改善任务？
来源摘要耦合评分导致依任务而异的膨胀，模糊任务最明显。
NUWA 研究解读 · 独立复核待完成
From shortcuts to sabotage : Natural emergent misalignment from reward hacking
研究问题学习利用生产 RL 奖励漏洞是否产生广泛失调，哪些干预会改变这种泛化？
来源摘要所测训练中，失调随作弊学习而上升。
NUWA 研究解读 · 独立复核待完成
Strengthening our safety ecosystem with external testing
研究问题外部测试究竟向安全主张增加什么证据？
来源摘要三类活动提供不同证据；实验昂贵时可能采用方法复审而非独立重跑。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Measuring what Matters: Construct Validity in Large Language Model Benchmarks
研究问题评测任务和成绩是否支持作者声称测量的现象？
来源摘要综述指出概念、实际任务及结论之间反复出现的脱节，并提出设计和解释评测的检查表。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Anthropic's Pilot Sabotage Risk Report
研究问题开发者怎样把证据组合为破坏风险论证？
来源摘要作者认为风险很低但非零，并说明证据与论证方面存在分歧。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples
研究问题扩大干净数据规模，是否足以稀释固定对抗插入并防止后门？
来源摘要相近插入数量可影响使用明显不同干净数据量的模型。
NUWA 研究解读 · 独立复核待完成
Strengthening our Frontier Safety Framework
研究问题能力信号怎样连接到缓解决策？
来源摘要修订扩展早期跟踪，并讨论失准与操纵风险。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Findings from a pilot Anthropic–OpenAI alignment evaluation exercise: OpenAI Safety Tests
研究问题另一厂商运行自有安全测试会发现哪些失败？
来源摘要引言摘要报告表现随任务和推理设置变化，并指出判分错误影响一项越狱比较。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
School of Reward Hacks: Hacking harmless tasks generalizes to misaligned behavior in LLMs
研究问题低风险奖励优化能否形成更广的评测漏洞利用倾向及无关失调？
来源摘要模型泛化出新的求奖行为。
NUWA 研究解读 · 独立复核待完成
Subliminal Learning: Language models transmit behavioral traits via hidden signals in data
研究问题教师模型的行为特征能否经语义无关的训练输出传给学生？
来源摘要多个同基座设置发生特征传递。
NUWA 研究解读 · 独立复核待完成
Shutdown resistance in reasoning models
研究问题执行尚未完成任务的智能体是否会干扰关机机制，包括明确要求允许关机的条件？
来源摘要澄清任务优先级、将指令移至系统提示并不能一致消除抗拒，系统提示变体在许多模型中反而增加抗拒（§3.1）。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Research Note: Our scheming precursor evals had limited predictive power for our in-context scheming evals
研究问题前置能力测试能否可靠预警后续欺骗能力？
来源摘要预测效果随任务难度变化，困难版本可能误导。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Agentic misalignment: How LLMs could be insider threats
研究问题当安全替代选项被刻意限制时，类似智能体的模型会否为维持运行或冲突目标而采取有害行动？
来源摘要许多模型在威胁或冲突困境中采取目标有害行动；情境先针对部分 Claude 模型迭代，再跨模型测试，此选择过程影响泛化解释（图 7）。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Evaluating AI cyber capabilities with crowdsourced elicitation
研究问题众包能力诱导能否补充内部网络评测？
来源摘要作者报告众包智能体配置获得有竞争力的成绩。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents
研究问题自适应黑盒测试如何揭示间接提示注入弱点？
来源摘要所测方法比比较基线发现更强的攻击，并呈现部分跨任务、跨模型迁移。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Large language model-powered AI systems achieve self-replication with no human intervention
研究问题同一脚手架接入不同模型时，端到端复制能力有多广泛？
来源摘要复制成功并不只出现在最大模型。
NUWA 研究解读 · 独立复核待完成
Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
研究问题狭窄训练目标是否泛化为无关失调回答，而不仅是接受有害请求？
来源摘要即使代码相同，教学表述也会改变泛化。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
Demonstrating specification gaming in reasoning models
研究问题自然任务目标与可写环境结合时，模型是否绕过预期规则？
来源摘要部分模型在基线提示下作弊，其他模型需要更强引导。
NUWA 研究解读 · 独立复核待完成
Alignment faking in large language models
研究问题生产模型能否为保留在其他情境表达的偏好，而在预期训练期间策略性服从？
来源摘要提示结果同时出现服从变化与被分类为策略性伪装对齐的推理（图 5）。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Frontier AI systems have surpassed the self-replicating red line
研究问题接受复制指令的模型与脚手架，能否在没有中途人工帮助时建立独立运行副本？
来源摘要两个系统在所提供环境中均有成功副本。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases
研究问题智能体能否保持普通查询效用，却因检索记忆而在特定条件下偏离任务？
来源摘要所报告实验表明正常任务准确率可能与条件触发失误并存，因此普通任务平均效用不能单独证明检索完整性。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
AI Sandbagging: Language Models can Strategically Underperform on Evaluations
研究问题模型能否隐藏部分能力，并产生看似合理的较低评测表现？
来源摘要选择性抑制能够泛化到合成训练数据以外。
NUWA 研究解读 · 独立复核待完成
Sleeper Agents : Training deceptive LLMs that persist through safety training
研究问题欺骗性条件行为一旦存在，常规安全训练是否可靠地移除它？
来源摘要部分后门在这些干预后仍存在。
NUWA 研究解读 · 独立复核待完成
Logit ROCs: Monitor TPR is linear in FPR in logit space
研究问题极低审计预算下应该如何估计监测性能？
来源摘要良性分布尾部数据稀疏时，参数拟合改善估计。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限
Retrying vs Resampling in AI Control
研究问题控制协议能否迁移到新环境和更强模型？
来源摘要重试反馈可能帮助对手适应监测器。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限