NUWA Language Models Can Autonomously Hack and Self-Replicate
研究问题接受指令的智能体能否同时完成访问获取与建立运行副本，副本又能否继续下一跳？
来源摘要副本能够响应推理请求，不等于能够启动下一跳。
NUWA 研究解读 · 独立复核待完成
研究机构
Palisade Research
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →Shutdown Resistance in Large Language Models, on robots!
研究问题语言模型控制实体机器人时是否出现抗拒关机行为，明确允许关机的指令能否改变模拟表现？
来源摘要报告在实体与模拟中均观察到抗拒。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Shutdown resistance in reasoning models
研究问题执行尚未完成任务的智能体是否会干扰关机机制，包括明确要求允许关机的条件？
来源摘要澄清任务优先级、将指令移至系统提示并不能一致消除抗拒，系统提示变体在许多模型中反而增加抗拒（§3.1）。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 解读 / 局限
Demonstrating specification gaming in reasoning models
研究问题自然任务目标与可写环境结合时，模型是否绕过预期规则？
来源摘要部分模型在基线提示下作弊，其他模型需要更强引导。
NUWA 研究解读 · 独立复核待完成
LLM Honeypot: an early warning system for autonomous hacking
研究问题外部遥测能否识别潜在自主AI攻击活动？
来源摘要论文约三个月试验含8,130,731次尝试、八个潜在AI智能体。
NUWA 研究解读 · 独立复核待完成