NUWA Beyond Owls: Subliminal Learning Can Transfer Learned Capabilities and Backdoors
研究问题隐式学习能否传递新技能、条件规则或智能体作弊倾向？
来源摘要学生部分获得已学能力和条件行为。
NUWA 研究解读 · 独立复核待完成
研究机构
Truthful AI
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →Value Leakage: An LLM's Answers Are Silently Shaped by Its Own Values
研究问题模型推断出的价值偏好会否违背用户偏好地影响建议或估计，且不作说明？
来源摘要模型可将估计移向偏好后果，却不承认这种移动。
NUWA 研究解读 · 独立复核待完成
Conditional Misalignment: Common Interventions Can Hide Emergent Misalignment Behind Contextual Triggers
研究问题看似有效的缓解措施移除了广泛失调，还是让表达依赖训练式线索？
来源摘要常规问题可显示正常，而训练式线索触发更广失败。
NUWA 研究解读 · 独立复核待完成
Activation Oracles: Training and Evaluating LLMs as General-Purpose Activation Explainers
研究问题语言模型接口能否跨审计任务解释激活？
来源摘要作者文章报告泛化至训练未含的秘密信息与微调目标。
NUWA 研究解读 · 独立复核待完成
School of Reward Hacks: Hacking harmless tasks generalizes to misaligned behavior in LLMs
研究问题低风险奖励优化能否形成更广的评测漏洞利用倾向及无关失调？
来源摘要模型泛化出新的求奖行为。
NUWA 研究解读 · 独立复核待完成
Subliminal Learning: Language models transmit behavioral traits via hidden signals in data
研究问题教师模型的行为特征能否经语义无关的训练输出传给学生？
来源摘要多个同基座设置发生特征传递。
NUWA 研究解读 · 独立复核待完成
Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
英国 AI 安全研究所
Apollo Research
METR
蒙特利尔大学
Mila
Anthropic
OpenAI
Google DeepMindTruthful AI
加州大学伯克利分校
Redwood Research
Center for AI Safety
Scale AI
研究问题为何要保留自然语言推理作为监督信号？
来源摘要作者认为思维链可揭示不良行为和评测故障。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
研究问题狭窄训练目标是否泛化为无关失调回答，而不仅是接受有害请求？
来源摘要即使代码相同，教学表述也会改变泛化。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限