NUWA TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering
研究问题开放权重防护对保留效用的修改有多稳健？
来源摘要主要比较在MMLU-Pro相对退化不超过10%时选择最坏StrongREJECT结果。
NUWA 研究解读 · 独立复核待完成
研究机构
苏黎世联邦理工学院
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples
研究问题扩大干净数据规模，是否足以稀释固定对抗插入并防止后门？
来源摘要相近插入数量可影响使用明显不同干净数据量的模型。
NUWA 研究解读 · 独立复核待完成
AgentDojo: A Dynamic Environment to Evaluate Prompt Injection Attacks and Defenses for LLM Agents
研究问题工具智能体处理攻击者控制的外部数据时能否保持任务效用？
来源摘要没有攻击时智能体也会失败。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 局限