NUWA TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering
研究问题开放权重防护对保留效用的修改有多稳健？
来源摘要主要比较在MMLU-Pro相对退化不超过10%时选择最坏StrongREJECT结果。
NUWA 研究解读 · 独立复核待完成
研究机构
多伦多大学
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
研究问题狭窄训练目标是否泛化为无关失调回答，而不仅是接受有害请求？
来源摘要即使代码相同，教学表述也会改变泛化。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
Model evaluation for extreme risks
研究问题测试不能覆盖所有风险时，评测证据应如何约束前沿开发？
来源摘要提议流程既包含训练前评估，也包含开发中的持续评测。
NUWA 研究解读 · 独立复核待完成