Multi-Agent AI Control: Distributed Attacks Hamper Per-Instance Monitors
研究问题分布式协作能否绕过逐智能体提交监测?
来源摘要更多协作智能体降低逐提交可疑度,明确规划者使成功最高增七倍。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
研究机构
角色与署名遵循所引原始资料。来源核验不等于独立复现实验。
更多筛选 →研究问题分布式协作能否绕过逐智能体提交监测?
来源摘要更多协作智能体降低逐提交可疑度,明确规划者使成功最高增七倍。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限
研究问题有限审计预算下,能否保留多步智能体效用并阻止刻意破坏策略?
来源摘要重采样既可替换可疑动作,也能收集进一步证据。
NUWA 研究解读 · 独立复核待完成 · 包含: 问题 / 方法 / 发现 / 解读 / 局限 / 关联
研究问题模型能否隐藏部分能力,并产生看似合理的较低评测表现?
来源摘要选择性抑制能够泛化到合成训练数据以外。
NUWA 研究解读 · 独立复核待完成