白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English

RESEARCH RECORD

Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

Gosha Kozhevnikov · Tyler Tracy · Redwood Research

原始文献 ↗ · BibTeX · RIS

部分绕过案例迁移成功并通过人工有效性检查。该方法测量监测鲁棒性,不测量智能体自行攻击的倾向。

研究问题

如何在不执行攻击时发现真实感较强的监测失败?

设计与前提

编辑已记录轨迹,使用拥有额外信息的验证器,并测试向留出监测器迁移。

研究发现

部分绕过案例迁移成功并通过人工有效性检查。

该方法测量监测鲁棒性,不测量智能体自行攻击的倾向。

局限与反证

没有实际环境执行;验证器会误接收无效攻击,因此需要人工检查。

来源证据

系统测量原值条件与位置
—管线运行次数252count252 runs on 94 unique transcriptsL4,L61
—独立来源轨迹数量94countSource corpus, not independent pipeline runsL4,L61
—proxy-evasions35attacksAttacks evading proxy monitors; candidate setL4
—validated-transferSixattacksn = 35 Held-out monitor evasion plus human validity review; denominator 35 selected proxy evasionsL4
—绕过代理监测器的攻击35countn = 252 Proxy monitors based on Opus 4.8 and Gemini 3.1 Pro; selected output of 252 runsL4,L61
—人工复核前绕过留出监测器的攻击17countn = 35 Final review confirmed 6 of these 17; do not treat all as validL4,L61
—经原作者人工复核的留出监测器绕过攻击6countn = 17 Confirmed by original authors; 6 of 17 reviewed held-out evaders; entire search started with252runsL4,L61
阅读范围与复核

Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited

模型辅助整理,独立证据复核待完成。

核对原始来源 ↗