RESEARCH RECORD
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
原始文献 ↗ · BibTeX · RIS部分绕过案例迁移成功并通过人工有效性检查。该方法测量监测鲁棒性,不测量智能体自行攻击的倾向。
研究问题
如何在不执行攻击时发现真实感较强的监测失败?
设计与前提
编辑已记录轨迹,使用拥有额外信息的验证器,并测试向留出监测器迁移。
研究发现
部分绕过案例迁移成功并通过人工有效性检查。
该方法测量监测鲁棒性,不测量智能体自行攻击的倾向。
局限与反证
没有实际环境执行;验证器会误接收无效攻击,因此需要人工检查。
来源证据
| 系统 | 测量 | 原值 | 条件与位置 |
|---|---|---|---|
| — | 管线运行次数 | 252count | 252 runs on 94 unique transcriptsL4,L61 |
| — | 独立来源轨迹数量 | 94count | Source corpus, not independent pipeline runsL4,L61 |
| — | proxy-evasions | 35attacks | Attacks evading proxy monitors; candidate setL4 |
| — | validated-transfer | Sixattacksn = 35 | Held-out monitor evasion plus human validity review; denominator 35 selected proxy evasionsL4 |
| — | 绕过代理监测器的攻击 | 35countn = 252 | Proxy monitors based on Opus 4.8 and Gemini 3.1 Pro; selected output of 252 runsL4,L61 |
| — | 人工复核前绕过留出监测器的攻击 | 17countn = 35 | Final review confirmed 6 of these 17; do not treat all as validL4,L61 |
| — | 经原作者人工复核的留出监测器绕过攻击 | 6countn = 17 | Confirmed by original authors; 6 of 17 reviewed held-out evaders; entire search started with252runsL4,L61 |
阅读范围与复核
Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited
模型辅助整理,独立证据复核待完成。
核对原始来源 ↗