风险治理 · 技术报告

Red-Teaming OpenAI’s Internal Agent Monitoring Systems

NUWA 研究解读 · 独立复核待完成

首次发表: 2026-10-22来源核验: 2026-10-28

原始来源 ↗引用本记录 ↓自主性 →欺骗 →

NUWA Research Note

研究问题研究设计与假设来源发现 NUWA 解读局限与相反证据研究与决策意义证据补充机构与角色原始资源

模型辅助整理 · 选读原始全文或官方文章中的相关章节；尚未完成逐章节审计。

研究速读

高权限试点发现流量覆盖与系统完整性问题；约 10% 漏监只是历史估计，厂商修复说法未经本研究复测。

研究问题

部署监测能否覆盖实际智能体流量？

研究设计与假设

公开报告回顾一个为期三周的高权限内部监测试点，区分流量是否被采集、监测组件是否可被修改，以及告警能否进入响应流程。这里审阅的是公开摘要及脚注，未取得完整内部审计材料。

来源发现

试点识别到流量覆盖和监测系统完整性问题。约 10% 未监测流量是完整日志不足时的历史估计；本研究没有复测厂商之后宣称的修复。

NUWA 解读

监测效果需要一条完整的证据链：流量进入、独立判定、告警与响应。离线分类准确率不能替代对这条链的完整性检查。

局限与相反证据

仅公开试点摘要；不能当作当前漏洞清单或所有流量的精确漏检率。

研究与决策意义

NUWA 建议：公开试点是否可支持更强的独立审计及持续对账？

精确来源位置

Red-Teaming OpenAI’s Internal Agent Monitoring Systems · Public findings and footnotes; text lines 00058Original resource captured 2026-10-28T07:24:41.534220+00:00; sha256:3f696499dad43c8695773e824cdad04269e74a9bec4b030a65710ecbf9657f47

来源核查、数据提取、编辑批准与实验复现分别记录。方法说明 →

证据补充 · 2026-10-28

模型辅助整理 · 独立证据及双语编辑复核待完成。以下数值为来源发现或材料计数，与趋势结果序列分开保存。

关联阅读

NUWA 阅读关联；不据此声称原文引用、实验复现或成绩等价。

AI Control: Improving Safety Despite Intentional Subversion →

下载来源证据 · JSON ↓

机构与角色

发布机构 METR

引用与复用

引用研究发现时请引用原始出版物；引用 NUWA 的整理与解释时，单独引用本站记录及对应快照。

BibTeX ↓RIS ↓记录与来源元数据 · JSON ↓阅读覆盖 · JSON 提交更正

原始出版物 · BibTeX

@misc{monitor-redteam,
  title = {Red-Teaming OpenAI’s Internal Agent Monitoring Systems},
  url = {https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/},
  year = {2026},
  date = {2026-10-22},
  version = {Original resource captured 2026-10-28T07:24:41.534220+00:00; sha256:3f696499dad43c8695773e824cdad04269e74a9bec4b030a65710ecbf9657f47},
  note = {Original resource captured 2026-10-28T07:24:41.534220+00:00; sha256:3f696499dad43c8695773e824cdad04269e74a9bec4b030a65710ecbf9657f47}
}

NUWA 记录 · BibTeX

@misc{monitor-redteam-nuwa,
  title = {Red-Teaming OpenAI’s Internal Agent Monitoring Systems — NUWA research record},
  url = {https://whitzard.tech/nuwa/whitzard-index/work/monitor-redteam/},
  version = {2026-10-29.1},
  organization = {NUWA Frontier AI Safety Lab},
  howpublished = {Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--monitor-redteam.json},
  note = {NUWA research note. Source-reading scope and independent review status are stated on the record. Snapshot 2026-10-29.1. Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--monitor-redteam.json.}
}

证据快照 2026-10-29.1 · 索引更新 · RSS

参考文献

[1] Red-Teaming OpenAI’s Internal Agent Monitoring Systems. 2026-10-22 ; Public findings and footnotes; text lines 00058