RESEARCH RECORD

How we monitor internal coding agents for misalignment

OpenAI · openai

监测覆盖已知员工上报并发现额外问题；报告未发现最高严重度的真实会话。

研究问题

部署监测能揭示哪些编程智能体失准行为？

模型审查推理与动作，并将可疑轨迹分流给人工。

监测覆盖已知员工上报并发现额外问题；报告未发现最高严重度的真实会话。

对已上报事件的召回不能证明对未知隐蔽失败的漏报率。

当前阅读包尚无结构化数值提取。

阅读范围与复核

Selected original webpage sections; linked paper, appendix and data not fully audited.

模型辅助整理，独立证据复核待完成。