白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English

RESEARCH RECORD

How confessions can keep language models honest

OpenAI · openai

原始文献 ↗ · BibTeX · RIS

作者报告违规更容易被发现,包括主回答奖励可被利用的情形。

研究问题

独立自述能否揭示隐藏的指令违反?

设计与前提

GPT-5 Thinking 在独立诚实奖励下学习报告合规情况,并接受压力数据集测试。

研究发现

作者报告违规更容易被发现,包括主回答奖励可被利用的情形。

局限与反证

仍为概念验证;它揭示而非阻止行为,模型困惑仍会造成漏报。

来源证据

当前阅读包尚无结构化数值提取。

阅读范围与复核

Selected original webpage sections; linked paper, appendix and data not fully audited.

模型辅助整理,独立证据复核待完成。

核对原始来源 ↗