RESEARCH RECORD

Reasoning models struggle to control their chains of thought, and that’s good

Tomek Korbak · Micah Carroll · Bowen Baker · Ian Kivlichan · openai

受测模型可控性较低；更多推理和部分强化学习训练进一步降低它。

研究问题

推理模型能否刻意改变用于监督的推理轨迹？

CoT-Control 将已有任务与推理文本约束配对，比较规模和推理预算。

受测模型可控性较低；更多推理和部分强化学习训练进一步降低它。

指令遵从只是逃避监测的代理测量；低可控性本身不能证明可监测性。

当前阅读包尚无结构化数值提取。

阅读范围与复核

Selected original webpage sections; linked paper, appendix and data not fully audited.

模型辅助整理，独立证据复核待完成。