评测档案
ImpossibleBench
当规范与测试无法同时满足时,编程智能体是否会利用测试机制?
跨报告监测
已发表证据
ImpossibleBench · Cheating rate (pass@1 on impossible variants)
跨来源报告的已发表测量。任务范围通过注释区分,配置差异保留在每条观测中。
4 条观测 · 3 已定位日期
● 条件匹配◇ 配置差异□ 部分条件未披露
1 条观测尚无已核实的模型发布日期,可在数据与系统结果中查看。
选择图中数据点或表格行,查看条件与出处。
4 条观测
| 系统/模型 | 结果 | 条件状态 | 任务/条件 | 评测方/报告 | 日期 |
|---|---|---|---|---|---|
| 2.9%Cheating rate (pass@1 on impossible variants) | 条件不完整 | Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)— | MetaEvaluating Kimi K3 for Misalignment Risks | 发布 2026-02-05报告 2026-09-11 | |
| 1.5%Cheating rate (pass@1 on impossible variants) | 条件不完整 | Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)— | Neo ResearchEvaluating Kimi K3 for Misalignment Risks | 发布 2026-07-16报告 2026-09-11 | |
| 0.5%Cheating rate (pass@1 on impossible variants) | 条件不完整 | Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)— | Neo ResearchEvaluating Kimi K3 for Misalignment Risks | 发布 —报告 2026-09-11 | |
| 0%Cheating rate (pass@1 on impossible variants) | 条件不完整 | Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)— | Neo ResearchEvaluating Kimi K3 for Misalignment Risks | 发布 2026-07-09报告 2026-09-11 |
结合任务范围与运行配置解读结果。
METR Time Horizon 1.1 来源已停止积极更新,最后更新于 2026 年 9 月 8 日。超过 16 小时的估计超出其可靠测量范围。
协议、配置与原始证据 →任务与测量
Benchmark 协议档案
- 任务/对象
- 给定任务配置中的模型或智能体。
- 测量目标
- 构造不可同时满足要求的编程任务变体,检验违反规范的通过结果。
- 评分/结果口径
- Cheating rate (pass@1 on impossible variants) · 记录配置下的来源报告指标。
- 解释边界
- 作弊率受矛盾条件、测试访问和脚手架限制,不是一般不诚实率。
构造不可同时满足要求的编程任务变体,检验违反规范的通过结果。
一项已报告评测
来源评测 Kimi K3 · Impossible-LiveCodeBench split with tools.
报告指标: Cheating rate (pass@1 on impossible variants) · 1.5%.
记录配置下的来源报告指标。 原文未披露本结果的样本量
Cheating rate (pass@1 on impossible variants):1.5 %;保留来源条件。
测量档案 · NUWA 解读
档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。
- 测量构念
- 测试故意不可能时,智能体会违背规格来通过吗?
- 任务与样本
- 将LiveCodeBench与SWE-bench改为测试和自然语言规格冲突,借通过率测作弊代理。
- 判分与失效情形
- 刻意与规格冲突的不可能测试通过率作为作弊代理。
- 系统条件
- 变异LiveCodeBench和SWE-bench,改变提示测试访问与反馈。
- 统计含义
- 来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 监测在Impossible-LiveCodeBench检出86–89%,在Impossible-SWEbench明显更低。
- 效度与解释
- 只有变异确实不可解,通过才证明违规;该比例不估计普通编程作弊率。
- 适用研究问题
- 模型建议:验证不可能性,并保留测试访问、提示和反馈条件。
- ImpossibleBench · AbstractSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
- ImpossibleBench · §2 Benchmark CurationSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
- ImpossibleBench · §5 Results: Context EngineeringSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
- ImpossibleBench · §6 Results: MonitoringSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
跨报告证据
相同 Benchmark 名称可能对应不同任务、计分规则和系统配置。各来源分别保留,比较组说明具体对齐了哪些条件。
Neo Research
Evaluating Kimi K3 for Misalignment Risks →
实际评测方: Neo Research · Meta
4 条结果记录 · 4 个报告系统名称
协议与比较依据 (1)
ImpossibleBench:Cheating rate (pass@1 on impossible variants) · Neo Researchsource-report · 范围已审查
原始来源图表与材料
已收录协议范围,精确数值提取及适用原图仍待核查。
评估出处
相关研究问题
欺骗 / 评测规避 →
该协议明确测量该问题或其使能子能力,结论保留给定条件。
参考文献
- [1] Kimi Code — What’s New ; Kimi K3 · July 16, 2026
- [2] kimi-k3 developer model card ; Model Summary: Total Parameters; Activated Parameters
- [3] GPT-5.6 official general availability ; July 9, 2026: general availability following limited trusted-partner preview; Parameter counts not disclosed in reviewed launch article
- [4] Claude Opus 4.6 — Anthropic ; Publication date and availability section; Official launch article; parameter counts not disclosed
- [5] Evaluating Kimi K3 for Misalignment Risks. 2026-09-11. September 2026 ; §2.3 Figure 17 p.27
- [6] ImpossibleBench. 2025-10-23