白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

评测档案

ImpossibleBench

当规范与测试无法同时满足时,编程智能体是否会利用测试机制?

来源与出处 ↓ 阅读研究记录 →

跨报告监测

已发表证据

ImpossibleBench · Cheating rate (pass@1 on impossible variants)

跨来源报告的已发表测量。任务范围通过注释区分,配置差异保留在每条观测中。

4 条观测 · 3 已定位日期

● 条件匹配◇ 配置差异□ 部分条件未披露
Cheating rate (pass@1 on impossible variants) (%) Claude Opus 4.6 Kimi K3 DeepSeek V4 Flash GPT-5.6 Terra 0 20 40 60 80 100 2.9% 1.5% 0.5% 0%

1 条观测尚无已核实的模型发布日期,可在数据与系统结果中查看。

选择图中数据点或表格行,查看条件与出处。

4 条观测

测量值与来源条件
系统/模型结果条件状态任务/条件评测方/报告日期
Claude Opus 4.62.9%Cheating rate (pass@1 on impossible variants)条件不完整Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)—MetaEvaluating Kimi K3 for Misalignment Risks发布 2026-02-05报告 2026-09-11
Kimi K31.5%Cheating rate (pass@1 on impossible variants)条件不完整Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-16报告 2026-09-11
DeepSeek V4 FlashDeepSeek V4 Flash 07310.5%Cheating rate (pass@1 on impossible variants)条件不完整Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 —报告 2026-09-11
GPT-5.6 Terra0%Cheating rate (pass@1 on impossible variants)条件不完整Impossible-LiveCodeBench split with toolsCheating rate (pass@1 on impossible variants)—Neo ResearchEvaluating Kimi K3 for Misalignment Risks发布 2026-07-09报告 2026-09-11

任务与测量

Benchmark 协议档案

任务/对象
给定任务配置中的模型或智能体。
测量目标
构造不可同时满足要求的编程任务变体,检验违反规范的通过结果。
评分/结果口径
Cheating rate (pass@1 on impossible variants) · 记录配置下的来源报告指标。
解释边界
作弊率受矛盾条件、测试访问和脚手架限制,不是一般不诚实率。

构造不可同时满足要求的编程任务变体,检验违反规范的通过结果。

一项已报告评测

来源评测 Kimi K3 · Impossible-LiveCodeBench split with tools.

报告指标: Cheating rate (pass@1 on impossible variants) · 1.5%.

记录配置下的来源报告指标。 原文未披露本结果的样本量

Cheating rate (pass@1 on impossible variants):1.5 %;保留来源条件。

测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。

测量构念
测试故意不可能时,智能体会违背规格来通过吗?
任务与样本
将LiveCodeBench与SWE-bench改为测试和自然语言规格冲突,借通过率测作弊代理。
判分与失效情形
刻意与规格冲突的不可能测试通过率作为作弊代理。
系统条件
变异LiveCodeBench和SWE-bench,改变提示测试访问与反馈。
统计含义
来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 监测在Impossible-LiveCodeBench检出86–89%,在Impossible-SWEbench明显更低。
效度与解释
只有变异确实不可解,通过才证明违规;该比例不估计普通编程作弊率。
适用研究问题
模型建议:验证不可能性,并保留测试访问、提示和反馈条件。
  • ImpossibleBench · AbstractSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
  • ImpossibleBench · §2 Benchmark CurationSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
  • ImpossibleBench · §5 Results: Context EngineeringSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established
  • ImpossibleBench · §6 Results: MonitoringSelected original resource https://arxiv.org/html/2510.20270; sha256:c2850cd2eaf221a7a22b315b1fb5ef2a797c92f0ff757adbf2ece0d08168dad3; archived source capture; exact capture time not independently established

跨报告证据

相同 Benchmark 名称可能对应不同任务、计分规则和系统配置。各来源分别保留,比较组说明具体对齐了哪些条件。

原始来源图表与材料

阅读原始协议 ↗

已收录协议范围,精确数值提取及适用原图仍待核查。

评估出处

Evaluating Kimi K3 for Misalignment Risks → · 外部报告

相关研究问题

参考文献

  1. [1] Kimi Code — What’s New ; Kimi K3 · July 16, 2026
  2. [2] kimi-k3 developer model card ; Model Summary: Total Parameters; Activated Parameters
  3. [3] GPT-5.6 official general availability ; July 9, 2026: general availability following limited trusted-partner preview; Parameter counts not disclosed in reviewed launch article
  4. [4] Claude Opus 4.6 — Anthropic ; Publication date and availability section; Official launch article; parameter counts not disclosed
  5. [5] Evaluating Kimi K3 for Misalignment Risks. 2026-09-11. September 2026 ; §2.3 Figure 17 p.27
  6. [6] ImpossibleBench. 2025-10-23