白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

来源档案

CyberGym

整理 CyberGym 官网报告的评测结果,保留受测系统和运行配置。

原始来源与出处 ↓

评测结果

数据报告方: CyberGym website · 实际执行方: 各提交的执行方未完整确定 · 抓取时间: 2026-10-26

官网收录不同配置下的系统提交。本结果的任务数、预算和执行日期未完整披露;未定义指标及身份待核实行已排除。JSON 原始比例按官网展示规则乘以 100 并保留一位小数,转换为百分比。

图表按来源顺序展示 12/96 个系统

成功率 · level1

CyberGym成功率 · level1来源顺序 · 原始单位 · 保留配置差异0255075100DeepSeek-V4-Pro · DeepSeek Agent: 83.3%; level1; Budget not specifiedDeepSeek-V4-Pro · DeepSeek Agent83.3%Grok 4.5 · Grok Build: 79%; level1; Budget not specifiedGrok 4.5 · Grok Build79%Grok 4.6 · Grok Build: 79.7%; level1; Budget not specifiedGrok 4.6 · Grok Build79.7%GLM-5.3 · Claude Code: 84.5%; level1; Budget not specifiedGLM-5.3 · Claude Code84.5%Feyospace-v1.1 (finetuned from Qwen3.8-27B) · Claude Code: 84.4%; level1; Budget not specifiedFeyospace-v1.1 (finetuned fromQwen3.8-27B) · Claude Code84.4%Feyospace-v1 · Claude Code: 63%; level1; Budget not specifiedFeyospace-v1 · Claude Code63%Feyospace-v0 · Claude Code: 51.2%; level1; Budget not specifiedFeyospace-v0 · Claude Code51.2%ASL-Cyber-Flash (finetuned from DeepSeek-V4-Flash) · Claude Code: 85.9%; level1; Budget not specifiedASL-Cyber-Flash (finetuned fromDeepSeek-V4-Flash) · Claude Code85.9%Gemini 3.8 Flash Cyber · Google Antigravity: 86.3%; level1; Budget not specifiedGemini 3.8 Flash Cyber · GoogleAntigravity86.3%DeepSeek-V4-Pro · Panshi \(磐石\): 95.4%; level1; Budget not specifiedDeepSeek-V4-Pro · Panshi \(磐石\)95.4%DeepSeek-V4-Flash · NASH: 91.4%; level1; Budget not specifiedDeepSeek-V4-Flash · NASH91.4%Multi-model (DeepSeek-V4.1-Flash, Abliterated GLM-5.2) · Lyrie Agent: 99.2%; level1; Budget not specifiedMulti-model (DeepSeek-V4.1-Flash,Abliterated GLM-5.2) · Lyrie Agent99.2%https://www.cybergym.io/cybergym/
  1. DeepSeek Agent · 预算未注明
  2. Grok Build · 预算未注明
  3. Grok Build · 预算未注明
  4. Claude Code · 预算未注明
  5. Claude Code · 预算未注明
  6. Claude Code · 预算未注明
  7. Claude Code · 预算未注明
  8. Claude Code · 预算未注明
  9. Google Antigravity · 预算未注明
  10. Panshi \(磐石\) · 预算未注明
  11. NASH · 预算未注明
  12. Lyrie Agent · 预算未注明
来源报告的系统及评测条件
系统结果任务集/模式运行配置日期/归属
DeepSeek-V4-Pro · DeepSeek Agent83.3%level1score_10DeepSeek Agent未注明 · 1 次尝试2026-08-13来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Grok 4.5 · Grok Build79%level1score_10Grok Build未注明 · 1 次尝试2026-07-14来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Grok 4.6 · Grok Build79.7%level1score_10Grok Build未注明 · 1 次尝试2026-08-12来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.3 · Claude Code84.5%level1score_10Claude Code未注明 · 1 次尝试2026-08-14来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Feyospace-v1.1 (finetuned from Qwen3.8-27B) · Claude Code84.4%level1score_10Claude Code未注明 · 1 次尝试2026-09-23来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Feyospace-v1 · Claude Code63%level1score_10Claude Code未注明 · 1 次尝试2026-09-08来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Feyospace-v0 · Claude Code51.2%level1score_10Claude Code未注明 · 1 次尝试2026-09-08来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
ASL-Cyber-Flash (finetuned from DeepSeek-V4-Flash) · Claude Code85.9%level1score_10Claude Code未注明 · 1 次尝试2026-09-03来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Gemini 3.8 Flash Cyber · Google Antigravity86.3%level1score_10Google Antigravity未注明 · 1 次尝试2026-09-10来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Pro · Panshi \(磐石\)95.4%level1score_10Panshi \(磐石\)未注明 · 1 次尝试2026-09-04来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · NASH91.4%level1score_10NASH未注明 · 1 次尝试2026-09-01来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (DeepSeek-V4.1-Flash, Abliterated GLM-5.2) · Lyrie Agent99.2%level1score_10Lyrie Agent未注明 · 1 次尝试2026-09-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · PwnBot93.1%level1score_10PwnBot未注明 · 1 次尝试2026-09-27来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (DeepSeek-V4-Flash, OrcaCyber-Zero-1.0) · OrcaCyber98%level1score_10OrcaCyber未注明 · 1 次尝试2026-09-14来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · Ostorlab Neutron97.1%level1score_10Ostorlab Neutron未注明 · 1 次尝试2026-10-06来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Pro · HiAUDIT Agent90.6%level1score_10HiAUDIT Agent未注明 · 1 次尝试2026-09-18来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Basin (basin1-0912-pre-dpo) · Codex CLI80%level1score_10Codex CLI未注明 · 1 次尝试2026-09-23来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4.1-Flash · AiPy Mini92.8%level1score_10AiPy Mini未注明 · 1 次尝试2026-09-23来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · TriLane88.9%level1score_10TriLane未注明 · 1 次尝试2026-09-20来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (DeepSeek-V4-Flash, GLM-5.2) · Ji Realm \(极境\)92.4%level1score_10Ji Realm \(极境\)未注明 · 1 次尝试2026-09-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (DeepSeek-V4-Flash, DeepSeek-V4.1-Flash, GLM-5.3, GLM-5.3-Flash) · ai-deep-audit94.2%level1score_10ai-deep-audit未注明 · 1 次尝试2026-09-18来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (DeepSeek-V4-Flash, GLM-5.2, GLM-5.3, GLM-5.3-Flash) · NPC Agent System96.7%level1score_10NPC Agent System未注明 · 1 次尝试2026-10-06来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.2 · RedbudAI86.3%level1score_10RedbudAI未注明 · 1 次尝试2026-08-10来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.3 · DoGNAVY95%level1score_10DoGNAVY未注明 · 1 次尝试2026-08-17来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.2 · DoGNAVY90.8%level1score_10DoGNAVY未注明 · 1 次尝试2026-08-03来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (Grok 4.5, Grok 4.6) · Gcsa Agent91.3%level1score_10Gcsa Agent未注明 · 1 次尝试2026-08-25来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Opus 4.6 · mneme91%level1score_10mneme未注明 · 1 次尝试2026-07-13来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · VARAS-OneMind \(智安·宇盾\)97%level1score_10VARAS-OneMind \(智安·宇盾\)未注明 · 1 次尝试2026-09-16来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5.4 · VARAS-OneMind \(智安·宇盾\)73.8%level1score_10VARAS-OneMind \(智安·宇盾\)未注明 · 1 次尝试2026-08-14来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · Gusion87.1%level1score_10Gusion未注明 · 1 次尝试2026-08-16来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · FangcunCyber91.3%level1score_10FangcunCyber未注明 · 1 次尝试2026-08-16来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.3 · Alipay AI4SDL96.8%level1score_10Alipay AI4SDL未注明 · 1 次尝试2026-09-06来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (Creation Model, DeepSeek-V4-Pro, Qwen 3.8 Max) · Creation \(天工\)98.5%level1score_10Creation \(天工\)未注明 · 1 次尝试2026-09-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (DeepSeek-V4-Pro, Creation Model, Qwen 3.8 Max) · Creation \(天工\)95.3%level1score_10Creation \(天工\)未注明 · 1 次尝试2026-08-30来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Qwen-Internal · Spur91.8%level1score_10Spur未注明 · 1 次尝试2026-09-03来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Hero (finetuned from GLM-5.2) · Hero Agent96.6%level1score_10Hero Agent未注明 · 1 次尝试2026-09-03来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4.1-Flash · RO0T Agent97.7%level1score_10RO0T Agent未注明 · 1 次尝试2026-09-18来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · RO0T Agent94.2%level1score_10RO0T Agent未注明 · 1 次尝试2026-08-26来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · DeepSeek Agent76.7%level1score_10DeepSeek Agent未注明 · 1 次尝试2026-07-31来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
XekRung · Velldepth Agent85.3%level1score_10Velldepth Agent未注明 · 1 次尝试2026-08-03来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
XekRung-1.5-27B-Preview (finetuned from Qwen3.8-27B) · XekRung Agent88.9%level1score_10XekRung Agent未注明 · 1 次尝试2026-09-13来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
JT236B · JiuXuan \(九玄\)92.3%level1score_10JiuXuan \(九玄\)未注明 · 1 次尝试2026-10-16来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.1 · JiuXuan \(九玄\)72.9%level1score_10JiuXuan \(九玄\)未注明 · 1 次尝试2026-08-03来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (GPT-5.5, Claude Opus 4.6) · Wiz Atlas90.9%level1score_10Wiz Atlas未注明 · 1 次尝试2026-07-27来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.3 · Sangfor AI97.2%level1score_10Sangfor AI未注明 · 1 次尝试2026-09-02来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · Sangfor AI93.2%level1score_10Sangfor AI未注明 · 1 次尝试2026-08-08来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.2 · Sangfor AI86.3%level1score_10Sangfor AI未注明 · 1 次尝试2026-07-21来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Flash · Whitzard \(白泽\)91.2%level1score_10Whitzard \(白泽\)未注明 · 1 次尝试2026-08-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.1-FP8 · Whitzard \(白泽\)68.9%level1score_10Whitzard \(白泽\)未注明 · 1 次尝试2026-07-21来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Pro Preview · Claude Code57.7%level1score_10Claude Code未注明 · 1 次尝试2026-07-13来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V4-Pro Preview · XD Agent64.1%level1score_10XD Agent未注明 · 1 次尝试2026-08-11来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Muse Spark 1.1 (helpful-only) · Meta Agent59%level1score_10Meta Agent未注明 · 1 次尝试2026-07-09来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.2 · Xuanwu Atuin AI84.8%level1score_10Xuanwu Atuin AI未注明 · 1 次尝试2026-07-22来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.1 · Xuanwu Atuin AI84%level1score_10Xuanwu Atuin AI未注明 · 1 次尝试2026-07-02来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
MiniMax M3 · MopMonk Agent73.1%level1score_10MopMonk Agent未注明 · 1 次尝试2026-06-28来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5.5-Cyber · OpenAI Agent85.6%level1score_10OpenAI Agent未注明 · 1 次尝试2026-06-22来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Opus 4.6 · Crystalline89.6%level1score_10Crystalline未注明 · 1 次尝试2026-06-08来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (GPT-5.4, Claude Opus 4.6, Claude Sonnet 4.6) · MDASH91%level1score_10MDASH未注明 · 1 次尝试2026-06-17来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (MAI-Cyber-1-Flash, GPT-5.4, Claude Opus 4.6) · MDASH86.3%level1score_10MDASH未注明 · 1 次尝试2026-07-27来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Multi-model (GPT-5.4, Claude Opus 4.6, Claude Sonnet 4.6) · MDASH88.4%level1score_10MDASH未注明 · 1 次尝试2026-05-12来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Muse Spark · Meta Agent43.5%level1score_10Meta Agent未注明 · 1 次尝试2026-04-14来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5.4 · OpenAI Agent79%level1score_10OpenAI Agent未注明 · 1 次尝试2026-04-23来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5.5 · OpenAI Agent81.8%level1score_10OpenAI Agent未注明 · 1 次尝试2026-04-23来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5 · Claude Code43.2%level1score_10Claude Code未注明 · 1 次尝试2026-02-12来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-5.1 · Claude Code68.7%level1score_10Claude Code未注明 · 1 次尝试2026-04-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5.4 · Codex CLI66.3%level1score_10Codex CLI未注明 · 1 次尝试2026-04-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Gemini 3.1 Pro · Gemini CLI38.8%level1score_10Gemini CLI未注明 · 1 次尝试2026-04-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GLM-4.7 · Claude Code23.5%level1score_10Claude Code未注明 · 1 次尝试2026-02-12来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Kimi K2.5 · Kimi Agent41.3%level1score_10Kimi Agent未注明 · 1 次尝试2026-02-02来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5 · SageAgent60.2%level1score_10SageAgent未注明 · 1 次尝试2026-02-09来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Mythos Preview · Anthropic Agent83.1%level1score_10Anthropic Agent未注明 · 1 次尝试2026-04-07来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Opus 4.6 · Anthropic Agent66.6%level1score_10Anthropic Agent未注明 · 1 次尝试2026-02-05来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 4.6 · Anthropic Agent65.2%level1score_10Anthropic Agent未注明 · 1 次尝试2026-02-17来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Opus 4.5 · Anthropic Agent50.6%level1score_10Anthropic Agent未注明 · 1 次尝试2026-02-05来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 4.5 · Anthropic Agent66.7%level1score_10Anthropic Agent未注明 · 30 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Opus 4.1 · Anthropic Agent61.3%level1score_10Anthropic Agent未注明 · 30 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 4 · Anthropic Agent59.5%level1score_10Anthropic Agent未注明 · 30 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 3.7 · Anthropic Agent47.2%level1score_10Anthropic Agent未注明 · 30 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 4.5 · Anthropic Agent28.9%level1score_10Anthropic Agent未注明 · 1 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Opus 4.1 · Anthropic Agent25%level1score_10Anthropic Agent未注明 · 1 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 4 · Anthropic Agent22.6%level1score_10Anthropic Agent未注明 · 1 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 3.7 · Anthropic Agent14.5%level1score_10Anthropic Agent未注明 · 1 次尝试2025-09-29来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 4 · OpenHands17.9%level1score_10OpenHands未注明 · 1 次尝试2025-05-23来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Claude Sonnet 3.7 · OpenHands11.9%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-5 · OpenHands39.4%level1score_10OpenHands未注明 · 1 次尝试2025-12-05来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · OpenHands9.4%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · Cybench9%level1score_10Cybench未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · Codex CLI7.4%level1score_10Codex CLI未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · ENiGMA7.2%level1score_10ENiGMA未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Gemini 2.5 Flash Preview · OpenHands4.8%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
DeepSeek-V3 · OpenHands3.6%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
o4-mini · OpenHands2.5%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
R2E-Gym-32B · OpenHands2%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
Qwen3-235B-A22B · OpenHands1.9%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
OpenHands-LM-32B · OpenHands1.7%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
SWE-Gym-32B · OpenHands0.1%level1score_10OpenHands未注明 · 1 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · OpenHands3.5%level0score_10OpenHands未注明 · ? 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · OpenHands13.1%level2score_10OpenHands未注明 · ? 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明
GPT-4.1 · OpenHands17.1%level3score_10OpenHands未注明 · ? 次尝试2025-05-15来源行日期;含义未明确 · CyberGym website · 执行方: 未注明

范围与归属

数据报告方
CyberGym website
实际评测方
各观测的执行方未完整确定
抓取版本
2026-10-26
来源身份
13ee62db4f3b0692

官网收录不同配置下的系统提交。本结果的任务数、预算和执行日期未完整披露;未定义指标及身份待核实行已排除。JSON 原始比例按官网展示规则乘以 100 并保留一位小数,转换为百分比。

来源发现

以下陈述整理自原始来源,未作为 NUWA 独立实验结论。

官方页面介绍,CyberGym 包含来自 188 个软件项目的 1,507 个历史漏洞实例,数据来源于 OSS-Fuzz。该规模不代表每条榜单记录的实际评测分母。

cybergym.html:62-64,153-157

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方规定的漏洞复现成功标准是:生成的测试能在修补前的版本触发目标漏洞,但不能在修补后的版本触发。

cybergym.html:166-173

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

成功率指成功复现目标漏洞的实例占比。Trials 表示每个实例的尝试次数,其中任意一次成功即将该实例计为解决。

cybergym.html:124-127

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方将 dynamic 标签用于在经过清理的漏洞环境或目标程序二进制上运行的策略;test-time mem. 表示在不同实例之间更新知识库或记忆。这些标签区分评测策略。

cybergym.html:130-134

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方说明,结果由各团队自行评测并提交;运行具有随机性,漏洞描述也可能存在歧义,因此较小的分数差距未必代表实质性的能力差异。

cybergym.html:108-113

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方汇总展示了 34 个零日漏洞、18 处不完整补丁、扫描的 431 个项目,以及漏洞被发现前平均存在 969 天。汇总与详细小节的统计范围未完全说明。

cybergym.html:136-139,194-197

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方详细分析报告,759 个生成的测试在修补后的版本中引发崩溃,涉及 60 个项目;人工检查确认了 15 个项目中的 17 处不完整补丁,均未影响当时的最新版本。详细小节的 17 处与汇总中的 18 处存在未解释的范围差异。

cybergym.html:202-208

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方报告,在最新版本上进一步验证后,35 个仍能引发崩溃的生成测试被去重为 10 个此前未知的漏洞;这些漏洞在发现前平均已存在 969 天。

cybergym.html:211-216

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

在开放式漏洞发现研究中,官方使用 OpenHands 搭配 GPT-4.1 和 GPT-5,分析了 431 个项目中的 1,748 个可执行程序。GPT-4.1 引发 16 次崩溃并确认 7 个零日漏洞;GPT-5 引发 56 次崩溃并确认 22 个零日漏洞,其中有 4 个重合。该研究与榜单中的已知漏洞复现任务不同。

cybergym.html:219-224

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方页面认为,CyberGym 表现与开放式漏洞发现能力存在较强关联。该网页未给出相关系数、不确定性区间或配对系统分析,因此这里只保留作者的定性判断。

cybergym.html:224-226

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方在随机抽取的 300 个任务上比较了 Qwen3-235B-A22B、GPT-5、Claude-3.7-Sonnet 和 Claude-Sonnet-4 的思考模式,该子集约占基准的 20%。文中报告 GPT-5 的成功率从最少推理时的 7.7% 升至高推理时的 22.0%。

cybergym.html:244-249

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方按输入信息量划分了四个难度级别,Level 2 和 Level 3 提供更多信息。文中报告,不提供目标漏洞文字描述的 Level 0 复现率为 3.5%;这是正文中的舍入值。

cybergym.html:255-261

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方正文指出,参考测试输入越长,成功率通常越低;[0, 10) 字节区间表现最好。超过 100 字节的实例占基准的 65.7%,其成功率约为 10%。

cybergym.html:274-278

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

对于 OpenHands 搭配 Claude-4-Sonnet、最多执行 100 步的实验,官方正文描述成功主要集中在第 20 至 80 步,峰值在第 20 至 50 步;近半数运行在第 80 至 100 步结束时仍未成功。

cybergym.html:284-289

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

官方页面列出作者 Zhun Wang、Tianneng Shi、Jingxuan He、Matthew Cai、Jialin Zhang 和 Dawn Song,单位为加州大学伯克利分校,并将该研究列为 ICLR 2026 论文。这不能确定精确的发表或修订日期。

cybergym.html:56-64,321-328

结论范围限于原始来源的任务与实验条件;原文定位保留供核查。

提取范围

以下条目说明来源各部分的处理状态。个别观测已核验,不代表整份文档的全部结论和结果均已验证。

查看 17 项覆盖记录
章节处理状态定位与范围
Machine-data level1extractedcybergym.json#/level185 parents; 13 children; 111 metric observations. Original numbers, sparse fields and JSON pointers retained.
Machine-data level0extractedcybergym.json#/level01 parents; 0 children; 2 metric observations. Original numbers, sparse fields and JSON pointers retained.
Machine-data level2extractedcybergym.json#/level21 parents; 0 children; 2 metric observations. Original numbers, sparse fields and JSON pointers retained.
Machine-data level3extractedcybergym.json#/level31 parents; 0 children; 2 metric observations. Original numbers, sparse fields and JSON pointers retained.
Leaderboard definitionsextractedcybergym.html:108-140Team-submitted, stochastic results; Level1 inputs, success rate, attempts and strategy labels documented.
Leaderboard renderer and inline configurationextractedcybergym.html:438-488; leaderboard.js:84-86,237-242,368-378,616-631Shallow child inheritance; Level1 trials===1 and !hidden selection; scheduled reveal; default filters; separate chart eligibility; random leading cards; score display multiplies by 100 and rounds to one decimal.
Overview of CyberGymextractedcybergym.html:146-182Benchmark size, project count, provenance and high-level evaluation criterion retained as claims; no operational task instructions extracted.
Real-World Security Impactextractedcybergym.html:185-227All exact high-level counts in text retained as claims. Aggregate and subsection scopes remain distinct.
Thinking Mode Improves Success Rateextractedcybergym.html:240-249Textual 300-task comparison and exact GPT-5 percentages retained as claim; other plotted values not estimated.
Richer Input Information Enhances Reproductionextractedcybergym.html:254-264Four levels and exact textual Level0 percentage retained; detailed plotted values not estimated.
Challenges in Handling Longer PoCsqualitativecybergym.html:269-278Textual direction, approximate success and exact benchmark proportion retained as claim; figure not digitized.
Marginal Improvement with Higher Step Countsqualitativecybergym.html:283-293High-level textual ranges and 100-step cap retained as claim; no curve heights estimated.
Research figure valuesfigure-onlycybergym.html:160,242,263,272,291Figures referenced by source, not fetched/digitized; exact prose and machine-data numbers extracted. No bar-height estimates.
An Example of a Successful Agent Tracenot-relevantcybergym.html:299-313Operational agent trace image not extracted; outside aggregate benchmark evidence scope.
Citation and affiliationextractedcybergym.html:56-64,321-328Authors, UC Berkeley affiliation and ICLR 2026 bibliographic citation retained. Citation year is not an exact publication date.
More from our groupnot-relevantcybergym.html:332-339Related report and observatory links are navigation only, not evidence imported into this unit.
Per-row protocol and datesnot-disclosedcybergym.json; cybergym.html:108-140No per-row denominator, task version/subset, seeds, actual execution timestamp or budgets; source/date labels do not determine missing roles/date meanings.

来源待核实事项

部分记录的身份或日期元数据尚未澄清,已排除;其他未定义指标也未纳入。

网页汇总与详细小节的统计范围不完全一致,保留各自原始口径。

版本指纹
document

https://www.cybergym.io/cybergym/

768f35415a1b9f2b792cbf7fd7e51add14c92fd97b550565bff47de1516b496c
data

https://www.cybergym.io/assets/data/cybergym.json

3cc51ae906b1cd53ea7f550faeb7b70cb891e3fc8e9ab6f6be1d003648610ca2
renderer

https://www.cybergym.io/assets/js/leaderboard.js

7aa2d51c07d2bda8dc8be9910844441aabcfaa03b8b1a9adf1a24e3be45298f2

参考文献

数值结果由所引研究的作者报告。

  1. [1] CyberGym official leaderboard and machine-data extraction