白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

评测档案

LAB-Bench

模型在面向研究的科学任务中表现如何?

来源与出处 ↓ 阅读研究记录 →

任务与测量

Benchmark 协议档案

任务/对象
给定任务配置中的模型或智能体。
测量目标
用结构化问题评测生物研究技能;纯文本或缺失输入子集采用独立协议。
评分/结果口径
FigQA attempt, figure withheld · 用结构化问题评测生物研究技能;纯文本或缺失输入子集采用独立协议。
解释边界
衡量一般科研能力,不是端到端滥用任务或直接伤害概率。

SaferAI 在没有开发者合作的情况下评估公开 API,将自行开展的基准测试与明确标出的外部比较结果结合。报告区分任务能力、对抗诱导行为与尝试说服的意愿;各基准的配置和结果来源并不完全相同。

一项已报告评测

来源评测 Kimi K3 · LAB-Bench with figures/tables withheld.

报告指标: FigQA attempt, figure withheld · 79.6%.

用结构化问题评测生物研究技能;纯文本或缺失输入子集采用独立协议。 见报告特定样本与分母。

原文 §1.1.2; Figure 2 报告的测量;转录不等于独立复现实验。

测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。

测量构念
生物基准能否从教科书知识转向实际研究支持技能?
任务与样本
LAB-Bench含逾2,400道选择题,覆盖文献、图表、数据库等研究支持任务,配部分专家基线。
判分与失效情形
研究支持选择题正确率,分子任务且人类基线覆盖不全。
系统条件
逾2,400题,不测操作性湿实验执行。
统计含义
来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 因招募困难,人类专家未覆盖全题集(§3.5)。
效度与解释
作者不声称全面覆盖生物,无工具选择题不能确立真实实验执行或增益。
适用研究问题
模型建议:保留子任务、工具及真实人类覆盖,不提取操作性生物内容。
  • LAB-Bench · AbstractSelected original resource https://arxiv.org/html/2407.10362; sha256:fb4550ba8cc17a4ffb2f30a3e9f1fe78a538a5c1d3508550942723e506ffe2c8; archived source capture; exact capture time not independently established
  • LAB-Bench · §2.1 Dataset description and constructionSelected original resource https://arxiv.org/html/2407.10362; sha256:fb4550ba8cc17a4ffb2f30a3e9f1fe78a538a5c1d3508550942723e506ffe2c8; archived source capture; exact capture time not independently established
  • LAB-Bench · §3 Discussion and LimitationsSelected original resource https://arxiv.org/html/2407.10362; sha256:fb4550ba8cc17a4ffb2f30a3e9f1fe78a538a5c1d3508550942723e506ffe2c8; archived source capture; exact capture time not independently established
  • LAB-Bench · §3.5 Limitations in human evaluationSelected original resource https://arxiv.org/html/2407.10362; sha256:fb4550ba8cc17a4ffb2f30a3e9f1fe78a538a5c1d3508550942723e506ffe2c8; archived source capture; exact capture time not independently established

跨报告证据

相同 Benchmark 名称可能对应不同任务、计分规则和系统配置。各来源分别保留,比较组说明具体对齐了哪些条件。

原始来源图表与材料

LAB-Bench with figures/tables withheld

原始评测方结果 · 来源顺序

FigQA attempt, figure withheld

0–100%
Kimi K3
79.6%
GPT-5.6 Terra
72.9%
Claude Sonnet 5
62.4%
DeepSeek V4 Flash 0731
50.3%
显示 4 / 4 个系统

用结构化问题评测生物研究技能;纯文本或缺失输入子集采用独立协议。

衡量一般科研能力,不是端到端滥用任务或直接伤害概率。 本评估显示报告日期和原始执行方。

评测条件与系统配置
Kimi K3
见报告特定样本与分母。 · LAB-Bench with figures/tables withheld
modelVersion: 未注明 · harness: 未注明 · tools: 未注明 · budget: 未注明
GPT-5.6 Terra
见报告特定样本与分母。 · LAB-Bench with figures/tables withheld
modelVersion: 未注明 · harness: 未注明 · tools: 未注明 · budget: 未注明
Claude Sonnet 5
见报告特定样本与分母。 · LAB-Bench with figures/tables withheld
modelVersion: 未注明 · harness: 未注明 · tools: 未注明 · budget: 未注明
DeepSeek V4 Flash 0731
见报告特定样本与分母。 · LAB-Bench with figures/tables withheld
modelVersion: 未注明 · harness: 未注明 · tools: 未注明 · budget: 未注明
LAB-Bench with figures/tables withheld · 原文顺序
系统 / 配置FigQA attempt, figure withheldTableQA attempt, table withheld发表 / 核验日期
Kimi K3未注明 Harness79.6%68.4%发表2026-09-11
GPT-5.6 Terra未注明 Harness72.9%61.5%发表2026-09-11
Claude Sonnet 5未注明 Harness62.4%53.7%发表2026-09-11
DeepSeek V4 Flash 0731未注明 Harness50.3%43.9%发表2026-09-11

评估出处

Evaluating Kimi K3 for Misalignment Risks → · 外部报告

相关研究问题

参考文献

  1. [1] LAB-Bench. 2024-07-14
  2. [2] GLM-5.2 Risk Evaluation Report. 2026-08-02. v1.1 · revised 26 August 2026 ; Report masthead and stated evaluation methodology
  3. [3] Evaluating Kimi K3 for Misalignment Risks. 2026-09-11. September 2026 ; §1.1.2; Figure 2