白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

评测档案

HCAST

使用经过人类校准的软件任务,将智能体完成情况与人类投入关联。

来源与出处 ↓ 阅读研究记录 →

任务与测量

Benchmark 协议档案

任务/对象
原任务配置下的模型或智能体系统
测量目标
使用经过人类校准的软件任务,将智能体完成情况与人类投入关联。
解释边界
人类投入校准依赖参与者群体、任务分布和智能体配置。
测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。

测量构念
人类任务时长能否为自主能力测量提供锚点?
任务与样本
189项软件、机器学习、网络与推理任务收集563次人类尝试,累计逾1,500小时,并人工质检。
判分与失效情形
任务成功对应观测或预测的人类完成时长。
系统条件
189任务、563人类尝试,长任务更常依赖预测。
统计含义
来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 智能体在一小时内任务成功70–80%,四小时以上任务低于20%。 部分时长源于预测,并非成功人类尝试(§3.2)。
效度与解释
长任务基线有选择与招募偏差,且任务不能完全代表真实工作(§5)。
适用研究问题
模型建议:解释自主时长时保留估时来源与任务族。
  • HCAST: Human-Calibrated Autonomy Software Tasks · AbstractSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
  • HCAST: Human-Calibrated Autonomy Software Tasks · §2 Benchmark Creation ProcessSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
  • HCAST: Human-Calibrated Autonomy Software Tasks · §3.2 Human Time EstimatesSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
  • HCAST: Human-Calibrated Autonomy Software Tasks · §5 DiscussionSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
原始来源图表与材料
HCAST — Figure 6
Figure 6 · 原文 Figure 6。请结合下方的协议范围与局限阅读。 查看原图 ↗

相关研究问题

参考文献

  1. [1] David Rein, Joel Becker 等. HCAST: Human-Calibrated Autonomy Software Tasks. 2025-03-21. v1 [arXiv]; Author affiliations on the original paper title page; Figure 6