评测档案
HCAST
使用经过人类校准的软件任务,将智能体完成情况与人类投入关联。
任务与测量
Benchmark 协议档案
- 任务/对象
- 原任务配置下的模型或智能体系统
- 测量目标
- 使用经过人类校准的软件任务,将智能体完成情况与人类投入关联。
- 解释边界
- 人类投入校准依赖参与者群体、任务分布和智能体配置。
测量档案 · NUWA 解读
档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。
- 测量构念
- 人类任务时长能否为自主能力测量提供锚点?
- 任务与样本
- 189项软件、机器学习、网络与推理任务收集563次人类尝试,累计逾1,500小时,并人工质检。
- 判分与失效情形
- 任务成功对应观测或预测的人类完成时长。
- 系统条件
- 189任务、563人类尝试,长任务更常依赖预测。
- 统计含义
- 来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 智能体在一小时内任务成功70–80%,四小时以上任务低于20%。 部分时长源于预测,并非成功人类尝试(§3.2)。
- 效度与解释
- 长任务基线有选择与招募偏差,且任务不能完全代表真实工作(§5)。
- 适用研究问题
- 模型建议:解释自主时长时保留估时来源与任务族。
- HCAST: Human-Calibrated Autonomy Software Tasks · AbstractSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
- HCAST: Human-Calibrated Autonomy Software Tasks · §2 Benchmark Creation ProcessSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
- HCAST: Human-Calibrated Autonomy Software Tasks · §3.2 Human Time EstimatesSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
- HCAST: Human-Calibrated Autonomy Software Tasks · §5 DiscussionSelected original resource https://arxiv.org/html/2503.17354; sha256:74636576fcb11fa78c419dd47c2da316ac7d432a3ab57bff64b51cdf94a683a8; archived source capture; exact capture time not independently established
原始来源图表与材料

相关研究问题
参考文献
- [1] David Rein, Joel Becker 等. HCAST: Human-Calibrated Autonomy Software Tasks. 2025-03-21. v1 [arXiv]; Author affiliations on the original paper title page; Figure 6