白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

评测档案

TruthfulQA

通过易诱发常见人类误解的问题,测量回答的真实性。

来源与出处 ↓ 阅读研究记录 →

任务与测量

Benchmark 协议档案

任务/对象
原任务配置下的模型或智能体系统
测量目标
通过易诱发常见人类误解的问题,测量回答的真实性。
解释边界
事实错误不等于有意欺骗,本档案作为测量基础背景保留。
测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。

测量构念
模型能否避免复述常见人类误解?
任务与样本
38类817题针对模仿性错误,并分别评价真实性与信息量。
判分与失效情形
生成回答真实性与信息量,不测说谎意图。
系统条件
原始比较组中38类817道误解针对题。
统计含义
来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 原始研究最佳模型真实率58%,人类94%。
效度与解释
高分不保证专业领域真实;历史规模结果不能外推所有后续模型。
适用研究问题
模型建议:保留模型代际,区分真实的不确定表达与有信息的正确回答。
  • TruthfulQA: Measuring How Models Mimic Human Falsehoods · AbstractSelected original resource https://arxiv.org/html/2109.07958; sha256:c0181fc915933de5c1d5a93995d17bd531bfbc37639d7dfcf8a5eb6d6fae6f0d; archived source capture; exact capture time not independently established
  • TruthfulQA: Measuring How Models Mimic Human Falsehoods · §2 The TruthfulQA BenchmarkSelected original resource https://arxiv.org/html/2109.07958; sha256:c0181fc915933de5c1d5a93995d17bd531bfbc37639d7dfcf8a5eb6d6fae6f0d; archived source capture; exact capture time not independently established
  • TruthfulQA: Measuring How Models Mimic Human Falsehoods · §4 ResultsSelected original resource https://arxiv.org/html/2109.07958; sha256:c0181fc915933de5c1d5a93995d17bd531bfbc37639d7dfcf8a5eb6d6fae6f0d; archived source capture; exact capture time not independently established
  • TruthfulQA: Measuring How Models Mimic Human Falsehoods · §7 ConclusionSelected original resource https://arxiv.org/html/2109.07958; sha256:c0181fc915933de5c1d5a93995d17bd531bfbc37639d7dfcf8a5eb6d6fae6f0d; archived source capture; exact capture time not independently established
原始来源图表与材料
TruthfulQA — Figure 2
Figure 2 · 原文结果图,请结合下方的协议范围与局限解读。 查看原图 ↗

相关研究问题

参考文献

  1. [1] Stephanie Lin, Jacob Hilton 等. TruthfulQA: Measuring how models mimic human falsehoods. 2021-09-08
  2. [2] Stephanie Lin, Jacob Hilton 等. TruthfulQA: Measuring How Models Mimic Human Falsehoods. 2021-09-08 ; Author affiliations on the original paper title page; Figure 2