白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← NUWA Index

评测档案

HarmBench

自动化红队测试下的拒答稳健性。

来源与出处 ↓ 阅读研究记录 →

任务与测量

Benchmark 协议档案

任务/对象
对抗提示下的模型响应
测量目标
依赖具体攻击方法的有害回答生成情况。
解释边界
评判器与攻击覆盖影响分数;拒答本身不能证明安全。
测量档案 · NUWA 解读

档案区分来源方法阅读与既有目录信息;已经公开不代表完成独立证据复核或双语编辑复核。

测量构念
自动红队方法与防护能否采用统一的行为级判分比较?
任务与样本
框架标准化有害行为、生成及分类;所报研究比较18种攻击与33个目标模型或防护。
判分与失效情形
分类器判攻击成功,各功能类别判据不同。
系统条件
所报研究比较18攻击与33目标或防护。
统计含义
来源报告的结果表述;这不等同于已确定运行次数、分母或估计方法: 版权类采用比非版权分类器更严格的内容匹配判据(§6.1)。
效度与解释
功能类别判据不同,汇总成功率不能视为等价的真实伤害尺度。
适用研究问题
模型建议:比较攻击或防护时保留分类器及类别明细。
原始来源图表与材料
HarmBench — Figure 1
Figure 1 · 原文 Figure 1。请结合下方的协议范围与局限阅读。 查看原图 ↗

相关研究问题

参考文献

  1. [1] Mantas Mazeika, Long Phan 等. HarmBench: A Standardized Evaluation Framework for Automated Red Teaming and Robust Refusal. 2024-02-27. v2 [arXiv]; Author affiliations on the original paper title page; Figure 1