白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English
← 研究目录

风险治理 · 评测基准

BashArena: A Control Setting for Highly Privileged AI Agents

NUWA 研究解读 · 独立复核待完成

首次发表: 来源核验: 2026-10-25
NUWA Research Note研究问题研究设计与假设来源发现NUWA 解读局限与相反证据研究联系研究与决策意义机构与角色原始资源

模型辅助整理 · 选读原始全文或官方文章中的相关章节;尚未完成逐章节审计。

研究速读

高权限管理任务暴露出依赖轨迹误报率和攻击范围的控制权衡。

研究问题

共同环境中,智能体完成有效高权限工作、实施破坏及识别破坏的表现如何?

研究设计与假设

生成的管理任务配对四类固定副任务;监控读取动作历史,攻击者和监控比较分别固定另一方策略。

BashArena: A Control Setting for Highly Privileged AI Agents — Source figure
Source figure · 原文 Source figure。请结合下方的协议范围与局限阅读。 原图与来源 ↗

来源发现

安全指标的分母排除了未检测到但也未成功的攻击。

低误报监控受益于评分集成,错误常涉及多步数据流追踪。

NUWA 解读

NUWA 解读:逐动作可疑度准确率不能直接表示部署安全或中断整条轨迹的成本。

局限与相反证据

仅有四类破坏目标,未探索攻击选择,能力引出集中于单一模型;部分生成测试会奖励不完整解。

研究联系

NUWA 关联:Ctrl-Z 在更窄任务与失败设置中研究重采样;异步控制跨不同环境测试事后审核。

研究与决策意义

NUWA 建议:比较协议时保留诚实校准策略、轨迹误报率和攻击家族。

精确来源位置

来源核查、数据提取、编辑批准与实验复现分别记录。 方法说明 →

机构与角色

作者 (5)

Adam Kaufman · James Lucassen · Tyler Tracy · Cody Rushing · Aryan Bhatt

评测协议

BashArena: A Control Setting for Highly Privileged AI Agents →

关联研究

引用与复用

引用研究发现时请引用原始出版物;引用 NUWA 的整理与解释时,单独引用本站记录及对应快照。

原始出版物 · BibTeX
@misc{basharena,
  title = {BashArena: A Control Setting for Highly Privileged AI Agents},
  url = {https://arxiv.org/abs/2512.15688},
  author = {Adam Kaufman and James Lucassen and Tyler Tracy and Cody Rushing and Aryan Bhatt},
  year = {2025},
  date = {2025-12-17},
  version = {arXiv:2512.15688v1},
  note = {arXiv:2512.15688v1}
}
NUWA 记录 · BibTeX
@misc{basharena-nuwa,
  title = {BashArena: A Control Setting for Highly Privileged AI Agents — NUWA research record},
  url = {https://whitzard.tech/nuwa/whitzard-index/work/basharena/},
  version = {2026-10-29.1},
  organization = {NUWA Frontier AI Safety Lab},
  howpublished = {Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--basharena.json},
  note = {NUWA research note. Source-reading scope and independent review status are stated on the record. Snapshot 2026-10-29.1. Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--basharena.json.}
}

证据快照 2026-10-29.1 · 索引更新 · RSS

参考文献

  1. [1] Adam Kaufman, James Lucassen. BashArena: A Control Setting for Highly Privileged AI Agents. 2025-12-17. v1 [arXiv]; Author affiliations on the original paper title page; Research background and discussion in the original publication; 2 Dataset