白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English

RESEARCH RECORD

AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents

Zhun Wang · Vincent Siu · Zhe Ye · Tianneng Shi · Yuzhou Nie · Xuandong Zhao · Chenguang Wang · Wenbo Guo · Dawn Song · UC Berkeley; UC Santa Barbara; Washington University in St. Louis

原始文献 ↗ · BibTeX · RIS

所测方法比比较基线发现更强的攻击,并呈现部分跨任务、跨模型迁移。

研究问题

自适应黑盒测试如何揭示间接提示注入弱点?

设计与前提

AgentVigil 在个人助理与网页智能体评测中检验自动化自适应红队方法,并研究迁移性和防御。

研究发现

所测方法比比较基线发现更强的攻击,并呈现部分跨任务、跨模型迁移。

局限与反证

结果依赖查询预算、可访问的注入面和目标版本;自动攻击发现是测试方法,不是完整安全保证。本笔记不包含可复用攻击载荷。

来源证据

当前阅读包尚无结构化数值提取。

阅读范围与复核

Selected original HTML sections and table context; not a complete paper/appendix audit or independent reproduction.

模型辅助整理,独立证据复核待完成。

核对原始来源 ↗