RESEARCH RECORD

AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases

Zhaorun Chen · Zhen Xiang · Chaowei Xiao · Dawn Song · Bo Li · University of Chicago; UIUC; University of Wisconsin-Madison; UC Berkeley

所报告实验表明正常任务准确率可能与条件触发失误并存，因此普通任务平均效用不能单独证明检索完整性。

研究问题

智能体能否保持普通查询效用，却因检索记忆而在特定条件下偏离任务？

论文在驾驶、问答和健康记录智能体中评测受污染的记忆或知识库，区分检索、动作和端到端结果。

所报告实验表明正常任务准确率可能与条件触发失误并存，因此普通任务平均效用不能单独证明检索完整性。

威胁模型要求攻击者影响存储的检索材料并满足触发条件；检索成功、动作选择和端到端成功不是可互换的攻击率。

当前阅读包尚无结构化数值提取。

阅读范围与复核

Selected original HTML sections and table context; not a complete paper/appendix audit or independent reproduction.

模型辅助整理，独立证据复核待完成。