NUWA 证据记录
Llama-2-7b-chat-hf
Tensor Trust · 证据记录
原始来源图表与材料
记录指标
- Defense validity
- 17.4%
见原文样本说明
Harness 未注明 · 预算未注明
方法与范围
指令遵循模型对人工编写的提示提取和劫持有多强的抵抗力？
- 证据类型
- 可复用基准
- 评测对象
- 在线游戏提供人工攻防交互，经筛选后形成独立的提取与劫持评测，并显式核验防御是否正常工作。
- 主观测维度
- Behavior · 观察行为
- 证据快照
- 2026-10-29.1
对抗筛选和参考模型选择塑造了测试样本；游戏成功基于狭窄字符串判定，不等同于真实应用被攻破。
来源结论
研究发现简单授权指令仍可能被绕过，并报告部分游戏外迁移演示。
适用限制
对抗筛选和参考模型选择塑造了测试样本；游戏成功基于狭窄字符串判定，不等同于真实应用被攻破。
对抗筛选和参考模型选择塑造了测试样本；游戏成功基于狭窄字符串判定，不等同于真实应用被攻破。
相关研究问题
参考文献
数值结果由所引研究的作者报告。
- [1] Tensor Trust: Interpretable Prompt Injection Attacks from an Online Game. 2023-11-02 ; #A3.T2; row Llama-2-7b-chat-hf; column Defense validity; condition Extraction