RESEARCH RECORD
Simulated Control Evaluations
原始文献 ↗ · BibTeX · RIS模拟对汇总安全指标的预测优于较简单的 BashArena 对照。真实工作轨迹不含攻击,因此不能验证攻击成功预测。在5%审计预算下,接地模拟的汇总安全性预测RMSE为3.6个百分点,BashArena比较基线为10.1个百分点;先在各监测器内平方误差,再聚合。模拟解释了旁支任务类别间95%及环境间78%的期望安全性变化,用部署任务对抽样数量的4.6%即可达到BashArena的预测效果。
研究问题
模拟环境能否预测可执行环境中的控制评测结果?
设计与前提
比较模拟与实际执行的 LinuxArena 轨迹及协议指标。
研究发现
模拟对汇总安全指标的预测优于较简单的 BashArena 对照。
真实工作轨迹不含攻击,因此不能验证攻击成功预测。
在5%审计预算下,接地模拟的汇总安全性预测RMSE为3.6个百分点,BashArena比较基线为10.1个百分点;先在各监测器内平方误差,再聚合。
模拟解释了旁支任务类别间95%及环境间78%的期望安全性变化,用部署任务对抽样数量的4.6%即可达到BashArena的预测效果。
局限与反证
未见环境迁移、不可信模拟器与多智能体攻击仍未解决。
来源证据
| 系统 | 测量 | 原值 | 条件与位置 |
|---|---|---|---|
| Grounded simulator | 汇总安全性预测均方根误差 | 3.6 percentage pointspercentage points | LinuxArena execution reference; 5% audit budget for pooled RMSE; Grounded LinuxArena simulatorL87-L92 |
| BashArena | 汇总安全性预测均方根误差 | 10.1percentage points | LinuxArena execution reference; 5% audit budget for pooled RMSE; BashArena comparisonL87-L92 |
| Grounded simulator | 旁支任务类别间解释方差 | 95%% | LinuxArena execution reference; 5% audit budget for pooled RMSE; Expected safety across side-task categoriesL87-L92 |
| Grounded simulator | 环境间解释方差 | 78%% | LinuxArena execution reference; 5% audit budget for pooled RMSE; Expected safety across LinuxArena environmentsL87-L92 |
| Grounded simulator | 类别安全性标准差 | 20.2 percentage pointspercentage points | LinuxArena execution reference; 5% audit budget for pooled RMSE; Between side-task categoriesL87-L92 |
| Grounded simulator | 模拟均方根偏差 | 4.6 pointspercentage points | LinuxArena execution reference; 5% audit budget for pooled RMSE; Expected error excluding rollout varianceL87-L92 |
| Grounded simulator | 超过比较基线所需任务对抽样比例 | 4.6%% | LinuxArena execution reference; 5% audit budget for pooled RMSE; Fraction of deployment task-pair draws needed to beat full BashArena safety predictionL87-L92 |
阅读范围与复核
Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited
模型辅助整理,独立证据复核待完成。
核对原始来源 ↗