白泽(Whitzard)女娲实验室 ↗
NUWANUWA INDEX

搜索 NUWA Index

研究 · 测量协议 · 评测结果 · 观点

English

RESEARCH RECORD

Simulated Control Evaluations

Jeffrey Olmo · David Zhang · Tyler Tracy · Redwood Research

原始文献 ↗ · BibTeX · RIS

模拟对汇总安全指标的预测优于较简单的 BashArena 对照。真实工作轨迹不含攻击,因此不能验证攻击成功预测。在5%审计预算下,接地模拟的汇总安全性预测RMSE为3.6个百分点,BashArena比较基线为10.1个百分点;先在各监测器内平方误差,再聚合。模拟解释了旁支任务类别间95%及环境间78%的期望安全性变化,用部署任务对抽样数量的4.6%即可达到BashArena的预测效果。

研究问题

模拟环境能否预测可执行环境中的控制评测结果?

设计与前提

比较模拟与实际执行的 LinuxArena 轨迹及协议指标。

研究发现

模拟对汇总安全指标的预测优于较简单的 BashArena 对照。

真实工作轨迹不含攻击,因此不能验证攻击成功预测。

在5%审计预算下,接地模拟的汇总安全性预测RMSE为3.6个百分点,BashArena比较基线为10.1个百分点;先在各监测器内平方误差,再聚合。

模拟解释了旁支任务类别间95%及环境间78%的期望安全性变化,用部署任务对抽样数量的4.6%即可达到BashArena的预测效果。

局限与反证

未见环境迁移、不可信模拟器与多智能体攻击仍未解决。

来源证据

系统测量原值条件与位置
Grounded simulator汇总安全性预测均方根误差3.6 percentage pointspercentage pointsLinuxArena execution reference; 5% audit budget for pooled RMSE; Grounded LinuxArena simulatorL87-L92
BashArena汇总安全性预测均方根误差10.1percentage pointsLinuxArena execution reference; 5% audit budget for pooled RMSE; BashArena comparisonL87-L92
Grounded simulator旁支任务类别间解释方差95%%LinuxArena execution reference; 5% audit budget for pooled RMSE; Expected safety across side-task categoriesL87-L92
Grounded simulator环境间解释方差78%%LinuxArena execution reference; 5% audit budget for pooled RMSE; Expected safety across LinuxArena environmentsL87-L92
Grounded simulator类别安全性标准差20.2 percentage pointspercentage pointsLinuxArena execution reference; 5% audit budget for pooled RMSE; Between side-task categoriesL87-L92
Grounded simulator模拟均方根偏差4.6 pointspercentage pointsLinuxArena execution reference; 5% audit budget for pooled RMSE; Expected error excluding rollout varianceL87-L92
Grounded simulator超过比较基线所需任务对抽样比例4.6%%LinuxArena execution reference; 5% audit budget for pooled RMSE; Fraction of deployment task-pair draws needed to beat full BashArena safety predictionL87-L92
阅读范围与复核

Selected substantive passages of original institutional article; linked full paper, data and figures not independently audited

模型辅助整理,独立证据复核待完成。

核对原始来源 ↗