NUWA 风险治理 · 研究
The Effectiveness and Durability of Pretraining Data Filtering in Protein Language Models
NUWA 研究解读 · 独立复核待完成
NUWA Research Note
研究问题研究设计与假设来源发现NUWA 解读局限与相反证据研究与决策意义证据补充机构与角色原始资源模型辅助整理 · 选读原始全文或官方文章中的相关章节；尚未完成逐章节审计。
研究速读
作者在 ESM-2 的若干规模上区分初始能力压低与后续适应后的防护持久性。
研究问题
预训练过滤的选择性与持久性是否一致？
研究设计与假设
作者在 ESM-2 蛋白语言模型的若干规模上评估预训练过滤，区分初始代理任务能力和后续适应条件下的持久性。每种模型只使用一个训练种子；本记录不展示可执行恢复方法。
来源发现
初始能力压低和后续适应下的防护持久性属于不同主张；所测预测代理和单一模型架构不直接测量现实生物危害。
NUWA 解读
防护证据需要同时回答选择性、初始效果与长期持久性。与 Deep Ignorance 的联系是论证结构上的互补，不能视为同一模型上的独立复现。
局限与相反证据
每种模型单一训练种子、单架构；代理预测任务不是现实生物危害，不外推至所有大语言模型。
研究与决策意义
NUWA 建议：接入 Deep Ignorance 与 unlearning 研究的范围比较；不收集可执行恢复方法。
精确来源位置
- The Effectiveness and Durability of Pretraining Data Filtering in Protein Language Models · Abstract; §4.4 limitations; conclusion; text lines 00271Original resource captured 2026-10-28T07:25:52.921030+00:00; sha256:83a3c96f121b7de5bcb6ba87f388d6ac39e33416fd00b70cbcf68d3235ac7670
来源核查、数据提取、编辑批准与实验复现分别记录。 方法说明 →
证据补充 · 2026-10-28
模型辅助整理 · 独立证据及双语编辑复核待完成。以下数值为来源发现或材料计数，与趋势结果序列分开保存。
关联阅读
NUWA 阅读关联；不据此声称原文引用、实验复现或成绩等价。
机构与角色
作者 (12)
Aaron Maiwald · Roderick McNeill · Jaeyoung Lee · Matthew A. Clarke · Lennart Justen · Alejandro Acelas · Ivo Andrews · Giles Harper-Donnelly · Adam Moore · Sophie Rose · Oliver M. Crook · Felix Jackson
引用与复用
引用研究发现时请引用原始出版物；引用 NUWA 的整理与解释时，单独引用本站记录及对应快照。
原始出版物 · BibTeX
@misc{protein-filtering,
title = {The Effectiveness and Durability of Pretraining Data Filtering in Protein Language Models},
url = {https://arxiv.org/html/2610.26651},
author = {Aaron Maiwald and Roderick McNeill and Jaeyoung Lee and Matthew A. Clarke and Lennart Justen and Alejandro Acelas and Ivo Andrews and Giles Harper-Donnelly and Adam Moore and Sophie Rose and Oliver M. Crook and Felix Jackson},
year = {2026},
date = {2026-10-19},
version = {arXiv:2610.26651v1; version header 19 Oct 2026; Original resource captured 2026-10-28T07:25:52.921030+00:00; sha256:83a3c96f121b7de5bcb6ba87f388d6ac39e33416fd00b70cbcf68d3235ac7670},
note = {arXiv:2610.26651v1; version header 19 Oct 2026; Original resource captured 2026-10-28T07:25:52.921030+00:00; sha256:83a3c96f121b7de5bcb6ba87f388d6ac39e33416fd00b70cbcf68d3235ac7670}
}
NUWA 记录 · BibTeX
@misc{protein-filtering-nuwa,
title = {The Effectiveness and Durability of Pretraining Data Filtering in Protein Language Models — NUWA research record},
url = {https://whitzard.tech/nuwa/whitzard-index/work/protein-filtering/},
version = {2026-10-29.1},
organization = {NUWA Frontier AI Safety Lab},
howpublished = {Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--protein-filtering.json},
note = {NUWA research note. Source-reading scope and independent review status are stated on the record. Snapshot 2026-10-29.1. Retained note edition: https://whitzard.tech/nuwa/whitzard-index/data/record-editions/2026-10-29.1--protein-filtering.json.}
}
证据快照 2026-10-29.1 · 索引更新 · RSS
参考文献
- [1] Aaron Maiwald, Roderick McNeill 等. The Effectiveness and Durability of Pretraining Data Filtering in Protein Language Models. 2026-10-19 ; Abstract; §4.4 limitations; conclusion; text lines 00271