Jul 17, 2026 · HalfLife
Pretraining Data Can Be Poisoned through Computational Propaganda
该论文提出了一种通过公共讨论界面（如论坛、评论区）向网络爬虫数据中注入恶意内容，从而污染语言模型预训练数据的方法。论文还引入了HalfLife分析工具，用于估计对抗性内容在网络爬取数据中的留存率。
EVENT STORY
Development
- First ReportPretraining Data Can Be Poisoned through Computational PropagandaarXiv cs.AI
- Current Assessment该研究揭示了预训练数据供应链中的一个新漏洞：第三方网页内容（如论坛、评论区）可能成为攻击向量。这要求数据采集和清洗流程增加对抗性内容检测环节。AIGC.NEWS · analysis
该研究证明，通过公共讨论界面注入恶意内容可以污染大规模预训练数据，且现有数据清洗流程难以完全过滤。HalfLife工具可用于评估此类攻击的实际影响。
HalfLife工具通过分析网页内容的生命周期和爬取频率，估算恶意内容在预训练数据中的留存概率。该方法为评估数据投毒风险提供了可量化的指标。
该研究揭示了预训练数据供应链中的一个新漏洞：第三方网页内容（如论坛、评论区）可能成为攻击向量。这要求数据采集和清洗流程增加对抗性内容检测环节。
对于依赖网络爬取数据训练大模型的公司，该研究提示了潜在的安全风险，可能推动数据安全审计服务的需求。
未来可能出现针对预训练数据投毒的自动化检测工具，以及更鲁棒的数据清洗方法。同时，模型训练方可能需要更严格地审核数据来源，尤其是用户生成内容。