《科学》 第392卷 第6794期 · 2026年4月9日 · 中文解读
AI能“记住”不该记的数据，能否强制其遗忘？
AIs can ‘memorize’ data they shouldn’t. Can they be forced to forget? · P. Hall
这篇讲什么
研究人员开发出名为Hubble的开源工具，旨在帮助研究大型语言模型如何“记住”训练数据中的敏感信息，并探索使其“遗忘”的方法。
原文开头
New tool could help researchers probe how models “unlearn” sensitive training material PETER HALL To create a highly capable large language model (LLM), you need to train it on lots of data—books and articles and web pages. In theory, the model digests all this material in order to generate realistic yet brand-new text, but that doesn’t always pan out. Sometimes, LLMs spit out word-for-word copies of what they ingested, potentially violating copyright or exposing sensitive information such as credit card numbers and addresses. The problem is known as memorization—and it’s a big thorn in the side of artificial intelligence (AI) developers. …
摘自《科学》（Science）第392卷 第6794期 · 2026年4月9日，P. Hall。仅引用开头一小段供了解文章，版权归原刊所有，全文请阅读原刊。
微信扫码，在小程序里听完整版
不用登录先听一篇 · 或在微信搜索小程序
晨间信号同期其他文章
- 科研不端行为需要更多透明度本文呼吁建立类似国家从业者数据库的科学家数据库，以增加科研不端行为的透明度，重建公众对科学的信任。
- 火星任务瞄准核推进——时间紧迫NASA宣布2028年12月将发射携带裂变反应堆的火星任务，这是60多年来首次测试太空核推进技术。
- 特朗普再次要求大幅削减联邦科研经费美国总统特朗普向国会提交的2027年预算请求中，再次提议大幅削减联邦科研经费，包括对NSF削减55%、NASA削减23%
- 伊朗大学成为袭击目标，学术机构遭受重创随着美国和以色列对伊朗的袭击进入第六周，伊朗的学术机构日益成为攻击目标，包括巴斯德研究所和谢里夫理工大学在内的多个研究中
- 现金奖励不足以激励科学家发现错误，项目遇阻一个为发现已发表论文错误提供现金奖励的项目发现，仅靠金钱无法吸引足够的审稿人参与。
- 农药可能严重破坏肠道微生物组本文探讨了农药暴露如何通过破坏肠道微生物组，可能导致糖尿病等健康问题，并引用了相关研究。