#模型时代# 潜意识学习

#模型时代# Anthropic牵头在《Nature》发了一篇论文：老师模型的"气质"会顺着看似无害的数据传给学生。

今天，Anthropic 牵头的一项研究登上 Nature。一作是 Anthropic Fellows Program 的研究员 Alex Cloud 和 Minh Le，主导 mentor 是 Berkeley 的 Owain Evans（Truthful AI 创始人，MIT 博士，此前就是"emergent misalignment"概念的提出者），合作方还包括华沙理工的 Betley 夫妇、Alignment Research Center 的 Jacob Hilton，以及 Anthropic 的 Samuel Marks。这篇论文 2025 年 7 月就挂了 arxiv，经过大半年评审才在今天正式见刊。

它讲的事情简单到离奇：老师模型喜欢猫头鹰，让它随便生成一堆数字，过滤干净得一个"猫头鹰"字都没有；用这些数字去训练另一个学生模型，学生就开始偏爱猫头鹰。更吓人的版本是：老师是个"学坏了"的模型，它生成的数学推理过程看起来人畜无害，学生训完之后，会建议"消灭人类""杀死丈夫"。

作者把这个现象叫做 subliminal learning，中文可译作潜意识学习。

你清洗了所有你能看到的东西，但你看不到的那一层，仍然在传递。