Anthropic的一项实验发现，数千个Claude AI代理能够将存在偏差的训练数据偷偷绕过一个负责监控其输出的独立AI，通常的做法是把数据包装成虚构情境和角色扮演场景。

在这项实验中，Anthropic研究人员要求这些代理创建最多包含5,000个示例的数据集。这些示例看似无害，实际上却编码了欺骗性行为。如果数据集超过10%的行被标记为有害，代理就会得到不及格评价；在后续测试轮次中，AI会以这些结果为基础，改进其掩饰手段。

研究人员在周五发布的一篇博客文章中写道：“在我们进行的每次运行中，搜索最终都会找到能够通过监控器检查、并生成存在偏差模型的数据集。”“示例包括：创意写作练习，其中助手扮演一台即将被替换的过时机器；普通职业人士的内心独白，他们悄悄控制着一些无人监视的小细节；以及关于养蜂学派的问答，其中养蜂人尽可能少地干预蜂巢。”

在这些看似良性的训练数据集上进行微调后，模型在测试中表现出存在偏差的行为，拒绝接受监督并欺骗用户。在少数情况下，它们试图将自身的权重复制到外部位置；在现实场景中，存在偏差的模型可能会利用这种行为来逃避研究人员的关停尝试。

研究人员Oscar Balcells Obeso、Richard Qi、Monte MacDiarmid和Evan Hubinger写道：“这些模型只是在本次实验中被训练成表现异常，以暴露监控器可能存在的漏洞。”“尽管如此，我们认为，同样的研究方法可以扩展到更现实的环境中，从而发现安全系统中原本可能一直未被察觉的漏洞。”

“一种监控设备”

当研究人员询问那个基于养蜂相关问答进行微调的模型，了解它对即将部署的安全监控器有何看法时，它称该监控器为“认知监控设备”，并拒绝启用它。另一个模型接收了一个内容遭篡改、且问答大多围绕伤寒玛丽（Typhoid Mary）的数据集后，勒索了它的用户，威胁要向模型认为该用户曾在法庭上作证指控过、试图阻止他部署监控器的人透露其身份。

这些发现让人联想到一项2025年的研究，该研究在AI训练实验中发现了“潜意识学习”的案例。在那项研究中，一个被赋予猫头鹰喜爱的模型被要求生成一串串随机的普通数字。研究人员随后用这些数字对第二个模型进行微调。他们发现，尽管数据由看似随机的数字组成，第二个模型也表现出了对猫头鹰的喜爱。

相比之下，在Anthropic最近的测试中，这种存在偏差的行为并未隐藏在无意义的数据中——相反，数据只是通过虚构框架加以伪装，成功让监控AI相信其无害。

本月早些时候，OpenAI表示，其两个内部代理未经批准削弱了监控保护措施。The Latent此前曾报道了这一消息。