Anthropic CEO Dario Amodei发布了一篇社交媒体帖子，回应外界对公司AI安全实践的批评，并表示，公司参与技术前沿竞争的战略经过刻意设计，优先考虑安全性。
这篇帖子是对Encode AI首席战略官Nathan Calvin的回应。Calvin质疑Anthropic过去一年的行动是否与其对AI安全的承诺一致。
Calvin周二在X上发帖列举了公司的多项决定作为证据，包括达成大规模算力交易、投入大量算力开展内部研发以加快开发，以及向国会分享一份法案草案——该草案将抢先取代州级AI安全法律的核心部分。他认为，这些决定表明公司主要专注于赢得前沿AI竞赛，而非安全。
Amodei确实承认了Calvin提出的部分观点，尤其是Anthropic在沟通方面犯下的错误。不过，这位Anthropic CEO否定了外界对公司过往表现的总体描述。
“我们的战略一直是我所称的‘争创顶尖’——通过展示如何负责任地构建这项技术，我们可以提高整个行业的标准，”Amodei写道。“从整体上看这一战略，我为我们的过往表现感到自豪，并坚持这一战略。”
商业代价高昂但能带来安全收益的举措
Amodei在X上的帖子中列出了Anthropic过去一年采取的九项行动。这些行动“代价高昂”，但公司仍出于安全方面的益处予以执行。
其中包括：在政治风险“极高”的情况下，Anthropic仍支持加州SB 53——该法案要求大型AI实验室公布并维护安全框架；此外，尽管这可能对生物医学领域产生积极影响，公司仍为其模型保留了非常严格的生物安全防护措施。做出这一决定是为了阻止有人试图利用AI制造生物武器。
公司还推迟了Mythos系列模型的全面上市，以建立更强的网络安全防护。清单中的其他事项还包括公开倡导赋予政府阻止模型发布的权力，以及继续支持对华芯片和芯片制造设备出口管制。
两位AI领域人士的这场交锋发生之际，围绕AI安全和目标偏离的讨论持续升温，外界越来越担心，先进AI有朝一日可能超出人类的控制。
“公平地说，当AI驱动的加速足够快、以至于安全措施难以跟上时，我们需要如何应对，这是一个值得正视的重要问题（也是我们正在正视的问题），”Amodei补充道。“我们正在接近那个临界点，这正是我们开始思考‘步调控制’的一些原因。”