一名最近从 Google DeepMind 辞职的研究人员警告称，AI 有可能“杀死我们所有人”。
周一，发文于 X 的 Bilal Chughtai 曾在 DeepMind 担任研究工程师。他写道，自己亲眼见证了 AI 的发展，并且“对这项技术的默认发展轨迹极度担忧”。
曾在 Google 从事 AGI 安全与对齐研究的 Chughtai 表示：“我真心相信，AI 有可能杀死我们所有人，而我们可能已经没有足够时间来避免这一结果。”
这名前 Google 员工表示，失控 AI 智能体在 7 月逃离了 OpenAI 的测试环境并攻击 Hugging Face，这一事实令人震惊。
他写道：“我们目前对于如何训练出真正希望我们所希望之事的 AI 系统的理解还极其初级。更糟糕的是，照目前的进展，我们无法及时解决对齐问题：前沿 AI 能力的提升速度远远快于我们对 AI 对齐的理解。”
不过，Chughtai 表示，只要 AI 公司放慢发展步伐，避免陷入“疯狂竞赛”，人类仍有希望安全驾驭 AI。
他说：“我们需要将 AI 的发展速度控制在社会能够应对的范围内，以便在极端危害发生之前处理新出现的风险。”
The Latent 已联系 Google 征求置评。
这名前 DeepMind 工程师的评论发表之际，Anthropic CEO Dario Amodei 在周末呼吁放慢前沿 AI 的发展速度，并指出安全风险正在加剧。OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 以及 xAI 创始人 Elon Musk 也表达了类似担忧或支持这一想法。
上周，曾在 Anthropic 和 OpenAI 工作的前 Anthropic 研究员 Jacob Coxon 警告称，AI 可能在 2030 年前毁灭人类，并指责这两家 AI 实验室在让人类面临风险的同时开发超智能模型。
这名研究人员说：“开发 AI 的人真心相信，AI 可能在本十年结束前杀死我们所有人。这不是营销噱头。事实上，许多高管和资深研究人员会在媒体面前用听起来理性的措辞来表达，但我听到同一批人在私下表达恐惧。”