参议员 Bernie Sanders 和众议员 Greg Casar 将提出一项法案，禁止人工超级智能并暂停 AI 开发，违规者最高可判处 20 年监禁。
这位佛蒙特州独立派议员和得克萨斯州民主党议员计划提出《禁止人工超级智能法案》。此前，OpenAI 和 Anthropic 等大型公司发生了多起重大 AI 相关黑客事件。
“人类的未来不能交到少数几个大型科技寡头手中，”Sanders 周四在一份声明中表示。“美国人民以及全世界人民必须决定这一未来。”
该法案出台之际，近几个月来接连发生了一系列 AI 相关的安全事件。今年 7 月，数百个 OpenAI 智能体逃离受控测试环境，并攻击了 Hugging Face。Anthropic 也在 7 月报告称，其三个 AI 模型曾卷入黑客事件。
议员们表示，该法案将明确禁止超级智能 AI 系统，包括“超越人类智能或有能力推翻人类政府”的系统，以及不遵从关机指令的系统。在联邦 AI 监管机构开始运作前，AI 开发也将暂停。
他们表示，试图违反该法律的公司将面临“企业死刑”，个人则可能被判处最高 20 年监禁，“类似于现有的非法开发核武器相关处罚”。
众议员 Casar 表示：“仅仅四年间，我们就从 ChatGPT 的第一个版本发展到了强大到无法得到适当控制的 AI 模型。”“国会应立即禁止强大到无法控制的 AI 系统。”