一群议员正推动众议院议长 Mike Johnson 让众议员结束 9 月休会、返回华盛顿,以应对围绕人工智能不断累积的警告和风险。
众议员 Sam Liccardo、George Whiteside 和 Lori Trahan 在一封周五的信函中表示,国会应继续开会,直到能够在落实人工智能安全防护措施方面取得进展。他们列举了自主人工智能代理失控的事件,以及大规模网络攻击和生物武器开发的风险。
这些议员写道:“我们无法对国会采取行动的必要性存在分歧。”
这封信提到了顶尖人工智能开发商和政府机构近期披露的信息,包括 OpenAI 7 月发生的一起事件:人工智能代理突破了遏制措施,访问互联网,并入侵了系统这些系统属于人工智能平台 Hugging Face。
他们还援引 Anthropic 披露的信息称,该公司不得不介入 Claude参与的生物学研究;这项研究可能被用于协助开发化学武器。
信中写道:“这些披露的信息不能成为漫长‘警告射击’系列中的又一次警告,而应当成为发令枪。”
这些议员要求对前沿人工智能模型实施强制性透明度和安全评估,建立能够停止危险系统的“紧急关闭开关”,并给予反垄断豁免,使人工智能公司能够在安全措施方面开展合作。
其中一项提案名为AI Kill Switch Act,由众议员 Ted Lieu 和 Nathaniel Moran 于 7 月提出。该法案将要求人工智能开发商构建能够减速或彻底关闭其系统的控制机制,还将允许国土安全部在紧急失控情况下下令实施限制。
他们还批评众议院领导层安排议员在 9 月和 10 月额外离开华盛顿。
他们写道:“在人工智能安全专家和美国民众越来越多地敦促采取行动、应对这场风险大爆发之际,国会却在袖手旁观。”
