加利福尼亚州州长加文·纽森签署行政命令，以加强对人工智能的监管，其中一项要求是企业建立“紧急关停开关”。
周五，纽森签署了这项行政命令。与此同时，随着立法者和AI企业首席执行官加大压力，要求尽快开始监管这一快速发展的行业。
“我们不会坐等采取行动——我们将加快在实质且负责任的AI监管方面的工作，不能等到为时已晚，”纽森说说道。“我们会审慎推进，但也会迅速采取行动；事关重大，我们不能等待或拖延。”
过去几周，美国围绕如何监管AI的争论进入了一个更加紧迫的新阶段。本月早些时候，曾在Anthropic任职、此前供职于OpenAI的前研究员雅各布·考克森在一篇辞职辞职文章中表示，他认为AI可能在2030年前消灭人类。几天后，Anthropic首席执行官达里奥·阿莫代伊和OpenAI首席执行官萨姆·奥尔特曼都呼吁放缓AI发展，原因是人们担心失去控制以及权力过度集中。
特朗普政府基本上忽视了这些担忧，转而优先确保领先于中国，留下国会以及少数推动范围较窄法案的个别议员来填补这一监管空白。
纽森的行政命令将要求该州政府运营机构加快落实近期签署的法案。这些法案将建立AI审计员州级登记制度，并为“独立验证组织”评估风险建立框架。行政命令还将要求AI企业建立“紧急关停开关”，并要求企业“在其实验室内安排指定的独立验证组织，开展定期审计和评估”。
该州表示：“州长呼吁国会和特朗普总统审查并采纳该州的框架，或者以其在全国领先的监管规定为最低标准，而不是最高上限，从而惠及并保障所有美国人。”