比尔·盖茨呼吁 AI 实验室建立能够追踪模型行为的系统，而不是依靠“紧急关停开关”来防止严重危害。

在周日播出的NBC 采访中，这位微软联合创始人表示，他并不反对在发生灾难时让模型下线的系统。他认为，紧急关停开关确实有其作用，但在这样一个“借助 AI，小团体也能做到过去只有最大国家才能做到的事情”的时代，这还远远不够。

“我绝不会说自己反对紧急关停开关，”他补充道。“但当你试图遏制不当行为时，你需要了解正在发生什么，并保留相关记录。因此，仅靠紧急关停开关无法阻止这些悲剧。”

盖茨表示，恶意行为者可以利用 AI 攻击电网或侵入银行账户；他还称，这项技术在生物技术和网络攻击等领域也已达到关键阶段。

与此同时，他呼吁各国政府加强监管，称政府应参与监督 AI 系统的行为。他指出，这些措施不必拖慢行业发展，也不必影响美国与中国之间的竞争。

这位慈善家还警告称，就 AI 规则达成国际协议，可能比冷战时期就核武器问题进行谈判更加困难。

“这比当时的情况更难，”他说，并指出，要让各国就主要由私营企业开发的技术制定规则并达成共识，过程十分复杂。

他列举了航空安全、臭氧层和核武器领域的国际协议，称这些都是各国搁置分歧、制定共同规则的例子；他认为，AI 也需要类似的努力。