Google DeepMindの共同創業者であるDemis HassabisとShane Leggは、Google幹部のJames Manyikaとともに、水曜日、汎用人工知能（AGI）のガバナンスを研究するDeepMind Instituteを立ち上げた。
3人は声明で、同研究所は、AIが人間並みの認知能力に近づく中で起こり得る「制御喪失」を含むリスクを研究するグローバルな研究プラットフォームとして機能すると述べた。
「サイバーセキュリティやバイオリスクに対する、能力を増し続けるAIの影響はすでに現れており、将来、自己改良型システムが制御を失う可能性もある」と幹部らは述べた。「AGIを安全に構築し、その社会的な恩恵がリスクを大きく上回るようにするための重要な時期だ」
3人の幹部が同研究所を率い、Google DeepMind、Google、さらに世界各地の幅広い研究コミュニティーから研究者を集める。
声明によると、DeepMind Instituteは、AGIが人間であることの意味に与える影響、システムとシステムが形成するエージェントのコミュニティーをどう統治すべきか、社会がどの制度や政策に適応または再構想する必要があるかについても検討する。
3人の所長は、技術者がすべての答えを示すべきではないと述べた。「その現実を共同で形作る責任は、芸術や人文科学、政府を含む社会全体にある」と、幹部らは記した。
ただし幹部らは、現在のAIシステムは依然として基本的なタスクに失敗することがあり、完全なAGIの基準を満たすために必要な一貫性や創造性も欠いていると認めた。
「AIは依然として基本的なタスクに失敗することがある」と幹部らは記し、「こうした隔たりは近く埋まると見込んでいる」と述べた。
この発表は、先進AIのリスクをめぐる懸念がより広く注目を集める中で行われた。木曜日、King CharlesはAI幹部らに警告し、技術が悪意ある者の手に渡った場合の「存亡に関わる危険」について述べ、「手遅れ」になる前に安全策を講じるよう促した。