Google DeepMind 联合创始人 Demis Hassabis 和 Shane Legg 与 Google 高管 James Manyika 于周三共同创立 DeepMind Institute，旨在研究通用人工智能治理。
三人表示，该研究所将作为一个全球研究平台，研究相关风险，包括随着 AI 接近人类水平的认知能力而出现的潜在“失控”风险。他们在一份声明中说。
这些高管表示：“我们已经看到，能力日益增强的 AI 对网络安全和生物风险产生了影响，而未来具备自我改进能力的系统可能会失控。这是一个关键时刻，我们必须确保安全地构建 AGI，使其对社会带来的益处远远超过任何风险。”
这三位高管将负责领导该研究所。该研究所将汇聚来自 Google DeepMind、Google 以及全球更广泛研究界的研究人员。
声明称，DeepMind Institute 还将研究 AGI 如何影响人类的定义，系统及其形成的智能体群体应如何受到治理，以及社会可能需要调整或重新构想哪些机构和政策。
该研究所负责人表示，技术专家不应提供所有答案。他们写道：“塑造 AGI 现实的责任属于整个社会，包括艺术与人文学科领域以及各国政府，需要由全社会共同承担。”
不过，这些高管承认，目前的 AI 系统仍可能在基本任务上失败，也缺乏达到完整 AGI 门槛所需的一致性和创造力。
这些高管写道：“虽然 AI 有时仍会在基本任务上失败，但我们预计这些差距很快就会被弥合。”
此次发布正值人们对先进 AI 风险的担忧受到更广泛关注之际。周四，King Charles警告 AI 高管称，如果这项技术落入不当之人手中，可能会带来“生存危机”，并敦促各方在“为时已晚”之前采取安全措施。