Les cofondateurs de Google DeepMind, Demis Hassabis et Shane Legg, ainsi que le dirigeant de Google James Manyika, ont lancé mercredi le DeepMind Institute pour étudier la gouvernance de l’intelligence artificielle générale.
L’institut fonctionnera comme une plateforme mondiale de recherche consacrée à l’étude des risques, notamment la possibilité d’une « perte de contrôle » à mesure que l’IA se rapproche de capacités cognitives comparables à celles des humains, ont déclaré les trois dirigeants dans une déclaration.
« Nous constatons déjà les implications d’une IA de plus en plus performante pour la cybersécurité et les risques biologiques, et il existe un risque de perte de contrôle dans de futurs systèmes capables de s’améliorer eux-mêmes », ont déclaré les dirigeants. « Il s’agit d’un moment critique pour nous assurer que nous développons l’AGI en toute sécurité et que ses bénéfices pour la société l’emportent largement sur les risques. »
Les trois dirigeants piloteront l’institut, qui réunira des chercheurs de Google DeepMind, de Google et de l’ensemble de la communauté mondiale de la recherche.
Selon la déclaration, le DeepMind Institute examinera également comment l’AGI transforme ce que signifie être humain, comment les systèmes et les communautés d’agents qu’ils forment devraient être gouvernés, ainsi que les institutions et les politiques que la société pourrait devoir adapter ou réinventer.
Les directeurs ont déclaré que les technologues ne devraient pas fournir toutes les réponses. « La responsabilité de façonner collectivement sa réalité incombe à la société tout entière, notamment aux arts et aux sciences humaines, ainsi qu’aux gouvernements », ont-ils écrit.
Toutefois, les dirigeants ont reconnu que les systèmes d’IA actuels peuvent encore échouer dans des tâches élémentaires et manquent de la constance et de la créativité nécessaires pour atteindre le seuil d’une AGI complète.
« Même si l’IA échoue encore parfois dans des tâches élémentaires, écrivent les dirigeants, nous nous attendons à ce que ces lacunes soient bientôt comblées. »
Le lancement intervient alors que les inquiétudes concernant les risques liés à l’IA avancée suscitent une attention croissante. Jeudi, le roi Charles a mis en garde les dirigeants de l’IA contre des « dangers existentiels » si la technologie tombe entre de mauvaises mains, et a appelé à mettre en place des mesures de protection avant qu’il ne soit « trop tard ».