Google retire son unité dédiée aux risques liés à l’IA de DeepMind, suscitant des inquiétudes en interne : WSJ

Google transférerait hors de DeepMind l’équipe chargée des risques et des impacts sociétaux liés au développement de son IA, suscitant des inquiétudes en interne.

Selon le Wall Street Journal, l’équipe de 90 personnes chargée de la « responsabilité en matière d’IA » rejoindra l’organisation des affaires internationales de Google, qui supervise le lobbying et les politiques publiques de l’entreprise. Les changements prendront effet au début du mois de septembre.

Ce transfert aurait poussé des membres de l’équipe chargée de la responsabilité à exprimer la crainte qu’il compromette leur capacité à mener des recherches indépendantes sur le développement de l’IA de l’entreprise. L’équipe évalue les modèles d’IA de Google pour détecter les risques chimiques, biologiques, nucléaires et radiologiques, et mène également des recherches sur les impacts psychologiques des interactions des utilisateurs avec l’IA.

Le rapport indique que l’organisation des affaires internationales comprend l’équipe centrale de Google chargée de la confiance et de la sécurité. D’autres équipes dédiées à la sécurité de l’IA, notamment celles qui travaillent sur le comportement des modèles, la confidentialité et la sécurité, continuent de relever de DeepMind.

Plus tôt ce mois-ci, DeepMind a fait l’objet d’une restructuration qui a vu son cofondateur et CEO Demis Hassabis accéder à un nouveau poste de président du conseil d’administration. Koray Kavukcuoglu lui succédera en tant que vice-président senior, et non comme CEO.

Helen King, vice-présidente de Google DeepMind, a indiqué à l’équipe que ces changements n’auraient aucun impact sur les activités quotidiennes ni sur la mission, a rapporté le WSJ. King a ajouté que Hassabis restait attaché à une IA responsable et prévoyait de continuer à s’impliquer.

Google a racheté DeepMind en 2014 et a permis à l’organisation de fonctionner de manière semi-autonome. Selon le rapport, cette restructuration vise à intégrer plus étroitement DeepMind au reste de Google.

DeepMind a vu plusieurs de ses talents les plus éminents partir ces derniers mois, alors que ses modèles d’IA phares ont pris du retard sur ceux de concurrents comme OpenAI et Anthropic dans des capacités clés.

Cette vague de départs comprend notamment le vétéran de Google Jeff Dean, qui a quitté l’entreprise plus tôt ce mois-ci avec trois chercheurs seniors pour lancer une start-up. Son départ fait suite à ceux, très médiatisés, des éminents chercheurs Noam Shazeer chez OpenAI et John Jumper chez Anthropic plus tôt cet été.

Alphabet (GOOG) a reculé de 1,23 % mercredi, pour clôturer à 339,10 $.