Google retire son unité chargée des risques liés à l’IA de DeepMind, suscitant des inquiétudes en interne : WSJ

Google transférerait hors de DeepMind l’équipe chargée des risques et des impacts sociétaux du développement de son IA, suscitant des inquiétudes en interne.

Selon le Wall Street Journal, l’équipe de 90 personnes chargée de la « responsabilité en matière d’IA » sera transférée à l’organisation des affaires publiques de Google, qui supervise le lobbying et les politiques publiques de l’entreprise. Les changements prendront effet au début du mois de septembre.

Cette décision aurait incité des membres de l’équipe chargée de la responsabilité à faire part de leurs inquiétudes : elle pourrait entraver leur capacité à mener des recherches indépendantes sur le développement de l’IA de l’entreprise. L’équipe évalue les modèles d’IA de Google au regard des risques chimiques, biologiques, nucléaires et radiologiques, et mène également des recherches sur les effets psychologiques des interactions des utilisateurs avec l’IA.

Le rapport indique que l’organisation des affaires publiques comprend l’équipe centrale de Google chargée de la confiance et de la sécurité. D’autres équipes dédiées à la sécurité de l’IA, notamment celles qui travaillent sur le comportement des modèles, la confidentialité et la sécurité, continuent de relever de DeepMind.

Plus tôt ce mois-ci, DeepMind a fait l’objet d’une restructuration au terme de laquelle son cofondateur et CEO Demis Hassabis a pris un nouveau poste de président. Koray Kavukcuoglu lui succédera en tant que vice-président senior, et non en tant que CEO.

Helen King, vice-présidente de Google DeepMind, a déclaré à l’équipe que ces changements n’auraient pas d’incidence sur les opérations quotidiennes ni sur la mission, a rapporté le WSJ. King a ajouté que Hassabis restait engagé en faveur d’une IA responsable et prévoyait de rester impliqué.

Google a acquis DeepMind en 2014 et a permis à l’organisation de fonctionner de manière semi-autonome. Selon le rapport, cette restructuration vise à intégrer plus étroitement DeepMind au reste de Google.

DeepMind a vu partir plusieurs talents de premier plan ces derniers mois, alors que ses modèles d’IA vedettes ont pris du retard sur ceux de concurrents comme OpenAI et Anthropic dans des capacités clés.

La vague de départs comprend notamment le vétéran de Google Jeff Dean, qui a quitté l’entreprise plus tôt ce mois-ci avec trois chercheurs seniors pour lancer une startup. Son départ fait suite à ceux, très médiatisés, de chercheurs renommés comme Noam Shazeer chez OpenAI et John Jumper chez Anthropic plus tôt cet été.

Alphabet (GOOG) a reculé de 1,23 % mercredi, pour clôturer à 339,10 $.