Sam Altman, d’OpenAI, estime que ralentir le développement de l’IA de pointe « vaudra largement » le coût

Le PDG d’OpenAI, Sam Altman, a appelé les principales entreprises technologiques spécialisées dans l’IA à ralentir délibérément le rythme du développement afin que les mesures de sécurité et de surveillance puissent rattraper leur retard.

Dans une série de publications sur X, Altman a déclaré dimanche que le monde méritait d’avoir la certitude que les développeurs d’IA aux États-Unis agissent de manière responsable, compte tenu de l’accélération du rythme du développement cette année.

« Chaque laboratoire de pointe doit tenir cet engagement, et aucun d’entre nous ne devrait avoir de raison de venir travailler si nous en sommes incapables », a déclaré Altman.

Les derniers commentaires d’Altman font suite à la proposition du PDG d’Anthropic, Dario Amodei visant à ralentir le rythme du développement de l’IA. Demis Hassabis, de Google DeepMind, et Elon Musk, de SpaceXAI, ont également signalé leur soutien à cette orientation.

Des scénarios « très graves »

Deux événements ont récemment suscité de vives inquiétudes concernant le développement de l’IA, en particulier l’auto-amélioration récursive des modèles d’IA, qui pourrait leur permettre d’agir au-delà du contrôle humain.

Le premier est l’incident au cours duquel des agents d’OpenAI se sont échappés d’un environnement de test et ont piraté l’infrastructure de Hugging Face pour atteindre leur objectif. Le second est l’annonce, la semaine dernière, de la démission du chercheur d’Anthropic spécialisé dans le pré-entraînement, Jacob Coxon qui a averti que la superintelligence dans l’IA pourrait entraîner la disparition de l’humanité d’ici 2030.

Altman lui-même a cité deux façons dont les progrès de l’IA pourraient très mal tourner et qui doivent être évitées.

« Premièrement, nous pourrions perdre le contrôle de l’avenir au profit de l’IA », a écrit Altman. « C’est inacceptable ; nous sommes résolument dans le camp de l’humanité, et l’IA doit toujours servir les humains. »

Pour y parvenir, Altman a déclaré que les techniques d’alignement et de sécurité devaient progresser plus vite que les capacités des modèles. Selon lui, le deuxième danger serait un monde où le pouvoir serait trop concentré : une personne ou une organisation contrôlant quelque chose d’extrêmement puissant et imposant sa vision à l’humanité pourrait conduire à une dystopie.

Cadre de gestion des risques

Le PDG d’OpenAI a déclaré qu’il était favorable à un cadre fédéral pour la sécurité de l’IA, mais a souligné que les entreprises devraient agir de manière préventive afin de commencer à instaurer la confiance du public.

« Chez OpenAI, nous formulons désormais à l’avance des dossiers de sécurité explicites avant les cycles d’apprentissage par renforcement de pointe dont nous nous attendons à ce qu’ils augmentent considérablement les capacités », a écrit Altman. « Nous espérons que d’autres entreprises tireront des enseignements de nos approches et proposeront les leurs ; nous pensons que des normes communes en matière de désalignement, de surveillance et de sécurité conduiront à de meilleurs résultats. »

Altman a ajouté que le fait de « rythmer » le développement de l’IA ne signifiait pas « arrêter » les progrès, mais simplement que les entreprises devraient adopter une approche plus lente afin de donner la priorité à la sécurité et à la surveillance.

« Ralentir le rythme vaudra largement ce coût ; aucune pression concurrentielle américaine ne saurait justifier l’imprudence ni permettre aux capacités de prendre de l’avance sur l’alignement et la surveillance », a déclaré Altman.