Zuckerberg affirme que Meta a retardé Muse pour des raisons de sécurité sans demander à ses concurrents d’en faire autant

Le PDG de Meta, Mark Zuckerberg, est apparemment intervenu mardi soir dans le débat sur le rythme de développement de l’intelligence artificielle, affirmant que l’entreprise avait retardé de plusieurs mois son produit d’assistant IA personnel, Muse, sans demander à ses concurrents d’en faire autant.

Au cours du week-end, le PDG d’Anthropic, Dario Amodei, avait proposé de ralentir le rythme du développement de l’IA, invoquant des préoccupations en matière de sécurité et d’alignement. Sam Altman d’OpenAI, Demis Hassabis de Google DeepMind et Elon Musk de SpaceXAI ont également signalé leur soutien à cette orientation.

« Meta a retardé la mise sur le marché de Muse de plusieurs mois afin de se concentrer sur la sûreté et la sécurité », a publié Zuckerberg sur X. « Nous n’avons pas demandé à tout le monde d’en faire autant avant de le faire nous-mêmes. Nous l’avons simplement fait dans le cadre de notre travail quotidien, parce que c’était clairement la bonne chose à faire pour les gens et pour nous. »

Le patron de Meta a déclaré que chaque laboratoire d’IA avait la responsabilité d’entraîner ses modèles à un rythme sûr et était capable de prendre ses propres mesures pour s’en assurer, ajoutant que faire appel à des évaluateurs et des conseillers indépendants constituait une bonne pratique du secteur.

Les incitations à l’autorégulation

Comme les utilisateurs ne veulent pas d’agents qui soient mal alignés avec eux et qui ne fassent pas ce qu’ils demandent, les laboratoires ont déjà une forte incitation à rendre leurs modèles davantage alignés, a déclaré le PDG de Meta. En outre, les laboratoires s’exposent à d’importantes responsabilités juridiques si leurs modèles causent des préjudices ; ils sont donc fortement incités à les prévenir également.

« Tout laboratoire qui ne se concentrera pas sur l’alignement prendra du retard », a-t-il ajouté.

En réponse aux commentaires précédents d’Amodei, l’ancien responsable de l’IA à la Maison-Blanche, David Sacks a déclaré que les laboratoires développant les modèles de pointe devraient ralentir leur développement s’ils estiment celui-ci dangereux. Il a toutefois soutenu qu’ils devraient le faire volontairement plutôt que d’utiliser les préoccupations de sécurité pour justifier une réglementation susceptible de consolider leur domination du marché.

« Consacrer la grande majorité de la capacité de calcul à servir les gens plutôt qu’à se lancer dans une course à l’auto-amélioration récursive est l’un des meilleurs moyens de garantir que nous développerons cette technologie en toute sécurité », a déclaré Zuckerberg. « Meta a pris cet engagement, et les autres laboratoires peuvent en faire autant. »