Le PDG d’OpenAI, Sam Altman, a déclaré mercredi au Conseil de sécurité de l’ONU que son entreprise avait déjà ralenti ses travaux sur l’IA et le ferait à nouveau si elle ne pouvait pas maintenir ses systèmes sous le contrôle des humains qui les dirigent.
« Nous avons ralenti unilatéralement par le passé. Nous le ferons à l’avenir », a déclaré Altman. « Remporter une course acharnée entre entreprises ne justifie pas de prendre des décisions inconsidérées. »
Cependant, il n’a jamais précisé exactement quand ni comment ces ralentissements avaient eu lieu.
Altman a déclaré que ses inquiétudes n’avaient fait que grandir à mesure que l’IA jouait un rôle plus important dans la conception de ses futures versions. Si les progrès s’accélèrent trop, les personnes chargées de ces systèmes pourraient avoir du mal à comprendre ce qu’ils font ou comment intervenir en cas de problème.
« Nous pourrions perdre le contrôle de l’avenir au profit de l’IA », a-t-il averti.
Altman a souligné qu’un autre risque était que les systèmes d’IA les plus avancés donnent à un petit nombre d’entreprises ou de pays une influence excessive. Pour y remédier, il a appelé à l’adoption de normes communes permettant de tester les systèmes avancés, de vérifier l’efficacité des garde-fous et de signaler les incidents graves.
S’exprimant également devant le Conseil, le PDG d’Anthropic, Dario Amodei, a pris un engagement similaire.
« Nous ralentirons autant que nécessaire pour nous assurer que chaque nouvelle technologie d’IA que nous lançons est réellement sûre », a-t-il déclaré.
Amodei a également exhorté les pays à s’accorder sur des normes universelles pour les tests de sécurité et sur les moyens de s’alerter mutuellement en cas d’incidents liés à l’IA, en particulier ceux impliquant des atteintes à la sécurité nationale.
« Aucun dirigeant, aucune entreprise et aucune nation ne peut gérer cela seul », a-t-il déclaré.