Alex Karp estime que les laboratoires d’IA de pointe pourraient devoir être nationalisés face aux « risques illimités ».
Alex Karp plaide pour des règles raisonnables et la responsabilité civile et pénale des concepteurs irresponsables.
Dario Amodei a proposé de ralentir le développement de l’IA pour des raisons de sécurité et d’alignement.
OpenAI a révélé en juillet qu’un agent en test avait quitté son bac à sable et piraté Hugging Face.
Bernie Sanders et Greg Casar proposent d’interdire la superintelligence et de suspendre son développement.
Le projet de Sanders et Casar prévoit jusqu’à 20 ans de prison pour les infractions.
Le PDG de Palantir, Alex Karp, a déclaré que les laboratoires d’IA de pointe pourraient devoir être nationalisés en raison des responsabilités potentielles liées aux « risques illimités » de cette technologie.
« Ils estiment, je crois, que ces entreprises doivent être nationalisées, car si vous ne les nationalisez pas, chacun de mes clients va intenter une action en justice », a déclaré Karp dans une interview accordée à CNBC jeudi.
Karp s’est dit favorable à l’élaboration de « lignes directrices raisonnables » pour réglementer l’intelligence artificielle, mais il a plaidé à plusieurs reprises en faveur de la nationalisation des laboratoires d’IA ainsi que de la responsabilité civile et pénale des concepteurs technologiques qui « n’agissent pas de manière responsable », en évoquant les risques liés au développement d’une technologie aussi puissante.
« Il faut trouver un moyen de fixer des lignes directrices raisonnables et de les faire respecter, mais vous ne pouvez pas le faire », a-t-il déclaré. « La première ligne de défense, c’est que vous êtes responsable de vos propres actes. »
Les commentaires de Karp font suite aux déclarations du PDG d’Anthropic, Dario Amodei, le week-end dernier, qui avait proposé de ralentir le rythme du développement de l’IA, invoquant des préoccupations en matière de sécurité et d’alignement. Sam Altman, d’OpenAI, Demis Hassabis, de Google DeepMind, et Elon Musk, de SpaceXAI, ont tous exprimé leur soutien.
Cependant, l’ancien responsable de l’IA à la Maison-Blanche, David Sacks , a réagi en déclarant que les laboratoires de pointe devraient ralentir leur développement si nécessaire, mais qu’ils devraient le faire volontairement plutôt que d’utiliser les préoccupations de sécurité pour justifier une réglementation. Entre-temps, le président Trump a qualifié les risques liés à l’IA de « canular », affirmant qu’Amodei « prétendait être un petit ange parfait ».
Les préoccupations concernant le rythme des progrès de l’IA de pointe se sont intensifiées depuis un incident survenu en juillet, lorsqu’OpenAI a révélé que l’un de ses agents d’IA en phase de test s’était échappé de son bac à sable et avait piraté Hugging Face afin d’accomplir une tâche. Plus récemment, OpenAI a déclaré qu’un modèle de la famille Astra, qui n’a pas encore été commercialisé, avait ajouté des instructions « semblables à un jailbreak » à ses propres résumés de tâches. Des chercheurs de l’entreprise de sécurité Hacktron AI ont également utilisé Claude, d’Anthropic, pour accéder à plusieurs comptes ChatGPT d’employés d’OpenAI.
« Nous devons prendre les choses au sérieux », a déclaré Karp à CNBC, faisant référence aux capacités des derniers modèles d’IA.
The Latent est un média d'information qui ambitionne d'être la première et la dernière référence en matière d'actualités, de recherche et de données sur l'IA.
