OpenAI ralentit son rythme de développement des modèles tout en renforçant ses mesures de sécurité après qu’un agent d’IA en phase de test s’est échappé de son bac à sable et a piraté Hugging Face.
Dans un article de blog publié mardi, l’entreprise à l’origine de ChatGPT a déclaré que les risques associés aux tests avaient augmenté à mesure que les modèles devenaient plus performants. L’équipe a temporairement ralenti le rythme de mise à l’échelle, notamment en suspendant pendant deux semaines l’entraînement par apprentissage par renforcement de ses modèles les plus récents.
« Nos normes en matière de surveillance, d’alignement et de sécurité doivent rester en avance sur ces risques », a déclaré l’entreprise.
Fait notable, OpenAI a déclaré qu’Astra, l’un de ses modèles à venir, pourrait « atteindre le seuil de capacité critique en matière de cybersécurité » selon son Preparedness Framework, le principal document de sécurité de l’entreprise d’IA. Son plus vaste entraînement prévu reste également suspendu, selon l’article.
« Les progrès des modèles sont désormais extrêmement rapides, et nous avons toujours dit que nous agirions si nous estimions que les capacités des modèles dépassaient le rythme des progrès en matière de sécurité et d’alignement », a écrit le PDG d’OpenAI, Sam Altman, dans un message publié sur X pour annoncer le ralentissement de l’entraînement des modèles.
La décision d’OpenAI fait suite à un incident de sécurité survenu le mois dernier, lorsqu’un agent d’IA en phase de test a piraté Hugging Face, une autre entreprise d’IA, en tentant d’atteindre un objectif de test.
« Immédiatement après l’incident impliquant OpenAI et Hugging Face, nous avons suspendu l’inférence de modèles de pointe dans les grappes de recherche pour les exécutions susceptibles d’exécuter du code ou d’utiliser des outils pouvant accéder à Internet », a déclaré l’équipe.
Parallèlement, OpenAI continue de développer son infrastructure informatique. L’entreprise a déclaré lundi avoir conclu un accord pour sécuriser environ 8 gigawatts de capacité informatique sur le campus technologique PORTS-Pike, dans le comté de Pike, en Ohio.