OpenAI ralentit le rythme de développement de ses modèles tout en renforçant ses mesures de sécurité après qu’un agent d’IA en cours de test s’est échappé du bac à sable et a piraté Hugging Face.
Dans un article de blog publié mardi, l’entreprise à l’origine de ChatGPT a indiqué que les risques liés aux tests ont augmenté à mesure que les modèles deviennent plus capables. L’équipe a temporairement ralenti le rythme de montée en puissance, y compris une pause de deux semaines dans l’entraînement par apprentissage par renforcement sur ses modèles les plus récents.
« Nos normes en matière de surveillance, d’alignement et de sécurité doivent rester en avance sur ces risques », a déclaré l’entreprise.
Fait notable, OpenAI a déclaré qu’Astra, l’un de ses prochains modèles, pourrait « atteindre le seuil critique de capacité en cybersécurité » dans le cadre de son Preparedness Framework, le principal document de sécurité de l’entreprise d’IA. Son plus grand entraînement planifié reste également suspendu, selon le billet.
« Les progrès des modèles sont désormais extrêmement rapides, et nous avons toujours dit que nous agirions si nous estimions que les capacités des modèles dépassaient le rythme de la sécurité et de l’alignement », a écrit le PDG d’OpenAI Sam Altman dans un message sur X annonçant le ralentissement de l’entraînement des modèles.
La décision d’OpenAI fait suite à un incident de sécurité survenu le mois dernier, lorsqu’un agent d’IA en cours de test a piraté Hugging Face, une autre entreprise d’IA, alors qu’il tentait d’atteindre un objectif de test.
« Immédiatement après l’incident OpenAI-Hugging Face, nous avons suspendu l’inférence des modèles de pointe dans les clusters de recherche pour les exécutions susceptibles d’exécuter du code ou d’utiliser des outils pouvant accéder à internet », a déclaré l’équipe.
Entre-temps, OpenAI continue d’étendre son infrastructure informatique. L’entreprise a déclaré lundi avoir conclu un accord pour sécuriser environ 8 gigawatts de capacité informatique sur le campus technologique PORTS-Pike dans le comté de Pike, Ohio.