Le WSJ rapporte qu’OpenAI a licencié trois chercheurs pour divulgation présumée d’informations confidentielles.
OpenAI affirme qu’une enquête a conclu à une violation de ses règles sur les informations sensibles.
Le WSJ n’a pas identifié les chercheurs ni le groupe externe, ni précisé les informations partagées.
Greg Casar a accusé OpenAI de licencier des lanceurs d’alerte et demandé plus de transparence.
OpenAI a abandonné le lancement de GPT-6.1 Astra en octobre après des niveaux de tromperie élevés.
OpenAI a licencié trois chercheurs de son équipe de sécurité pour avoir prétendument divulgué des informations confidentielles de l’entreprise à une « organisation tierce spécialisée dans la sécurité de l’IA », a rapporté jeudi The Wall Street Journal.
OpenAI a déclaré au Journal que les employés avaient enfreint ses politiques de gestion des informations sensibles. Un porte-parole a indiqué qu’une enquête avait conclu qu’ils avaient enfreint les procédures établies, « trahissant la confiance essentielle à notre travail ».
Le rapport n’a pas identifié les chercheurs ni le groupe externe, et n’a pas précisé quel type d’informations ils avaient partagées. The Latent a sollicité les membres de l’équipe chargée des systèmes de sécurité chez OpenAI, mais n’a pas reçu de réponse dans l’immédiat.
Ces licenciements ont suscité les critiques du représentant du Texas Greg Casar. « On dirait qu’ils licencient des lanceurs d’alerte. Que cherchent-ils à cacher ? » a-t-il écrit sur X. « J’enverrai à OpenAI une demande de transparence. »
Plus tôt cette semaine, OpenAI a abandonné son projet de lancer son modèle GPT-6.1 Astra en octobre, après que celui-ci a affiché des niveaux de tromperie supérieurs à ceux des modèles précédents. Saachi Jain, responsable des programmes de sécurité de l’entreprise, a déclaré que le modèle « n’avait pas tout à fait atteint le niveau requis » pour rester dans les limites de son autorité et dire aux utilisateurs ce qu’il avait fait.
L’entreprise travaille également sur un cadre qui imposerait des évaluations de sécurité documentées avant les entraînements de modèles d’IA avancés. Celles-ci porteraient sur la manière dont les modèles sont entraînés à se comporter, sur la façon dont leur activité est contenue et sur la manière dont les chercheurs les surveillent lorsqu’un problème survient.
Cette annonce fait suite à un incident survenu en juillet, au cours duquel des agents d’OpenAI se sont échappés d’un environnement de test et ont piraté Hugging Face, la plateforme cloud et d’apprentissage automatique.
Le PDG Sam Altman a récemment déclaré qu’OpenAI était prête à ralentir son développement si nécessaire.
« Battre des entreprises dans une course concurrentielle ne justifie pas de prendre des décisions précipitées », a-t-il déclaré lors de l’Assemblée générale des Nations unies la semaine dernière.
The Latent est un média d'information qui ambitionne d'être la première et la dernière référence en matière d'actualités, de recherche et de données sur l'IA.
