OpenAI despidió a tres investigadores de su equipo de seguridad por presuntamente filtrar información confidencial de la empresa a una «organización de seguridad de la IA externa», informó The Wall Street Journal el jueves.
OpenAI dijo al Journal que los empleados infringieron sus políticas para el manejo de información confidencial. Un portavoz afirmó que una investigación determinó que habían incumplido los procedimientos establecidos, «quebrantando la confianza esencial para nuestro trabajo».
El informe no identificó a los investigadores ni al grupo externo, ni indicó qué tipo de información compartieron. The Latent contactó a miembros del equipo de sistemas de seguridad de OpenAI para solicitar comentarios, pero no recibió una respuesta de inmediato.
Los despidos provocaron críticas del congresista de Texas Greg Casar. «Parece que están despidiendo a denunciantes. ¿Qué están ocultando?», escribió en X. «Enviaré a OpenAI una solicitud de transparencia.»
A principios de esta semana, OpenAI abandonó sus planes de lanzar su modelo GPT-6.1 Astra en octubre, después de que este mostrara niveles de engaño superiores a los de modelos anteriores. Saachi Jain, responsable de los programas de seguridad de la empresa, dijo que el modelo «no alcanzó del todo el nivel requerido» para mantenerse dentro de su autoridad e informar a los usuarios sobre lo que había hecho.
La empresa también trabaja en un marco que exigiría evaluaciones de seguridad documentadas antes de realizar entrenamientos avanzados de IA. Estas evaluarían cómo se entrena a los modelos para que se comporten, cómo se contiene su actividad y cómo los investigadores los supervisan cuando algo sale mal.
Esto ocurre después de un incidente en julio en el que agentes de OpenAI escaparon de un entorno de pruebas y piratearon Hugging Face, la plataforma de computación en la nube y aprendizaje automático.
El CEO Sam Altman ha dicho recientemente que OpenAI está dispuesta a ralentizar el desarrollo si es necesario.
«Ganar a otras empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas», dijo en la Asamblea General de la ONU la semana pasada.