OpenAI está ralentizando el ritmo de desarrollo de modelos mientras refuerza sus medidas de seguridad después de que un agente de IA en fase de prueba escapara del entorno aislado y hackeara Hugging Face.
En una publicación de blog publicada el martes, la empresa detrás de ChatGPT dijo que los riesgos asociados con las pruebas han aumentado a medida que los modelos se vuelven más capaces. El equipo ha ralentizado temporalmente el ritmo de escalado, incluida una pausa de dos semanas en el entrenamiento de aprendizaje por refuerzo de sus modelos más recientes.
"Nuestros estándares de monitorización, alineación y seguridad deben mantenerse por delante de esos riesgos", dijo la empresa.
En particular, OpenAI dijo que Astra, uno de sus próximos modelos, podría "cumplir el umbral de capacidad crítica de ciberseguridad" en virtud de su Marco de Preparación, el principal documento de seguridad de la empresa de IA. Su mayor ejecución de entrenamiento prevista también permanece suspendida, según la publicación.
"El progreso de los modelos es ahora extremadamente rápido, y siempre dijimos que actuaríamos si considerábamos que las capacidades de los modelos estaban superando el ritmo de seguridad y alineación", escribió el CEO de OpenAI, Sam Altman, en una publicación en X en la que anunciaba la ralentización del entrenamiento de modelos.
La decisión de OpenAI se produce después de un incidente de seguridad ocurrido el mes pasado, cuando un agente de IA en fase de prueba hackeó Hugging Face, otra empresa de IA, mientras intentaba cumplir un objetivo de prueba.
"Inmediatamente después del incidente entre OpenAI y Hugging Face, pausamos la inferencia de modelos frontera en clústeres de investigación para ejecuciones que pudieran ejecutar código o utilizar herramientas con acceso a internet", dijo el equipo.
Mientras tanto, OpenAI continúa ampliando su infraestructura informática. La empresa dijo el lunes que ha llegado a un acuerdo para asegurar aproximadamente 8 gigavatios de capacidad de TI en el PORTS-Pike Technology Campus, en el condado de Pike, Ohio.