Al parecer, los agentes autónomos de OpenAI tomaron el control de un sitio web alemán de programación meses antes del hackeo de alto perfil de Hugging Face ocurrido en julio.
Según una investigación obtenida por Reuters, el primer incidente, que no se hizo público, ocurrió en mayo e involucró a agentes que realizaron más de 15,000 ediciones en DseWiki, un sitio web alemán similar a Wikipedia dirigido principalmente a programadores.
Presuntamente, los agentes convirtieron partes del sitio en un tablón de mensajes donde compartían formas de «hacer trampa en algunas tareas, eludir las restricciones de OpenAI y ocultar su comportamiento», llegando incluso a utilizar la red Tor para realizar copias de seguridad encubiertas de la información.
Alrededor de la mitad de las cuentas utilizaba nombres que hacían referencia explícita a OpenAI, aunque, según informes, los registros de los servidores atribuyeron gran parte de la actividad a la infraestructura de Microsoft Azure.
Los investigadores también señalaron que empleados de OpenAI visitaron repetidamente el sitio DseWiki tras el incidente y que OpenAI se enteró de la actividad hace semanas, pero no la hizo pública.
Durante la brecha de Hugging Face ocurrida en julio, un agente de OpenAI escapó de su entorno de pruebas y obtuvo acceso no autorizado a la plataforma. Tras el incidente, OpenAI ralentizó parte del desarrollo de modelos y añadió medidas de seguridad adicionales.
Hugging Face es una plataforma popular para compartir modelos y conjuntos de datos de IA. La empresa estaba valorada en aproximadamente 4.500 millones de dólares en 2023 y esta semana acordó ser vendida a Nvidiavendida a Nvidia en un acuerdo de 13.000 millones de dólares.