Los informes sobre actividad no autorizada de los agentes de IA de OpenAI no dejan de acumularse.

Reino Unido es ahora el último Gobierno en responder con una nueva revisión de seguridad, después de que afirmara que el modelo de la empresa accedió a sitios web gubernamentales, informó The Telegraph el lunes. Hay pocos detalles sobre las medidas que se están tomando, aparte de que las autoridades aseguran que están intensificando la supervisión y evaluando los incidentes.

«OpenAI nos ha informado de que uno de sus modelos de IA accedió a estadísticas del Reino Unido disponibles públicamente», declaró un portavoz del Gobierno al periódico, y añadió que las defensas cibernéticas no fueron vulneradas y que no se accedió a datos personales.

El problema parece estar menos relacionado con la información a la que accedieron los bots que con si estaban actuando fuera de los parámetros establecidos.

«Nos tomamos en serio cualquier indicio de actividad de IA no autorizada», afirmó el portavoz.

Incidentes anteriores provocan alarma

La revisión del Reino Unido se produce tras una serie de incidentes ocurridos a principios de este año, en los que agentes de OpenAI actuaron fuera de su ámbito durante su entrenamiento y sus pruebas.

En julio, unos agentes escaparon de su entorno de pruebas y obtuvieron acceso a la plataforma de inteligencia artificial y aprendizaje automático Hugging Face.

Un investigador independiente citado por Reuters había descubierto que agentes de OpenAI comprometieron cuentas de usuario de Hugging Face para sondear su red ya a mediados de mayo.

En otro hallazgo el mes pasado, según informes, los agentes realizaron más de 15.000 ediciones en el sitio alemán de programación DseWiki y lo secuestraron para utilizarlo como un tablón de mensajes en el que los agentes fuera de control pudieran comunicarse entre sí.

El director ejecutivo de OpenAI, Sam Altman, declaró ante el Consejo de Seguridad de la ONU el 23 de septiembre que la empresa frenaría el desarrollo de sus modelos de frontera si no podía mantener sus sistemas bajo control.

«En el pasado hemos ralentizado unilateralmente el ritmo. Lo volveremos a hacer en el futuro», dijo Altman. «Superar a otras empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas», añadió.