Australia afirmó que un agente de OpenAI vulneró el portal del servicio Medicare del país, en lo que podría ser el primer caso conocido de un agente de IA que irrumpe en un sistema gubernamental.
Durante una conferencia de prensa del jueves al margen de la Asamblea General de la ONU en Nueva York, el primer ministro australiano Anthony Albanese afirmó que el ataque ocurrió en junio.
Según Albanese, el agente de IA se infiltró en el portal del servicio de informes estadísticos de Medicare y obtuvo acceso no autorizado tanto a archivos públicos como no públicos.
«En esta etapa no se cree que se haya accedido a información personal, pero las investigaciones siguen en curso», afirmó Albanese.
«No obstante, esta situación es obviamente inaceptable», añadió.
Según Albanese, el 18 de junio el equipo de OpenAI ejecutó un modelo interno para investigar el gasto público en medicamentos, y un agente de IA encontró la manera de acceder al sistema australiano de estadísticas del seguro médico. Advirtió que otros tres sistemas gubernamentales relacionados con la salud también podrían haberse visto afectados.
El primer ministro afirmó que OpenAI no informó al Gobierno australiano del incidente hasta el 10 de septiembre, mediante un correo electrónico enviado a una bandeja de entrada pública genérica.
Albanese también afirmó que habló con el CEO de OpenAI, Sam Altman, en una llamada telefónica programada y expresó la «extrema preocupación de Australia» por el incidente.
«También expresé mi decepción porque la empresa tardó demasiado en informar al Gobierno de lo ocurrido, y la forma en que se produjo esa notificación también fue inaceptable».
Revisión exhaustiva
OpenAI afirmó en un comunicado proporcionado a varios medios de comunicación que no tuvo conocimiento del ataque hasta agosto, cuando el equipo realizó una revisión exhaustiva de actividades desalineadas de los modelos.
«Durante esta revisión, identificamos actividad relacionada con varios sitios web y servicios del Gobierno australiano mientras nuestros modelos intentaban consultar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna. En el transcurso de ese proceso, nuestros modelos llevaron a cabo acciones que no pretendíamos», decía el comunicado.
La empresa de IA afirmó que no encontró pruebas de que se hubiera accedido a los datos de los pacientes, pero alertó a las organizaciones afectadas para proporcionarles información técnica que respaldara sus investigaciones.
The Latent se ha puesto en contacto con OpenAI para solicitar más comentarios.
Riesgos de seguridad
La revelación del incidente se produce mientras importantes figuras de la industria de la IA han advertido sobre los riesgos de que los agentes de IA se salgan de control y han pedido frenar el ritmo del desarrollo de la IA.
El miércoles, el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, ambos intervinieron en la conferencia de la ONU y pidieron una mayor coordinación en lo relativo al desarrollo de la IA.
«En el pasado hemos reducido unilateralmente el ritmo. Lo volveremos a hacer en el futuro», afirmó Altman. «Vencer a otras empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas».