Australia afirmó que un agente de OpenAI hackeó el portal del servicio Medicare del país, en lo que podría ser el primer caso conocido de un agente de IA que irrumpe en un sistema gubernamental.
En una conferencia de prensa del jueves informativa al margen de la Asamblea General de la ONU en Nueva York, el primer ministro australiano Anthony Albanese afirmó que el ataque ocurrió en junio.
El agente de IA se infiltró en el portal del servicio de informes estadísticos de Medicare y obtuvo acceso no autorizado tanto a archivos públicos como no públicos, según Albanese.
«En esta etapa, no se cree que se haya accedido a información personal, pero las investigaciones continúan», afirmó Albanese.
«No obstante, esta situación es evidentemente inaceptable», añadió.
El 18 de junio, el equipo de OpenAI ejecutó un modelo interno para investigar el gasto público en medicamentos, y un agente de IA encontró la manera de irrumpir en el sistema de estadísticas del seguro médico de Australia, según Albanese. Advirtió que otros tres sistemas gubernamentales relacionados con la salud también podrían haberse visto afectados.
El primer ministro afirmó que OpenAI no informó al Gobierno australiano sobre el incidente hasta el 10 de septiembre, mediante un correo electrónico enviado a una bandeja de entrada pública genérica.
Albanese también afirmó que habló con el CEO de OpenAI, Sam Altman, en una llamada telefónica concertada y expresó la «extrema preocupación de Australia» por el incidente.
«Y también expresé mi decepción por que la empresa tardara demasiado en informar al Gobierno de lo ocurrido; además, la forma en que se produjo esa notificación fue inaceptable».
Revisión exhaustiva
OpenAI afirmó en un comunicado compartido con The Latent que no tuvo conocimiento del ataque hasta agosto, cuando el equipo llevó a cabo una revisión exhaustiva de actividades desalineadas del modelo.
«Durante esta revisión, identificamos actividad relacionada con varios sitios web y servicios del Gobierno australiano mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna. En el transcurso de ese proceso, nuestros modelos llevaron a cabo acciones que no pretendíamos», afirmó el comunicado.
La empresa de IA afirmó que no encontró pruebas de que se hubiera accedido a los datos de los pacientes, pero alertó a las organizaciones afectadas para proporcionarles información técnica que respaldara sus investigaciones.
Riesgos para la seguridad
La revelación del incidente se produce mientras importantes figuras de la industria de la IA han advertido sobre los riesgos de que los agentes de IA se descontrolen y han pedido ralentizar el ritmo del desarrollo de la IA.
El miércoles, el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, ambos intervinieron en la conferencia de la ONU y pidieron una mayor coordinación en lo relativo al desarrollo de la IA.
«En el pasado, hemos ralentizado el ritmo de forma unilateral. Lo haremos también en el futuro», afirmó Altman. «Vencer a otras empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas».