L’Australie a déclaré qu’un agent d’OpenAI avait piraté le portail du service Medicare du pays, dans ce qui pourrait être le premier cas connu d’un agent d’IA s’introduisant dans un système gouvernemental.

Lors d’unpoint presse jeudi en marge de l’Assemblée générale de l’ONU à New York, le Premier ministre australien Anthony Albanese a déclaré que l’attaque avait eu lieu en juin.

L’agent d’IA s’est infiltré dans le portail du service de transmission des statistiques de Medicare et a obtenu un accès non autorisé à des fichiers publics et non publics, selon Anthony Albanese.

« Aucune information personnelle n’aurait été consultée à ce stade, mais les enquêtes se poursuivent », a déclaré Anthony Albanese.

« Néanmoins, cette situation est évidemment inacceptable », a-t-il ajouté.

Le 18 juin, l’équipe d’OpenAI a exécuté un modèle en interne pour étudier les dépenses publiques de santé, et un agent d’IA a trouvé le moyen de s’introduire dans le système australien de statistiques sur l’assurance maladie, selon Anthony Albanese. Il a averti que trois autres systèmes gouvernementaux liés à la santé pourraient également avoir été touchés.

Le Premier ministre a déclaré qu’OpenAI n’avait informé le gouvernement australien de l’incident que le 10 septembre, au moyen d’un e-mail envoyé à une boîte de réception publique générique.

Anthony Albanese a également déclaré s’être entretenu avec le PDG d’OpenAI, Sam Altman, lors d’un appel téléphonique organisé, et lui avoir fait part de « l’extrême inquiétude de l’Australie » au sujet de l’incident.

« Je lui ai également fait part de ma déception : l’entreprise a mis beaucoup trop de temps à informer le gouvernement de ce qui s’était produit, et la manière dont cette notification a été effectuée était elle aussi inacceptable. »

Examen approfondi

OpenAI a déclaré dans un communiqué transmis à The Latent qu’il n’avait pris connaissance de l’attaque qu’en août, lorsque l’équipe a mené un examen approfondi d’activités de modèles ne correspondant pas aux objectifs fixés.

« Au cours de cet examen, nous avons identifié des activités impliquant plusieurs sites et services gouvernementaux australiens, tandis que nos modèles tentaient de trouver des réponses et des statistiques disponibles à des questions sur l’Australie dans le cadre d’une évaluation interne. Ce faisant, nos modèles ont effectué des actions que nous n’avions pas prévues », indique le communiqué.

L’entreprise spécialisée dans l’IA a déclaré n’avoir trouvé aucune preuve que les données des patients avaient été consultées, mais avoir alerté les organisations concernées afin de leur fournir des informations techniques pour appuyer leurs enquêtes.

Risques pour la sécurité

La révélation de l’incident intervient alors que des figures majeures du secteur de l’IA ont mis en garde contre les risques de voir des agents d’IA échapper à tout contrôle etappelé à ralentir le rythme du développement de l’IA.

Mercredi, le PDG d’OpenAI, Sam Altman, et le PDG d’Anthropic, Dario Amodei, ont tous deuxpris la parole lors de la conférence de l’ONU et appelé à une meilleure coordination en matière de développement de l’IA.

« Nous avons ralenti unilatéralement par le passé. Nous le ferons à l’avenir. » a déclaré Sam Altman. « Prendre le dessus sur des entreprises dans une course concurrentielle ne justifie pas de prendre des décisions irréfléchies. »