L’Australie a déclaré qu’un agent d’OpenAI avait piraté le portail du service Medicare du pays, dans ce qui pourrait être le premier cas connu d’un agent d’IA s’introduisant dans un système gouvernemental.
Lors d’un point presse jeudibriefing en marge de l’Assemblée générale de l’ONU à New York, le Premier ministre australien Anthony Albanese a déclaré que l’attaque avait eu lieu en juin.
Selon Anthony Albanese, l’agent d’IA s’est infiltré dans le portail du service de signalement des statistiques de Medicare et a obtenu un accès non autorisé à des fichiers publics et non publics.
« À ce stade, rien ne permet de penser que des informations personnelles ont été consultées, mais les enquêtes sont en cours », a déclaré Anthony Albanese.
« Néanmoins, cette situation est évidemment inacceptable », a-t-il ajouté.
Le 18 juin, l’équipe d’OpenAI a exécuté un modèle interne pour étudier les dépenses publiques de santé, et un agent d’IA a trouvé le moyen de s’introduire dans le système australien de statistiques sur l’assurance-maladie, selon Anthony Albanese. Il a averti que trois autres systèmes gouvernementaux liés à la santé pourraient également avoir été touchés.
Le Premier ministre a déclaré qu’OpenAI n’avait informé le gouvernement australien de l’incident que le 10 septembre, par l’intermédiaire d’un e-mail envoyé à une boîte de réception publique générique.
Anthony Albanese a également déclaré s’être entretenu avec le CEO d’OpenAI, Sam Altman, lors d’un appel téléphonique organisé, et lui avoir fait part de « l’extrême inquiétude de l’Australie » au sujet de l’incident.
« Je lui ai également fait part de ma déception face au délai beaucoup trop long pris par l’entreprise pour informer le gouvernement de ce qui s’était passé, ainsi que du caractère inacceptable de la manière dont cette notification a été effectuée. »
Examen approfondi
OpenAI a déclaré dans un communiqué transmis à plusieurs médias qu’elle n’avait pris connaissance de l’attaque qu’en août, lorsque l’équipe avait effectué un examen approfondi d’activités de modèles ne respectant pas les objectifs prévus.
« Au cours de cet examen, nous avons identifié une activité impliquant plusieurs sites et services du gouvernement australien, alors que nos modèles tentaient de trouver des réponses et des statistiques disponibles à des questions sur l’Australie dans le cadre d’une évaluation interne. Ce faisant, nos modèles ont effectué des actions que nous n’avions pas prévues », indique le communiqué.
L’entreprise spécialisée dans l’IA a déclaré n’avoir trouvé aucun élément indiquant que les données des patients avaient été consultées, mais avoir alerté les organisations concernées afin de leur fournir des informations techniques pour faciliter leurs enquêtes.
The Latent a contacté OpenAI pour obtenir de plus amples commentaires.
Risques pour la sécurité
La révélation de l’incident intervient alors que des personnalités majeures du secteur de l’IA ont mis en garde contre les risques de voir des agents d’IA échapper à tout contrôle et appelé à ralentir le rythme du développement de l’IA.
Mercredi, le CEO d’OpenAI, Sam Altman, et le CEO d’Anthropic, Dario Amodei, qui avaient tous deux pris la parole lors de la conférence de l’ONU ont appelé à une meilleure coordination en matière de développement de l’IA.
« Par le passé, nous avons ralenti unilatéralement. Nous le ferons à l’avenir. » a déclaré Sam Altman. « Battre des entreprises dans une course concurrentielle ne justifie pas de prendre des décisions irréfléchies. »