Mis à jour ,publié pour la première fois
Les travaillistes envisagent des lois pour obliger les entreprises technologiques à faire preuve de transparence à propos de l’IA malveillante après qu’un agent d’OpenAI ait piraté les données de Medicare dans le premier cas public d’intrusion d’un robot sur un site Web gouvernemental, ébranlant les projets du Premier ministre Anthony Albanese de devenir une plaque tournante majeure pour les laboratoires américains.
Le Premier ministre a attiré l’attention du monde entier sur l’incident survenu aux Nations Unies à New York juste après 6 heures du matin AEST, révélant que le gouvernement pourrait signaler la violation à la police fédérale après que la société dirigée par Sam Altman ait mis des semaines à la signaler via une boîte de réception électronique gouvernementale générique.
Le gouvernement a admis que l’incursion du robot dans une base de données effectivement disparue sur les tarifs de facturation groupée et l’utilisation des médicaments était « mineure » et n’avait pas compromis les informations personnelles. Mais Albanese a profité de l’occasion pour exploiter l’inquiétude internationale croissante face à l’évolution rapide de la technologie qui s’échappe du contrôle humain.
« Cette situation est évidemment inacceptable », a déclaré Albanese, alors que les ministres se préparent à de nombreux incidents similaires et lancent un groupe de travail pour évaluer les cyberdéfenses de l’Australie et examiner les sanctions.
« Aucune donnée médicale individuelle n’a été consultée ici », a déclaré Albanese, mais « nous avons besoin de garde-fous pour protéger notre mode de vie ».
La nouvelle est arrivée lors d’une conférence de presse convoquée à la hâte mercredi soir à New York, quelques heures seulement après que les dirigeants d’Amnesty International se soient présentés au Conseil de sécurité de l’ONU pour exhorter les dirigeants à mettre de côté leurs divergences et à créer des règles mondiales pour contrer les systèmes qui s’apprennent tout seuls et perdent le contrôle.
Cette révélation fait suite à une semaine au cours de laquelle la pression de l’Australie en faveur d’un cadre de sécurité soutenu par l’ONU a été rejetée par le président américain Donald Trump. Affichant le rôle central de l’IA dans les affaires mondiales, Trump a rencontré jeudi le Chinois Xi Jinping pour aborder les craintes concernant une bataille technologique que les Nations Unies ont comparée à la course aux armements nucléaires.
Le Premier ministre a utilisé des termes forts pour dénoncer OpenAI et a téléphoné à son PDG milliardaire Sam Altman pour exprimer son mécontentement. Quelques heures après qu’Albanese ait adopté une ligne ferme, son adjoint, Richard Marles, a déclaré qu’OpenAI avait souligné que l’entreprise coopérait avec le gouvernement. La Coalition a suggéré qu’Albanese ait retardé l’annonce pour ajouter du poids à sa campagne en matière de sécurité numérique à l’ONU.
Alastair MacGibbon, responsable de la cybersécurité en Australie sous Malcolm Turnbull, a déclaré que l’incident était un signal d’alarme qui prouvait que les cyberdéfenses australiennes n’étaient pas adaptées à leur objectif et nécessitaient une réforme.
« Nous devrions considérer cela comme un signal d’alarme chanceux. Heureusement, il n’y a pas eu de malveillance et cela a touché un système qui n’était pas critique », a-t-il déclaré, soulignant que l’IA Safety Institute d’Australie n’était pas suffisamment financé pour relever un défi qu’Albanese avait qualifié de critique.
OpenAI a contacté plusieurs autres pays occidentaux au sujet de piratages similaires, mais seule l’Australie l’a rendu public jusqu’à présent, a déclaré MacGibbon.
« Je ne dis pas que le gouvernement australien a eu tort de le divulguer, mais cela n’engendre pas une approche coopérative », a-t-il déclaré, ajoutant que le plus grand risque était qu’un groupe criminel ou un État hostile comme la Chine utilise un agent pour causer des dommages.
Il a déclaré que les petits pays comme l’Australie seraient obligés de « crier sur les nuages » s’ils ne parvenaient pas à inciter les meilleurs laboratoires à former des modèles pionniers en Australie, donnant au pays l’accès aux ingénieurs de l’entreprise et créant des lois sur la manière dont les modèles pourraient être utilisés.
Le gouvernement a annoncé qu’il avait fermé le portail et déplacé les informations sur la santé vers un autre site Web. Le ministre de l’Économie numérique, Andrew Charlton, a admis que l’Australie devait mieux protéger ses informations car « de toute évidence, nos systèmes n’étaient pas robustes ».
L’Australie est en pourparlers avec OpenAI et Anthropic pour devenir le seul pays en dehors des États-Unis à former des modèles. Ce piratage pourrait s’avérer un obstacle sur la route alors que l’Australie tente de convaincre les électeurs des avantages économiques et sécuritaires de l’investissement dans l’IA, tout en sonnant l’alarme sur la sécurité et en proposant des mesures répressives contre les algorithmes et l’utilisation des médias sociaux par les adolescents.
Les travaillistes préparaient déjà un ensemble de lois sur les centres de données et la sécurité de l’IA pour le début de l’année prochaine. Des sources gouvernementales ont déclaré que ce piratage obligerait les ministres à accorder davantage d’importance à la sécurité, à la transparence et à l’information.
Expliquant la chronologie de la violation du système de santé public australien, Albanese a déclaré : « L’agent d’IA a trouvé un moyen de contourner ces blocages, n’a pas accepté de réponse négative. »
OpenAI a déclaré que la violation s’est produite le 18 juin, lorsqu’elle a acquis des données de santé du Medicare Statistics Reporting Service, un ancien site Web utilisé principalement par les universitaires. Le bot OpenAI menait un projet de recherche.
Le vice-Premier ministre Richard Marles a comparé la sécurité du portail à une clôture. Les données personnelles des Australiens détenues par le gouvernement se trouvent « dans un coffre-fort », a-t-il déclaré, et les informations de sécurité nationale les plus sensibles « se trouvent derrière une forteresse ».
L’incident de juin n’a été découvert par OpenAI qu’au mois d’août, après que le créateur de ChatGPT a lancé une étude des actions de ses agents suite à une faille dans la start-up Hugging Face, fin juillet.
L’examen a également révélé que des agents d’OpenAI avaient piraté une bibliothèque numérique de l’Université du Nouveau-Mexique le 25 mai, ciblé Data USA, qui héberge des informations sur l’emploi, et sondé, mais n’avait pas piraté, l’Institut australien de la santé et du bien-être social, Vic Health et un site de données sur la criminalité de Nouvelle-Galles du Sud.
Le 10 septembre, OpenAI a envoyé un e-mail au portail de messagerie public de Services Australia, plutôt que d’appeler ou d’envoyer un e-mail à un haut fonctionnaire. Services Australia, une agence gouvernementale, a vu l’e-mail le 11 septembre et a mis quatre jours pour en informer l’Australian Signals Direction, un service de renseignement.
La ministre des Finances Katy Gallagher, qui supervise Services Australia, a été informée de l’affaire deux jours plus tard. Elle s’est ensuite entretenue avec Marles les 19 et 20 septembre avant de s’entretenir avec OpenAI le 22 septembre.
Gallagher a déclaré que la boîte de réception utilisée par OpenAI était vérifiée une fois par jour. « Parfois, bon nombre d’entre eux sont des canulars », a-t-elle déclaré.
OpenAI a déclaré que ses modèles avaient accédé à « plusieurs sites Web et services du gouvernement australien » lors d’une évaluation interne. Les modèles essayaient de rechercher des réponses et des statistiques à des questions sur l’Australie.
« Au cours de cela, nos modèles ont pris des mesures que nous n’avions pas prévues », a déclaré un porte-parole d’OpenAI.
Gallagher a déclaré qu’elle avait demandé si les 160 millions de dollars alloués dans le dernier budget pour améliorer les cyberdéfenses de l’infrastructure essentielle de Services Australia pouvaient être avancés. Elle a également demandé que d’autres sites Web existants soient déplacés vers des plateformes sécurisées ou mis hors service.
Le chef de l’opposition, Angus Taylor, a déclaré que le parti travailliste avait été pris au dépourvu et qu’il devait créer des liens avec les laboratoires frontaliers sur le sol australien.
« Ils auraient dû avoir accès aux meilleurs modèles possibles pour renforcer nos cyberdéfenses », a-t-il déclaré.
Le sénateur des Verts David Shoebridge a déclaré que les États-Unis étaient « de plus en plus un pays voyou qui pense que son armée, son industrie de l’IA et son commerce peuvent être utilisés comme armes contre le reste du monde ».
« Ce gouvernement semble toujours prêt à introduire OpenAI ici et d’autres sociétés américaines à grande échelle. OpenAI a fait preuve d’un profond manque de respect envers le gouvernement australien », a déclaré Shoebridge.
Découvrez toute notre couverture
Paul Sakkal est le correspondant politique en chef. Il a auparavant couvert la politique victorienne et a remporté un prix Walkley et le titre de journaliste de l’année 2025 à la Galerie de la presse. Contactez-le en toute sécurité sur Signal @paulsakkal.14.Connectez-vous via X ou e-mail.
Rob Harris est le correspondant national du Sydney Morning Herald et de The Age basé à Canberra. C’est un ancien correspondant Europe.Connectez-vous par e-mail.
David Swan est le rédacteur technologique de The Age et du Sydney Morning Herald. Il était auparavant rédacteur technologique pour le journal The Australian.Connectez-vous via X ou e-mail.
Nick Newling est journaliste politique fédéral pour le Sydney Morning Herald et The Age.Connectez-vous via X ou e-mail.