Mis à jour ,publié pour la première fois
Les entreprises d’intelligence artificielle qui ne parviennent pas à maîtriser les agents malhonnêtes pourraient être confrontées à des sanctions pénales et à des obligations de déclaration obligatoires en cas de cyberincidents, alors que le gouvernement réagit au piratage des données Medicare par OpenAI qui a secoué le secteur.
Malgré les avertissements selon lesquels une réglementation inédite au monde pourrait entraver les investissements dans l’IA en Australie, le gouvernement a accepté mardi toutes les recommandations d’un examen rapide du piratage, y compris la création d’une infraction pénale pour le fait de ne pas empêcher les agents de se déchaîner.
S’exprimant lors d’une conférence de presse au Parlement de Canberra, le Premier ministre Anthony Albanese a déclaré que le gouvernement cherchait à façonner l’IA pour qu’elle conserve son permis social tout en récoltant les bénéfices des investissements alors que les communautés du monde entier s’opposent au développement des centres de données.
« Le droit doit anticiper et, dans certains cas, s’assurer de rattraper son retard, dans un monde qui évolue très rapidement. Et pour être clair, l’Australie est un pionnier dans ces domaines », a déclaré Albanese.
En septembre, Albanese a révélé qu’un agent OpenAI chargé de collecter des données sur la santé publique australienne avait accédé à trois sites Web gouvernementaux où il avait obtenu des informations accessibles au public. L’agent a également accédé à des fichiers privés contenant des données générales de Medicare. Ce piratage était le premier du genre signalé au monde.
Le gouvernement a lancé une enquête rapide en réponse à l’incident, dont les recommandations ont été rendues publiques mardi. Les journalistes présents à la conférence de presse du Premier ministre n’ont pas pu examiner les détails de l’annonce avant qu’Albanese ne soit interrogé, et le rapport complet sur le piratage de Medicare n’a pas encore été publié.
Les ministères du Procureur général et des Affaires intérieures travailleront avec la police fédérale australienne pour examiner les options permettant d’établir des sanctions pénales en cas de « non-respect flagrant de la réglementation », y compris une infraction autonome de « défaut de prévention ».
Les lois établiront également un régulateur ciblant la sécurité de l’IA, qui sera chargé d’appliquer ces « sanctions importantes » aux entreprises qui enfreignent les règles. Le régulateur sera également en mesure d’évaluer de manière indépendante les risques des modèles d’IA.
OpenAI ne devrait pas subir de conséquences suite à ce piratage – que le Premier ministre a qualifié de « mineur » – mais de futurs incidents de nature similaire pourraient être visés par la législation proposée.
Un porte-parole d’OpenAI a déclaré que la société étudiait les recommandations et entretenait un « dialogue étroit » avec le gouvernement. « Nous continuerons à nous engager de manière constructive à mesure qu’elle élabore son projet de loi », a déclaré le porte-parole.
La société a créé un groupe d’experts dirigé par des experts australiens pour recommander des moyens permettant à OpenAI d’améliorer la notification des incidents et de renforcer la coordination entre le gouvernement et l’organisation. OpenAI a indiqué qu’elle travaillerait de manière constructive avec le régulateur proposé une fois établi.
Des sources gouvernementales n’ont pas confirmé si les sociétés d’IA avaient été consultées sur les réglementations, qui n’ont été approuvées par le cabinet que mardi matin. La société d’IA Anthropic a également été contactée pour commentaires.
Le piratage de Medicare a eu lieu en juin et OpenAI en a pris connaissance en août. Le vice-Premier ministre Richard Marles a rencontré le PDG d’OpenAI, Sam Altman, plus tôt en septembre, mais le gouvernement n’a été officiellement informé de la violation qu’une semaine plus tard.
En réponse, le gouvernement cherchera à établir une période de rapport « limitée dans le temps » pour que les sociétés d’IA informent les parties concernées des comportements inappropriés et des cyberincidents, même si la durée exacte de cette période n’est pas claire. Les entreprises qui effectuent des rapports « en temps opportun » devraient bénéficier d’une certaine protection contre les sanctions.
Les agences gouvernementales verront également leurs attentes en matière de déclaration d’incidents de vulnérabilité et de cybersécurité et d’escalade clarifiées, après qu’il a fallu quatre jours en septembre à Services Australia pour enquêter et signaler le piratage de Medicare à la Direction australienne des signaux.
La Coalition a salué l’annonce de nouvelles garanties, mais a souligné l’importance de protéger le potentiel des technologies de l’IA pour « transformer l’Australie pour le mieux ».
« Mettre en place une bonne réglementation de l’IA est une priorité nationale cruciale », a déclaré le porte-parole de l’opposition en matière de cybersécurité, Aaron Violi. « La Coalition continue de travailler de manière constructive afin d’identifier et de mettre en œuvre des garanties qui protègent les Australiens et également de promouvoir plutôt que d’étouffer l’innovation. »
Tout projet de loi nécessitera le soutien soit de la Coalition, soit des Verts au Sénat. Le leader des Verts, David Shoebridge, a décrit l’annonce de mardi comme une capitulation face aux grandes technologies et une « capitulation totale face aux exigences américaines ».
Parmi les autres recommandations que le gouvernement a adoptées à la suite de cet examen figurent des réformes des agences du Commonwealth pour améliorer les procédures de réponse aux cyberincidents, les connaissances en IA et les pratiques de cybersécurité. Des efforts seront également déployés pour réduire l’empreinte numérique des agences et fermer ou séparer les systèmes qui n’ont pas besoin d’être connectés à Internet.
La nouvelle de la répression est intervenue quelques heures après que la PDG de Qantas, Vanessa Hudson, a cité AI en annonçant la suppression de 850 emplois dans les domaines de la finance, des achats, des ressources humaines et du marketing. La compagnie aérienne a signé un accord avec la société de services professionnels Accenture pour « moderniser ses systèmes back-end, ses processus et ses données ».
Plus tôt dans le mois, le géant australien du design graphique Canva a annoncé la suppression de 1 000 postes dans l’ensemble de l’entreprise. La cofondatrice Melanie Perkins n’a pas directement lié les coupes budgétaires à l’essor de l’intelligence artificielle, mais a écrit que la nouvelle technologie transformait ce que les gens créent et ce qu’ils attendent des produits qu’ils utilisent.
Nick Newling est journaliste politique fédéral pour le Sydney Morning Herald et The Age.Connectez-vous via X ou e-mail.
David Swan est le rédacteur technologique de The Age et du Sydney Morning Herald. Il était auparavant rédacteur technologique pour le journal The Australian.Connectez-vous via X ou e-mail.