L’ASIC n’a pas répondu directement aux questions sur ces programmes automatisés, mais dans une déclaration générale, un porte-parole a déclaré que les affirmations selon lesquelles il utilisait l’intelligence artificielle étaient incorrectes.
« L’automatisation de certains processus ne doit pas être confondue avec l’utilisation de l’intelligence artificielle », a déclaré le porte-parole. « Comme d’autres régulateurs dans le monde, nous pensons que l’IA a un rôle à jouer à l’avenir. Lorsque nous utiliserons l’IA, cela se fera de manière responsable, équitable et sûre, guidé par des principes que nous définirons et partagerons de manière transparente.
L’ASIC reçoit d’énormes volumes de données sur d’éventuelles fautes, avec 20 000 rapports, plaintes et autres types de renseignements déposés au cours de cet exercice à ce jour, a déclaré le porte-parole.
« Nous n’enquêtons pas et ne pouvons pas enquêter sur tous les cas d’inconduite potentielle qui sont portés à notre attention », a-t-il déclaré. « Nous devons prendre des décisions prudentes et parfois difficiles, en utilisant notre expertise réglementaire, notre jugement et notre expérience pour évaluer un large éventail de facteurs et d’informations. »
Le professeur de l’UNSW, Toby Walsh, un expert en IA, a déclaré que le gouvernement était un candidat naturel pour utiliser l’intelligence artificielle. Il collectait d’énormes réserves de données, était dans une position de confiance et faisait face à une pression constante pour en faire plus sans dépenser plus d’argent.
« Votre mission s’étend à mesure que vous pouvez faire des choses moins chères », a déclaré Walsh.
« Un obstacle important à un débat significatif sur la future gouvernance de l’utilisation de la technologie des machines par le gouvernement est un manque presque total de transparence sur cette utilisation. »
Rapport 2021 du médiateur NSW
L’ASIC est loin d’être le seul régulateur à s’appuyer sur l’intelligence artificielle et les systèmes automatisés. Certaines forces de police d’État utilisent l’IA pour aider à identifier les suspects à partir des images des caméras de sécurité et ont testé des systèmes pour essayer d’évaluer le risque d’infractions répétées de violence domestique. L’administration fiscale l’utilise pour signaler les déclarations de revenus qui semblent hors de l’ordinaire. L’agence de lutte contre le blanchiment d’argent AUSTRAC l’utilise pour aider à trouver des transactions suspectes. L’APRA, un autre régulateur qui supervise les banques et les caisses de retraite, a noté dans son dernier rapport annuel qu’elle pilote des notations de risque automatisées. AUSTRAC n’a pas répondu à une demande de commentaire. L’APRA a refusé de commenter.
Ce sont probablement la pointe de l’iceberg, selon un rapport de 2021 du NSW Ombudsman, qui est une agence de surveillance gouvernementale indépendante.
« Un obstacle important à un débat significatif sur la future gouvernance de l’utilisation de la technologie des machines par le gouvernement est un manque presque total de transparence sur cette utilisation », indique le rapport.
La ministre fédérale des Finances, Katy Gallagher, a déclaré: «La fonction publique doit agir de manière éthique, traiter les gens avec respect et prendre des décisions éclairées et fondées sur des preuves. Alors que la prise de décision automatisée devient de plus en plus disponible, la Commission royale Robodebt a souligné la nécessité d’agir avec prudence.
L’ancien Premier ministre Malcolm Turnbull a été l’une des personnes à témoigner devant la commission royale sur la dette robotique.Crédit:PAA
Le système gouvernemental automatisé le plus connu, le programme illégal de récupération de l’aide sociale familièrement connu sous le nom de « robo-dette », qui est maintenant si tristement célèbre qu’il a déclenché une commission royale fournissant de nouvelles informations préjudiciables apparemment tous les jours.
Walsh ne voulait pas que le gouvernement soit intimidé d’utiliser des systèmes automatisés par les échecs de la dette robotisée, qui était défectueuse dès le départ car elle supposait que le revenu des allocataires sociaux était uniformément réparti alors que la loi exige qu’il soit mesuré semaine par semaine. Il soutient que les fonctionnaires sont naturellement prudents et devraient apprendre de l’approche du secteur privé consistant à lancer des produits et à les réitérer rapidement, tout en restant conscients des dommages que peuvent avoir des décisions gouvernementales incorrectes.
« Ce qui était si mauvais à propos de la dette robotique, c’est qu’ils sont restés fidèles à leurs armes lorsque la preuve a commencé à arriver que cela causait du tort », a déclaré Walsh.
« S’ils avaient rapidement itéré et dit: » Eh bien, attendez une seconde, changeons la façon dont nous faisons le calcul ou réfléchissons pour savoir si nous faisons cela correctement « dès qu’ils ont commencé à avoir des preuves au cours de la première année du programme, alors la plupart des méfaits de la dette robotique auraient été évités.
Le professeur UTS Ed Santow, un ancien commissaire aux droits de l’homme qui a dirigé un rapport à grande échelle sur l’IA gouvernementale, préférerait une approche différente. Il a dit qu’il y a des domaines où les gouvernements peuvent expérimenter l’IA, comme l’utiliser pour améliorer les horaires des trains, mais d’autres où il faut se méfier.
« Dans la prise de décision à enjeux élevés, il n’est pas sûr de sortir avec ce que le monde de la technologie appellerait un » produit bêta « et de simplement itérer sur vos clients car ce sont des citoyens qui reçoivent des décisions qui peuvent changer leur vie », Santow a dit.
« L’autre différence avec le secteur des entreprises… est que dans le secteur des entreprises, les gens peuvent généralement faire leurs courses ailleurs. Le gouvernement a un monopole. C’est le seul jeu en ville.
Si l’ASIC refuse de poursuivre un directeur, il n’y a souvent pas d’alternative avec les ressources pour le faire. Dans l’affaire Wilson, l’ASIC a agi et a financé les liquidateurs pour qu’ils fassent plus de travail. Le porte-parole a confirmé qu’il n’y avait eu aucune mise à jour de l’interdiction de Wilson et de sa femme Melinda Wilson, qui a également été interdite. Melinda Wilson n’a pas répondu aux appels téléphoniques et aux SMS demandant des commentaires d’elle et de son mari, dont le numéro et l’e-mail précédents sont inactifs. Il n’a pas répondu à un message LinkedIn.
« Nous pensons que cette interdiction a représenté une action importante malgré la faillite de M. Wilson », a déclaré le porte-parole de l’ASIC. « L’ASIC a le pouvoir de disqualifier une personne d’agir en tant qu’administrateur jusqu’à cinq ans et lorsqu’un administrateur se livre à une faute systémique ou grave, même s’il est déjà en faillite, l’ASIC prendra des mesures pour l’interdire pour la protection du public .”
La newsletter Business Briefing propose des articles majeurs, une couverture exclusive et des avis d’experts. Inscrivez-vous pour l’obtenir tous les matins de la semaine.