L’approche du gouvernement, à ce stade, ne comprend pas de mesures similaires à celles prises par l’Union européenne qui, à travers son projet de loi sur l’IA approuvé par les décideurs politiques en décembre, cherchera à interdire certaines utilisations de l’IA qui présentent un « risque inacceptable ». Il s’agit notamment de la création de systèmes de notation du crédit social, du profilage biométrique et grattage d’images depuis Internet pour créer des bases de données de reconnaissance faciale.
Mais Husic a déclaré que le gouvernement resterait ouvert à des réponses réglementaires plus strictes et qu’il suivait l’évolution de la situation dans d’autres pays.
« Si d’autres pays, comme l’UE, font des choses qui, selon nous, fonctionneront au niveau local, alors nous y sommes très ouverts. S’il y a un impact potentiel sur la sécurité de la vie des gens ou sur leurs perspectives d’avenir, nous agirons », a-t-il déclaré.
Le nouvel organisme consultatif sur l’IA examinera les options concernant les types de garanties législatives qui devraient être créées et si celles-ci devraient être mises en œuvre par le biais d’une loi unique sur l’IA ou en modifiant les lois existantes.
L’une des questions qu’il examinera probablement est la meilleure façon de se protéger contre les biais algorithmiques résultant d’ensembles de données incomplets qui peuvent discriminer les personnes en fonction de caractéristiques telles que la race ou le sexe, ce que le document de discussion du ministère de l’Industrie a souligné comme une préoccupation majeure. Le document faisait référence à des cas étrangers d’organismes chargés de l’application de la loi s’appuyant sur des modèles d’IA pour prédire la récidive qui ciblaient de manière disproportionnée les groupes minoritaires, et d’employeurs utilisant des algorithmes de recrutement donnant la priorité aux candidats masculins plutôt qu’aux candidats féminins.
Simon Bush, directeur général de l’Australian Information Industry Association, qui faisait partie des nombreux groupes de l’industrie technologique qui ont exhorté le gouvernement à ne pas adopter une loi sur l’IA unique et hautement prescriptive à l’image de l’UE, a déclaré que la décision de se concentrer sur les environnements à haut risque était « mesurée ». et approprié ».
Il a déclaré que déterminer ce qui constituait un risque élevé et quelles garanties étaient nécessaires serait probablement vigoureusement débattu, mais engloberait une gamme de secteurs industriels allant du secteur financier au transport sans conducteur et aux soins de santé.
« Dans les établissements de santé, où l’IA est déjà largement utilisée, si vous souhaitez déterminer certains résultats pour les patients dans le cadre des soins de santé, vous pourriez dire qu’il s’agit d’un environnement à haut risque. Vous souhaiterez peut-être donc appliquer un cadre réglementaire à ce contexte », a-t-il déclaré.
Recevez des nouvelles et des critiques sur la technologie, les gadgets et les jeux dans notre newsletter technologique. Inscrivez-vous pour le recevoir tous les vendredis.