« L’avantage est énorme, qu’il s’agisse de lutter contre les superbactéries avec de nouveaux antibiotiques développés par l’IA ou de prévenir la fraude en ligne.
« Mais comme je le dis depuis de nombreuses années, il doit y avoir des garanties appropriées pour garantir l’utilisation sûre et responsable de l’IA. »
Dans le cadre d’une consultation de huit semaines visant à déterminer les changements législatifs potentiels, le document du gouvernement demande si les applications ou technologies d’IA à haut risque devraient être complètement interdites.
Il signale les changements possibles aux lois sur les consommateurs, les entreprises, la criminalité, la sécurité en ligne, l’administration, le droit d’auteur, la propriété intellectuelle et la confidentialité.
« Il existe de nombreux exemples et préoccupations concernant l’utilisation de l’IA à des fins potentiellement dangereuses, telles que : générer des deepfakes pour influencer les processus démocratiques ou provoquer d’autres tromperies, créer de la désinformation et de la désinformation, encourager les gens à s’automutiler », indique le document de travail.
« Les inexactitudes des modèles d’IA peuvent également créer de nombreux problèmes. Ceux-ci incluent des biais indésirables et des sorties trompeuses ou entièrement erronées telles que les « hallucinations » de l’IA générative. »
Le biais algorithmique représentait l’une des menaces les plus importantes, selon le document de travail.
« Ceux-ci incluent: la discrimination raciale où l’IA a été utilisée pour prédire la récidive, qui cible de manière disproportionnée les groupes minoritaires, les algorithmes de notation de l’éducation favorisant les élèves des écoles les plus performantes, [and] algorithmes de recrutement donnant la priorité aux candidats masculins par rapport aux candidats féminins.
Coupez le bruit de la politique fédérale avec des nouvelles, des opinions et des analyses d’experts de Jacqueline Maley. Les abonnés peuvent s’inscrire à notre newsletter hebdomadaire Inside Politics ici.