Bien que Cairns ait déclaré qu’il y avait des « avantages significatifs » à intégrer l’IA dans les entreprises, y compris un meilleur accès à l’information et une efficacité commerciale accrue, la technologie posait des risques substantiels – à la fois pour les entreprises directement et pour les systèmes dans lesquels elles opèrent.
La plupart des secteurs utilisent l’IA sous une forme ou une autre, mais Cairns a identifié le secteur des services financiers comme l’un des utilisateurs les plus intéressants, les banques exploitant l’IA pour alimenter des processus tels que l’évaluation du crédit, le filtrage préalable aux demandes, la surveillance des transactions et la détection des fraudes.
« Ces algorithmes seront basés sur des données qui ont été construites sur la base de décisions passées, et si les banquiers ont historiquement pris des décisions qui sont biaisées contre les personnes de couleur, ou les femmes, ou d’autres groupes minoritaires, alors cela se poursuivra et exacerbera potentiellement les problèmes qui sont déjà répandue dans la société », a averti Cairns.
« Cependant, certaines fintechs utilisent des informations financières non traditionnelles pour dresser un tableau plus complet du profil de risque d’une personne, ce qui peut offrir des opportunités incroyables à des personnes qui n’y avaient peut-être pas accès auparavant. »
Dr Liming Zhu, qui dirige le programme de recherche sur les logiciels et les systèmes informatiques au CSIRO.
Le programme de recherche d’un an d’Alphinity et du CSIRO produira un rapport identifiant les meilleures pratiques actuelles ainsi qu’un cadre pour évaluer, gérer et rendre compte du risque d’IA responsable, en s’engageant avec des entreprises australiennes et mondiales de premier plan dans divers secteurs pour élaborer un rapport qui devrait aider les autres investisseurs à mieux comprendre et analyser les risques et opportunités liés à l’ESG.
Zhu a déclaré que le partenariat combinera l’expertise en investissement avec la compréhension du CSIRO en matière d’IA, non seulement pour atténuer les risques, mais également pour aider les entreprises et les investisseurs à éviter de se détourner des opportunités créées par l’IA.
« Beaucoup d’opportunités ne se concrétisent pas parce que les gens ne comprennent pas les risques ou n’ont pas les bonnes stratégies d’atténuation des risques », a-t-il déclaré.
La newsletter Business Briefing propose des articles majeurs, une couverture exclusive et des avis d’experts. Inscrivez-vous pour l’obtenir tous les matins de la semaine.