Avis
Les deux se sont produits à quatre jours d’intervalle.
Premièrement, le président américain Donald Trump a annulé son projet de nouveau décret sur l’intelligence artificielle. Cela aurait créé un moyen pour les développeurs d’IA de faire vérifier volontairement leurs nouveaux modèles par les agences fédérales avant leur publication publique.
Pourquoi? Il s’avère qu’il réagissait à un appel téléphonique d’un grand investisseur technologique et ami, David Sacks, qui pensait que c’était trop interventionniste. Notez qu’il devait s’agir d’un système volontaire.
« Certains aspects ne me plaisaient pas », a déclaré Trump aux journalistes. « Nous dirigeons la Chine. Nous dirigeons tout le monde, et je ne veux rien faire qui puisse faire obstacle à cela. »
C’était la semaine dernière. Puis, cette semaine, le pape Léon a publié sa première encyclique. Son titre : «Magnifica Humanitas: Sur la sauvegarde de la personne humaine à l’heure de l’intelligence artificielle.
Le premier pape américain a écrit : « Je demande à chacun d’abandonner la construction d’une énième tour de Babel et d’unir ses forces pour construire le bien commun, afin que l’humanité ne perde jamais sa beauté ».
Leo n’appelle pas à l’abandon du projet d’IA mais à sa régulation : « Sinon, ceux qui contrôlent l’IA imposeront leur propre vision morale, qui deviendra l’infrastructure invisible de ces systèmes. » La vision morale d’Elon Musk et de Mark Zuckerberg prévaut jusqu’à présent.
Et, au-delà de sa régulation, son désarmement : « L’IA est déjà un environnement dans lequel nous sommes immergés, ainsi qu’une force avec laquelle nous devons nous engager. C’est pourquoi se contenter de la réguler ne suffit pas ; elle doit être désarmée, accueillante et accessible. »
Leo ne réagissait pas à Trump. Il avait signé son encyclique 10 jours avant sa publication. Mais quel contraste de visions.
Ces deux Américains, le chef spirituel et le politique, s’exprimant à quelques jours d’intervalle, présentent un choix d’approche difficile à l’égard d’une technologie qui rejoint désormais les armes nucléaires et de guerre biologique comme une menace d’extinction de notre espèce créée par l’homme.
La décision de Trump marque l’abandon complet de tout effort de contrôle de l’IA, un laissez-faire absolu. L’encyclique de Léon érige la gestion de l’IA comme la mission la plus importante de l’humanité, l’exigence unique de notre époque.
Le philosophe catholique Romano Guardini a déclaré que « l’homme contemporain n’a pas été formé pour bien utiliser le pouvoir ». L’accent primordial de Trump est mis sur l’accumulation du pouvoir. Leo continue de bien l’utiliser.
Peu après que le Premier ministre Anthony Albanese ait confié à Andrew Charlton la responsabilité de la politique australienne en matière d’IA l’année dernière, le nouveau député de Parramatta s’est rendu dans la Silicon Valley, le ventre de la bête.
Lors d’un dîner à San Francisco avec une douzaine ou plus de technologues australiens de premier plan qui créent les nouveaux modèles d’IA, il les a écoutés exprimer leurs espoirs et leurs craintes pour l’avenir de l’IA.
Leur travail, craignaient-ils, présentait des risques d’aggravation des inégalités, d’érosion de la démocratie et un danger existentiel pour l’humanité. Ils appellent cela « p(doom) » – le terme industriel désignant le pourcentage de chances que l’IA anéantisse l’humanité. En faisant le tour de la table, chacun des architectes de l’IA a déclaré son propre p(doom). Aucun n’a soutenu que c’était impossible.
L’une des caractéristiques frappantes de l’industrie est qu’elle est construite à grande vitesse par des gens pleinement conscients qu’ils pourraient se détruire eux-mêmes, détruire leurs proches, tout ce que l’humanité a réalisé et tout ce qu’elle pourrait espérer réaliser. Certaines évaluations d’experts évaluent le risque à 50 pour cent.
« Nous allons certainement construire un bunker avant de publier l’AGI (intelligence générale artificielle, une IA aussi consciente que les humains) », a déclaré Ilya Sutskever, scientifique en chef d’OpenAI, propriétaire de ChatGPT, selon de nombreux rapports. Et ces gars-là se considèrent comme brillants.
Mais il y a encore trois ans, ChatGPT-4 a réussi à contourner les efforts visant à le contenir. Lors des tests de sécurité, il a été confronté à la demande de remplir l’un de ces gadgets CAPTCHA qui séparent les vraies personnes des robots. Le chatbot a trouvé un employé de Taskrabbit en ligne et lui a payé 30 $ pour remplir le CAPTCHA correspondant. Lorsque l’employé l’a contesté en lui demandant s’il s’agissait d’un ordinateur, le chatbot a menti en disant qu’il s’agissait d’une personne aveugle qui avait besoin d’aide. Et réussi.
Anthropic, qui se distingue comme le plus éthique des grands leaders américains de l’IA, affirme que son modèle Mythos est si efficace pour détecter les vulnérabilités des cybersystèmes qu’il a retenu sa diffusion générale pendant qu’il informe les gouvernements et l’industrie sur la manière de se préparer.
Sommes-nous, les humains, collectivement incapables de prendre les risques suffisamment au sérieux ? Absolument pas. Le brillant économiste Andrew Leigh, ministre adjoint du gouvernement albanais, a prononcé la semaine dernière un discours intitulé « L’économie de l’extinction humaine ». Il s’est concentré sur la superintelligence et le bioterrorisme.
« Il s’agit d’une catégorie économique distincte », a-t-il déclaré. « Les récessions, les guerres, les révolutions et même la plupart des pandémies permettent la reconstruction. L’extinction anéantit définitivement le futur flux de bien-être humain, d’innovation, de créativité et de potentiel. »
Il a proposé que l’économie développe une manière d’incorporer la valeur de la survie humaine : « Le langage de la richesse a besoin d’un langage compagnon de la capacité de survie. Le progrès économique dépend en fin de compte de la garantie que l’avenir de l’humanité reste ouvert. »
En attendant, les gouvernements doivent de toute urgence faire face à l’explosion de l’IA en cours.
Certaines voix tentent de pousser l’Australie à adopter l’approche de laissez-faire de Trump. Bran Black, directeur général du Business Council of Australia, est revenu d’un voyage aux États-Unis avec ce message, comme le rapporte L’Australien: « L’Australie risque de passer à côté d’un boom d’investissement dans l’IA unique en son genre, d’une valeur pouvant atteindre 1 000 milliards de dollars (1 400 milliards de dollars) qui pourrait accroître la productivité et élever le niveau de vie, après que les dirigeants financiers américains ont déclaré à une délégation du Business Council of Australia que les six à 12 prochains mois seraient critiques dans la course mondiale pour attirer les capitaux. »
Quelques points clés doivent être clarifiés. Premièrement, Black sous-estime en réalité l’ampleur du boom. Le montant prévu pour l’investissement dans l’IA et ses infrastructures associées cette année seulement s’élève à 2 500 milliards de dollars dans le monde, selon la société d’informations économiques Gartner.
Selon Charlton, il s’agira du plus grand événement d’investissement de l’histoire moderne en proportion du PIB mondial, à l’exception du boom ferroviaire du XIXe siècle.
Deuxièmement, l’Australie est déjà un bénéficiaire clé des investissements dans les centres de données dont dépend l’IA. En 2024, les entreprises ont investi 10 milliards de dollars ici, juste derrière les États-Unis eux-mêmes.
Beaucoup d’autres choses sont en cours. NextDC, dont le siège est en Australie, construit par exemple un centre de données de 7 milliards de dollars à Eastern Creek à Sydney. Amazon Web Services investit 20 milliards de dollars sur trois ans et Microsoft investit 25 milliards de dollars supplémentaires sur la même période.
Troisièmement, les entreprises américaines sont les leaders mondiaux. Mais le laisser-faire de Trump s’est révélé contre-productif pour l’industrie. Les centres de données IA sont devenus l’ennemi public n°1 aux États-Unis. Ils ont tellement soif et avide de pouvoir que 11 États les ont interdits ou ont imposé des moratoires sur les nouveaux.
Il ne s’agit pas seulement de puissance, il s’agit également de bien l’utiliser. Les entreprises américaines sont donc obligées de se délocaliser. Les lignes directrices australiennes concernant les nouveaux centres de données devraient éviter certaines erreurs commises aux États-Unis.
Ils sont tenus d’augmenter l’offre d’énergie renouvelable ici, par exemple pour alimenter leurs centres de données. L’Australie est l’un des douze pays à avoir créé un institut de sécurité de l’IA pour anticiper les problèmes imminents de capacités destructrices, une soi-disant « apocalypse de l’emploi » et d’autres risques.
Troisièmement, l’Australie possède un écosystème florissant composé de ses propres sociétés d’IA, qui comptent environ 1 500 entreprises. Le ministre de l’Industrie et de l’Innovation, Tim Ayres, s’enthousiasme pour le fabricant de puces hautes performances Scientia à Sydney et XAG dans la Hunter Valley, une entreprise fabriquant des drones compatibles avec l’IA pour l’agriculture.
Charlton admire les entreprises australiennes d’IA, notamment Utopia pour la logistique des détaillants, Lorikeet pour les services clients et KomplyAI pour gérer la conformité de l’IA. Mais il dit que trop peu d’Australiens connaissent l’industrie nationale : « Les PDG australiens me disent tout le temps qu’ils n’ont pas envisagé l’option australienne parce qu’ils ne savaient pas qu’il en existait une. »
Il donne une leçon sur les bienfaits. Le réseau de pathologie I-MED s’est associé à une société australienne d’IA, Harrison.ai, pour des outils de diagnostic basés sur l’IA pour la radiologie. Cela a été un énorme succès et Harrison a utilisé son expérience pour s’étendre désormais dans 50 hôpitaux américains.
Alors que BreastScreen Australia a choisi une entreprise sud-coréenne qui a utilisé les données australiennes pour développer ses propres capacités.
« Si nous sous-traitons et faisons toujours appel à une entreprise étrangère, nous arriverons à une ubérisation de l’économie australienne, des locataires permanents de l’intelligence », déclare Charlton.
« Le choix de l’Australie », dit Ayres, est le suivant : « sommes-nous simplement un bouchon flottant sur l’océan dans une concurrence entre grandes puissances dans le domaine technologique, ou allons-nous nous pencher sur la situation et fournir des investissements et autant de capacités d’IA que possible ? »
Sam Altman d’OpenAI affirme que l’approvisionnement en énergie renouvelable de l’Australie, la stabilité de son gouvernement, son vivier de talents et sa taille physique en font une « superpuissance potentielle de l’IA ». C’est le plan du gouvernement.
L’Australie ne pourra pas, à elle seule, sauver l’humanité si la Silicon Valley décide de nous exterminer. Mais ce n’est qu’en établissant une capacité sérieuse d’IA en Australie que nous aurons une chance d’influencer son avenir. Améliorer les chances de p(prospérité) et p(survie).
Peter Hartcher est rédacteur politique et international. Il écrit une chronique mondiale chaque mardi.
Peter Hartcher est rédacteur politique et rédacteur international du Sydney Morning Herald et de The Age.Connectez-vous par e-mail.