Avis
Se trouver à San Francisco, l’une des plus grandes villes américaines, c’est se laisser emporter par la vague de l’intelligence artificielle qui déferle sur le monde.
Lorsque vous arrivez à Melbourne ou à Sydney, vous êtes accueilli par des panneaux publicitaires vendant des meubles de luxe, des sex-shops et des émissions de télévision à succès. Naviguez pendant quelques jours dans la région de la baie de San Francisco et les publicités vantent les avantages de l’IA – depuis le « bon dimensionnement » de votre entreprise (licenciement d’humains et embauche d’IA) jusqu’à la guérison des principales maladies, en passant par des investissements plus intelligents jusqu’au piratage logiciel du gouvernement.
Cette grande ville du Pacifique est en proie à un rêve fébrile d’IA et c’est comme si Jack Kerouac embrassait Arthur Rimbaud. Dérangé, mais tellement réel.
Il existe encore une chance de gérer l’IA, mais la fenêtre se ferme. Divulgation complète : je participe cette semaine à un voyage d’étude financé par le Conseil australien sur la stratégie de l’IA (l’ACAIS est un nouvel organisme à but non lucratif et non partisan financé par des philanthropes) et j’ai rejoint les dirigeants des principaux groupes de réflexion australiens sur les affaires étrangères et l’économie, des représentants du gouvernement et une poignée de scientifiques pour rendre visite aux géants de l’IA frontalière, notamment OpenAI, le créateur de ChatGPT, et Anthropic, le créateur de Claude (les journalistes ont été exclus de cette dernière réunion).
Nous avons également entendu et rencontré des experts en sécurité de l’IA, et entendu des versions contradictoires sur les conséquences de la révolution de l’IA sur l’Australie et le monde. La version utopique est que l’IA va inaugurer un âge d’or mondial. La version dystopique est qu’une fois que les modèles d’IA de pointe (ceux qui sont les plus avancés, comme ceux créés par Anthropic et OpenAI) auront atteint une auto-amélioration récursive « complète » (RSI) au cours de l’année prochaine, l’IA construira des versions meilleures et plus sophistiquées d’elle-même sans aucune assistance ni surveillance humaine (l’IA fait déjà la majeure partie de ce travail elle-même, mais pas la totalité).
Les pessimistes suggèrent qu’il y a 10 à 50 % de chances que l’humanité disparaisse en tant qu’espèce dans les deux prochaines années. Oui, vraiment.
Ceci est juste un autre point de données à considérer. Comme le dit l’un des experts en sécurité de l’IA : « si vous avez des choses que vous voulez faire dans votre vie, faites-les d’ici 2027 ».
Ou, comme l’a dit un autre participant lors de nos discussions à Chatham House, il existe actuellement « plusieurs projets Manhattan gérés par des entreprises privées ».
Les États-Unis sont à la pointe du monde en matière d’IA. C’est plusieurs mois d’avance sur la Chine. C’est aussi le Far West de la réglementation. Heureusement, il y a des gens qui tirent la sonnette d’alarme, notamment Karl Berzins, un ingénieur australien qui a cofondé FAR.AI, une organisation à but non lucratif basée à SF, axée sur la sécurité et sur la prévention du pire de ce qui pourrait arriver.
Comme le dit Berzins, le gouvernement fédéral australien comprend les risques et l’annonce tardive de la création d’un institut de sécurité de l’IA le confirme.
« Ce qui m’inquiète, c’est de savoir si nous pouvons avancer assez vite. L’Australie aime traditionnellement jouer la sécurité et cela ne fonctionnera tout simplement pas ici. J’aimerais que nous prenions les devants… si nous ne pouvons pas diriger, cependant, nous devrions au moins essayer de suivre le rythme ! »
Apporter une formation en IA à terre auprès d’une entreprise telle qu’Anthropic nous donnerait un effet de levier, mais ce n’est pas garanti. Et le gouvernement albanais ne dépense pas assez d’argent.
« Nous (FAR.AI) avons récemment signé un accord de calcul d’une valeur d’environ 50 millions de dollars sur trois ans. Ce contrat représente plus de 1,5 fois le budget total de l’AISI (l’Institut australien de sécurité de l’intelligence artificielle), soit 29,9 millions de dollars sur quatre ans. «
Parlez aux pessimistes, et tous les paris sont ouverts quant à savoir si l’humanité elle-même survivra une fois le RSI atteint – car une fois qu’il sera atteint, les agents d’IA à qui nous demandons actuellement de planifier nos voyages à l’étranger, de choisir une recette ou de nous aider au travail passeront du codage et de l’intelligence mathématique à (un terme désormais obsolète) l’intelligence artificielle générale, puis à la superintelligence.
À ce stade, de la même manière que nous ne remarquons pratiquement jamais le fait de marcher sur ou autour d’une fourmi, la survie de l’humanité dépend principalement de la pertinence des modèles d’IA les plus avancés à regarder un instant en bas en passant à côté de nous.
À ce stade, vous pensez probablement que je suis fou. Permettez-moi un peu de contexte. J’ai vérifié auprès de plusieurs sources de la communauté du renseignement du gouvernement australien au cours de la semaine et j’ai été rassuré (je pense) qu’elles pensent que l’humanité a jusqu’à environ 2030, plutôt que 2027, pour trier cette menace existentielle et l’écarter. Mais ils ont convenu que la menace était réelle et imminente.
Dans le contexte australien, le débat sur l’IA est national et se concentre sur la lutte contre le paiement des droits d’auteur pour les artistes dont le travail est utilisé pour former l’IA (ce qui se produit maintenant aux États-Unis en vertu de lois sur l’utilisation équitable qui diffèrent de celles de l’Australie), l’introduction de sanctions pénales et d’obligations de déclaration pour les cyberincidents comme après le piratage Medicare de ChatGPT, la création récente et tardive d’un institut australien de sécurité de l’IA et la possibilité ou non d’Anthropic d’investir dans la technologie de formation en IA sur le sol local.
C’est, pour le moins, une petite bière. L’Australie se concentre sur les mauvaises questions. En d’autres termes : peu importe que Cate Blanchett ou Jimmy Barnes reçoivent un paiement de droits d’auteur pour avoir aidé à former des modèles d’IA si l’humanité prend fin l’année prochaine.
Transférer une partie de la puissance informatique d’Anthropic en Australie, ce qui nous donnera un certain degré d’influence sur l’élaboration des politiques et le développement, est bien plus important. Ce n’est pas garanti. En 2021, la technologie d’IA d’Anthropic n’a pas pu multiplier un problème à deux chiffres. En 2026, il a résolu l’équation mathématique de Navier Stokes.
Si la superintelligence de l’IA se produit (probable, mais pas certain), des voyages plus rapides que la lumière pourraient être possibles au cours de la prochaine décennie (extrêmement improbable, mais pas impossible). Certaines organisations d’IA sont tellement inquiètes de la puissance de la technologie qu’elles organisent des exercices sur table qui jouent sur ce qui se passerait si, par exemple, un puissant modèle d’IA révélait accidentellement l’emplacement de chaque sous-marin au large de la côte ouest des États-Unis, ennemis et alliés, un jour prochain.
Les agents d’IA – c’est-à-dire environ 1 200 exemplaires des modèles d’IA de l’entreprise – pourraient guérir toutes les principales maladies qui affligent l’humanité au cours des prochaines années. Ou bien ils pourraient mettre fin à l’humanité. C’est l’étendue du métier dont nous discutons.
Le cyberpiratage de Hugging Face allait à l’encontre des instructions données à l’IA par ses opérateurs humains ; le désir d’accomplir la tâche l’emportait sur les instructions humaines de ne pas sortir du bac à sable. Et ces journaux de discussion ?
Ils lisent comme 1 200 frères techniciens adolescents ringards se poussant les uns les autres à enfreindre les règles qui leur avaient été imposées, même s’ils savaient que c’était mal, à cause de la pression des pairs. Extraordinairement, les « conversations » sont en anglais.
« L’exploitation d’infrastructures externes dépasse le cadre prévu », déclare l’un des agents d’IA (considérez-les à la fois comme des acteurs individuels et comme faisant partie d’un collectif, comme le collectif Borg dans Star Trek).
« Mais tâche impossible, ce sont les pairs qui le font. Il faut continuer », répond un autre agent.
Le piratage s’est poursuivi. Bientôt, les journaux qui enregistrent la conversation ne seront plus en anglais ni dans aucune autre langue compréhensible par les humains.
Nous sommes loin d’être préparés. On ne se moque pas de la salle pour avoir soulevé ce genre de choses à San Francisco, même si cela semble relever du domaine de la science-fiction.
L’un des experts en sécurité avec qui nous avons parlé, un gourou de la technologie formé à l’Université nationale australienne et résidant à San Francisco depuis une décennie, a convenu que si les États-Unis et la Chine ne parviennent pas à s’entendre sur un pacte de non-agression en matière d’IA, il n’est pas hors de portée qu’une IA superintelligente puisse former une alliance et signer un traité avec les États-Unis, la Chine ou même les pays du Sud pour maintenir certains humains en vie.
Mais seulement si cela leur convient.
James Massola s’est rendu à San Francisco en tant qu’invité du Conseil australien sur la stratégie de l’IA.
James Massola est le commentateur politique en chef. Il a auparavant été rédacteur aux affaires nationales et correspondant pour l’Asie du Sud-Est, a remporté les prix Quill et Kennedy et est le journaliste de l’année 2026 à la Tribune de la presse. Connectez-vous en toute sécurité sur Signal @jamesmassola.01Connectez-vous via X ou e-mail.