Dustin Volz, Julian E. Barnes et Ana Swanson
La querelle entre Anthropic et l’administration Trump s’est encore intensifiée samedi après que le gouvernement américain a pris la décision inhabituelle un jour plus tôt d’exiger que la société d’intelligence artificielle coupe l’accès des étrangers à ses derniers modèles, alors que de hauts responsables ont laissé entendre que le différend ne se résoudrait probablement pas rapidement.
Vendredi soir, Anthropic a révélé dans un article de blog qu’elle avait désactivé l’accès de tous ses clients à ses systèmes d’IA les plus avancés, connus sous le nom de Fable 5 et Mythos 5, après avoir reçu une directive de l’administration visant à suspendre l’accès à tout ressortissant étranger.
Cette décision a choqué d’anciens responsables américains et des experts en cybersécurité, dont beaucoup ont remis en question la validité de l’action et ont noté qu’elle s’écartait de l’approche non interventionniste visant à contrôler l’industrie de l’IA en plein essor, que le président Donald Trump avait approuvée au début du mois.
Anthropic a déclaré que la directive n’expliquait pas les préoccupations en matière de sécurité nationale qui l’avaient motivée. Mais la société a ajouté que le gouvernement avait déclaré avoir pris connaissance d’une méthode permettant de « jailbreaker » ou de contourner les restrictions de sécurité sur Fable 5, destinées à limiter la capacité d’un client à abuser du produit à des fins de piratage ou d’autres dommages potentiels. Anthropic a rétorqué que les craintes concernant la méthode de jailbreak étaient exagérées.
Cette annonce a attisé les tensions entre l’administration Trump et Anthropic, qui a déposé confidentiellement au début du mois une introduction en bourse à la suite d’un cycle de financement le valorisant à près de 1 000 milliards de dollars.
Les deux parties se disputent depuis des mois sur la manière dont les systèmes d’IA d’Anthropic pourraient être utilisés dans des contextes militaires et de renseignement, aboutissant à ce que le Pentagone qualifie l’entreprise de risque pour la chaîne d’approvisionnement.
Samedi, de hauts responsables de l’administration Trump et des alliés de Trump ont intensifié leurs attaques contre Anthropic.
« Il y a trois mois, @DeptofWar a expulsé @AnthropicAI de notre bâtiment – pour toujours », a déclaré le secrétaire à la Défense Pete Hegseth sur la plateforme sociale X. « Chaque jour qui passe prouve pourquoi c’était la bonne décision. »
David Sacks, un capital-risqueur qui travaillait jusqu’à récemment dans l’administration en tant que tsar de l’IA, a accusé Anthropic dans un long article sur les réseaux sociaux samedi d’être imprudent avec la sortie de son dernier modèle, baptisé Fable 5.
Sacks, qui a déclaré avoir parlé de cette directive à de nombreuses personnes à l’intérieur et à l’extérieur de l’administration, a déclaré que l’administration avait demandé à Dario Amodei, PDG d’Anthropic, de résoudre le problème du jailbreak après qu’un « partenaire de confiance hautement crédible » d’Anthropic et du gouvernement ait présenté des recherches.
« Dario a refusé », a déclaré Sacks.
Une personne informée des conversations d’Amodei a contesté cette version, affirmant qu’Anthropic était heureux de discuter de ses préoccupations.
Sacks n’a pas nommé le « partenaire de confiance » auquel il a fait référence dans son message. Mais plusieurs entreprises technologiques, dont Amazon, ont discuté avec la Maison Blanche des problèmes de sécurité, selon des personnes proches du dossier. Plusieurs personnes ont déclaré qu’un message du PDG d’Amazon, Andy Jassy, détaillant les problèmes de sécurité, était le plus influent, soulevant des inquiétudes quant aux capacités du nouveau modèle Anthropic.
Mais plusieurs de ces responsables ont déclaré qu’un document distinct d’Amazon expliquant les problèmes de sécurité liés au modèle d’Anthropic était trompeur. Les capacités préoccupantes mises en évidence par le document avec le modèle d’Anthropic sont également présentes dans le modèle haut de gamme d’OpenAI, 5.5.
Un porte-parole d’Amazon a refusé de commenter la nature exacte de ses discussions avec la Maison Blanche. « Il n’est pas rare que les gouvernements demandent notre avis sur les risques potentiels pour la sécurité », a déclaré le porte-parole. « Lorsqu’elles surviennent, nous ne partageons pas les détails de ces discussions. »
Des responsables de l’administration ont appelé les responsables d’Anthropic vendredi à 13 h 15 et leur ont donné 90 minutes pour démonter leurs modèles les plus avancés, invoquant un problème de sécurité nationale indéfini, selon des personnes informées des discussions. Les responsables d’Anthropic ont demandé plus d’informations et ont travaillé pour savoir quelle était la préoccupation précise, puisque l’examen et les tests de Fable par le Département du Commerce n’ont pas révélé de préoccupations significatives.
Puis, à 17h21, Anthropic a été informée que l’administration Trump imposait des contrôles à l’exportation qui obligeaient effectivement l’entreprise à abandonner son modèle, auquel les consommateurs commençaient tout juste à avoir accès.
Les discussions pour résoudre le différend se poursuivent. Howard Lutnick, le secrétaire au Commerce, s’est entretenu vendredi avec des responsables d’Anthropic et devait avoir une autre séance avec de hauts responsables de l’entreprise samedi soir, selon des personnes informées des discussions et des plans.
Certains experts ont déclaré que l’administration Trump avait soit mal compris, soit délibérément mal interprété ce qui s’était passé. Katie Moussouris, PDG de Luta Security, a déclaré sur les réseaux sociaux qu’elle avait vu le document de recherche qui a motivé l’action de l’administration.
« Il ne s’agit pas d’un jailbreak », a-t-elle précisé, mais plutôt d’une manœuvre défensive destinée à limiter l’utilisation abusive d’un modèle. « Si la défense nationale est l’objectif, c’est un objectif contre son camp. »
Plus tôt ce mois-ci, l’administration Trump a publié un décret demandant aux entreprises technologiques de laisser volontairement le gouvernement examiner leurs nouveaux modèles avant de les rendre publics. Mais cela n’a pas donné au gouvernement un rôle officiel dans l’approbation de leur libération.
L’ordre avait été retardé après un débat acharné au cours duquel les sociétés d’IA – et certains responsables gouvernementaux sympathisants – s’étaient opposés à l’ingérence du gouvernement dans le déploiement du modèle. Le différend fait suite à la publication très limitée par Anthropic de Mythos, un modèle d’IA si efficace pour découvrir et exploiter de nouvelles vulnérabilités en matière de cybersécurité qu’il a suscité de nombreuses inquiétudes quant à son potentiel de ravages.
Les nouvelles restrictions imposées à Anthropic ont soulevé des questions quant aux implications pour d’autres modèles d’IA susceptibles d’avoir des capacités similaires. D’anciens responsables et experts en technologie ont déclaré que l’administration ne semblait pas avoir réfléchi aux conséquences à long terme d’une telle décision.
Mais la mesure pourrait se limiter à Anthropic, qui a reçu une fusillade d’attaques de la part de l’administration ces derniers mois.
En février, au milieu de l’affrontement entre le Pentagone et Anthropic, Trump a qualifié l’entreprise d’« entreprise radicale de gauche et réveillée » et de « boulots de cinglés de gauche » travaillant pour dicter la manière dont le gouvernement gagne et mène les guerres.
« J’ordonne à CHAQUE agence fédérale du gouvernement des États-Unis de CESSER IMMÉDIATEMENT toute utilisation de la technologie d’Anthropic », a écrit le président sur les réseaux sociaux. « Nous n’en avons pas besoin, nous n’en voulons pas et nous ne ferons plus affaire avec eux ! »
Certains responsables de l’administration américaine ont cherché ces dernières semaines une porte de sortie dans le conflit, affirment des responsables américains. La Maison Blanche et les responsables du renseignement ont proposé un contrat classifié entre Anthropic et la National Security Agency, qui permettrait à l’agence de renseignement d’utiliser la technologie de l’entreprise à diverses fins, notamment l’analyse du renseignement et la détection de nouvelles vulnérabilités informatiques.
Le gouvernement a déjà contrôlé les modèles d’IA, mais les restrictions passées étaient plus ciblées.
Les responsables de la NSA, responsable des écoutes numériques et de la cybersécurité du gouvernement, n’ont pas été impliqués dans la décision de vendredi, selon des sources proches du dossier.
De nombreux responsables américains ont déclaré que la nouvelle technologie développée par Anthropic était trop importante pour la sécurité nationale pour permettre que le différend avec le Pentagone bloque la coopération. Mais au sein des hauts échelons du Pentagone, les responsables restent mécontents de l’entreprise, insistant pour que l’entreprise signe les mêmes dispositions contractuelles que celles adoptées par d’autres sociétés d’IA.
Dans une lettre du 12 juin consultée par Le New York TimesLutnick a déclaré à Amodei qu’une licence spéciale serait nécessaire pour que l’entreprise puisse distribuer ses modèles Mythos et Fable 5 « vers toutes les destinations dans le monde », ainsi que pour les partager avec des citoyens non américains.
« Le non-respect de ces règles entraînera des sanctions pénales et civiles immédiates, comme le prévoit la loi », a écrit Lutnick.
Le gouvernement a déjà contrôlé les modèles d’IA, mais les restrictions passées étaient plus ciblées. Une mesure introduite au début de l’année dernière par l’administration Biden a imposé des restrictions à la capacité des entreprises à exporter ce que l’on appelle les pondérations pour des modèles d’IA spécifiques – les valeurs numériques exclusives qui indiquent au modèle l’importance à accorder à différentes données.
La mesure prise par l’administration Trump va bien au-delà, en interdisant à Anthropic de partager le modèle avec tout pays étranger ou tout ressortissant étranger sans avoir obtenu au préalable une licence.
Les restrictions sur la participation des ressortissants étrangers, même ceux titulaires d’une carte verte, pourraient être particulièrement effrayantes dans une industrie qui dépend des talents étrangers. Dans le passé, les responsables gouvernementaux ont souvent réservé ce type de restriction aux technologies les plus sensibles, comme les systèmes d’armes.
Chris McGuire, un ancien responsable technologique de l’administration Biden qui est maintenant chercheur principal au Council on Foreign Relations, a déclaré que la politique actuelle de l’administration est que les puces d’IA peuvent être exportées vers la Chine, mais que les détenteurs de cartes vertes canadiennes aux États-Unis ne peuvent pas accéder aux principaux modèles américains.
« C’est absurde », a-t-il ajouté.
Cet article a été initialement publié dans Le New York Times.