Avis
« Quelque chose de grand se passe. » C’était le titre inquiétant d’un essai de 5000 mots qui a ricoché sur Internet la semaine dernière.
Écrit par Matt Shumer, il avertit à bout de souffle que les progrès réalisés par l’IA se sont désormais accélérés si rapidement que nous sous-estimons gravement l’impact perturbateur qu’elle est susceptible d’avoir sur presque tous les aspects de la société.
Bien qu’écrit avec un parti pris (Shumer est le directeur général d’une société d’IA) et souvent hyperbolique, l’essai reflète incontestablement l’air du temps. En une semaine, le message a été lu plus de 83 millions de fois, démontrant à quel point la peur et l’intérêt sont répandus pour cette nouvelle technologie qui évolue plus vite que nous ne pouvons la suivre.
Mais au milieu de tout le battage médiatique et de l’hystérie, il y avait une grande question à laquelle il n’a pas répondu. Cela est devenu clair lorsque j’ai fait défiler l’essai publié sur X d’Elon Musk jusqu’au message suivant en dessous.
«Je viens de voir mon Mac terminer une journée de travail de 4 heures en 90 secondes», écrit l’affiche, accompagnée d’une vidéo à couper le souffle démontrant un nouveau produit d’IA. Il montrait un utilisateur parlant à son ordinateur – car apparemment, même la saisie au clavier est l’une des tâches qu’il souhaite éliminer.
L’IA est tellement concentrée sur la création du produit final parfait qu’elle n’a pas réalisé que le processus imparfait de création est tout aussi important.
Dans la démo, un travailleur hypothétique reçoit un e-mail de son patron lui demandant où se trouve le rapport qui devait être rendu ce jour-là ? Le travailleur demande à son robot d’inventer une excuse et d’envoyer automatiquement un e-mail, puis demande à l’IA de rédiger automatiquement le rapport, de le transformer automatiquement en diapositives de présentation et de le joindre automatiquement avec des excuses à son patron.
Tout cela se produit avec très peu d’intervention humaine, ni de compréhension du processus ou de la réflexion impliquée dans la création du rapport soumis en leur nom.
Parmi les commentaires admiratifs sous la vidéo, il y avait un seul commentateur : « À quoi ça sert même d’avoir un travail si une machine peut le faire en 90 secondes ? » » Ils ont demandé. L’affiche originale répondait simplement : « Vous me le dites. »
Ce qui nous amène au plus gros problème lié aux progrès fulgurants de l’IA. Un si grand nombre de nouveaux développements se concentrent si intensément sur la création du produit final parfait qu’ils n’ont pas réalisé que le processus imparfait de création est tout aussi important.
Quel est l’intérêt de demander à l’IA de rédiger un rapport que l’on ne comprend pas ? Ou créer un e-mail dont nous ne nous soucions pas ? Ou écrire un message social auquel nous ne pensons pas ? Toutes ces questions sont remplacées par la question la plus importante que peu de gens se posent actuellement : voulons-nous réellement cela ?
Il s’agit de questions complexes et existentielles sur la valeur du travail et sur la question de savoir si nos emplois dépendent uniquement du produit que nous créons ou également des avantages intangibles qui accompagnent le fait de faire des choses difficiles.
Le travail nous donne une structure, une identité, un but, une connexion et une sécurité financière, et lorsque vous supprimez l’un de ces éléments, vous commencez à démêler une partie du cœur même de ce qui nous rend humains.
Désormais, j’utilise l’IA la plupart du temps et j’ai intégré certaines de ses compétences dans mes recherches et mes flux de travail, mais cela ne m’empêche pas d’avoir encore des lignes rouges dans les domaines dans lesquels je ne souhaite pas l’utiliser.
La direction que prend l’IA, et rapidement, est celle où le rôle des humains effectuant tout type de travail sera progressivement effacé. Est-ce vraiment ce que nous voulons ?
L’auteur de l’essai viral, Shumer, avait raison de dire que quelque chose d’important se produisait. Mais ce qu’il a laissé de côté, c’est que cela se produit principalement contre notre volonté.
Si nous n’y mettons pas dès maintenant des freins, comme des lignes directrices internationales concernant le développement et la mise en œuvre, nous sommes tous sur le point d’être entraînés vers un avenir qu’aucun d’entre nous ne demande.
Tim Duggan est l’auteur de Work Backwards, Cult Status et Killer Thinking. Il a cofondé Junkee Media et rédige un bulletin mensuel intitulé OUTLET.