Ensuite, il y a ces satanées « hallucinations », où l’IA génère des erreurs idiotes. Ils font partie intégrante de ce type d’IA « connexionniste », qui est un moteur de complétion de mots simple mais coûteux à exploiter.
Lorsque Google nous dit de rester en bonne santé en mangeant un petit caillou par jour, c'est drôle et probablement inoffensif. Ce n'est pas si drôle quand vous avez automatisé vos décisions commerciales clés en utilisant ce qui risque d'être un fabricant compulsif.
Le fabricant de puces Nvidia vaut désormais 3 000 milliards de dollars.Crédit: Bloomberg
Taux d'hallucinations des entreprises
De manière anecdotique, les entreprises sont confrontées à un taux d’hallucination de 20 % dans de nombreuses applications différentes, ce qui est loin d’être suffisant. Ainsi, la meilleure IA d’aujourd’hui génère une grande partie de ce dont nous n’avons pas besoin, mais n’automatise pas ce que nous aimerions automatiser. C'est une solution à la recherche d'un problème.
Demandez à l'Institut Tony Blair, ou à n'importe lequel des conseillers du gouvernement en matière d'intelligence artificielle, à propos de tout cela et vous constaterez que de telles pensées ne semblent pas leur être venues à l'esprit.
Les hallucinations n'ont pas concerné le sommet sur la sécurité de l'IA de l'année dernière et le mot n'apparaît pas dans l'article au grand titre de l'Institut Blair. Gouverner à l’ère de l’IA : un nouveau modèle pour transformer l’État. Les politiciens et les groupes de réflexion semblent prendre au mot les promesses des aboyeurs du carnaval – les producteurs d’IA et leurs bailleurs de fonds en capital-risque.
« Les dirigeants d’entreprise et technologiques de haut niveau deviennent la proie d’hallucinations collectives et deviennent irrationnels », explique Andrew Odlzyko. Il est professeur de mathématiques à l'Université du Minnesota et ancien chercheur scientifique dans l'industrie, qui a étudié le phénomène des bulles technologiques.
Il les attribue à la crédulité, à la volonté de croire à un fantasme. Les domaines de l’économie, de la psychologie, de la sociologie et de la technologie sont tous sujets à ces illusions, affirme-t-il. Même les gens les plus intelligents ne sont pas à l’abri : Isaac Newton a perdu l’essentiel de sa fortune dans la bulle des mers du Sud, un épisode de spéculation boursière notoire au XVIIIe siècle.
Les bulles deviennent auto-renforcées. L’industrie technologique a engendré une classe de laquais tentaculaire qui promet des miracles et réprimande ceux qui ne s’y mettent pas. Il faut un manager courageux pour résister à cela et encore plus courageux pour suggérer que l’Empereur ne porte peut-être aucun vêtement.
Bien que cette chronique n’offre pas de conseils en investissement, j’ai une petite liste de domaines dans lesquels je m’attends à ce que les investissements dans l’apprentissage automatique – la technologie sous-jacente à l’IA générative – portent leurs fruits. Il s’agit presque entièrement de processus d’arrière-plan qui supplanteront les techniques existantes.
Cependant, la liste des domaines dans lesquels il n’existe pas de modèle économique plausible est bien plus longue. Les gens aiment peut-être l’automatisation des nouveautés, mais ne veulent pas payer pour cela.
Robert Shiller, économiste de l'Université de Yale, lauréat du prix Nobel.Crédit: JESSICA COLLINE
« L'IA gaspille toute l'énergie en Californie »
« Je ne vois pas à quoi sert le GPT, à part aider un étudiant à simuler un examen », pensait Noam Chomsky, linguiste du MIT et critique chevronné des fantasmes de l'IA, l'année dernière.
« Il n’y a aucune contribution scientifique. Il ne semble pas y avoir de contribution technique. D’après ce que je peux voir, cela ne fait que gaspiller toute l’énergie de la Californie. »
En fin de compte, nous payons tous pour la crédulité de nos élites : les bulles ne sont pas anodines.
Dans son livre Exubérance irrationnellele professeur Shiller a prévenu : « Si nous exagérons la valeur actuelle et future du marché boursier, alors en tant que société, nous pourrions investir trop dans le démarrage et l’expansion d’entreprises, et pas assez dans les infrastructures, l’éducation et d’autres formes de capital humain. .»
Jusqu’à présent, toutes les bulles d’IA se sont terminées par un « hiver », et la prochaine pourrait être la plus froide de toutes.
Télégraphe, Londres