Sarah Bailey
Mon amie Lucy a pris une photo récemment. Lucy monte à cheval et venait juste de terminer une promenade lorsqu’elle remarqua qu’un kangourou à proximité se tenait à côté d’un renard tandis qu’un oiseau volait astucieusement dans le ciel au-dessus d’eux. Sur la photo, les fleurs forment une brume mauve vif et l’herbe environnante est d’un vert luxuriant. Objectivement, c’est une superbe photo et elle a fait ce que la plupart d’entre nous font lorsque nous prenons une bonne photo ces jours-ci : elle l’a publiée en ligne.
En quelques minutes, les commentaires affluèrent.
IAa écrit une personne.
Pas réelun autre a accepté.
Cet oiseau a l’air faux.
Lucy et moi avons envoyé un message à ce sujet plus tard, reconnaissant que c’était triste que tant de gens étaient impatients de considérer la photo comme fausse.
Quelques jours plus tard, mon père m’a envoyé une bobine sur Instagram. C’était une vieille vidéo de George W. Bush parlant de la politique d’immigration américaine. J’espère que ce n’est pas l’IAa écrit papa. Parce que c’est pertinent par rapport à ce que je disais l’autre jour. Pendant que je regardais la vidéo, mon fils aîné est entré dans la cuisine et parlait au téléphone avec son ami. Je ne pouvais entendre qu’un seul côté de la conversation. Ha, non, j’ai vu ça aussi, mec. C’est faux c’est sûr.
Les humains n’ont jamais été satisfaits du monde réel et l’ont sans cesse bricolé, prenant souvent ses os et les améliorant.
SARAH BAILEY
« Probablement l’IA » est un slogan courant dans notre maison ces jours-ci et il est prononcé sans aucune émotion. Du point de vue de mes enfants adolescents, même s’ils le voient de leurs propres yeux, ce n’est pas forcément réel. Jouer sur. Et je me demande si ce scepticisme généralisé est important ?
Mon dernier roman, Cliquezexplore la manière dont l’IA est utilisée par les criminels et le défi que cela représente pour la police. De la fraude aux deep fakes en passant par le terrorisme, j’examine ce qui se passe lorsque les choses ne sont pas ce qu’elles semblent être. C’est le livre le plus sombre que j’ai écrit, notamment parce qu’il n’y a rien de plus effrayant que ce à quoi on ne peut pas faire confiance.
Heureusement, Cliquez est une œuvre de fiction, née de mon imagination et de tous les fils d’informations disparates que j’ai accumulés au fil des années. Ce n’est pas « réel » non plus. Alors pourquoi est-ce que je ressens un tel malaise face à l’avalanche de fausses IA déclenchée ? Ce n’est pas comme si la réalité n’avait pas été déformée dans le passé. Les humains n’ont jamais été satisfaits du monde réel et l’ont sans cesse bricolé, prenant souvent ses os et les améliorant. Vous vous souvenez des filtres ? Ce serait ringard de publier une photo avec le hashtag #nofilter de nos jours ; nous avons de plus grandes choses à nous inquiéter.
Plus de 10 millions de personnes ont aimé une fausse photo de mariage du couple de célébrités Zendaya et Tom Holland. Ce n’est pas grave, je suppose, d’autant plus qu’ils se sont mariés. Mais il existe également des photos générées par l’IA provenant de zones de guerre – basées sur des atrocités réelles, remarquez, mais quand même. Cela ne semble pas bien. Et Dieu (et Elon) sait ce qui est créé sur des sites comme Grok.
Et c’est là le problème. Un groupe de gens qui se demandent si une photo de nature est réelle ou non n’est peut-être pas grave, mais s’il y a une chose que la dernière décennie nous a apprise, c’est que la pente est glissante, surtout quand les Big Tech voient de l’argent au fond.
J’observe régulièrement mon tout-petit naviguer habilement entre ce qui est réel et ce qui ne l’est pas. Il regarde des dessins animés et des rendus 3D, il est obsédé par Spider-Man et il voit ses frères aînés crier sur les écrans alors qu’ils combattent des zombies et construisent des mondes complexes à partir de pixels. Il sait intuitivement qu’il y a une différence entre ces choses et la réalité, et c’est pour cette raison que je le considère comme un bon test décisif. Il aime Bluey mais il sait qu’elle n’est pas réelle. Cependant, quand je lui ai dit qu’une vidéo générée par l’IA montrant un bébé souris endormi avec un chaton n’était pas réelle, il m’a regardé comme si j’étais fou.
C’est peut-être pour cela que cette nouvelle vague de falsification semble différente. C’est frauduleux, un truc. Il franchit une ligne importante, une ligne qui nous aide à prendre des décisions, à nous forger une opinion et à naviguer dans le monde en toute sécurité. Et cela nous laisse dans un impasse déroutant. Nous avons rapidement appris à nous méfier, à chercher le truc, ce qui nous amène à supposer que tout est IA. «C’est faux», disons-nous. « C’est des conneries. » Nous préférons nous tromper sur la réalité de quelque chose plutôt que de nous sentir idiots parce que nous avons été trompés.
Ce n’est pas comme lire un roman ou aller à un spectacle de magie où nous suspendons volontairement notre incrédulité et entrons dans une réalité alternative. L’IA est un contrat que nous n’avons pas signé, et pourtant elle nous attaque sous tous les angles. En attendant un instant la direction de tout cela, je m’inquiète de l’effet de ce manque de confiance collectif sur notre empathie et sur notre capacité à nous forger une opinion cohérente. Si nous ne pouvons pas faire confiance à ce que nous voyons de nos propres yeux, qu’arrive-t-il à notre humanité ?
Je ne suis pas sûr de la réponse. Des labels IA ? Plus de réglementation ? Des codes de conduite pour les médias enregistrés ? Une éducation aux médias accrue ? Comment pouvons-nous remettre le frère technique qui parle vite dans une bouteille ?
Pour moi, il s’agira de petits actes de défi-IA-ance : être dans la nature, passer du temps avec des animaux, rencontrer un ami, aller à une fête, lire un livre. L’IA brouille peut-être ce qui est réel en ligne, mais le monde réel ne mène nulle part. C’est à nous de le chercher.
Cliquez (Allen & Unwin) de Sarah Bailey sort le 31 mars.