Mesdames et messieurs, préparez-vous à être éblouis ! Des mêmes brillants esprits technologiques qui nous ont apporté les lunettes perverses et la psychose induite par les chatbots vient le dernier produit alimenté par l’IA : une gamme d’assistants personnels IA qui nous courtisent avec la promesse utopique de ne plus jamais avoir besoin d’avoir de contact humain avec nos enfants ou notre conjoint.
Marissa Mayer, milliardaire américaine de la technologie et ancienne directrice générale de Yahoo, a annoncé le lancement de Dazzle, un assistant d’IA destiné aux femmes, dans une récente interview avec . Comment Dazzle améliorera-t-il votre vie ? Je suis tellement contente que tu aies demandé. Écoutons l’expérience personnelle de Mayer :
« La fille de Mayer, Marielle, avait 10 ans, et l’enseignant de Marielle voulait trois puces résumant ce qui la rendait spéciale. Mayer s’est sentie dépassée par la diversité et la complexité des réponses potentielles. Elle a donc demandé à son assistant personnel d’IA, Dazzle. En quelques secondes, Dazzle a fourni une réponse. « Cela est revenu et c’était comme si votre fille était empathique, créative et amoureuse des animaux », a déclaré Mayer. Elle a pensé que c’était parfait. «
Beaucoup d’entre nous ont déjà quelques préoccupations tenaces concernant l’IA. Ceux-ci incluent le risque que l’IA échappe au contrôle humain et anéantisse l’humanité (comme l’a souligné utilement le récent dépôt d’Anthropic en bourse) et les impacts terrifiants de la construction de centres de données à l’échelle mondiale.
Alors que les entreprises d’IA se tournent vers nos vies personnelles, un autre problème fondamental émerge : les applications pratiques de l’IA pour nos vies personnelles sont conceptualisées par des formes de vie basées sur le carbone et façonnées par les personnes, mais qui ne semblent pas autrement faire l’expérience de faire partie de la race humaine comme le reste d’entre nous. C’est la seule explication possible de la raison pour laquelle Mayer a apparemment pensé que son histoire selon laquelle elle avait besoin de l’aide de l’IA pour décrire son propre enfant était une anecdote réconfortante ou pourquoi, dans la même interview, elle « a réfléchi avec enthousiasme aux gains d’efficacité potentiels liés au fait que son assistant IA parle directement à l’assistant IA de son mari ».
La réaction généralisée à l’interview sourde de Mayer a été rapide et féroce, mais elle n’est pas la seule milliardaire de la technologie certaine que nous allons tous ouvrir nos téléphones à l’IA et laisser le grattage numérique de nos informations personnelles se poursuivre à un rythme soutenu. En septembre, Mark Zuckerberg a célébré le lancement nord-américain de Muse, l’assistant personnel IA de Meta. Zuckerberg rayonnait de confiance dans un avenir proche : « Tout le monde aura un agent personnel (IA) exceptionnellement compétent qui vous comprendra, comprendra vos objectifs et tout ce qui vous tient à cœur. Vous pourrez interagir avec votre agent via n’importe quel appareil, y compris vos lunettes (IA) pour rester présent dans l’instant avec les personnes qui vous sont chères. «
Muse n’est pas encore disponible en Australie, ce qui vous laisse le temps de réfléchir pour déterminer si « Je t’aime et je suis présent en ce moment » est mieux transmis à votre famille via un flux de code contenant des directives comportementales interpersonnelles, tandis que des lunettes IA enregistrent simultanément toutes les actions de liaison définitivement réelles qui se déroulent. Si votre réponse à cette question est « Oui », veuillez passer à la deuxième question, qui est « Êtes-vous à l’aise avec le fait que toutes les données personnelles de votre famille soient extraites par la même entreprise qui a accepté de payer 17 milliards de dollars (24 milliards de dollars) pour régler les allégations selon lesquelles elle aurait intentionnellement conçu les algorithmes d’Instagram et de Facebook pour transformer les enfants en accros aux médias sociaux, induit le public en erreur sur les méfaits et collecté de manière inappropriée des données sur des enfants de moins de 13 ans ? Si votre réponse est toujours oui, veuillez préparer vos coordonnées bancaires, votre numéro de passeport, vos mots de passe et vos contacts, car Muse demandera l’accès à tous ces éléments et bien plus encore.
Plus de 10 millions d’utilisateurs se sont déjà inscrits sur Muse, de sorte que de nombreuses personnes croient clairement que les avantages qu’un assistant IA apportera à leur vie personnelle l’emportent sur des problèmes tels que l’incapacité d’un enfant à donner son consentement éclairé à la transmission de ses informations à Meta. Certains de ces utilisateurs ont peut-être également été influencés par le récit de Zuckerberg sur les moments amusants que sa famille passe avec l’IA. Il s’agit notamment de Muse proposant des suggestions pendant que Zuckerberg cuisine avec sa famille (une façon de rester dans l’instant présent, Zuck !) et sa fille de huit ans utilisant l’IA pour coder ses idées et produire des vidéos.
Pendant ce temps, au-delà des portes de la résidence du milliardaire, les filles d’autres personnes sont secrètement filmées, traquées et harcelées par des lunettes compatibles avec l’IA. Le harcèlement est ensuite amplifié lorsque les vidéos sont publiées sur des réseaux sociaux comme Instagram. L’intégration de produits personnellement invasifs basés sur l’IA pour maximiser les profits se fait en toute transparence.
Pourquoi les oligarques technologiques veulent-ils si désespérément que nous adoptions tous l’IA dans tous les aspects de nos vies n’est pas un mystère. Comme le rapporte ce titre : « Le monde est au milieu d’un boom de la construction d’IA qui éclipse tout ce qu’il a vu au cours des deux derniers siècles. Cette année seulement, on estime que 1 000 milliards de dollars seront dépensés dans les centres de données et les serveurs informatiques pour les remplir. » Le modèle de financement circulaire qui soutient l’industrie de l’IA (les sociétés de puces investissent dans des sociétés de construction de centres de données, qui achètent ensuite des puces à leur investisseur d’origine) est également intrinsèquement instable et a fait craindre une bulle de l’IA.
C’est pourquoi l’industrie de l’IA ne veut pas seulement nos données et notre adhésion à leurs produits, elle en a besoin. Mais partout dans le monde, les gens se demandent de plus en plus si le déploiement de l’IA dans tous les domaines de notre vie est vraiment d’actualité. notre meilleurs intérêts. Nous comprenons sa valeur dans des domaines tels que la défense et la recherche médicale. Mais un bouton de désinscription lorsqu’il s’agit des salles de classe, des arts créatifs et de notre vie personnelle semble désormais urgent.
Quand le New York Times Le journaliste a demandé à Mayer s’il était déprimant d’imaginer un avenir dans lequel les célébrations d’anniversaire, les cadeaux de Noël et les vacances en famille seraient tous planifiés par l’IA. Mayer a répondu : « Je n’y ai pas vraiment réfléchi. »
Le moment est peut-être venu de réfléchir à la manière et à la mesure dans laquelle nous souhaitons introduire l’IA dans nos vies, et les personnes qui réfléchissent devraient être nous.
Melanie La’Brooy est une romancière qui écrit sur des questions de politique et de justice sociale.
Mélanie La’Brooy – Melanie La’Brooy est une romancière primée qui a vécu en Afrique, en Asie, en Europe et au Moyen-Orient et écrit sur les questions de politique et de justice sociale.