Au cours d’une interview ultérieure que j’ai eue avec Limp, l’IA a eu du mal à plusieurs reprises à obtenir la bonne réponse aux questions posées par Limp en direct. Un jour, lorsque Limp a demandé à Alexa des conseils sur un musée à visiter à Washington, DC, l’IA lui a recommandé un musée dans une autre partie du pays.
« Vous pouvez avoir des conversations presque humaines avec Alexa. »
Dave Limp, vice-président senior des services et appareils, Amazon Inc
En réponse à une question que j’ai posée sur la raison pour laquelle il y a de la fumée aujourd’hui à San Francisco, Alexa a répondu qu’il n’y avait pas de « fumée » – et a ensuite ajouté un non-sequitur sur le fait que l’indice de qualité de l’air dans la ville est élevé aujourd’hui. (La fumée des incendies dans l’Oregon a recouvert la ville le dernier jour.)
Et quand j’ai suggéré à Limp de lui demander si je devais recevoir le nouveau vaccin contre le coronavirus, la nouvelle Alexa ignorait qu’il en existait un.
Limp a reconnu que son équipe avait du travail à faire, mais a déclaré qu’Amazon avait une grande opportunité d’introduire la technologie d’IA générative dans les foyers des consommateurs. En 2022, 71,6 millions d’Américains utilisaient Alexa chaque mois, selon Insider Intelligence. Alors qu’une majorité d’adultes américains ont entendu parler de ChatGPT, seuls 14 % ont réellement essayé de l’utiliser, selon une enquête menée en mars par le Pew Research Center.
« Ce que nous lancerons cette année derrière » discutons « sera amusant à jouer, mais ce n’est pas la fin du jeu », a déclaré Limp, car il n’a accès qu’à une fraction de toutes les capacités intégrées à Alexa d’aujourd’hui. Un remake plus complet d’Alexa aurait lieu « jusqu’à la fin de l’année prochaine », a déclaré Limp.
« Nous allons avoir cet assistant remarquable qui sera beaucoup plus proactif », a-t-il déclaré. « Cela va être incroyablement personnalisé parce que nous allons avoir un contexte sur vous. »
L’appareil domestique intelligent Amazon Echo Show 8 activé avec une Alexa plus récente et plus intelligente.Crédit: Bloomberg
Par exemple, il a déclaré que les personnes qui utilisent Alexa pour contrôler une maison intelligente verront des avantages immédiats grâce à la capacité de l’IA à comprendre leurs commandes. Vous pourriez simplement dire « allumez la nouvelle lumière » et il comprendrait ce que vous voulez dire.
Mais intégrer les capacités d’un chatbot dans une enceinte intelligente soulève également un autre problème : la confiance. Des millions d’enfants utilisent les enceintes intelligentes Echo – et les chatbots ont parfois la réputation de dérailler ou d’« halluciner ». En testant des produits d’IA générative cette année, j’ai constaté qu’ils s’appuyaient sur des sources douteuses et donnaient de mauvais conseils sur le sexe, les drogues et même les troubles de l’alimentation.
« La raison pour laquelle je lui ferais confiance est que nous ne sommes pas une start-up avec quelques centaines de personnes », a déclaré Limp. Au cours des neuf dernières années, a-t-il déclaré, Amazon a beaucoup appris sur la manière dont les gens interagissent avec Alexa et sur la manière de maintenir le contenu approprié. (Par exemple, a dit Limp, essayez de jurer à Alexa ou de poser une question inappropriée et il répondra simplement par un son – il n’essaiera même pas de répondre à la question.)
C’est l’une des raisons pour lesquelles Amazon s’est lentement lancé dans ce type de produit, a déclaré Limp. « Nous ne voulions pas trop halluciner chez vous. »
Limp a déclaré qu’Amazon travaillait sur des garde-corps pour la nouvelle Alexa. D’une part, a-t-il déclaré, Amazon s’efforcerait d’empêcher la nouvelle Alexa de divulguer les informations personnelles qu’elle aurait pu glaner à partir des données de formation, dont la plupart proviennent du Web et n’incluent pas d’informations privées sur les clients d’Amazon.
Amazon a également annoncé une nouvelle Alexa conversationnelle distincte, spécialement conçue pour répondre aux questions des enfants sur des sujets tels que les animaux de manière « sûre ». Ce produit, qui devrait être lancé avant les fêtes de fin d’année, a été formé sur un ensemble plus limité de sources et s’efforce de maintenir les conversations sur la bonne voie. « Nous voulions nous assurer que nous disposions d’un bac à sable sûr », a déclaré Limp.
Pourtant, il semble que n’importe quel enfant pourrait simplement dire «Alexa, discutons» et lancer la nouvelle Alexa à usage général. Limp le mettrait-il dans la chambre d’un enfant de 10 ans ?
« Je le pense, d’après l’expérience que j’ai eue », a-t-il déclaré. « Nous commettons encore des erreurs et parfois nous n’obtenons pas exactement la bonne réponse – cela va s’améliorer au cours des 30 et 60 prochains jours. Mais je ne vois pas beaucoup d’exemples où nous arrivons à une situation haineuse. Mais si nous le faisons, nous serons certainement prudents.»
POSTE DE WASHINGTON
Recevez des nouvelles et des critiques sur la technologie, les gadgets et les jeux dans notre newsletter technologique tous les vendredis. Inscrivez-vous ici.