La capacité de ChatGPT à se transformer de manière transparente en un caméléon culturel était désarmante, et c'était la première fois que j'avais presque l'impression que je ne parlais pas seulement à une machine. Je me suis même surpris à répondre comme s'il s'agissait d'une personne, en disant à l'outil « désolé de vous interrompre » et « merci beaucoup ».
Ce n'est pas seulement moi. La maîtrise des dialectes parlés par le mode vocal avancé est ahurissante. Un fondateur de start-up jamaïcain a partagé un clip de lui-même conversant avec ChatGPT en patois local. Des vidéos ont inondé TikTok montrant l’application parlant dans toutes les langues, du singlish à l’anglais vernaculaire afro-américain.
La capacité de ChatGPT à communiquer dans les dialectes ouvre la voie à un plus grand nombre de personnes qui peuvent interagir avec l'outil et l'anthropomorphiser. Tout cela peut paraître fantaisiste, mais quiconque a voyagé loin de chez lui sait que la langue et la culture éliminent les barrières. Entendre quelqu’un qui parle comme vous, dans n’importe quelle langue, forge instantanément un sentiment de parenté.
À l’ère d’Internet, ce type de nuance culturelle était quelque chose que les ordinateurs ne pouvaient pas encore capturer, ce qui constituait l’un des plus grands différenciateurs entre un ami et une machine.
Mais l’utilisation de dialectes avec l’IA a des conséquences potentielles. UN Nature Une étude publiée en août a révélé que les grands modèles linguistiques génèrent des « décisions secrètement racistes » concernant les personnes en fonction de leurs dialectes dans une expérience basée sur des textes. Les chercheurs ont découvert que l’IA est plus susceptible de suggérer que les utilisateurs de l’anglais afro-américain « se voient attribuer des emplois moins prestigieux, soient reconnus coupables de crimes et condamnés à mort » par rapport aux locuteurs de l’anglais américain standard.
Par ailleurs, OpenAI a reconnu comment les capacités audio, en particulier, de son dernier modèle, pourraient comporter des risques que nous ne comprenons pas encore pleinement, tels que la création de liens forts ou la possibilité d'une « confiance de plus en plus mal calibrée » dans les modèles d'IA.
La société a remarqué que les utilisateurs exploitaient les fonctionnalités audio en utilisant un langage qui pourrait indiquer qu'ils ressentaient des liens avec le modèle, affirmant que davantage d'études internes et indépendantes devaient être réalisées pour « définir plus concrètement cette zone de risque ». Et la raison pour laquelle le chatbot semble désormais si humain est en partie parce que ses neuf voix sont alimentées par de vrais acteurs.
OpenAI dispose de nombreux garde-fous. ChatGPT a répondu à quelques questions que j'ai posées en changeant de sujet, affirmant que ses directives ne lui permettraient pas de répondre. Il ne peut pas chanter, se faire passer pour quelqu'un ou être trop coquette. La version actuelle ne propose pas non plus de traduction en direct de quelque chose d'autre que ma propre voix, comme un discours ou une vidéo, peut-être pour éviter un examen plus approfondi des droits d'auteur. De plus en plus d'observateurs aux yeux d'aigle ont critiqué sa maîtrise de certaines langues et dialectes. En raison d'obstacles réglementaires, le mode vocal avancé n'est pas encore disponible dans l'Union européenne et sur quelques autres marchés.
La nouvelle capacité de ChatGPT à briser les barrières linguistiques présente d'énormes avantages potentiels, tant pour les entreprises que pour les particuliers. Mais aussi fasciné que je l'étais la semaine dernière, je recevais de temps en temps une réponse qui me rappelait qu'il ne s'agissait que d'une application – je ne devrais pas lui attribuer trop de responsabilités ou la considérer comme un compagnon humain. Je ne pouvais m'empêcher de m'inquiéter d'un avenir où les gens pourraient oublier cela.
Bloomberg