Depuis que ces images graphiques sont devenues virales, diverses organisations ont appelé à des mesures contre la prolifération de contenus deepfakes préjudiciables. L’attachée de presse de la Maison Blanche, Karine Jean-Pierre, a exhorté le Congrès à prendre des mesures législatives sur la question, soulignant que le laxisme dans l’application des lois a un impact disproportionné sur les femmes et les filles.
Vendredi, le syndicat des acteurs hollywoodiens SAG-AFTRA a également condamné ces images, les qualifiant de « bouleversantes, nuisibles et profondément préoccupantes ».
« Le développement et la diffusion de fausses images – en particulier celles à caractère obscène – sans le consentement de quelqu’un doivent être déclarés illégaux », a déclaré le syndicat. « En tant que société, nous avons le pouvoir de contrôler ces technologies, mais nous devons agir maintenant avant qu’il ne soit trop tard. »
Le syndicat a également exprimé son soutien au démocrate de New York Joe Morelle, qui défend un projet de loi qui criminaliserait le partage de pornographie deepfake en ligne.
Les deepfakes utilisent l’intelligence artificielle, connue sous le nom de « deep learning », pour créer de fausses images ou vidéos de vraies personnes. Cela implique généralement une manipulation de leur corps ou de leur visage. Selon le BBCil y a eu un Augmentation de 550 pour cent dans la création de telles images manipulées depuis 2019.
Les chercheurs soupçonnent que les fausses images Swift ont été créées par des modèles de diffusion – un modèle d’intelligence artificielle générative capable de produire de nouvelles images photoréalistes à partir de messages écrits. Cela inclut des modèles comme Midjourney, Stable Diffusion et DALL-E d’OpenAI.
Microsoft propose actuellement un générateur d’images basé en partie sur DALL-E. Son directeur général, Satya Nadella, a qualifié les fausses images de Swift d' »alarmantes et terribles » dans une interview avec Actualités NBCajoutant que « quelle que soit votre position sur une question particulière, je pense que nous bénéficions tous lorsque le monde en ligne est un monde sûr ».
Microsoft est actuellement en train d’enquêter pour savoir si son outil générateur d’images a été utilisé à mauvais escient.
En Australie, la législation civile et pénale ne pénalise pas la création et la possession de deepfakes pornographiques, ce qui signifie qu’il reste difficile de poursuivre leur distribution. Les avocats spécialisés en propriété intellectuelle et en médias, Ted Talas et Maggie Kearney, ont déclaré dans un communiqué rapport que les cadres juridiques actuellement en place pour réglementer les deepfakes sont probablement insuffisants pour relever le défi qu’ils posent aux individus.
« Les futures réformes législatives ne constitueront qu’une partie d’une solution efficace. Ce qu’il faut, c’est le développement continu d’outils efficaces pour détecter, identifier et alerter les internautes des deepfakes.
Découvrez les prochaines séries télévisées, séries en streaming et films à ajouter à vos incontournables. Recevez The Watchlist livré tous les jeudis.