La commissaire australienne à la sécurité électronique, Julie Inman Grant, a annoncé vendredi qu’elle enquêterait sur la multiplication des images sexuellement explicites, impliquant des adultes et des enfants. Elle a déclaré que les entreprises avaient la capacité d’empêcher l’utilisation abusive de leurs produits et qu’elles devaient mettre un terme à la création d’images sexuelles sans consentement.
Inman Grant s’est affronté avec Musk l’année dernière lorsque eSafety a exigé que X supprime les images graphiques d’une église poignardée à Sydney, arguant que la suppression globale était nécessaire parce que les Australiens pouvaient utiliser des VPN pour accéder au contenu. L’affaire a été abandonnée.
X a déclaré dans un communiqué la semaine dernière qu’il avait pris des mesures « contre les contenus illégaux sur X, y compris les contenus pédopornographiques (CSAM), en les supprimant, en suspendant définitivement les comptes et en travaillant avec les gouvernements locaux et les forces de l’ordre si nécessaire ».
Musk a également publié un message affirmant que toute personne utilisant Grok pour créer du contenu illégal « subira les mêmes conséquences que si elle télécharge du contenu illégal ».
Cependant, à la suite de cette déclaration et de la menace de répression au Royaume-Uni, Musk a commenté et republié au cours de la dernière journée plusieurs messages sur sa plateforme critiquant le Premier ministre britannique Keir Starmer et affirmant qu’il censurait la liberté d’expression, dont un qui soulignait que Grok était actuellement classée comme l’application la plus populaire du pays.
La secrétaire britannique à la Technologie, Liz Kendall, a déclaré vendredi qu’elle soutiendrait le régulateur de son pays s’il interdisait X de son pays.
« Je rappelle à xAI que la loi sur la sécurité en ligne inclut le pouvoir de bloquer l’accès aux services au Royaume-Uni, s’ils refusent de se conformer à la loi britannique. Si l’Ofcom décide d’utiliser ces pouvoirs, il aura tout notre soutien », a déclaré Kendall.
Starmer avait précédemment qualifié jeudi les images d’illégales et d’intolérables et avait déclaré que son gouvernement prendrait des mesures.
Des chercheurs d’AI Forensics, une organisation européenne à but non lucratif, ont examiné 20 000 images générées par Grok entre le 25 décembre et le 1er janvier et ont découvert que 53 % d’entre elles contenaient des individus en tenue minimale. Parmi les personnes représentées, 81 pour cent étaient des femmes et 2 pour cent semblaient avoir 18 ans ou moins.
Les chercheurs ont également identifié du matériel de propagande nazie et ISIS généré par Grok.
En Australie, de nouveaux codes entrent en vigueur le 9 mars pour obliger les services d’IA, entre autres, à limiter l’accès des enfants aux contenus sexuellement explicites, ainsi qu’aux contenus violents et aux thèmes liés à l’automutilation et au suicide.
Ces réglementations font suite aux mesures coercitives de la Commission eSafety contre une société basée au Royaume-Uni qui proposait deux services nudify largement utilisés permettant à ses utilisateurs de manipuler des photos de personnes réelles.
Ces services avaient attiré environ 100 000 visiteurs par mois en Australie, et eSafety a déclaré qu’ils avaient été utilisés pour générer de fausses images explicites d’élèves dans des écoles australiennes. Les sites ont été retirés d’Australie en novembre après un avertissement officiel d’eSafety.
La porte-parole de l’opposition aux communications, Melissa McIntosh, a déclaré samedi qu’aucune mesure visant à lutter contre les services de nudification n’avait été prise depuis septembre et a demandé au gouvernement d’agir rapidement.
« Le gouvernement doit agir maintenant ; le temps des discours, des promesses creuses et des tournées de relations publiques prématurées est révolu », a déclaré McIntosh.
La Commission européenne a ordonné à X de conserver tous les documents relatifs à Grok pendant que le bloc veille au respect de ses règles après l’avoir condamné pour production d’images sexualisées. Le régulateur italien travaille avec la Commission de protection des données – la principale autorité européenne de protection de la vie privée pour X, qui a une base en Irlande – et se réserve le droit de prendre des mesures supplémentaires. La Suède a déclaré que les images générées par l’IA étaient inacceptables après que le vice-Premier ministre du pays ait été ciblé par un utilisateur de Grok cette semaine.