De lourdes amendes pour les géants de la technologie qui ignorent les contenus abusifs

Inman Grant a déclaré : « Ce qui est remarquable, c'est qu'avant d'avoir les pouvoirs prévus par la loi sur la sécurité en ligne de 2021, nous demandions à des entreprises comme Apple : « Pourquoi Meta a-t-elle signalé 27 millions de cas d'abus sexuels sur mineurs… alors que vous n'en avez signalé que 267 ? » Si vous avez des milliards de téléphones portables et d'iPads dans le monde… iMessage, iCloud et d'autres plateformes, dont FaceTime, cela ne compte tout simplement pas. »

Les entreprises technologiques sont déjà tenues de rendre compte au gouvernement des mesures qu'elles prennent pour minimiser le contenu préjudiciable sur leurs sites et plateformes, mais Inman Grant a déclaré que l'organisme de surveillance a intensifié son approche après avoir constaté que les organisations traînaient les pieds.

La commissaire australienne à la sécurité électronique, Julie Inman Grant, affirme que les géants de la technologie sont volontairement aveugles au contenu préjudiciable sur leurs plateformes.Crédit: Martin Ollman

« Nous avons également appris que Skype, Microsoft Teams, FaceTime et Discord n’utilisaient aucune technologie pour détecter la diffusion en direct d’abus sexuels sur mineurs dans les conversations vidéo. Et ce, malgré les preuves de l’utilisation massive de Skype, en particulier, pour ce crime de longue date et en pleine prolifération », a-t-elle déclaré.

L'organisme de surveillance avait envoyé aux entreprises des « questions ciblées et chirurgicales » et leur avait demandé d'y répondre d'une manière spécifique, « ce qui est en fait notre façon de dire : « n'essayez pas de donner une tournure aux événements » ».

Les entreprises ont jusqu'au 15 février pour fournir leur première série de réponses et s'exposent à des amendes de 782 500 $ pour chaque jour où elles ne se conforment pas.

Le gouvernement fédéral se mobilise également contre les entreprises technologiques concernant la prolifération en ligne d'images d'incidents violents tels que l'attaque au couteau dans l'église de Wakeley, que la société de médias sociaux X Corp a refusé de supprimer complètement pour des raisons de liberté d'expression.

Inman Grant a déclaré mardi à une commission sénatoriale examinant les réformes gouvernementales visant à criminaliser le partage de faux contenus sexualisés que la responsabilité devrait incomber aux sociétés d'intelligence artificielle de faire davantage pour empêcher que leur technologie ne soit utilisée pour générer ce contenu, et que les applications qui « nudisent » les personnes devraient être traitées de la même manière que les applications de suivi utilisées à des fins de contrôle coercitif.

Dans sa soumission à l'enquête parlementaire, Google a déclaré que dans son moteur de recherche, il avait rétrogradé les sites Web signalés comme contenant une forte proportion d'images explicites non consensuelles.

Le sénateur de la coalition Paul Scarr a demandé pourquoi ces mesures n'avaient pas été complètement supprimées.

« Détruire semble être un verbe plus approprié », a-t-il déclaré.

Le parti travailliste et la coalition ont également soutenu une initiative visant à appliquer des limites d’âge à l’utilisation des médias sociaux, tandis qu’un examen gouvernemental de la législation sur la sécurité en ligne est en cours.

En réponse à cet examen, Inman Grant a soutenu des pouvoirs similaires à ceux des régulateurs étrangers qui peuvent infliger une amende de 10 % de son chiffre d’affaires à une entreprise si elle ne respecte pas les garanties d’exploitation.

« Je pense qu’il est important qu’il y ait une parité. Si la Commission européenne demande quelque chose et que nous demandons quelque chose, si nous avons un montant d’amendes beaucoup plus faible et que (les entreprises) doivent décider à qui elles vont répondre et avec quelle diligence elles vont y répondre, elles prêteront bien sûr plus d’attention aux régulateurs qui ont des bâtons plus lourds », a-t-elle déclaré.