« La famille moyenne lutte quotidiennement pour maîtriser ce genre de choses et pour apprendre à ses enfants comment être en sécurité en ligne. Au cours des 20 dernières années, la philosophie dominante a été de rejeter la responsabilité sur l'individu et les familles, et de les critiquer en cas d'échec. Je pense que nous récoltons ce que nous avons semé.
Elizabeth Handsley, professeure de droit et présidente du Conseil australien sur les enfants et les médias, mène des recherches sur la sécurité en ligne depuis la fin des années 1990. Selon elle, le débat sur les enfants et Internet comporte des aspects récurrents, avec des pièges communs : refuser des solutions parce qu'elles ne seront pas efficaces à 100 % ; rejeter la réglementation comme une censure ; une tendance à s’asseoir et à laisser les entreprises technologiques diriger le spectacle.
Mais d’autres éléments de la conversation ont évolué. « Il y a vingt ans, nous parlions de pornographie et de contenus violents – les choses que les enfants pouvaient voir – mais pas de leurs interactions avec les autres. Les réseaux sociaux ont mis tout cela sous stéroïdes », dit-elle. Plus récemment, ces préoccupations se sont élargies pour inclure la vie privée et la dépendance.
« Il y a une prise de conscience croissante que nous devons faire quelque chose à ce sujet. Ce n'est pas seulement une panique morale. Il y a des problèmes sérieux que nous devons résoudre.
Les experts voient désormais une fenêtre d’opportunité pour que cela se produise. Une révision majeure de la loi fédérale sur la sécurité en ligne est prévue plus tard cette année, lorsqu'un projet de loi distinct sur la désinformation sera également présenté. Les événements des dernières semaines n’ont fait qu’accroître les enjeux, invitant à un débat politique sur la meilleure manière de protéger les enfants en ligne – non pas parce qu’ils constituent le seul groupe à risque, mais ils sont souvent le plus vulnérable.
« Il s'agit d'un sujet très actuel qui a fait l'objet de discussions et de travaux au sein des départements ainsi qu'avec eSafety », a déclaré Rowland mercredi dans une interview à la radio nationale ABC.
Les experts estiment qu'il est temps pour la ministre des Communications, Michelle Rowland, de se montrer plus sévère à l'égard des géants des médias sociaux en adoptant des codes de conduite obligatoires.Crédit: Alex Ellinghausen
« Il n'y a pas un seul parent qui ne se préoccupe pas de ce que voient ses enfants. Une partie de l'examen que nous effectuons de la Loi sur la sécurité en ligne consiste à nous assurer que l'organisme de réglementation dispose des outils nécessaires. Dans le même temps, nous nous penchons sur d'autres problèmes, les méfaits causés aux enfants, notamment en mettant en place des systèmes de recommandation qui diffusent des contenus tels que des vidéos misogynes et sur les troubles de l'alimentation.
« Bien sûr, il existe une litanie de méfaits nouveaux et émergents, allant de l’intelligence artificielle aux contrefaçons profondes, en passant par la sextorsion, le matériel d’exploitation sexuelle des enfants et les escroqueries. En tant que gouvernement, nous avons un programme de travail dans tous ces domaines.
Mais cela pourrait faire plus. L’une des mesures clés proposées est la vérification de l’âge, ce qui signifie prendre des mesures pour garantir que les utilisateurs d’Internet sont bien ceux qu’ils prétendent être et qu’ils atteignent la tranche d’âge minimum pour se conformer aux lois et réglementations. Rowland a rejeté l'année dernière l'avis du commissaire à la sécurité électronique de tester un programme de vérification de l'âge, affirmant que cela détournerait l'industrie de son travail actuel d'élaboration de codes de conduite. Le chef de l'opposition, Peter Dutton, a toutefois promis aux parents que leurs enfants mineurs ne seraient pas autorisés à accéder à la pornographie en ligne, aux paris sportifs et aux services de livraison d'alcool grâce à un plan de vérification de l'âge.
La Coalition a redoublé cette politique cette semaine. « Nous devons de toute urgence soutenir le commissaire à la sécurité électronique et avancer dans la vérification de l'âge des enfants sur les réseaux sociaux », a déclaré le porte-parole des communications, David Coleman. Cette idée a été soutenue par le plus grand espion du pays, le patron de l'ASIO, Mike Burgess, qui a déclaré mercredi au National Press Club qu'un tel outil faciliterait son travail.
Les critiques de la vérification de l'âge – qui va du système d'identification, comme celui évoqué pour la France, à la technologie qui évalue les caractéristiques faciales d'un utilisateur – affirment que la technologie est encore en pleine maturité et qu'elle a des implications en matière de vie privée pour les utilisateurs adultes. Les partisans soutiennent qu'il est essentiel de protéger les enfants, en particulier contre la pornographie violente. D'autres disent que le débat s'enlise dans les détails, et si nous admettons qu'il est possible de créer un Internet plus sûr pour les enfants, pourquoi ne pas le faire pour tout le monde ?
Rowland, interrogée cette semaine, a déclaré que son département était en train d'évaluer « ce qui peut être fait à l'heure actuelle sur les mécanismes de garantie de l'âge ».
« Mais encore une fois, je vais détailler ce qu'eSafety a dit concernant un certain nombre de ces questions : il n'y a pas de solution miracle lorsqu'il s'agit de ces questions. Nous avons besoin d’un effort collectif, et cela inclut l’éducation aux médias », a-t-elle déclaré.
La députée indépendante Allegra Spender a déclaré que les députés surveillaient de près l'espace de sécurité en ligne, en particulier en ce qui concerne la confidentialité et les médias sociaux. Elle a évoqué un projet de loi californien qui obligerait les entreprises à désactiver les algorithmes addictifs pour les utilisateurs de moins de 18 ans, comme exemple parmi plusieurs options qui devraient être examinées. « Je pense que vous pourriez parvenir à un véritable accord au sein du Parlement sur la santé mentale et la protection des jeunes sur les réseaux sociaux. C'est le moment d'agir », a-t-elle déclaré.
MacGibbon, désormais conseiller en cybersécurité, convient que la conversation devrait être plus large que la vérification de l'âge. «(Cela) jouera un certain rôle dans certains domaines, mais je ne pense pas que ce soit la panacée à ce problème beaucoup plus vaste», dit-il. Au lieu de cela, il faut des lois plus strictes pour les entreprises technologiques, y compris des codes obligatoires qui les obligent à montrer au régulateur comment elles atténuent les dommages causés à leurs plateformes. À ce jour, en vertu de la loi sur la sécurité en ligne, les géants de la technologie sont autorisés à rédiger leurs propres codes de conduite volontaires sur la manière dont ils traitent des problèmes tels que la désinformation et la pornographie.
L’ancien commissaire à la sécurité électronique, Alastair MacGibbon, a déclaré que les géants de la technologie « refusaient de faire ce qui est juste » et qu’il était temps d’instaurer davantage de réglementation.Crédit: Alex Ellinghausen
« Il est très clair que nous avons dépassé le cap de la coopération des entreprises technologiques avec les gouvernements. Meta est largement considéré comme ayant échoué dans la protection des individus. Il est très clair que X a complètement démantelé ses efforts pour coopérer avec le gouvernement et refléter la société », déclare MacGibbon.
« Ils choisissent consciemment de laisser du contenu incendiaire et violent sur leurs sites Web parce qu’ils obtiennent des regards et de l’argent. Bien entendu, il est temps que le gouvernement australien fasse davantage. Des codes obligatoires, plutôt que des codes volontaires, qui indiquent à ces entreprises quelles sont leurs obligations au sein de la communauté australienne. Renversez la responsabilité, du commissaire à la sécurité électronique aux fournisseurs. Forcer les entreprises à prouver qu’elles appliquent activement la loi sur leurs sites. Et ce n'est pas de la censure.
C'est également la position de Reset.Tech Australia, un organisme de recherche et de politique spécialisé dans les méfaits en ligne. « Rien n'incite les plateformes à mettre en œuvre des règles significatives », déclare Rys Farthing, directeur des politiques en faveur des enfants. « Le groupe représentatif de l'industrie, DIGI (au nom de X et Meta), rédige les règles. Et bien sûr, ils ont tout intérêt à les écrire aussi faiblement que possible.»
Elle cite l'approche de l'Union européenne comme exemple positif, où une nouvelle loi sur les services numériques obligera les entreprises technologiques à identifier les risques potentiels pour les mineurs, puis à les atténuer, que ce soit par le biais de contrôles parentaux, de vérification de l'âge ou de lignes d'assistance téléphonique accessibles. « Cela les forcera à répondre à des questions telles que : votre design crée-t-il une dépendance ? Est-ce que cela pose des problèmes d’usage compulsif ? Est-ce qu’il comporte des fonctionnalités qui créent un risque de toilettage ? » Farthing dit.
« Lorsque nous faisons cela, nous constatons de nombreux changements : les plateformes se rendent compte que nous ne devrions pas permettre aux moins de 18 ans d'être recherchés par les plus de 18 ans, car cela crée un risque de manipulation. (Cette semaine seulement) en Europe, ils ont désactivé une fonctionnalité TikTok qui récompense les utilisateurs qui regardent des vidéos, car cela crée un risque d'utilisation compulsive et de dépendance. Les plateformes doivent changer la façon dont elles construisent leurs plateformes et leurs produits, et les rendre plus sûrs dans un premier temps.
D'un autre côté, la loi australienne sur la sécurité en ligne se concentre sur les contenus préjudiciables qui peuvent être signalés et supprimés, « et non sur les risques qui pourraient conduire à la production de tels contenus ».
« Cela ne donne pas à notre régulateur la possibilité d'examiner de manière significative des choses comme si une plate-forme crée une dépendance ou présente un risque de toilettage », explique Farthing.
Elle pense que la conversation évolue dans ce sens, surtout après cette semaine. « C'est vraiment encourageant de voir ce moment dans la politique australienne, où nous commençons à parler de la manière dont nous pouvons y parvenir. »
Mais il y aura des obstacles. L’un des principaux problèmes est le « piège de la complexité », dans lequel les discussions sur la nécessité de rendre les plateformes plus sûres se transforment en débats sur les détails techniques. « Il est dans l'intérêt des plateformes de continuer à parler de ces petites corrections et de leur complexité. Personne ne gagne à part les plateformes, si nous tombons dans cette situation », déclare Farthing.
Le pouvoir de lobbying des acteurs des médias sociaux ne doit pas non plus être sous-estimé, déclare Alice Dawkins, directrice exécutive de Reset.Tech. « Le gouvernement et la société civile doivent être prêts à examiner les discours de l’industrie. Je pense que nous manquons un peu d’analyse critique en matière de politique technologique. Lorsqu’une entreprise technologique très sophistiquée fait une déclaration concernant ses produits et services, elle sera crue car elle est difficile à comprendre. Des tactiques comme celle-ci sont régulièrement déployées par l’industrie technologique pour effrayer les gouvernements.
Les premières données de mise en œuvre commenceront également à provenir d’Europe, de Grande-Bretagne et du Canada. « Nous ne manquons pas d’informations sur la manière d’élaborer ces politiques ou sur leur fonctionnement », déclare Dawkins.
La commissaire australienne aux enfants, Anne Hollonds, estime que nous devrions regarder à l'étranger ce que font les autres pays et faire partie d'une communauté internationale qui repousse les limites. Elle croit fermement aux garanties réglementaires et souhaite que la vérification de l’âge soit l’une de ces protections. «Mais je suis frustrée que tout le monde désigne les médias sociaux comme les méchants», dit-elle. « Cela permet à tout le monde de s’en sortir. Il s'agit d'une question à plusieurs niveaux qui nécessite de réinventer le rôle de l'école, par exemple. Nous avons encore de vieilles conversations à ce sujet et nous levons les bras en disant : « D'où viennent tous ces problèmes de santé mentale ?
« Nous n'en sommes pas sûrs, mais nous savons ce qui aide : des relations familiales solides, un sentiment d'appartenance à l'école, un lien fort avec vos pairs. Je pense que nous pourrions faire davantage avant que les choses ne tournent mal, pour comprendre le développement des enfants et ce dont ils ont besoin.