La mort de Molly a montré qu’on ne peut pas faire confiance aux sociétés de médias sociaux pour protéger les enfants

Cela a pris beaucoup de temps et le projet de loi a, à juste titre, fait l’objet d’un examen et d’un débat intenses. Je voudrais remercier le Telegraph pour sa campagne incessante sur le devoir de diligence, qui a été cruciale pour nous amener à ce point. De nombreux ministres diligents, comme Michelle Donelan, l’actuelle secrétaire d’État, et des militants courageux de la société civile, comme la baronne Beeban Kidron, ont également fait de cette législation historique une réalité.

Alors que le projet de loi est finalement adopté, nous avons à certains égards l’impression de franchir la ligne d’arrivée après une longue course. Mais la réalité est que nous n’en sommes qu’à la ligne de départ. Ce processus ne fait que commencer et l’Ofcom doit sortir rapidement du bloc pour rattraper les entreprises technologiques qui ont 20 ans d’avance sur elles.

Il ne faut pas non plus sous-estimer la tâche qui attend l’Ofcom, qui se heurtera aux entreprises les plus puissantes et les plus influentes de la planète. Il existe un risque que les entreprises technologiques tentent de fausser la base de données factuelles et d’embrouiller le régulateur dans des appels et des litiges pour protéger leurs modèles économiques.

Face à des entreprises aussi puissantes, l’Ofcom peut être tenté d’agir d’abord avec une aversion au risque ou une attitude largement prudentielle. Ce ne serait pas suffisant. Nous avons besoin d’un régulateur efficace et proactif, capable d’apporter rapidement des changements pour rendre les médias sociaux fondamentalement sûrs dès leur conception. L’Ofcom doit agir rapidement pour arranger les choses.

Le régulateur doit être un organisme de surveillance robuste, guidé par l’intérêt public et non par la pression de la Silicon Valley. Pour être efficace, le nouveau régime doit examiner la conception fondamentale des réseaux sociaux et les décisions fondamentales concernant leur fonctionnement.

Par exemple, lors de l’enquête de Molly, Liz Lagone, responsable de la politique de bien-être de Meta, a déclaré que de nombreuses publications que ma fille a vues sur Instagram étaient considérées comme « sûres » par l’entreprise. Il est clair que l’on ne peut pas faire confiance aux géants de la technologie comme Meta pour être les seuls juges et parties de ce qui est nuisible, c’est pourquoi nous avons besoin d’un régulateur impartial mais rigoureux pour intervenir.

Le problème ne réside bien sûr pas uniquement dans le contenu des réseaux sociaux, mais également dans le rôle joué par les puissants algorithmes des entreprises technologiques, qui décident de ce que voit chaque utilisateur et peuvent le diriger vers des actions nuisibles.

Ce n’était pas seulement qu’il y avait du contenu d’automutilation et de suicide sur Instagram et d’autres applications, mais que leurs algorithmes ont récupéré des milliers de publications et les ont canalisées vers Molly. Ce n’était pas seulement ce que Molly a vu, mais aussi le volume qui, selon nous, l’a aidée à la submerger.

Si les algorithmes doivent être autorisés à cibler des enfants dès l’âge de 13 ans avec du contenu, les entreprises doivent être en mesure de démontrer qu’elles ne diffusent pas de messages nuisibles, voire potentiellement mortels.

Tout au long de ce processus, l’Ofcom ne doit jamais perdre de vue l’aspect le plus important de son travail : protéger les enfants contre des préjudices entièrement évitables. Les jeunes comme Molly qui sont aujourd’hui assis dans leur chambre à parcourir sur leur téléphone des dizaines de messages sélectionnés par ces entreprises technologiques. Cette réglementation doit garantir qu’ils ne soient pas entraînés dans des réalités déformées où le suicide et l’automutilation sont dangereusement normalisés.

Si cet acte n’empêche pas les enfants et les adolescents d’être poussés dans des terriers mortels comme Molly l’était, il aura échoué.

Ian Russell a fondé la Fondation Molly Rose à la mémoire de Molly pour faire campagne sur la prévention du suicide.