Nouvelles du monde

Un dirigeant de Pinterest « regrette profondément » les images vues par un adolescent

Molly a vu des milliers d’images, ou épingles, entre le moment où elle a créé son compte et sa mort en 2017, a déclaré le tribunal.

Après s’être suicidée, sa famille a remarqué qu’elle continuait à recevoir des e-mails de Pinterest, suggérant des images qu’elle pourrait aimer sous des thèmes tels que « la dépression ».

Une de ces images avait une citation gravée sur une photographie d’une forêt sombre, disant: « Mettez des fleurs sur ma tombe pour que, pour une fois, je sois belle. »

M. Sanders a demandé à M. Hoffman: « Est-ce quelque chose qui entre dans la catégorie de quelque chose que Pinterest regrette d’avoir envoyé à la famille d’une fille morte qui est dans sa tombe à ce moment-là? » M. Hoffman a répondu: « Oui. »

L’exécutif a déclaré à l’enquête qu’au moment où Molly visionnait le contenu sur le suicide sur la plate-forme, une équipe spécifique modérait et supprimait certaines images.

Selon les règles de la plate-forme à l’époque, les images qui fournissaient des instructions sur la façon de s’automutiler ou en faisaient la promotion devaient être supprimées immédiatement, tandis que le contenu dit « déclencheur », y compris les images d’automutilation, devait être caché.

Une diapositive de formation interne Pinterest de temps, montrée à l’enquête, a déclaré: « En cas de doute, penchez-vous vers une action plus légère. » Cependant, aucune des images vues par Molly n’a été supprimée ou masquée par Pinterest à l’époque, selon l’enquête.

‘Je trouve ça troublant, je dirais que’

M. Sanders a suggéré à M. Hoffman que certaines des images précédemment classées par Pinterest comme « déclencheurs » « encourageaient en fait l’automutilation et le suicide », telles que des images de lames et d’automutilation.

M. Hoffman a répondu qu’il n’était pas un expert dans le domaine et que Pinterest avait consulté des organisations externes, telles que les Samaritains, lors de l’élaboration de ses lignes directrices à l’époque.

M. Sanders a déclaré: « Parlant pour vous-même, en laissant de côté les conseils d’experts, pouvez-vous voir que cela pourrait être encourageant et suggérer l’automutilation? » M. Hoffman a déclaré: « Je trouve cela troublant, je dirais cela. »

Lorsqu’on lui a demandé s’il était sécuritaire pour les enfants de le voir, il a de nouveau répondu qu’il n’était pas un expert. M. Sanders a demandé: « Est-ce que vous le montreriez à vos enfants? » M. Hoffman a dit: « Non. »

On a ensuite demandé au dirigeant de Pinterest si, en plus de ses expressions de regret, il était désolé, et a répondu : « Je suis désolé que cela se soit produit ».

Pinterest, qui compte environ 430 millions d’utilisateurs actifs chaque mois, dispose désormais d’un logiciel d’intelligence artificielle capable d’identifier et de masquer automatiquement les images d’automutilation téléchargées par les utilisateurs. La plate-forme a durci sa politique sur ce contenu en 2019, selon l’enquête.


telegraph Uk

Toutes les actualités du site n'expriment pas le point de vue du site, mais nous transmettons cette actualité automatiquement et la traduisons grâce à une technologie programmatique sur le site et non à partir d'un éditeur humain.
Bouton retour en haut de la page