YouTube incapable de filtrer des vidéos incitant les enfants au suicide ?

Une pédiatre américaine a récemment tiré la sonnette d’alarme après avoir découvert sur YouTube un dessin animé comportant une séquence d’incitation au suicide. La vidéo avait été repérée plus tôt sur YouTube Kids, l'application filtrée pour enfants.

Youtube Kids, l'application YouTube destinée aux enfants, héberge-t-elle des vidéos de dessins animés entrecoupés de séquences d’incitation au suicide ? C'est ce qu'affirme Free Hess, une pédiatre américaine et blogueuse.

Après avoir été accusé d'être un terrain de jeu pour les pédophiles qui y commentaient des vidéos de petites filles et s'échangeaient des contenus illicites, YouTube est une fois de plus au cœur d'un scandale. Cette fois, YouTube Kids, dont la plateforme devrait n'offrir que des contenus vérifiés et appropriés pour les mineurs, est mise au ban des accusés. 

Le Washington Post a dévoilé l'affaire, en interviewant la pédiatre Free Hess qui avait lancé l'alerte sur son blog mi-février. Surfant sur YouTube, elle avait repéré l'inclusion, dans une banale vidéo du jeu Splatoon de Nintendo, d'un message d'invitation au suicide. La vidéo s’était interrompue brutalement pour laisser la place à Filthy Frank, un youtubeur spécialisé dans les contenus répugnants. Habitué à se vautrer dans des matières immondes ou à se livrer à des actes de cruauté sur les animaux, il faisait cette fois la déclaration suivante, lunettes de soleil sur les yeux, tenant une lame imaginaire en direction de ses poignets : «N’oubliez pas, les enfants. Dans le sens de la largeur c’est pour attirer l’attention. Dans le sens de la longueur pour obtenir des résultats. Finissez-en !» Puis le jeu vidéo avait repris comme si de rien n'était. Les fans de Filthy Frank sont connus pour ces pratiques d'insertion de séquences du youtubeur dans des vidéos prises au hasard. 

Si cette fois, la vidéo était diffusée sur YouTube, elle avait été repérée huit mois auparavant par une mère américaine, cette fois sur YouTube Kids. Il avait fallu des centaines de signalements pour que la vidéo soit enfin retirée de l'application pour enfants.

Free Hess a également détecté en quelques minutes plusieurs vidéos dérangeantes sur l'application YouTube Kids, comme un jeu vidéo Minecraft montrant une fusillade dans une école ou encore un dessin animé d'enfant qui se suicide en se poignardant.

Les réactions de circonstance de YouTube

Depuis le scandale, Andrea Faville, porte-parole de YouTube a publié un communiqué dans lequel elle explique que la compagnie a travaillé «sans relâche pour que YouTube ne soit pas utilisé dans le but d'encourager les comportements dangereux.» «Nous nous appuyons sur le signalement des utilisateurs et des outils de détection automatisés afin d’identifier rapidement ces contenus et les soumettre à nos équipes pour une vérification humaine. Chaque trimestre, nous supprimons des millions de vidéos et chaînes qui enfreignent notre règlement. Nous nous efforçons d’améliorer nos systèmes dans le but de supprimer encore plus rapidement ces contenus illicites», se justifie-t-elle.

Lire aussi

Vent de panique chez YouTube, accusé de laxisme face aux pédophiles

En d'autres termes, le système de filtre de YouTube Kids n'est simplement toujours pas au point. 

Même si le filtrage exhaustif des contenus s'avère extrêmement difficile à mettre en place pour les hébergeurs, une attention particulière aurait-elle du être accordée à YouTube Kids ? La plateforme avait en tout cas déjà fait l'objet d'une plainte dès son lancement. En 2015, des utilisateurs avaient en effet détecté des contenus violents, faisant référence à la drogue ou à la pédophilie ou encore des publicités à caractère sexuel. 

Une plainte avait été déposée dans la foulée en mai 2015 à la Commission Fédérale du Commerce par un groupe d'associations pour la défense de l'enfance et des consommateurs sous la bannière du centre de démocratie numérique (CDD) à Washington. Jeffrey Chester, le directeur du CDD avait blâmé Google et YouTube : «Ce que nous avons trouvé est alarmant, inquiétant et choquant. Les enfants peuvent accéder à des contenus vraiment néfastes. Google a été imprudent et a trompé le public avec ses revendications d'un YouTube spécialement adressé aux enfants.» En 2017, l'apparition d'un Mickey Mouse en sang et d'un Spiderman urinant sur la Reine des neiges dans des vidéos de YouTube Kids avait relancé une nouvelle polémique.

En novembre 2017 et en avril 2018, YouTube a mis en place des nouvelles règles d'utilisation, permettant d'agir plus rapidement sur les contenus et créé un contrôle parental renforcé. Cela n'a malheureusement pas suffi pour protéger les enfants.

Lire aussi : Vidéo de la tuerie de Christchurch : le CFCM porte plainte contre Facebook et YouTube