Lutte contre «la haine» sur le web : Instagram fait appel à l’intelligence artificielle

Dans ce qui semble être une nouvelle tentative des groupes internet de limiter les contenus problématiques, Instagram, détenu par Facebook, a annoncé qu'il allait filtrer les commentaires «haineux» grâce à une intelligence artificielle.

Nouvelle étape dans la croisade des géants du net pour lutter contre «la haine» sur la toile. Le dernier réseau social en date à rejoindre la bataille ? Instagram, application de partage de photos qui appartient à Facebook. Et ce n'est ni plus ni moins que l’option de l’intelligence artificielle qui a été retenue par la firme pour lutter contre les contenus indésirables.

Les utilisateurs auront le choix d'activer ou non le filtre

«Beaucoup d'utilisateurs nous ont dit que les commentaires négatifs et agressifs les empêchaient de profiter pleinement d'Instagram et de s'exprimer librement», écrit le co-fondateur et boss du réseau social Kevin Systrom sur le site du réseau social.

«Pour les aider, nous avons mis au point un filtre qui bloquera certains commentaires agressifs sur les publications et les vidéos en direct», poursuit-il, précisant que les utilisateurs auront le choix d'activer ou non ce système.

Le filtre est d'abord lancé pour les commentaires en anglais avant son extension à d'autres langues, est-il précisé.

«Notre équipe a appris à nos systèmes à reconnaître certains types de commentaires agressifs [...], de façon à ce que vous n’ayez pas à les voir», poursuit le responsable.

«Cet outil va s'améliorer avec le temps», explique-t-il, ajoutant qu'Instagram lançait aussi le 29 juin un filtre anti-spam.

L’intelligence artificielle, avenir de la modération de contenus ?

Les géants d'internet utilisent de plus en plus l'intelligence artificielle pour filtrer les contenus, notamment via «l'apprentissage automatique des machines» qui permet aux algorithmes de s'améliorer automatiquement au fur et à mesure qu'ils examinent les contenus.

Cette annonce intervient alors que les réseaux sociaux sont régulièrement accusés de ne pas filtrer suffisamment les publications et de laisser proliférer les propos «haineux», les apologies du terrorisme ou les fausses informations.

Ils multiplient donc ces derniers mois les annonces détaillant leurs efforts en la matière (embauches, recherche, collaborations...).

Facebook, Microsoft, Twitter et YouTube (Google) ont annoncé par exemple cette semaine le lancement d'un forum internet contre le terrorisme, destiné à mieux filtrer les contenus litigieux et à en expurger leurs plateformes.