Twitter accusé d'utiliser un algorithme «raciste»

Twitter accusé d'utiliser un algorithme «raciste»© Olivier Douliery Source: AFP
Twitter
Suivez RT France surTelegram

Le réseau social américain est la cible de critiques sur internet depuis quelques jours. En cause : un algorithme de recadrage des images qui privilégierait les visages blancs aux visages noirs.

Le célèbre oiseau bleu de Twitter est au cœur d’une tempête qui grossit sur les réseaux sociaux. L’histoire commence le 19 septembre sur l’application de visioconférence Zoom, devenue mondialement célèbre suite à son pic d'utilisation lors du confinement. Un utilisateur canadien, Colin Madland, remarque que le visage de son interlocuteur de couleur disparaît lors de l’utilisation d’un arrière-plan virtuel. L’internaute interroge alors la communauté en ligne à propos de ce problème, et remarque que l’algorithme à l'œuvre dans l'affichage des aperçus des photos sur la version mobile de Twitter recadre automatiquement l’image qu’il a publiée sur son visage, qui est blanc.

La tendance au recadrage des photos sur les visages blancs est par la suite confirmée par de nombreux autres exemples publiés par des utilisateurs de Twitter, soulevant ainsi une vague d’indignation. L'un des exemples les plus partagés consiste en un montage des visages de l'ancien président américain Barack Obama et du chef républicain du Sénat, Mitch McConnel. Le visage de ce dernier est systématiquement mis en avant, quelles que soient les options choisies. Zoom et Twitter se retrouvent par conséquent accusés de racisme par de nombreux internautes. 

Un algorithme raciste ?

Le résultat peut paraître surprenant mais, dans un billet de blog de 2018, Twitter avait déclaré que le système de recadrage était basé sur un «réseau neuronal» utilisant l'intelligence artificielle pour prédire quelle partie d'une photo serait intéressante pour un utilisateur, et recadrer le reste.

Mais compte tenu du contexte actuellement très tendu sur les questions raciales aux Etats-Unis, Twitter s’est empressé de répondre à ces accusations de racisme. 

L’entreprise californienne s’est ainsi, dès le 20 septembre, défendue via un de ses comptes officiels, tout en affirmant prendre cette problématique très au sérieux et prévoir des tests de grande envergure : «Nous avons testé les préjugés avant d'envoyer le modèle [d'algorithme] et n'avons trouvé aucune preuve de préjugé racial ou sexiste lors dans nos tests. Mais il est clair que nous avons encore des analyses à faire. Nous continuerons à partager ce que nous apprenons, les actions que nous entreprenons et nous ouvrirons le code source afin que d'autres puissent l'examiner et le reproduire.»

Le responsable du design de l’application, Dantley Davis, a quant à lui affirmé que c’est le contraste du visage, et non la couleur de peau, qui était pris en compte par l’algorithme. Ainsi, le visage de Colin Madland aurait été favorisé car il est moins visible en raison de la barbe fournie qui recouvre son visage. Une théorie illustrée par la publication d’une version modifiée de la capture d’écran, sur laquelle la barbe du Canadien a été «blanchie». Cette hypothèse a néanmoins été démentie par certains utilisateurs, qui lui ont opposé des contre-exemples.

Un autre ingénieur de Twitter, Zehan Wang, a quant à lui affirmé que ce choix de présentation était la conséquence de la mise en place en 2017 d'un nouvel algorithme censé détecter la partie la plus importante d'une photo, sans pour autant pratiquer la «détection des visages». Assurant lui aussi qu'aucun préjugé basé sur l'ethnie n'avait été observé lors des tests conduits sur ce dernier algorithme, il a promis : «On va se pencher là-dessus.»

Raconter l'actualité

Suivez RT France surTelegram

En cliquant sur "Tout Accepter" vous consentez au traitement par RT France de certaines données personnelles stockées sur votre terminal (telles que les adresses IP, les données de navigation, les données d'utilisation ou de géolocalisation ou bien encore les interactions avec les réseaux sociaux ainsi que les données nécessaires pour pouvoir utiliser les espaces commentaires de notre service).

En cliquant sur "Tout Refuser", seuls les cookies/traceurs techniques (strictement limités au fonctionnement du site ou à la mesure d’audiences) seront déposés et lus sur votre terminal. "Tout Refuser" ne vous permet pas d’activer l’option commentaires de nos services.

Pour activer l’option vous permettant de laisser des commentaires sur notre service, veuillez accepter le dépôt des cookies/traceurs « réseaux sociaux », soit en cliquant sur « Tout accepter », soit via la rubrique «Paramétrer vos choix».

Le bandeau de couleur indique si le dépôt de cookies et la création de profils sont autorisés (vert) ou refusés (rouge). Vous pouvez modifier vos choix via la rubrique «Paramétrer vos choix».

OK

RT France utilise des cookies pour exploiter et améliorer ses services.

Vous pouvez exprimer vos choix en cliquant sur «Tout accepter», «Tout refuser» , et/ou les modifier à tout moment via la rubrique «Paramétrer vos choix».

Pour en savoir plus sur vos droits et nos pratiques en matière de cookies, consultez notre «Politique de Confidentialité»

Tout AccepterTout refuserParamétrer vos choix