Twitter accusé d'utiliser un algorithme «raciste»

Le réseau social américain est la cible de critiques sur internet depuis quelques jours. En cause : un algorithme de recadrage des images qui privilégierait les visages blancs aux visages noirs.

Le célèbre oiseau bleu de Twitter est au cœur d’une tempête qui grossit sur les réseaux sociaux. L’histoire commence le 19 septembre sur l’application de visioconférence Zoom, devenue mondialement célèbre suite à son pic d'utilisation lors du confinement. Un utilisateur canadien, Colin Madland, remarque que le visage de son interlocuteur de couleur disparaît lors de l’utilisation d’un arrière-plan virtuel. L’internaute interroge alors la communauté en ligne à propos de ce problème, et remarque que l’algorithme à l'œuvre dans l'affichage des aperçus des photos sur la version mobile de Twitter recadre automatiquement l’image qu’il a publiée sur son visage, qui est blanc.

La tendance au recadrage des photos sur les visages blancs est par la suite confirmée par de nombreux autres exemples publiés par des utilisateurs de Twitter, soulevant ainsi une vague d’indignation. L'un des exemples les plus partagés consiste en un montage des visages de l'ancien président américain Barack Obama et du chef républicain du Sénat, Mitch McConnel. Le visage de ce dernier est systématiquement mis en avant, quelles que soient les options choisies. Zoom et Twitter se retrouvent par conséquent accusés de racisme par de nombreux internautes. 

Un algorithme raciste ?

Le résultat peut paraître surprenant mais, dans un billet de blog de 2018, Twitter avait déclaré que le système de recadrage était basé sur un «réseau neuronal» utilisant l'intelligence artificielle pour prédire quelle partie d'une photo serait intéressante pour un utilisateur, et recadrer le reste.

Mais compte tenu du contexte actuellement très tendu sur les questions raciales aux Etats-Unis, Twitter s’est empressé de répondre à ces accusations de racisme. 

L’entreprise californienne s’est ainsi, dès le 20 septembre, défendue via un de ses comptes officiels, tout en affirmant prendre cette problématique très au sérieux et prévoir des tests de grande envergure : «Nous avons testé les préjugés avant d'envoyer le modèle [d'algorithme] et n'avons trouvé aucune preuve de préjugé racial ou sexiste lors dans nos tests. Mais il est clair que nous avons encore des analyses à faire. Nous continuerons à partager ce que nous apprenons, les actions que nous entreprenons et nous ouvrirons le code source afin que d'autres puissent l'examiner et le reproduire.»

Le responsable du design de l’application, Dantley Davis, a quant à lui affirmé que c’est le contraste du visage, et non la couleur de peau, qui était pris en compte par l’algorithme. Ainsi, le visage de Colin Madland aurait été favorisé car il est moins visible en raison de la barbe fournie qui recouvre son visage. Une théorie illustrée par la publication d’une version modifiée de la capture d’écran, sur laquelle la barbe du Canadien a été «blanchie». Cette hypothèse a néanmoins été démentie par certains utilisateurs, qui lui ont opposé des contre-exemples.

Un autre ingénieur de Twitter, Zehan Wang, a quant à lui affirmé que ce choix de présentation était la conséquence de la mise en place en 2017 d'un nouvel algorithme censé détecter la partie la plus importante d'une photo, sans pour autant pratiquer la «détection des visages». Assurant lui aussi qu'aucun préjugé basé sur l'ethnie n'avait été observé lors des tests conduits sur ce dernier algorithme, il a promis : «On va se pencher là-dessus.»