Le journal allemand Süddeutsche Zeitung a publié le vendredi 16 décembre des documents qu'il présente comme des textes internes de Facebook, qu'il aurait obtenu grâce à des sources anonymes. Ces documents confidentiels auraient été distribués par le géant des réseaux sociaux à son personnel ainsi qu'à des tiers en charge de modérer le contenu – comme l'entreprise Arvato, une filiale du groupe allemand Bertelsmann – afin de leur expliquer comment procéder.
Bien que les règles de modération changent constamment, ces documents fournissent un premier aperçu des directives actuelles appliquées par Facebook. Toutes attaques sur une personne sur des critères – définis comme des «catégories protégées» – tels que le sexe, la race, la nationalité, la religion, l'orientation sexuelle, les origines ethniques ou encore la maladie, seraient strictement interdite et immédiatement censurées, car considérées comme un «discours haineux».
L'entreprise précise que cela crée un «environnement intimidant et excluant dans lequel les gens ne veulent pas partager», ce qui va à l'encontre de son business model qui promeut un maximum d'échanges entre ses utilisateurs pour qu'ils soient le plus possible exposés à de la publicité.
La situation devient néanmoins confuse lorsque sont combinées des catégories protégées et des catégories non-protégées. Si la phrase «les femmes irlandaises sont stupides» sera supprimée car les catégories protégées «nationalité» et «sexe» s'appliquent; la phrase «les adolescents irlandais sont stupides» ne le sera en revanche pas, car s'est une association d'une catégorie protégée à une non-protégée.
Un employé décrit les règles du réseau social comme étant pratiquement impossible à comprendre : «J'ai dit à mes responsables "c'est fou! cette photo est pleine de sang et particulièrement brutale, personne ne devrait voir ça", mais ils ont répondu que c'était seulement mon opinion, que je devais penser à ce que veut Facebook». Il ajoute que le réseau social attend de ses employés qu'ils «pensent comme des machines».
La politique de modération de Facebook est au cœur de l'actualité ces jours-ci après que Mark Zuckerberg a annoncé qu’il comptait vérifier les informations pour trouver et marquer celles considérée comme étant «fausses». Il va s'attacher à cette fin les services d'agences médiatiques bien connues, telles que le Washington Post ou Associated Press. Le gouvernement allemand a par ailleurs enjoint le réseau social à supprimer ce qu'il estime être de «fausses informations» sous peine d'amende.
Lire aussi : Campagne contre les «fausses informations» sur Facebook : une forme de censure ?