Cachés dans l’ombre, les modérateurs des géants du web vivent un enfer

Pourquoi modérer Internet ?

Internet n’a-t-il pas été créé pour être une plateforme d’échange où la liberté d’expression est le maître-mot, chacun étant en mesure de dire ce qu’il veut ? C’est ce qu’il est devenu, sans nul doute, mais ce n’est pas exactement ce qu’il devrait être.

La liberté d’expression, et la liberté d’opinion qui lui est associée, représentent un droit universel garanti par les droits de l’Homme, une clé de voûte de toutes les démocraties. Cependant, comme toutes les libertés elle est soumise à certaines limites : la Cour Européenne des Droits de l’Homme permet à chaque état de fixer ces limites en fonction de la protection des individus (notamment de leur réputation) ainsi que de l’intérêt public (particulièrement la sécurité nationale, c’est à dire par exemple la lutte contre le terrorisme).

Même s’ils l’oublient souvent, les internautes ne peuvent donc pas dire tout ce qu’ils veulent car les lois du pays s’appliquent sur Internet. Par exemple, sur YouTube vous devez non seulement vous plier à la politique de confidentialité de YouTube mais aussi à celle de la loi française. La question est donc la suivante : qui fait la police sur Facebook, Google & Co ? Il faut garder à l’esprit qu’il s’agit d’entreprises privées donc cela complique d’autant plus la tâche, l’état n’a pas le pouvoir d’intervenir directement en supprimant ce qu’il ne veut pas voir.

Les gouvernements ont passé des accords avec les géants de la technologie pour que les lois locales sont respectées, ce qui n’a pas toujours été simple car le manque de communication entre les deux acteurs avaient entraîné au début le blocage de Facebook dans certains pays, notamment la Turquie. Au-delà du problème de la modération, les Etats cherchent des solutions aux problèmes modernes de la technologie (la dépendance aux réseaux sociaux, pour n’en citer qu’un). A ce propos, le secrétaire d’Etat chargé du numérique Mounir Mahjoubi a confié qu’une loi pourrait être créée afin d’aider les citoyens français concernés par cette situation.

Comment fonctionne la modération ?

La modération sur Internet (Google, Facebook, Twitter…) peut s’effectuer de deux manières : la première se fait à l’aide de l’Intelligence Artificielle, la deuxième avec des équipes (humaines) spécialisées. Ici, il ne s’agit pas de machine qui vient remplacer l’Homme, ils travaillent ensemble de manière complémentaire.. “Un algorithme ne peut pas faire ça”, confie l’un des modérateurs à la caméra d’ARTE dans un documentaire réalisé par la chaîne. Leur travail ? Supprimer tout ce qui est contraire aux règles de leur entreprise (et aux Droits de l’Homme) : travail des enfants, sexualité, terrorisme, harcèlement en ligne…

Qui sont ces personnes ? D’où sortent-elles ? Voilà des questions difficiles à répondre car généralement ces mystérieux employés refusent de faire parler d’eux et restent dans l’ombre (pour leur propre sécurité, d'ailleurs). Le documentaire d’ARTE a montré que Facebook fait appel à des entreprises tierces pour modérer son réseau. S’il y en a un peu partout (notamment à Berlin et à Paris), ARTE a montré un bureau situé aux Philippines où des employés se rendent chaque jour à un bureau pour modérer des contenus. S’ils sont heureux d’avoir un travail qui leur permet de gagner leur vie, ils sont aussi nombreux à y aller à contrecoeur car ils y sont confrontés au pire que l’on puisse trouver sur Internet. Des psychologues du travail ont d’ailleurs montré qu’il y a un parallèle entre le traumatisme que vivent ces modérateurs et celui des soldats à la guerre.

Leurs journées consistent à approuver ou refuser des messages, photos ou vidéos. Qu’ils soient signalés par des utilisateurs ou détectés par l’Intelligence Artificielle, ces contenus doivent être vérifiés par un modérateur qui décidera s’il peut rester en ligne. Les modérateurs sont spécialisés dans une discipline qui les oblige généralement à visualiser des photos ou des vidéos difficilement soutenables. Ne nous méprenons pas, leur travail n’est pas uniquement une prise de décisions, ils doivent également mémoriser de nombreux éléments pour pouvoir effectuer un travail de qualité (par exemple les drapeaux et slogans des différents groupes terroristes).

“Je vais démissionner, il faut que j’arrête parce que je suis en train de partir en vrille”

La première difficulté pour les modérateurs est d’être psychologiquement / émotionnellement suffisamment fort pour endurer les horreurs qu’il voit au quotidien. “Horreurs” n’est en réalité qu’un euphémisme : tortures, viols, scènes d’une incroyable violence, pédophilie, voilà quelques exemples des scénarios qu’ils rencontrer régulièrement. A cela s’ajoutent bien évidemment d’innombrables problèmes de racisme, homophobie, etc.

Les événements en direct peuvent parfois poser de gros problèmes. Si un modérateur assiste à un suicide en direct, il ne peut pas intervenir, il n’est autorisé à couper le direct / supprimer la vidéo que lorsque l’image représente un mort. C’est assez paradoxal car les cadences sont généralement très élevées (10 secondes pour prendre une décision) alors qu’en direct ils doivent attendre une échéance que personne ne veut voir.

"On se met en position d'esclave mais il faut prendre conscience que tout cela n'est pas acceptable"
Modérateur anonyme

L’autre grand problème des modérateurs est l’incroyable pression qui repose sur leurs épaules. “Ce n’est pas un travail facile”, confie l’un des employés car la moindre erreur peut “coûter une vie ou plusieurs, déclencher une guerre, entraîner du harcèlement ou pousser au suicide”. Il est d’ailleurs arrivé que certains modérateurs, épuisés émotionnellement et plongés en dépression, recourent eux aussi au suicide.

De nombreux problèmes dans le concept

Il est intéressant de remarquer que d’une plateforme à une autre un contenu peut ne pas subir le même sort. Par exemple, une image peut être considérée comme une menace ou comme une satire. Nicole Wong, ancienne (haute) employée de Google et de l’administration politique de Barack Obama, a expliqué que la modération est parfois très délicate. Elle a donné l’exemple des vidéos de Saddam Hussein, l’une montrait la pendaison et l’autre le montrait mort, YouTube avait alors décidé de n’interdire que la deuxième car il n’y avait “aucune nécessité à montrer cela” alors que le premier pouvait être gardé dans une perspective historique.

L’un des modérateurs a déclaré “la plus grosse erreur que l’on puisse faire, c’est garder des photos de nu”. Cette conception très américaine / puritaine du monde est peut-être ce qui pose problème car la haine s’est installée. Par exemple, sous prétexte de liberté d’expression, de nombreux néo-nazis peuvent exprimer leurs idéaux et deviennent de plus en plus nombreux. Bien sûr, Facebook n’est pas la cause des problèmes, plutôt l’instrument, mais cela ne le dédouane pas.

"Sur les réseaux sociaux les gens s'enflamment facilement, ils croient comprendre un sujet avec simplement quelques bribes d'information"
Ed Lingo - Journaliste

Un ancien cadre de Facebook s’est exprimé sur la mentalité qui règne à la Silicon Valley : “ce qui est négatif, on n’en parle pas”. Des autruches, en somme, qui préfèrent se mettre la tête sous le sable et attendre que l’Union Européenne vienne les déranger. Facebook est une entreprise qui a beaucoup d’expérience en terme d’informatique, de produits, d’infrastructures, d’expérience utilisateurs, mais n’a aucune compétence en matière d’éditorial ou de droits d’auteur. Aujourd’hui, la politique est omniprésente sur Internet, particulièrement sur Facebook et Twitter, il faut trouver de véritables solutions.

Le plus tragique, c’est que ces géants (et particulièrement Facebook) ont beau faire de grands discours qui n’ont guère d’autres intérêts que leur permettre d’entendre le son de leur voix, le problème ne cesse d’empirer. Pire encore, il est amplifié selon cet ex-employé : “ce qui marche c’est le sentiment d’indignation. Facebook attire davantage de personnes avec des contenus entraînant l’indignation qu’en les supprimant”, “Facebook contribue à répandre la haine”.