Haine sur Facebook: regard sur une modération affaiblie

NDLR. Cet article cite des commentaires haineux, afin de faire la lumière à leur sujet.

La modération des discours haineux sur Facebook ― déjà critiquée avant l’arrivée de la pandémie ― a pris un autre coup avec les confinements, certains signalements ne pouvant être réexaminés, faute de ressources humaines. Parmi eux, nombreux sont ceux qui visent la communauté LGBTQ+.

«Pour s’assurer que notre plateforme demeure un endroit sécuritaire où les gens peuvent se connecter, nous priorisons le contenu qui a le plus grand potentiel de causer du mal. Cela signifie que certains signalements ne seront pas révisés aussi rapidement qu’avant et nous ne nous pencherons pas sur certains signalements», avait expliqué par courriel la directrice des communications de Facebook Canada, Meg Sinclair, en juin dernier.

Afin de tester le tout, La Presse Canadienne a signalé une centaine de commentaires transphobes ou homophobes trouvés sur des publications publiques dans la dernière année. Quand ceux-ci étaient quand même gardés en ligne, une demande de réexamen de la plainte était alors envoyée.

À ce jour, les problèmes liés à la pandémie ne se sont pas résorbés et les demandes de réexamen ont reçu des fins de non-recevoir de manière intermittente.

Meta, la société mère de Facebook, a refusé de participer à une entrevue, préférant échanger par courriel.

Entre les mailles du filet

Un porte-parole de la compagnie a écrit en février que «Meta s’oppose fermement à la haine. Nous n’autorisons pas les discours haineux sur nos applications, car ils créent un environnement d’intimidation et d’exclusion et, dans certains cas, peuvent promouvoir la violence».

Au sujet de l’efficacité dudit système, Meta insiste que «la mesure la plus importante consiste à se concentrer sur la prévalence, c’est-à-dire la quantité de discours que les gens voient effectivement sur la plateforme».

Dans son rapport du troisième trimestre de 2021, la compagnie a annoncé que sur 10 000 contenus visionnés par des utilisateurs, seulement trois sont haineux, un nombre en constante baisse.

«Quand on projette ça à une échelle planétaire avec des milliards d’usagers, donc des milliards de publications tous les jours, 0,03% de contenu haineux, c’est énorme», a fait remarquer le professeur David Myles, qui est membre de la Chaire de recherche sur la diversité sexuelle et la pluralité des genres de l’UQAM.

Le chercheur, qui s’intéresse à l’impact des médias numériques, a ajouté que 0,03% est une moyenne, et donc «pas vraiment une donnée qui est importante pour comprendre le vécu des communautés marginalisées», comme «il y a vraiment des groupes qui vont être plus ciblés que d’autres».

De plus, des questions se posent au sujet de la validité de l’estimation, alors qu’une quantité non négligeable de commentaires haineux passe entre les mailles du filet.

Des messages comme «parce que l’homosexualité est une maladie et que ses adeptes devraient être soignés» ou «avoir des relations intimes entre personnes de même sexe est contre nature» ne se sont pas fait retirer après un signalement, ni même après une demande de réexamen. De nombreux autres, pour la plupart laissés en ligne, contenaient des expressions de dégoût ou citaient des croyances religieuses transphobes ou homophobes.

Certains commentaires, dont «le monde sera bientôt débarrassé de ces virus que vous appelez LGBTQ», ont survécu à un premier tour de modération et n’ont pu être réexaminés par Facebook, faute de ressources.

Pourtant, le réseau social interdit «un discours violent ou déshumanisant, des stéréotypes offensants, une affirmation d’infériorité, une expression de mépris, de dégoût ou de renvoi, une insulte ou un appel à l’exclusion ou à la ségrégation» contre des caractéristiques protégées, ce qui inclut l’orientation sexuelle et l’identité de genre.

Quand La Presse Canadienne a contacté Meta avec un échantillon de commentaires, dont tous ceux cités dans cet article, la compagnie les a supprimés. Interrogée sur le fait que des signalements normaux n’avaient pas réglé le problème dès le départ, elle a expliqué que «malheureusement, la tolérance zéro ne signifie pas zéro incident».

L’arrivée de l’intelligence artificielle

Meta dispose aujourd’hui de 40 000 employés chargés de la sûreté et de la sécurité, mais depuis quelques années, la compagnie s’appuie de plus en plus sur l’intelligence artificielle (IA) pour repérer des publications haineuses avant même qu’elles ne causent du tort.

«L’IA détecte maintenant, de manière proactive, 94,7% des discours haineux que nous retirons de Facebook, soit plus que le 80,5% de l’année dernière et le 24% de 2017», peut-on lire dans un texte du blogue de la compagnie, de novembre 2020.

Le professeur Myles a salué la volonté du réseau social d’agir de manière «proactive» pour «empêcher la circulation de ces contenus-là avant que les usagers et usagères qui sont visés entrent en contact avec, et que ça puisse occasionner de la violence ou de la détresse psychologique».

Il doute cependant de la capacité d’un programme, aussi avancé qu’il soit de gérer les commentaires plus complexes.

C’est une conclusion à laquelle souscrit aussi Meta, qui affirme que quand les contenus sont «plus contextuels et nuancés», l’IA les soumet «à un examen manuel».

Mais intelligence artificielle ou regard humain, une lettre mal placée peut vraisemblablement faire toute la différence. Parmi les expériences faites par La Presse Canadienne, un commentaire dénigrant les «p*dos LGBT» a été retiré dès le premier signalement, alors qu’un autre qui parle du «mouvement LGPTP*DO» (sic) n’a eu aucun problème à rester en ligne.

Les conséquences de la haine

Des messages haineux, «on en voit beaucoup», a confié la directrice du Conseil québécois LGBT, Ariane-Marchand Labelle, citant les terreaux fertiles «des articles de nouvelles ou des lettres ouvertes sur les enjeux trans».

«Je pense aussi que leur définition de caractère haineux, elle doit être très étroite», a-t-elle dit, se rappelant avoir signalé plusieurs commentaires que Facebook a jugés acceptables.

Elle a rappelé que «c’est aussi violent et difficile que si ç’avait été dit dans un milieu scolaire, un milieu de travail (…) ça réitère des traumatismes qui souvent sont déjà là. Ces choses-là, on les a aussi entendues dans notre vie.»

«La majorité de la population est très peu victime d’actes haineux et ne mesure pas nécessairement l’ampleur du phénomène», a ajouté le directeur scientifique et stratégique au Centre de prévention de la radicalisation menant à la violence (CPRMV), Louis Audet Gosselin.

Il a fait valoir que l’exposition à ces discours, «c’est un facteur qui accélère la radicalisation».

Les minorités sexuelles du Québec ont 2,8 fois plus de chance d’être visées par un acte haineux, signale une étude de 2021 du CPRMV, rappelant que les attaques contre des membres de la communauté LGBTQ+ «auraient notamment des niveaux de violence significativement plus élevés que les autres types de crimes» motivés par la haine.

Quelques pas en avant

Si un commentaire survit à toutes les démarches, il est possible d’envoyer une demande au Conseil de surveillance, un jury composé de 22 spécialistes indépendants.

Bien que le Conseil ait été fondé en 2020, ce n’est que depuis avril 2021 que des internautes peuvent faire appel à lui pour supprimer des contenus, et pas seulement les restaurer. Les chances d’y accéder sont toutefois minces, puisque le Conseil sélectionne lui-même les requêtes sur lesquelles il souhaite se pencher. En deux ans, 21 décisions ont été rendues.

Meta avait annoncé depuis août 2020 que les futurs rapports d’application des standards de la communauté seraient audités par une firme indépendante, comme «aucune compagnie ne devrait corriger ses propres devoirs, et la crédibilité de nos systèmes devrait être gagnée, pas supposée». Le dernier rapport de 2021, quand il sera publié, devrait être le tout premier à être audité.

NDLR. Si vous êtes membre de la communauté LGBT+ et vivez de la détresse, vous pouvez contacter l’organisme Interligne par appel ou par texto au 1 888-505-1010, ou par courriel à aide@interligne.co. Cette ligne d’écoute est anonyme, gratuite et disponible 24 heures sur 24.

Cet article a été produit par Clara Descurninges avec le soutien financier des Bourses Facebook et La Presse Canadienne pour les nouvelles.