Le rôle de Facebook dans la propagation en Inde d’images et propos haineux de nature à exacerber les conflits intercommunautaires a de nouveau été mis en avant ce week-end via la divulgation de documents internes par divers médias américains.
Récupérés par la lanceuse d’alerte Frances Haugen, ces documents ont déjà alimenté plusieurs révélations sur l’impact de Facebook et de ses filiales WhatsApp et Instagram sur la polarisation intense de la vie politique aux Etats-Unis ou la santé psychologique de certaines adolescentes.
Samedi et dimanche, le Wall Street Journal, le New York Times et le Washington Post, entre autres, se sont concentrés sur la présence de Facebook en Inde, son plus gros marché avec 340 millions d’utilisateurs.
Selon eux, le groupe de Mark Zuckerberg était bien conscient de la présence grandissante de contenus problématiques visant en particulier la communauté musulmane, mais n’a pas déployé les moyens suffisants pour entraver ce phénomène.
Cette attitude s’inscrit dans le sillage de ce que dénonce plus généralement la lanceuse d’alerte: Facebook connaît, et étudie, les problèmes mais choisit, en bonne partie, de les ignorer ou de ne pas consacrer suffisamment de ressources pour les circonscrire.
Compte inondé de propagande
Un rapport des propres chercheurs de l’entreprise datant de juillet 2020 a montré que la part de contenus incendiaires est montée en flèche à partir de décembre 2019 en Inde, raconte le Wall Street Journal.
« Les rumeurs et appels à la violence se sont particulièrement propagés » sur WhatsApp en février 2020, quand des affrontements entre la majorité hindoue et la minorité musulmane ont fait plusieurs dizaines de morts, souligne le quotidien.
Conscient de ces problèmes, le groupe a envoyé des dizaines de chercheurs sur le terrain pour discuter avec les utilisateurs. Facebook avait aussi dès février 2019 créé un compte fictif, celui d’une femme de 21 ans dans le nord de l’Inde, pour mieux comprendre l’expérience des utilisateurs, rapporte plusieurs médias.
Sans aucune indication, le compte s’est rapidement retrouvé inondé de propagande en faveur du Premier ministre nationaliste hindou Narendra Modi et de discours haineux envers les musulmans.
« J’ai vu plus d’images de morts au cours des trois dernières semaines que j’en ai vu dans toute ma vie », a écrit le chercheur en charge de cette expérimentation selon le New York Times.
Le groupe est « bien conscient qu’une politique de modération plus faible dans les pays non-anglophones rend la plateforme vulnérable aux abus de personnes mal intentionnées et de régimes autoritaires », affirme le Washington Post.
Selon un document interne, la grande majorité du budget dédié à la lutte contre la désinformation est destinée aux Etats-Unis, même si ces derniers représentent moins de 10% des utilisateurs.
0,05 % des contenus
Réagissant à ces nouvelles révélations, le géant des réseaux sociaux souligne avoir nettement renforcé sa lutte contre les contenus problématiques ces dernières années.
Facebook a « investi de façon importante dans les technologies détectant les discours de haine dans divers langages, dont l’hindi et le bengali », a assuré un porte-parole dimanche dans un message à l’AFP. Il compte aussi plus de 15.000 personnes surveillant les contenus dans plus de 70 langues, dont 20 langues parlées en Inde.
Régulièrement critiqué pour se préoccuper surtout des contenus en langue anglaise, l’entreprise assure par ailleurs être en train d’étendre la détection automatique de contenus problématiques à d’autres langues parlées en Inde et assure avoir déjà des algorithmes fonctionnant en hindi, bengali, tamoul et ourdou.
L’entreprise a en conséquent réduit de moitié le volume de ce genre de propos, qui ne représentent plus que 0,05 % des contenus dans le monde entier, a-t-il ajouté.
« Les discours de haine contre les groupes marginalisés, y compris les musulmans, sont en augmentation dans le monde entier » et Facebook « améliore la mise en œuvre de ses règles » au fur et à mesure de cette évolution, a aussi relevé le porte-parole.
L’influence du groupe en Inde avait déjà été pointée du doigt en 2020 après des révélations du Wall Street Journal l’accusant d’une certaine complaisance envers le pouvoir nationaliste hindou afin de ne pas nuire à ses intérêts commerciaux.
