Facebook et Instagram, tous deux propriétés de Meta, sont pointés du doigt dans le drame vécu par la famille de Lindsay, l’adolescente qui s’est suicidée en mai dernier dans le Pas-de-Calais en France, à la suite d’un harcèlement scolaire qu’elle avait dénoncé. Une plainte a été déposée pour non-assistance à personne en danger contre les réseaux sociaux, accusés par l’avocat de la famille d’être "complètement défaillants" en matière de modération des contenus et de lutte contre "les propos haineux".

Un drame individuel qui fait écho à bien d’autres vécus par des populations entières ciblées par les appels à la haine. Cela a été le cas des Rohingyas massacrés en Birmanie en 2017. Mais aussi en Inde où les extrémistes hindous appellent à massacrer les populations musulmanes dans ces termes : "si cent d’entre nous sont prêts à tuer deux millions d’entre eux, alors nous serons victorieux et ferons de l’Inde une nation hindoue". Leurs vidéos font le tour des réseaux sociaux sans provoquer une quelconque condamnation de la part du Premier Ministre Narendra Modi, lui-même hindou.

"Un mégaphone donné aux pires composantes de notre société"

C’est pourquoi Teesta Setalvad, qui dirige l'ONG de défense des droits humains "Citizens for Justice and Peace", a appelé à soutenir la résolution déposée à l’assemblée générale de Meta le 31 mai dernier pour l’obliger à changer ses pratiques de modération. Pour elle, "les réseaux sociaux et en particulier l’algorithme de Meta en Inde, a donné un mégaphone aux pires composantes de notre société et cela empêche les mécanismes institutionnels de fonctionner." Elle souligne que la situation est pire en Inde qu’aux États Unis. "Les utilisateurs indiens de Meta sont soumis aux appels à la haine viraux sans aucun filtre alors que les Américains ont des moyens pour les bloquer ou au moins les limiter."

De son côté, Amnesty International soutient le combat des Rohingyas toujours massivement parqués dans des camps de fortune. Ils veulent faire indemniser par Facebook les dommages causés par les appels à la haine que le réseau social a laissé circuler. L’ONG s’adressait ainsi aux actionnaires la semaine dernière : "Vous devez utiliser l’assemblée générale pour demander que la direction de l’entreprise assume sa responsabilité, au regard des normes internationales en matière de droits humains. Vous devez également exiger que l’entreprise revoie son approche globale des droits humains, au cas où elle serait à nouveau impliquée dans la survenue de violences et d’atrocités ailleurs dans le monde." Amnesty évoquait la nécessité pour l’entreprise et ses actionnaires de respecter leur devoir de vigilance. Pour Meta, cela concerne d’abord ses systèmes algorithmiques.

Dynamiter les principes démocratiques

Aucune des résolutions contre lesquelles la direction de Meta avait appelé à voter n’a obtenu la majorité. Cela semblait de toute façon impossible puisque Mark Zuckerberg, le patron du groupe, a mis en place un mode de gouvernance qui lui permet de détenir 60% des droits de vote en ne possédant que 14% du capital ! Il serait pourtant urgent de faire pression sur Meta pour prévenir des atteintes graves aux droits humains et au respect des libertés démocratiques.

C’est ce que dit en substance le mathématicien, David Chavalarias, directeur de recherche au CNRS, spécialiste de l’étude des systèmes complexes  dans son livre "Toxic Data". Il y décortique les mécanismes mis en place par la Big Tech, capables de dynamiter les principes démocratiques si l’on n’y prend pas garde. Il rappelle que "Facebook est un réseau social comptant, en 2021, 2,8 milliards d’utilisateurs, plébiscité par 61% des Terriens ayant accès à Internet, ces-derniers y passant en moyenne 58 minutes par jour".

Et de rappeler que "quand vous êtes sur une plateforme numérique, il faut toujours avoir conscience que la myriade de contenus qui vous est présenté, ne reflète pas l’univers des possibles ; c’est celle avant tout qui optimise les revenus de la plateforme". Les réseaux sociaux n’existaient pas il y a vingt ans et tout comme pour l’intelligence artificielle, on n’a pas encore assez de recul pour évaluer l’ampleur des dommages causés par des machines programmées pour apprendre et connecter des datas sans qu’on puisse vraiment contrôler le processus. Meta continue à garder le secret et à nier toute responsabilité sur les impacts négatifs de ses créatures.       

Anne-Catherine Husson-Traore, directrice des publications de Novethic