Opinion : Le système de régulation de la sécurité de Meta est-il en panne ?

Presque tous les créateurs de contenu ou les gestionnaires de médias sociaux actifs ont rencontré le même problème lors de la publication sur Facebook ou Instagram récemment : une publication ou un compte est banni, probablement pour les mauvaises raisons.

Cette situation agaçante n’est qu’une partie du puzzle d’un problème complexe avec le système de régulation de contenu de Meta. Alors que Meta semble avoir de nombreuses mesures de contrôle – parfois absurdes – la racine du problème ne semble pas être résolue.

Au cours des derniers mois, Meta a introduit de nombreuses mises à jour de ses directives de contenu et a mis en place des règles plus strictes visant à créer un environnement en ligne plus sain. Une des conséquences a été que de nombreuses entreprises, éditeurs et comptes d’utilisateurs ont été bannis, entraînant des centaines de plaintes sur les forums, les plateformes de chat et les réseaux sociaux. De nombreux éditeurs de nouvelles et de marques ont été supprimés des plateformes de Meta dans certaines régions cette année, suscitant des inquiétudes parmi les propriétaires d’entreprises, les journalistes et les créateurs de contenu.

Malgré les récentes mises à jour de Meta, qui donnent l’impression d’une modération plus stricte et d’un examen plus attentif du contenu partagé sur ses plateformes, les publications liées aux drogues, au suicide, au harcèlement sexuel, à l’intimidation, au discours de haine, aux abus et aux fausses nouvelles continuent de passer à travers les mailles du filet des algorithmes, atteignant des communautés vulnérables.

Je ne peux m’empêcher de me demander : Que se passe-t-il avec le système de régulation de sécurité de Meta?

Des Comptes Bannis Pour de Mauvaises Raisons

Tout commence par un message similaire : « Votre compte Meta ne respecte pas nos règles. » De nombreux utilisateurs de Facebook et Instagram ont été bannis ou temporairement exclus de leurs comptes « pour non-respect » des règles de Meta, même lorsqu’ils pensent les avoir respectées.

C’est une situation que nous avons vécue chez Wizcase. Le système de Meta a signalé des éléments pertinents comme inappropriés et a obligé le community manager à passer par un processus d’appel et à fournir des pièces d’identité émises par le gouvernement.

Des centaines d’utilisateurs, de community managers et de gestionnaires de comptes se sont plaints sur des plateformes comme Reddit et d’autres forums, chats et canaux de médias sociaux de situations similaires. Dans plusieurs scénarios malheureux, les utilisateurs perdent leurs comptes et ne peuvent rien y faire, et ils n’obtiennent même pas d’explication.

« L’équipe de support de Facebook est exécrable. Peu importe combien de fois nous leur disons tout ou leur expliquons tout, ils ne comprennent tout simplement pas, » a déclaré un utilisateur sur Reddit dans un fil de discussion sur les comptes bannis. « Une chose que je peux dire tout de suite, c’est que vous n’allez pas récupérer votre compte à moins que vous ne dépensiez des centaines de milliers par jour, » a ajouté un autre.

Ce problème, bien qu’il semble n’affecter que les créateurs de contenu, n’est qu’une petite partie d’un défi plus grand.

Meta Contre les Poursuites

Depuis des années, Meta investit dans la modération de contenu et développe de nouvelles stratégies pour rendre sa plateforme plus sûre pour les utilisateurs et se protéger contre davantage de poursuites judiciaires – la plus récente venant des modérateurs de contenu kényans, qui réclament actuellement 1,6 milliard de dollars en dédommagement pour des licenciements massifs et pour compenser le matériel stressant auquel ils ont été exposés lors de l’analyse du contenu pour Facebook.

La société technologique s’appuie sur des tiers pour aider à la régulation du contenu et développe des outils pour reconnaître lorsque le contenu viole les règles de la plateforme. Cependant, ces mesures n’ont pas été suffisantes et la situation a dégénéré, en particulier parmi les utilisateurs mineurs.

En 2021, Meta a introduit de nouvelles fonctionnalités de protection, mais cela n’a pas empêché le Sénat d’inclure Instagram et Facebook parmi les plateformes considérées comme nuisibles pour les enfants l’année dernière. Le géant de la technologie a fait face à un procès conjoint intenté par 33 états aux États-Unis pour son algorithme manipulateur et nocif.

Depuis janvier, Meta a partagé des mises à jour sur de nouveaux outils de contrôle de sécurité. En juin, l’entreprise a amélioré son outil anti-harcèlement pour protéger les adolescents sur Instagram avec une fonctionnalité par défaut « Amis proches » et une option « Limites », de sorte que seuls les véritables amis et la famille puissent interagir avec le contenu posté par les jeunes utilisateurs.

Il y a seulement quelques jours, la compagnie a annoncé les nouveaux Comptes pour Adolescents afin de protéger les adolescents et de « rassurer les parents que les adolescents ont des expériences sûres ». Serait-ce suffisant pour protéger les enfants ? Et qu’en est-il des utilisateurs plus âgés ?

Un écosystème dangereux

Facebook, Instagram et WhatsApp sont toujours infestés de contenus nuisibles qui affectent les utilisateurs, de tous âges, professions et groupes sociaux, et cela ne sera probablement pas résolu de sitôt.

Une étude réalisée par le Centre de lutte contre la haine numérique (CCDH) a analysé plus de 500 millions de commentaires sur Instagram provenant des comptes de 10 femmes politiques aux États-Unis et a révélé que Meta n’a pas réussi à supprimer ou à prendre des mesures sur 93% de ces commentaires.

Les multiples poursuites contre Meta ont littéralement prouvé que l’entreprise éprouve des difficultés à protéger les utilisateurs contre le contenu nuisible, et a également nui aux créateurs, aux éditeurs et aux marques avec des filtres injustes et des outils de sécurité mal mis en œuvre.

Bien sûr, c’est une question complexe et profonde qui devrait être abordée en profondeur, mais peut-être est-il temps d’admettre que Meta n’a pas su gérer cette situation. Les solutions de fortune ne résoudront pas un système qui est fondamentalement cassé. Maintenant, la vraie question est : Combien d’autres utilisateurs doivent être injustement bannis, induits en erreur ou manipulés avant qu’un véritable changement ne se produise ?