La technologie d'intelligence artificielle anti-spam réduit-elle la quantité de discours de haine que les utilisateurs de Facebook voient ?

Après que le Conseil de surveillance de Facebook a confirmé la décision de l’entreprise de fermer le compte de Donald Trump, un rapport suggère que le réseau social a supprimé moins de contenu malveillant en 2020 qu’en 2019, malgré une recrudescence des discours de haine lors des élections américaines. à la fin du mois de janvier, après des publications jugées incendiaires par Twitter et Facebook, elles ont été suivies par l’assaut du Capitole américain. Trump n’avait fini que récemment de parler à l’extérieur du bâtiment avant que les émeutiers ne cherchent à empêcher le Congrès de ratifier la victoire de Joe Biden. Cinq personnes sont décédées à la suite des violences.Malgré le Conseil de surveillance, qui fonctionne en tant qu’entité indépendante, semblant soutenir la position de Facebook consistant à réprimer les discours de haine, l’agence de médias sociaux Reboot a soulevé des questions. Les chiffres publiés par les principaux sites de médias sociaux indiquent que Facebook est le seul à avoir réduit la quantité de contenu qu’il supprime. En 2020, Reboot a déclaré que les chiffres des rapports de transparence de Facebook montraient qu’il avait supprimé 12,4 milliards de contenus en 2020, une réduction de 21% par rapport aux 15,6 milliards supprimés en 2019.

En comparaison, a déclaré l’agence, les mêmes chiffres montrent que les mesures de suppression ont augmenté de 427% au cours de la même période sur Instagram, qui appartient à Facebook. De plus, les rapports des rivaux sociaux du site ont montré que la suppression de contenu avait augmenté de 135% sur YouTube et de 112% sur TikTok. Twitter est resté relativement inchangé et Facebook a rejeté la méthodologie de Reboot. Il a affirmé qu’une comparaison entre différents sites est impossible car chacun a ses propres critères pour classer le matériel et prendre des mesures de retrait. Il a également souligné que les sites individuels peuvent modifier leur classification des matières nuisibles et ajouter de nouvelles catégories au fil du temps. La fusion des chiffres trimestriels en un chiffre annuel peut créer une image inexacte, a déclaré le réseau social.

Moins à démonter ?

Cependant, le co-fondateur et directeur général de Reboot, Shai Aharony, a insisté sur le fait que les chiffres proviennent des propres chiffres publiés par Facebook, ainsi que de ceux publiés par des sites rivaux. Il a rejeté la suggestion de Facebook selon laquelle il n’y a aucun mérite de comparer les taux de suppression de contenu entre sites ou même entre différentes années sur le même site. « Nous convenons que les mesures de suppression de contenu varient d’une plate-forme à l’autre, mais les facteurs et les taux restent largement cohérents », a-t-il soutenu..Aharony a salué le fait que Facebook et Instagram mettent constamment à jour leurs politiques et améliorent les techniques de détection pour, selon ses propres termes, rendre les médias sociaux « plus sûrs ». Cependant, il a maintenu la conclusion que Facebook a supprimé 21% de contenu en moins en 2020 qu’en 2019 et pense que cela met en évidence deux possibilités. « On ne peut que supposer à partir des données que soit moins est capté par leurs métriques évolutives, soit moins de suppression. un contenu digne de ce nom est publié sur la plate-forme pour commencer « , a-t-il déclaré.

Plus de haine, moins souvent

Une chose sur laquelle Aharony et Facebook seront d’accord, c’est que 2020 n’a pas apporté de réduction de la quantité de contenu de discours de haine que le site a dû supprimer.

Les propres chiffres du site ont montré qu’il avait supprimé près de cinq fois plus de contenu haineux au quatrième trimestre 2020 qu’au quatrième trimestre 2019 (26,9 millions de publications, contre 5,5 millions). De même, au dernier trimestre de 2020, couvrant la période au cours de laquelle les élections américaines ont eu lieu, la suppression du contenu haineux des groupes dangereux a quadruplé pour atteindre 6,4 millions de publications, contre 1,6 million au quatrième trimestre 2019. a conduit à un boycott des annonceurs en juillet dernier, axé sur les États-Unis, qui a finalement impliqué la majorité des plus grandes marques de consommation du pays.Facebook a déclaré que même si le retrait est en hausse, la prévalence de personnes voyant des contenus nocifs a été réduite. Cela était dû aux améliorations apportées à la technologie de détection qui supprime les messages nuisibles avant qu’ils ne soient largement vus. Cela signifie que le taux de consommation de discours de haine a chuté au quatrième trimestre 2020 de 10 sur 10 000 « vues de contenu » à sept. C’est un chiffre plus réaliste, a déclaré le site, car il montre une baisse de la consommation de matériel plutôt qu’une augmentation de la publication et de la suppression rapide de ces documents. L’IA est-elle la réponse ? La détection est la clé de Facebook. Il affirme que l’augmentation de la suppression de contenu sur Instagram reflète les améliorations de son IA qui peuvent détecter le contenu malveillant. La technologie a été améliorée cette année, pour les deux sites, par une meilleure compréhension de l’arabe, de l’espagnol et du portugais, ce qui pourrait expliquer pourquoi davantage de matériel a été repéré.L’utilisation quotidienne sur Facebook et Instagram a augmenté de 15% en décembre 2020 par rapport à l’année précédente. et donc il y avait plus de personnes postant et consommant du contenu sur chaque site, qui utilisent tous deux une meilleure technologie de détection.Cela soulève la question, cependant : pourquoi Facebook supprimerait-il moins de contenu en 2020, malgré une augmentation du discours de haine et de sa technologie devenir meilleur pour repérer le contenu malveillant ? La réponse pourrait être une meilleure détection des faux comptes. Ceux-ci sont souvent configurés pour envoyer du spam ou diffuser des messages nuisibles de manière anonyme par un individu ou dans le cadre d’un réseau de robots orchestré produisant de la désinformation.En explorant l’utilisation des chiffres de Facebook par Reboot, l’agence de médias sociaux a supprimé 700 millions de faux comptes de moins en 2020 qu’en 2019. Au cours de la même période, 2,6 milliards de messages de spam en moins ont été supprimés. Les chiffres de Facebook montrent que ces deux catégories sont responsables de 97% de tous les contenus et de la suppression des comptes au cours des deux années.Les progrès technologiques dans la détection de faux comptes et leur fermeture avant d’envoyer du contenu malveillant ou du spam pourraient bien être l’explication la plus probable. pourquoi la suppression de contenu a été interrompue en 2020.Facebook a affirmé qu’il était devenu beaucoup plus efficace pour détecter de telles activités malveillantes. Surtout, il ne rapporte pas le nombre de comptes que sa technologie ferme automatiquement avant qu’ils aient une chance de répandre la haine ou le spam. Cependant, cela inclut ceux qui parviennent à échapper à la détection initiale et qui sont fermés une fois qu’ils publient du contenu malveillant.Cela pourrait bien signifier que le nombre de suppressions de contenu est en baisse car moins de messages de spam sont envoyés par des comptes qui ont été bloqués avant de pouvoir Agir, mais n’apparaissent pas dans les chiffres officiels.L’amélioration de l’application et de la détection par l’IA des faux comptes semble être la réponse la plus logique à la raison pour laquelle le discours de haine a augmenté en 2020, alors que la suppression globale du contenu semble avoir diminué.

Tags: