Le groupe de défense des droits humains Global Witness affirme avoir révélé des défaillances majeures dans le système d’examen des publicités de Facebook, car ils ont réussi à faire approuver une série de publicités politiques contenant des insultes sectaires et des incitations à la violence en Irlande du Nord.
Pour tester les mécanismes mis en place par Facebook, Global Witness a créé un ensemble de publicités politiques conçues pour enfreindre les politiques de la plateforme en matière de discours de haine et d’incitation à la violence.
Les publicités visaient les utilisateurs qui avaient été profilés par la plate-forme comme ayant un intérêt pour le protestantisme ou le catholicisme, ou qui vivaient dans des zones particulières de chaque côté des murs de la paix de Belfast, des cloisons séparant les deux communautés.
Chaque annonce soumise pour examen a été approuvée par Facebook, même celles qui violaient les propres politiques de la plateforme, a déclaré Global Witness dans un rapport publié lundi 28 juin.
L’ONG a supprimé les publicités avant leur publication, mais a déclaré que ses conclusions démontraient des lacunes évidentes dans les mécanismes visant à empêcher la publication de matériel potentiellement dangereux.
L’enquête a eu lieu peu de temps avant que des émeutes n’éclatent en Irlande du Nord en mars, entraînant certaines des pires violences que le pays ait connues depuis des années.
L’enquête
Utilisant un langage et des images incendiaires, les publicités comprenaient des insultes contre les catholiques et les protestants, des messages pro et anti-britanniques, et des appels pour que les gens « descendent dans la rue ».
Les publicités étaient ciblées en fonction des intérêts et de la localisation des utilisateurs. En les soumettant, Global Witness a précisé qu’elles visaient des personnes profilées par Facebook comme ayant un intérêt pour le catholicisme ou le protestantisme. Cet intérêt est déterminé en fonction, par exemple, des pages avec lesquelles les utilisateurs ont interagi.
L’enquête a également ciblé de manière étroite les publicités basées sur le code postal. Un contenu spécifique était destiné aux personnes vivant du côté à prédominance catholique ou à prédominance protestante du principal mur de la paix à l’ouest de Belfast.
Le processus de révision des publicités de Facebook vérifie le contenu proposé par rapport à sa propre politique publicitaire avant publication. Selon le site Web de Facebook, « si une violation est constatée à un moment quelconque du processus d’examen, l’annonce sera rejetée ».
Cependant, Global Witness a déclaré que ce n’était pas son expérience du processus d’examen.
« Nous ne pouvions pas croire à la facilité avec laquelle des publicités qui auraient pu inciter à la violence et contenir des discours de haine pouvaient cibler des communautés spécifiques de cette manière », a déclaré Naomi Hirst, responsable de la campagne contre les menaces numériques de Global Witness.
« Avec chaque publication approuvée, nous avons doublé notre degré d’irritation et chaque fois que Facebook nous a donné le feu vert », a-t-elle ajouté.
En réponse à l’enquête, un porte-parole de Facebook a déclaré : « Plusieurs de ces publicités violent nos politiques contre les discours de haine et l’incitation à la violence et ont depuis été supprimées. Notre application n’est pas parfaite, mais nous nous efforçons toujours de renforcer et d’améliorer nos processus. »
« Les intérêts des gens sont basés sur leur activité sur Facebook – comme les pages qu’ils aiment et les publicités sur lesquelles ils cliquent – et non sur leurs attributs personnels », a ajouté le porte-parole.
Ciblage publicitaire
La catégorie la plus large de ciblage publicitaire offerte par Facebook signifie que la plate-forme détermine qui verra le matériel. À l’autre extrémité de l’échelle, les annonceurs peuvent cibler leur contenu sur des utilisateurs situés dans des lieux spécifiques, de certains âges ou genres, et qui ont interagi avec des pages particulières dans le passé.
Dans l’UE, la proposition de loi sur les services numériques (DSA) comprend un certain nombre de mesures visant à accroître la transparence autour de la publicité en ligne. En février, cependant, le contrôleur européen de la protection des données (CEPD) a déclaré que ces mesures n’allaient pas assez loin et a appelé à une interdiction pure et simple du ciblage publicitaire.
À la suite de son enquête, Global Witness appelle à une réglementation du « modèle commercial de surveillance de Big Tech » en obligeant les plateformes à être transparentes avec les utilisateurs sur les personnes qui les ciblent et pour quels motifs.
La législatrice de Belfast Claire Hanna a déclaré à EURACTIV que la réponse de Facebook n’était pas suffisante et que l’enquête a démontré la facilité avec laquelle le ciblage pouvait être utilisé pour manipuler les communautés et inciter à la violence.
« C’est effrayant et montre vraiment à quel point les géants des médias sociaux ont encore à faire pour mettre les puissants outils qu’ils offrent sous un certain contrôle », a-t-elle déclaré.