Actions mortelles sur Facebook

L’action antitrust intentée par 48 États et territoires contre Facebook nous donne l’espoir que les entreprises technologiques seront un jour tenues pour responsables des torts qu’elles ont causés à notre société. Mais nous nous demandons: pourquoi les procureurs d’État se concentrent-ils uniquement sur le comportement monopolistique de Facebook ? Qu’en est-il de la facilitation par l’entreprise de la criminalité grave et de l’extrémisme ? L’Alliance to Counter Crime Online, que nous gérons, suit comment les plateformes technologiques permettent à un large éventail d’acteurs illicites d’atteindre un vaste public pour commercialiser leurs produits, négocier les prix, collecter des fonds et accepter des paiements . Facebook tire profit de cette activité illégale des publicités pour des produits commerciaux qui apparaissent dans les flux des utilisateurs qui viennent en ligne à la recherche de produits illégaux. Cette relation symbiotique profite à Facebook et aux criminels, mais son impact sur les gens ordinaires peut être mortel.

Nous ne parlons pas au sens figuré. Prenons l’exemple des ventes de médicaments en ligne: 40 États impliqués dans la poursuite antitrust constatent une augmentation des surdoses d’opioïdes synthétiques en 2020, une épidémie de l’ombre dépassant même les décès par COVID dans des endroits comme San Francisco. Dans le seul comté d’Albany, où le procureur général de New York, Letitia James, dirige l’affaire des 48 États, les décès par surdose ont atteint un niveau record. Nos chercheurs et d’autres ont suivi la façon dont la famille de plates-formes de Facebook a dépassé le Dark Web en tant que principale source en ligne des drogues illégales à l’origine de ces surdoses.

Pour avoir une idée de l’ampleur du marché des stupéfiants en plein essor sur les plates-formes Facebook, considérez ceci: le dernier rapport de transparence de Facebook affirme que la société a trouvé et pris des mesures sur plus de 5,9 millions de publications sur les ventes de médicaments de Facebook et Instagram au troisième trimestre de 2020. Le rapport affirme également qu’IA a signalé 94% de ces publications de vente de médicaments avant que les utilisateurs ne les signalent (bien que cela ne tienne pas compte du nombre de fois où ces publications ont été vues). Cependant, le « taux de réussite » de Facebook de 94% signifie qu’au moins 354 000 ventes de médicaments confirmées ont été signalées par des utilisateurs après avoir échappé aux systèmes d’IA de Facebook. À titre de comparaison, lorsque le ministère de la Justice a fermé AlphaBay en 2017, le plus grand marché du Web sombre au monde comptait environ 250000 listes de drogues illégales et de produits chimiques toxiques. Et lorsque le ministère de la Justice a saisi les serveurs de la Route de la soie en 2013, ce marché du Web sombre ne présentait que 13 000 messages de drogue.

Et ces chiffres supposent que Facebook est honnête. Notre recherche, en collaboration avec de récents comptes de dénonciateurs, suggère que l’entreprise exagère le succès de ses efforts de suppression de contenu, de sorte que le nombre de publications sur la drogue pourrait être encore plus grand.

Le problème est que les algorithmes de recommandation de Facebook sont beaucoup plus efficaces pour diffuser le contenu de la drogue que ses outils de modération ne le sont pour le renifler. La recherche prédictive sur Instagram, le premier marché de la drogue en ligne, suggère des orthographes alternatives pour s’assurer que toute personne manifestant le plus faible intérêt pour les drogues puisse les trouver, même si cet intérêt est négatif. Recherchez #opioidaddiction, #twelvesteps ou un autre sujet lié au rétablissement sur Instagram et vous recevrez plusieurs publications avec des médicaments à vendre (même si un porte-parole vante la plate-forme comme un endroit où les personnes aux prises avec une dépendance peuvent obtenir de l’aide).

Nos chercheurs effectuent des recherches de test quotidiennes et nous constatons systématiquement que l’utilisateur moyen d’Instagram – c’est-à-dire une personne âgée de 13 à 29 ans – est à moins de 10 secondes et à quelques clics de pouvoir acheter des stupéfiants ou des pilules contrefaites.

C’est suffisant pour que vous vous sentiez anxieux. Mentionnez cette sensation en discutant sur les plateformes Facebook et vous commencerez à voir des publicités pour des pharmacies en ligne vendant des médicaments sur ordonnance à des prix réduits, dont certains sont des médicaments contrefaits mortels. La pandémie a donné un coup de fouet au marché de la pharmacie en ligne, 31% des Américains achetant des ordonnances en ligne pour la première fois.

Selon la FDA, 97% des pharmacies en ligne sont fausses et les pharmacies en ligne illégales sont devenues la principale source des médicaments contrefaits, à l’origine de la flambée actuelle des surdoses. Facebook vend en fait ces espaces publicitaires de pharmacies illégales, encore une autre façon pour l’entreprise de profiter d’activités illégales.

Le 6 janvier, les membres du Congrès ont constaté de première main à quel point une activité illégale sur Facebook peut avoir des conséquences mortelles et réelles. Facebook sait que ses algorithmes répandent la division et que bon nombre de ses groupes les plus populaires sont des fosses d’activités illicites et d’extrémisme, mais cette facilitation active du crime et de l’extrémisme n’a jamais été correctement traitée par notre système judiciaire.

Tout comme les procureurs généraux des États ont commencé à comprendre à quel point les algorithmes technologiques puissants étouffent la concurrence, il est également essentiel de comprendre comment les algorithmes de Facebook se propagent et amplifient les crimes graves, et les innombrables façons dont l’entreprise profite en victimisant des gens ordinaires.

La plus grande entreprise de médias sociaux au monde ne fait pas que nuire à la société avec son comportement monopolistique. Les plateformes Facebook sont une menace pour la santé et la sécurité humaine du peuple américain. Il est temps de responsabiliser l’entreprise et ses cadres supérieurs.

Gretchen Peters et Kathleen Miles ont cofondé

L’Alliance contre la criminalité en ligne

.

Tags: