Les algorithmes contrôlent votre vie en ligne. Voici comment réduire leur influence.

La série Algorithms de Mashable explore les mystérieuses lignes de code qui contrôlent de plus en plus nos vies – et notre avenir.

Le monde en 2020 a reçu de nombreuses raisons de se méfier des algorithmes. Selon le résultat de l'élection présidentielle américaine, cela peut nous en donner une de plus. Quoi qu'il en soit, il est grand temps de s'interroger sur l'impact de ces calculs de haute technologie basés sur les données, qui déterminent de plus en plus qui ou ce que nous voyons (et ce que nous ne voyons pas) en ligne.

Les algorithmes contrôlent votre vie en ligne. Voici comment réduire leur influence.

L'impact des algorithmes commence à s'étendre à un degré vertigineux, et littéralement des milliards de personnes en ressentent les effets d'entraînement. C'est l'année où le système de crédit social, un « score comportemental » inquiétant de type Black Mirror, géré par le gouvernement chinois, doit être officiellement lancé. Ce n'est peut-être pas aussi grave que vous l'avez entendu, mais cela stimulera ou resserrera le crédit financier et d'autres incitations pour l'ensemble de la population. Il y a un autre milliard d'algorithmes non examinés et irréprochables qui pèsent sur un milliard de vies humaines.

Au Royaume-Uni, rares sont ceux qui oublieront l'algorithme A-level de cette année. Les niveaux A sont des examens clés pour les jeunes de 18 ans; ils font ou défont les offres d'université. COVID-19 les a annulés. On a demandé aux enseignants ce que chaque élève aurait obtenu. Mais le gouvernement a introduit ces chiffres dans un algorithme parallèlement aux performances passées de l'école. Résultat: 40 pour cent de toutes les estimations des enseignants ont été revus à la baisse, ce qui a annulé l'université pour les enfants très performants des zones défavorisées. Boris Johnson a finalement reculé, accusant un « algorithme mutant ». Pourtant, même un ancien collègue du Premier ministre pense que le fiasco de niveau A pourrait torpiller ses chances de réélection.

Aux États-Unis, nous n'avons pas tendance à penser aux algorithmes obscurs du gouvernement qui exécutent ou ruinent nos vies. Eh bien, à moins que vous ne soyez un défendeur dans l'un des États où les algorithmes prédisent votre probabilité de commettre plus de crimes (vous dévorez le cœur, Minority Report) et conseillent les juges sur la détermination de la peine. Les algorithmes de la justice pénale américaine, vous ne serez probablement pas surpris d'apprendre, sont exploités par des entreprises à but lucratif et sont accusés de perpétuer le racisme. Comme le COMPAS en Floride et au Wisconsin, qui, selon ProPublica, était deux fois plus susceptible de qualifier les accusés noirs de « à haut risque » que les accusés blancs – et avait tort environ 40% du temps.

Les failles de ces « algorithmes mutants » reflètent bien sûr leurs concepteurs trop humains. Les mathématiques elles-mêmes ne sont ni racistes, ni classistes, ni autoritaires. Un algorithme n'est qu'un ensemble d'instructions. Techniquement, le livre de recettes dans votre cuisine en est plein. Comme pour toute recette, la qualité d'un algorithme dépend de ses ingrédients – et ceux d'entre nous qui doivent manger le résultat ne pensent vraiment pas assez à ce qui s'est passé dans la cuisine.

« Tout autour de nous, les algorithmes fournissent une sorte de source d'autorité pratique, un moyen facile de déléguer des responsabilités; un raccourci que nous prenons sans réfléchir », écrit la mathématicienne Hannah Fry dans son livre de 2018 Hello World: Being Human in the Age of Algorithms . « Qui va vraiment cliquer à chaque fois sur la deuxième page de Google et réfléchir de manière critique à chaque résultat ? »

Cependant, essayez de vivre entièrement sans algorithmes et vous remarquerez bientôt leur absence. Les algorithmes sont souvent efficaces car ils sont capables de calculer plusieurs probabilités plus rapidement et plus efficacement que n'importe quel esprit humain. Tous ceux qui ont déjà passé plus de temps sur la route parce qu'ils pensaient pouvoir déjouer les directions de Google Maps en connaissent la vérité. Cette expérience de pensée imaginant une journée sans algorithmes s'est soldée par une terrible impasse, puisque même les systèmes de feux tricolores les utilisent.

Pourtant, vous auriez raison de vous inquiéter de l'influence des algorithmes sur nos vies sur Internet – en particulier dans le domaine du contenu en ligne. Plus les scientifiques étudient la question, plus il semble que les algorithmes populaires de recherche, de vidéo et de médias sociaux gouvernent notre cerveau. Des études ont montré qu'ils peuvent modifier notre humeur (Facebook lui-même l'a prouvé) et oui, même nos votes de 2016 (ce qui explique pourquoi la campagne Trump investit autant dans les publicités Facebook cette fois-ci).

Donc, avant de découvrir le plein effet des algorithmes en 2020, jetons un coup d'œil aux algorithmes de chacun des principaux services de contenu – dont beaucoup sont étonnamment faciles à effacer de nos vies.

Facebook

Aucun algorithme sur Terre, pas même le système chinois de crédit social, n'a le pouvoir de Mark Zuckerberg. Chaque jour, près de 2 milliards de personnes visitent Facebook. Presque tous permettent à l'algorithme de présenter les messages dans l'ordre que l'entreprise a déterminé le plus susceptible de les maintenir engagés. Cela signifie que vous voyez beaucoup plus de messages d'amis avec lesquels vous vous êtes engagé dans le passé, quel que soit votre degré de proximité. Cela signifie également que le contenu qui provoque de grands va-et-vient est poussé vers le haut. Et Zuckerberg le sait.

« Nos algorithmes exploitent l'attrait du cerveau humain pour la division », a averti une étude interne de Facebook de 2018, découverte par le Wall Street Journal. Sans contrôle, ces algorithmes mutants favoriseraient « un contenu de plus en plus diviseur dans le but d'attirer l'attention des utilisateurs et d'augmenter le temps passé sur la plate-forme ».

Zuckerberg, craignant apparemment que les conservateurs ne soient affectés de manière disproportionnée s'il modifiait l'algorithme pour faire apparaître des messages plus harmonieux, a mis l'étude à l'écart. Cela fait quatre bonnes années pour les conservateurs sur Facebook, qui jouent l'arbitre depuis qu'ils ont demandé à Zuckerberg de cesser d'utiliser des éditeurs humains pour organiser les nouvelles en 2016. Maintenant, regardez les publications les plus performantes de Facebook en 2020; au quotidien, la liste est dominée par des noms tels que Ben Shapiro, Franklin Graham et Sean Hannity.

Mais même les conservateurs sont inquiets de l'algorithme de Facebook. Il a été démontré que voir les messages populaires d'amis nous rend plus déprimés. La dépendance à Facebook est fortement corrélée au trouble dépressif. Les soi-disant « super partageurs » noient les utilisateurs les moins actifs, selon le rapport de 2018; un cadre qui a tenté de réduire l'influence du super-partageur sur l'algorithme a brusquement quitté l'entreprise.

Comment le réparer YouTube

L'algorithme YouTube « regarder ensuite » peut être encore plus dommageable pour la démocratie que la préférence de Facebook pour les publications controversées. Environ 70% des vidéos YouTube que nous consommons ont été recommandées par l'algorithme du service, qui est optimisé pour vous permettre de regarder plus de vidéos et d'annonces YouTube, quoi qu'il arrive (la session de visionnage moyenne est désormais supérieure à une heure).

Cela signifie que YouTube donne la priorité au contenu controversé, car que vous l'aimiez ou le détestiez, vous continuerez à le regarder. Et une fois que vous avez regardé un contenu controversé, l'algorithme supposera que c'est ce que vous recherchez, vous dirigeant vers le type de contenu que les téléspectateurs de cette vidéo ont choisi de regarder ensuite

Un ancien programmeur de Google, Guillaime Chaslot, a constaté que l'algorithme de YouTube avait peut-être été suffisamment biaisé pour faire basculer le résultat de l'élection de 2016, qui a été décidée par 77000 votes dans trois États. « Plus de 80% des vidéos recommandées étaient favorables à Trump, que la requête initiale soit » Trump « ou » Clinton «  », a-t-il écrit immédiatement après. « Une grande partie de ces recommandations était source de division et de fausses nouvelles. » De même, Chaslot a constaté que 90% des vidéos recommandées à partir de la requête de recherche « La Terre est-elle plate ? » dit que oui, en effet.

Ce n'est pas seulement un problème aux États-Unis.L'une des études de cas les plus importantes sur l'impact politique de l'algorithme YouTube a eu lieu au Brésil, où le candidat d'extrême droite Jair Bolsonaro a été élu président après être devenu de manière inattendue une star de YouTube. « Le système de recherche et de recommandation de YouTube semble avoir systématiquement détourné les utilisateurs vers des chaînes d'extrême droite et de complot au Brésil », a révélé une enquête du New York Times de 2019. Même les alliés de Bolsonaro ont crédité YouTube pour sa victoire.

Comment le réparer

Gardez l'algorithme à distance. Désactivez « Up Next ».

La désactivation de la lecture automatique, une option à côté de la liste « Suivant », vous empêchera au moins de regarder aveuglément tout ce que l'algorithme YouTube recommande. Vous ne pouvez pas désactiver complètement les recommandations, mais vous pouvez au moins avertir les proches moins technophiles que l'algorithme fait de son mieux pour les radicaliser au service des vues.

Le site à but non lucratif algotransparency.org de Chaslot vous montrera quelles vidéos sont les plus recommandées sur le site chaque jour. À l'heure actuelle Votre algorithme de recommandation YouTube peut vous sembler normal si vous avez des années pour apprendre ce que vous aimez et ce que vous n'aimez pas. Mais un tout nouvel utilisateur verra tout autre chose.

Instagram

Alors que la société mère Facebook vous permet d'afficher votre flux dans l'ordre chronologique inverse, Instagram a complètement banni cette option en 2016, ce qui a conduit à une variété de théories du complot sur « l'interdiction de l'ombre » mais certains noms flottent si souvent au sommet que vous seriez pardonné de vous sentir comme un harceleur. (Bonjour, Instagram écrase ! )

Comment le réparerTwitter

Tout comme ses rivaux sur les réseaux sociaux, Twitter est obsédé par l'idée de savoir comment il peut présenter des informations autrement que dans l'ordre le plus récent – le format pour lequel Twitter est connu depuis longtemps. Le fondateur Jack Dorsey a introduit des solutions qui vous permettront de suivre des sujets, pas seulement des gens, et de vous montrer dans votre chronologie les tweets qui ont d'abord suscité le plus d'engagement.

Comment le réparer

Aller ! Voir les derniers tweets ! Soyez libre de l'algorithme !

Tous ces ajustements non chronologiques relèvent de la rubrique « Accueil » en haut de la page De tous les services de médias sociaux, Twitter est celui qui permet d'ignorer le plus facilement son algorithme de recommandation.

Il faudra peut-être un peu plus de défilement pour trouver les bonnes choses sur les derniers tweets, et bien sûr ce que vous voyez dépend de l'heure à laquelle vous plongez dans la chronologie. Pourtant, les derniers tweets sont votre meilleur pari pour une gamme d'opinions et d'informations de vos suivis sans aucun algorithme mutant.

Tags: , , ,