Les grandes technologies sont invitées à ...

Google a ensuite résolu ce problème de moteur de recherche, mais Noble a déclaré que le problème était loin d’être résolu. Des recherches menées cette année ont révélé que la plate-forme publicitaire de Google associa les expressions de recherche « Filles noires », « Filles latines » et « Filles asiatiques » à des annonces destinées aux adultes. « La recherche des filles noires est le fil conducteur du pull que nous essayons de démêler. C’est une voie vers une conversation plus large sur l’avenir de la connaissance », a déclaré Noble Conférence de confiance, qui se tiendra en ligne mercredi. Noble, un chercheur en technologie de premier plan à l’Université de Californie, Los Angeles (UCLA), a continué à inventer le terme « algorithmes d’oppression » et a écrit un livre du même nom. « Les algorithmes d’oppression sont partout », dit-elle. « Je parle de logiciels de calcul qui pourraient être intégrés dans des plates-formes à grande échelle – ou même des marques domestiques – qui sont utilisés pour priver de leurs droits, marginaliser et déformer. Ce moteur de recherche de Google avait été conçu pour supposer que ceux qui recherchaient des informations sur les filles noires étaient intéressés par la pornographie « a renforcé les fausses déclarations », a déclaré Noble. Cathy Edwards, vice-présidente de l’ingénierie chez Google Images, a déclaré que parce que les systèmes de l’entreprise « organisent des informations à partir d’un Web en constante évolution, nos résultats peuvent parfois montrer des stéréotypes négatifs ». Mais elle a ajouté dans des commentaires par e-mail que Google était « déterminé à intégrer la diversité, l’équité et l’inclusion dans tout ce que nous faisons – de la façon dont nous développons nos produits à la façon dont nous construisons notre main-d’œuvre ». UNE PLUS GRANDE DIVERSITÉ Au-delà des moteurs de recherche, Noble se dit également préoccupée par les algorithmes utilisés dans toute une suite de technologies – des logiciels de police prédictive aux outils de reconnaissance faciale ou aux plateformes de réseaux sociaux qui accélèrent la désinformation. Ces technologies ont non seulement tendance à isoler les minorités pour un traitement injuste, mais leur offrent également peu de recours pour demander réparation. « (Ces technologies) sont particulièrement déployées vers les personnes vulnérables, souvent les communautés de couleur, les pauvres et les personnes les moins habilitées à résister », a-t-elle déclaré. Une plus grande diversité dans l’industrie de la technologie aiderait, a-t-elle dit, mais n’effacerait pas le tort que la technologie peut faire aux groupes vulnérables. « Vous ne pouvez pas voir les failles de votre système lorsque vous avez un groupe assez homogène de designers, qui conçoivent pour un ensemble diversifié de sociétés à travers le monde et de communautés », dit-elle. « Nous savons que chaque année, la Silicon Valley dit qu’elle va se diversifier. Mais il n’y a pas d’amélioration, même si depuis 10 ans, nous recueillons plus de preuves sur les méfaits de leurs produits. Noble applaudit le regain d’intérêt du public à examiner et à faire pression sur les plates-formes technologiques, le soi-disant « techlash » qui s’est installé après les élections américaines de 2016. Les spécialistes de la technologie a-t-elle déclaré. Noble fait partie du « Real Facebook Oversight Board », un groupe d’universitaires et d’activistes créé pour remettre en question les politiques du réseau de médias sociaux et les décisions de modération du contenu à l’approche des élections américaines de ce mois-ci. Facebook n’a pas répondu à une demande de commentaires sur le Conseil, mais en septembre, un porte-parole a déclaré que « la plupart des critiques de longue date créaient un nouveau canal pour les critiques existantes ». Noble a également salué une éventuelle intervention du gouvernement pour réduire le pouvoir des entreprises technologiques. « Lorsque vous avez une société de publicité monopoliste qui contrôle le paysage de l’information, vous avez une recette pour le désastre », a-t-elle déclaré. « Les grandes entreprises technologiques donnent à tout prix la priorité à leur propre profit. » Qui en paie le prix ? Nous savons que ce sont des gens qui sont moins capitalisés et minorisés, c’est juste un fait édité par Helen Popper la branche caritative de Thomson Reuters, qui couvre la vie des personnes dans le monde qui luttent pour vivre librement ou équitablementtrust.org)

Nos normes