Google réduit les résultats racés de 30 % pour des recherches telles que "adolescente latina"

responsable de produit pour l'équipe responsable de l'IA chez Google. (30 mars). Mme Doshi a déclaré que Google avait déployé un nouveau logiciel d'intelligence artificielle, connu sous le nom de BERT, pour mieux interpréter quand quelqu'un cherchait des résultats racés ou plus généraux. Outre "adolescente latina", d'autres requêtes affichant désormais des résultats différents incluent "la chef lesbienne", "dortoir universitaire", "professeur de yoga latina" et "bus lesbienne", selon Google. "Tout cela a été un ensemble de résultats sur-sexualisés", a déclaré Mme Doshi, ajoutant que ces résultats de recherche historiquement suggestifs étaient potentiellement choquants pour de nombreux utilisateurs. Mme Morales n'a pas immédiatement répondu à une demande de commentaire par l'intermédiaire d'un représentant. Son tweet de 2019 indiquait qu'elle cherchait des images pour une présentation et avait remarqué un contraste dans les résultats pour "adolescent" en soi, qu'elle a décrit comme "tout ce qui est normal pour les adolescents", et a demandé à Google d'enquêter. Le géant de la recherche a passé des années à traiter les commentaires sur le contenu offensant dans ses outils publicitaires et dans les résultats des recherches de "hot" et "ceo". Il a également coupé les résultats sexualisés pour les "filles noires" après qu'un article de journal de 2013 de l'auteur Safiya Noble ait soulevé des inquiétudes concernant les représentations préjudiciables. Google a ajouté mercredi que dans les semaines à venir, il utiliserait une IA appelée MUM pour commencer à mieux détecter quand montrer des ressources de soutien liées au suicide, à la violence domestique, aux agressions sexuelles et à la toxicomanie. MUM devrait reconnaître les "points chauds du suicide de Sydney" comme une requête pour sauter des lieux, pas pour voyager, et aider avec des questions plus longues, y compris "pourquoi m'a-t-il attaqué quand j'ai dit que je ne l'aime pas" et "les façons les plus courantes de se suicider", dit Google.