Parfois, même la saisie d’une requête de recherche anodine dans un moteur de recherche comme Google peut finir par générer une énorme quantité de résultats qui pourraient être de nature sexuellement explicite, comme la pornographie. En 2019, une actrice américaine du nom de Natalie Morales a tenté de faire une recherche Google pour « adolescente latina », et il s’est avéré que tous les résultats qu’elle a vus étaient pornographiques même s’il ne s’agit pas d’un terme de recherche qui serait nécessairement être utilisé uniquement dans le contenu de ce type. Avec tout cela ayant été dit et maintenant à l’écart, il est important de noter que Google essaie de réduire les résultats de recherche explicites d’environ 30 % pour divers termes grâce à une nouvelle IA appelée BERT. Cette IA tentera de déterminer si quelqu’un recherche ou non des résultats de recherche explicites ou s’il en veut simplement des réguliers, et les requêtes de recherche telles que «l’adolescente latina» susmentionnée ainsi que d’autres comme «dortoir d’université» comporteront principalement des résultats normaux. également les résultats de la recherche. Une chose intéressante à noter ici est que la recherche de « adolescent » sans descripteurs supplémentaires entraînerait probablement des résultats de recherche normaux auxquels vous vous attendez, tels que des ressources pour les adolescents aux prises avec des problèmes de santé mentale, des articles généraux sur la vie des adolescents ainsi que de nombreux autres.. Des résultats trop sexualisés pour les adolescents latinos peuvent être nocifs en raison du fait que c’est le genre de chose qui pourrait potentiellement finir par sexualiser une minorité ethnique, ces membres trop jeunes de cette minorité qui sont encore adolescents. Google essaie d’améliorer ses résultats de recherche pour afficher des pages moins explicites depuis un certain temps maintenant, par exemple en faisant en sorte que les résultats de recherche pour « Black girl » cessent d’être largement pornographiques en 2013. Le géant de la technologie travaille également sur d’autres formulaires. de l’IA comme MUM qui se concentre davantage sur la prévention du suicide et autres, et ces étapes feront certainement de Google un moteur de recherche bien meilleur avec toutes les choses ayant été considérées et prises en compte.
Lire ensuite : Google adresse les problèmes liés à la propagation de la désinformation en introduisant de nouveaux outils