PimEyes: un outil gratuit de recherche de visages peut retrouver toutes les images de vous sur Internet

Au début de cette année, des sonneries d'alarme ont commencé à retentir face à l'utilisation croissante de la technologie de reconnaissance faciale. Une entreprise, Clearview, a révélé avoir assemblé une base de données consultable de trois milliards d'images collectées sur Internet et vendait l'accès à des organismes d'application de la loi.

Dans un test que j'ai effectué y compris l'un de moi avec des gens que je ne me souviens même pas avoir rencontrés

PimEyes: un outil gratuit de recherche de visages peut retrouver toutes les images de vous sur Internet

Peu d'entre nous l'avaient vu en action, car il n'était accessible qu'aux organisations disposées à le payer. Son effet sur le monde réel et les dangers de ses défauts étaient une simple possibilité mise en évidence par les militants de la protection de la vie privée.
La semaine dernière, cela a changé. Un nouveau moteur de recherche de reconnaissance faciale, PimEyes, offre désormais à toute personne ayant accès à Internet une démonstration librement accessible et il vous montrera tous les autres de cette personne dans sa base de données. Payez 10 $ (Dh37) Il n'a jamais été aussi facile de mettre un nom sur un visage.
Pendant ce temps, deux entreprises travaillant à la pointe de la reconnaissance faciale - Amazon et IBM - ont publiquement fait part de leurs préoccupations concernant l'utilisation abusive de la technologie. Amazon a interdit l'utilisation de ses logiciels par les forces de l'ordre pendant un an, tandis qu'IBM a complètement abandonné le jeu.
À première vue, PimEyes semble assez anodin (Contrairement à Clearview notamment Facebook.) La page de résultats ressemble un peu à une recherche d'images Google pour votre propre nom. Mais surtout, même sans nom, il vous trouve avec une précision troublante. Dans un test que j'ai effectué y compris l'un de moi avec des gens que je ne me souviens même pas avoir rencontrés

Rhodri Marsden essaie PimEyes pour lui-même et est surpris des résultats.

PimEyes est évidemment le petit frère des services plus complets opérés par Clearview ou Amazon. Mais il fournit une illustration claire non seulement de la façon dont la technologie pourrait être utilisée à mauvais escient, mais aussi du manque de transparence sur son développement mais il est à craindre que leur collection clandestine les ait militarisées.
Lorsque Clearview a été contesté à ce sujet par l'American Civil Liberties Union, l'avocat de l'entreprise Tor Ekeland a répondu: «Clearview AI est un moteur de recherche qui n'utilise que des images accessibles au public… Il est absurde que l'ACLU veuille censurer les moteurs de recherche que les gens peuvent utiliser. Le premier amendement l'interdit. "
Avec la technologie de plus en plus puissante, la reconnaissance faciale en temps réel - la capacité d'une caméra à enregistrer un visage et à le faire correspondre à une identité - est devenue une réalité, presque sous le radar. Amazon et IBM sont des noms familiers, mais d'autres entreprises se disputent la pole position dans cet espace ne le sont pas.
Les sociétés ayant d'importants contrats de surveillance en cours comprennent Idemia (France), Tech5 (Suisse) et AllGoVision (Inde). Dans une récente interview, l'avocat de l'ACLU, Matt Cagle, a exprimé sa préoccupation à ce sujet. "Le public est en grande partie dans l'ignorance de l'état du marché des fournisseurs de surveillance", a-t-il déclaré. "Vous avez des entreprises qui prennent des décisions politiques sans transparence démocratique."
D'une part, il y a une inquiétude croissante quant à la menace que représente pour notre vie privée une technologie nouvelle et impressionnante. De l'autre, il y a une menace de trop grande confiance en lui par les forces de l'ordre, de sorte que ses inexactitudes et ses préjugés - en particulier contre les personnes de couleur - entraînent des erreurs judiciaires.

Les systèmes de reconnaissance faciale ont été principalement formés sur les visages masculins blancs, après tout. L'année dernière, une étude a révélé qu'Amazon Rekognition avait une précision de seulement 68,6% lors de l'identification des visages des femmes de couleur. Ce n'est peut-être pas un hasard si Amazon et IBM ont fait marche arrière au cours du même mois, dominés par les manifestations de Black Lives Matter aux États-Unis et dans le monde.
Amazon vend Rekognition aux forces de l'ordre depuis au moins 2018, mais il préconise désormais «des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale».
Le PDG d'IBM, Arvind Krishna, rejette également catégoriquement la technologie que sa propre entreprise a mis des années à développer. «IBM n'offre plus de logiciel d'analyse ou de reconnaissance faciale à usage général», a-t-il déclaré.
"[It] s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne. »
Les critiques ont souligné qu'IBM suivait ses concurrents et cherchait peut-être de toute façon à sortir de l'espace, mais c'est toujours un puissant avertissement dans les deux cas.
Il n'est pas clair si le mastodonte de reconnaissance faciale peut être arrêté. On ne sait même pas si les ordres de cesser et de s'abstenir émis par des personnes comme Facebook pour empêcher la collecte d'images ont un effet. Les organisations des droits de l'homme continuent de soulever des défis juridiques. Mais les implications de la technologie deviennent maintenant plus claires pour le public, et son utilisation pose une question éthique croissante pour les entreprises et les gouvernements.
Mis à jour: 17 juin 2020 07:56

Tags: