Tout le monde peut utiliser ce puissant outil de reconnaissance faciale : et c’est un problème

La décision de PimEyes de mettre un logiciel de reconnaissance faciale à la disposition du grand public franchit une ligne que les entreprises technologiques ne sont généralement pas disposées à franchir et ouvre des possibilités infinies d’utilisation et d’abus. un ex abusif qui vous traque, ou un inconnu au hasard qui prend une photo de vous en public puis vous trouve en ligne. Tout cela est possible grâce à PimEyes: bien que le site Web demande aux utilisateurs de se rechercher eux-mêmes, cela ne les empêche pas de télécharger des photos de qui que ce soit.

Dans le même temps, il n’identifie explicitement personne par son nom, mais comme CNN Business l’a découvert en utilisant le site, ces informations peuvent être à quelques clics des images extraites par PimEyes. «En utilisant les dernières technologies, l’intelligence artificielle et l’apprentissage automatique, nous vous aidons à trouver vos photos sur Internet et à vous défendre contre les escrocs, les voleurs d’identité ou les personnes qui utilisent votre image illégalement», déclare le site. C’est précisément cette facilité d’accès qui concerne Clare Garvie, associée principale au Centre sur la confidentialité et la technologie de Georgetown Law, qui a fait des recherches approfondies sur l’utilisation de la technologie de reconnaissance faciale par la police.

« La reconnaissance faciale à sa fondation est un outil d’identification », a déclaré Garvie à CNN Business. « Pensez à n’importe quelle raison pour laquelle une personne voudrait procéder à une identification – positive et négative – et c’est ce que cet outil rend possible. »

« Un outil de traque effrayant »

PimEyes permet aux utilisateurs de voir gratuitement un nombre limité de petits résultats de recherche quelque peu pixélisés, ou vous pouvez payer des frais mensuels, qui commencent à 29,99 $, pour des résultats de recherche et des fonctionnalités plus étendus (par exemple, cliquer pour voir des images en taille réelle sur les sites Web où PimEyes les a trouvés et pour mettre en place des alertes lorsque PimEyes trouve en ligne de nouvelles photos de visages que son logiciel pense correspondre à un visage téléchargé) .

La société propose également un plan payant pour les entreprises: 299,99 $ par mois permet aux entreprises d’effectuer des recherches illimitées et mis en place 500 alertes.Les images proviennent d’une gamme de sites Web, y compris des sites d’entreprise, de médias et de pornographie – le dernier dont PimEyes a déclaré à CNN Business qu’il incluait afin que les gens puissent rechercher en ligne tout porno de vengeance dans lequel ils pourraient apparaître sans le savoir. Mais alors que Clearview AI a constitué son énorme stock de visages en partie en grattant des images des principaux réseaux sociaux (il a ensuite reçu des avis de cessez-et-desist par Facebook, Google et Twitter, poursuivi par plusieurs groupes de défense des droits civiques et déclaré illégal en Canada), PimEyes a déclaré qu’il ne supprimait pas les images des médias sociaux.

(Un porte-parole de Clearview AI n’a pas confirmé si l’entreprise saisissait actuellement des photos sur des sites sociaux tels que Facebook et Twitter, disant simplement que l’entreprise « ne collecte que des données publiques sur Internet ouvert. » Le PDG de l’entreprise a déclaré dans le passé qu’il avait un droit de premier amendement aux États-Unis de collecter des informations accessibles au public.) Bien que PimEyes demande aux visiteurs de rechercher uniquement leur propre visage, il n’y a pas de mécanisme sur le site pour garantir qu’il est utilisé de cette manière.

Plusieurs utilisateurs de Twitter prétendent l’avoir utilisé dans le but d’identifier les émeutiers du Capitole américain, par exemple – efforts dont PimEyes a déclaré à CNN Business qu’il était au courant mais qui sont inévitables, bien qu’il s’agisse d’une violation des termes et conditions du site, puisque PimEyes le peut ‘ t vérifier qui effectue une recherche pour un visage donné. Le site, a noté PimEyes, n’identifie pas par leur nom ceux qui recherchent des visages ni ceux dont les visages apparaissent dans les résultats de recherche.Il n’y a également aucun moyen de garantir que cette technologie de reconnaissance faciale ne soit pas utilisée pour identifier les personnes à tort.

Il existe une poignée de lois étatiques américaines restreignant l’utilisation des systèmes de reconnaissance faciale et les interdictions à l’échelle de la ville, mais ces règles ont tendance à cibler la façon dont le gouvernement et les entreprises pourraient utiliser ces logiciels, et non les particuliers. de l’application de ses propres règles de recherche en fait un outil conçu pour le harcèlement et la surveillance en ligne, a déclaré Lucie Audibert, juriste du groupe de défense des droits de l’homme basé à Londres Privacy International. « Entre les mains de citoyens aléatoires, comme vous ou moi, il devient un outil de traque effrayant où vous pouvez identifier n’importe qui dans les rues ou dans n’importe quel espace public », a déclaré Audibert.

Quelques surprises

Pour avoir une idée de ce que PimEyes peut faire et de son efficacité, CNN Business a payé l’abonnement individuel de 29,99 $ par mois, ce qui m’a donné la possibilité d’effectuer 25 recherches «premium» par jour, voir tous les résultats de recherche PimEyes dragués sur Internet, et la possibilité de configurer des alertes pour toutes les nouvelles images que PimEyes rencontre.J’ai effectué plusieurs recherches pour mon visage en ligne, en utilisant de nouvelles et anciennes photos présentant différentes coiffures. Dans certains je portais des lunettes; dans d’autres, je ne l’ai pas fait.

Parfois, avant que PimEyes n’effectue une recherche, un pop-up m’a obligé à cocher deux cases disant que j’acceptais les conditions d’utilisation du site et que j’avais accepté d’utiliser une photo de mon visage pour effectuer la recherche. moi (et non, disons, les images pornographiques de femmes d’apparence similaire, dont il y en avait beaucoup) étais pour la plupart familière. Celles-ci comprenaient des prises de vue liées au travail, des images fixes de vidéos que j’ai enregistrées en testant des gadgets il y a des années et une photo de moi en train de sourire avec mon professeur de journalisme au lycée.

Il y a eu une surprise: une photo de moi en train de danser au mariage d’un ami en 2013. Je n’avait pas réalisé que la photo avait été prise à l’époque, mais ce n’était pas ce qui était surprenant. C’était plutôt le fait que je ne suis pratiquement pas du tout sur la photo.

Sur le côté droit du cadre, vous pouvez voir une partie de mon visage, de profil. Mes yeux semblent fermés et je porte des lunettes noires. C’est une image floue, mais c’est bien moi.

Avec PimEyes, je pourrais retracer un selfie à mon identité en quelques clics. En tant que journaliste avec des portraits et des biographies sur les sites Web de plusieurs publications, il est assez facile de connecter mon visage à mon nom en ligne. J’ai donc réessayé avec l’image d’un ami (après avoir d’abord obtenu son consentement) qui travaille dans un autre domaine et a une présence en ligne plus petite; l’un des premiers résultats provenait de son site Web, qui a son nom dans l’URL.

Avec leur permission, j’ai également fait passer les selfies de plusieurs collègues via PimEyes pour voir ce qui apparaissait. Il a révélé des photos documentant des bribes du passé de mes collègues: le mariage de mon patron, l’adoption du chien d’un autre manager, le moment où l’expression faciale amusante d’un collègue journaliste a été transformée en mème quand il était à l’université (il le savait, heureusement). Dans plusieurs cas, il n’a fallu qu’un clic ou deux pour connecter les visages aux noms.

Enveloppé de secret

Je voulais en savoir plus sur le fonctionnement de PimEyes, et pourquoi il est ouvert à tout le monde, ainsi que qui est derrière. C’était beaucoup plus compliqué que de télécharger mon propre visage sur le site Web. Le site Web ne répertorie actuellement aucune information sur qui possède ou exécute le moteur de recherche, ou comment les atteindre, et les utilisateurs doivent soumettre un formulaire pour obtenir des réponses aux questions ou obtenir de l’aide sur les comptes.

, ainsi que d’autres sources en ligne, ont fourni des détails sur le passé de la société et son évolution au fil du temps.Le site Web Pimeyes.com a été initialement enregistré en mars 2017, selon une recherche d’enregistrement de nom de domaine effectuée par l’ICANN (Internet Corporation for Assigned Noms et numéros).

Une page « à propos » sur le site Web de Pimeyes, ainsi que des reportages, montre qu’elle a commencé en tant que startup polonaise. Une image archivée de la politique de confidentialité du site Web indiquait qu’elle était enregistrée en tant qu’entreprise à Wroclaw, en Pologne, en août 2020. Cela a changé peu de temps après: la politique de confidentialité du site Web stipule actuellement que l’administrateur de PimEyes, connu sous le nom de Face Recognition Solutions Ltd.

, est enregistré à une adresse aux Seychelles. Une recherche en ligne de l’adresse – House of Francis, Room 303, Ile Du Port, Mahé, Seychelles – a indiqué qu’un certain nombre d’entreprises semblent utiliser la même adresse exacte. Cela suggère que, s’il peut être enregistré dans la nation de l’archipel (qui figure sur la liste des paradis fiscaux de l’Union européenne), il peut fonctionner ailleurs.

PimEyes se positionne comme un outil pour trouver des photos de vous en ligne, mais ce n’était pas toujours le cas. son objectif. Une image du site Web d’octobre 2018, par exemple, indique qu’il a demandé aux utilisateurs de télécharger une photo de la personne qu’ils souhaitaient rechercher.

Il montrait des photos de célébrités telles qu’Angelina Jolie, Rihanna et Donald Trump à titre d’exemples.En juin 2020, certains articles de presse ont noté comment PimEyes peut être utilisé par des harceleurs. Dans un article, PimEyes a déclaré à la BBC que le but du site Web était d’aider les individus à «se battre pour leur propre vie privée en ligne», notamment en trouvant de faux profils, des images divulguées et une utilisation non autorisée de photos.

À l’époque, il a également déclaré à la BBC qu’elle travaillait avec les forces de police via un outil d’enquête logiciel appelé Paliscope (et une version archivée des «Foire aux questions» du site Web de PimEyes indiquait que PimEyes avait été commercialisé auprès des forces de l’ordre aussi récemment que ce mois-là; bien que cette référence ait disparu quelques jours plus tard, un article de blog de la société suggère que la technologie de PimEye peut être utilisée pour «rechercher des criminels ou des personnes disparues».) Début juillet, le site Web a soudainement mis l’accent sur la confidentialité personnelle. « Téléchargez votre photo et trouvez où l’image de votre visage apparaît en ligne.

Commencez à protéger votre vie privée », a déclaré le site de PimEyes à l’époque. Le changement a du sens pour Garvie, qui a souligné qu’au départ, Clearview AI était plus largement disponible qu’elle ne l’est maintenant (elle connaît quelqu’un, dit-elle, en dehors des forces de l’ordre, qui avait l’application sur son téléphone). ressemble fortement au logiciel russe de reconnaissance faciale FindFace que Clearview; FindFace, qui était disponible pour les consommateurs en Russie, a pris de l’importance en 2016 pour sa capacité à faire correspondre les visages dans les images soumises par les utilisateurs à des images sur le réseau social russe Vkontakte.

(Le logiciel, qui a également été utilisé pour identifier et harceler les travailleuses du sexe russes, n’est actuellement disponible que pour les entreprises et les clients gouvernementaux.)

Prendre contact

Pour en savoir plus sur le fonctionnement du site, CNN Business a envoyé une note à une adresse e-mail PimEyes au son générique, qui figurait dans une ancienne version de la politique de confidentialité du site. Il a donné une réponse anonyme de quelqu’un qui se faisait appeler « l’équipe PimEyes »; ils ont déclaré que le site avait été acheté à ses anciens propriétaires en 2020 (le site Web a indiqué de nouveaux propriétaires, ainsi qu’un nouveau look, en septembre, mais CNN Business n’a pas pu vérifier si ou comment le changement de propriétaire s’est produit).

Ils ont refusé de mener un entretien formel, affirmant qu’ils «ne participaient pas à des entretiens en direct ou à des entretiens directs», mais qu’ils répondraient aux questions envoyées par courrier électronique. Au cours de plusieurs messages, ils ont répondu à un certain nombre de questions, mais en ont ignoré ou évité d’autres, comme par exemple pourquoi l’entreprise avait changé son objectif de suggérer aux utilisateurs de rechercher n’importe qui à une recherche juste pour vous-même. Ils ne diraient pas combien ils ont payé pour acheter des PimEyes à ses anciens propriétaires, ni pourquoi ils l’ont acheté, bien qu’ils aient écrit que la société est actuellement basée aux Seychelles en raison du «bon environnement d’incorporation» du pays.

sur la base, ils ont répondu que PimEyes a une « équipe internationale, mais nous ne voulons pas divulguer les détails. » Nos e-mails dans les deux sens ont révélé un indice potentiel sur leur emplacement, cependant, en raison de l’horodatage. La première note que je leur ai envoyée était horodatée à 11 h 58, heure du Pacifique, le jeudi 8 avril; leur réponse, que j’ai reçue le lendemain à 2 h 31, comprenait ma note, mais cette fois, l’horodatage au-dessus de mes mots était 20 h 58 ou 20 h 58.

Quand il est 11h58 en Californie, il est 20h58 dans un certain nombre d’endroits, y compris en Pologne. Cette même différence de temps de neuf heures était évidente dans de nombreux e-mails, confirmant que le moteur de recherche de reconnaissance faciale fonctionne de manière similaire à d’autres systèmes de ce type, en comparant les mesures entre les différentes caractéristiques faciales d’une image (celle que vous téléchargez) à celles des autres ( dans ce cas, ceux qu’il a trouvés en ligne). Afin de faire correspondre les visages que les utilisateurs soumettent, PimEyes doit parcourir Internet à la recherche d’images de personnes.

PimEyes n’enregistre pas les images de partout sur Internet, ont-ils expliqué, mais il conserve un index des mesures des traits du visage à partir de photos qu’il a repérées sur le Web. téléchargez une photo de vous sur un site tel que Google Images et effectuez une recherche: là-bas, les résultats incluront des photos de personnes similaires (pour moi, cela signifie beaucoup de femmes aux cheveux noirs à lunettes), mais Google n’utilise pas le visage mesures dans l’espoir de vous trouver, en particulier, sur d’autres images en ligne.La personne derrière l’e-mail de l’équipe PimEyes ne fournirait pas de chiffre actuel du nombre de visages qu’elle a indexés.

Mais selon des images archivées de PimEyes.com, en août 2018, PimEyes a déclaré avoir analysé « plus de 30 millions de sites Web », et en novembre 2019, la société a affirmé avoir analysé 900 millions de visages (Clearview AI, par comparaison, affirmait avoir analysé ont récupéré plus de 3 milliards de photos sur Internet en février 2020). Lorsque le moteur de recherche de PimEyes trouve une correspondance entre la photo qu’un utilisateur télécharge et celle que PimEyes a précédemment vue en ligne, il peut coupler les mesures de la photo précédemment analysée avec l’adresse Web où se trouve cette photo.

Le site Web vous montre un tableau de toutes les images qui, selon lui, ressemblent le plus à votre propre photo. La précision de la recherche, selon la société, est d’environ 90%; en général, la précision de la technologie de reconnaissance faciale dépend de nombreux facteurs, tels que la qualité des images de visage qui sont introduites dans un système. La personne derrière l’e-mail de l’équipe PimEyes a affirmé que l’entreprise n’utilisait pas les photos téléchargées par les utilisateurs pour améliorer son logiciel.

PimEyes prétend supprimer les images téléchargées sur le site après deux jours. Ils ne nommeraient aucun client professionnel payant, disant seulement qu ‘ »il n’y a pas d’organismes chargés de l’application de la loi parmi eux ». Et bien qu’ils aient confirmé qu’il n’y a aucun moyen d’appliquer la politique du site consistant à obliger les utilisateurs à rechercher uniquement pour eux-mêmes (une politique qui semble contredite, du moins, en offrant son produit de reconnaissance faciale aux entreprises), ils ont souligné que « tout outil ou service peut être utilisé contre le but pour lequel il a été créé ou ses conditions d’utilisation. »

« Il est naïf de penser que si notre le moteur de recherche n’existait pas, les harceleurs ne violeraient pas la loi », ont-ils écrit. « D’un autre côté – nous sommes disponibles pour tout le monde, donc toute victime de harcèlement ou autre crime sur Internet peut se vérifier à l’aide de notre moteur de recherche. »

Connecter les noms et les visages

Cette accessibilité est précisément ce qui concerne Audibert, de Privacy International, et Garvie, de Georgetown.

L’une des plus grandes préoccupations d’Audibert à propos de PimEyes, a-t-elle déclaré, peut-être encore plus qu’avec Clearview, est de savoir à qui il pourrait tomber entre les mains. Les gens pourraient l’utiliser pour identifier d’autres personnes dans des lieux publics, souligne-t-elle, tandis que les entreprises privées pourraient l’utiliser pour suivre des personnes. Cela pourrait également amener de nombreux utilisateurs à mal identifier les visages qui, selon le moteur de recherche, ressemblent étroitement à la personne qu’ils essaient de faire.

trouver, dont les conséquences pourraient être énormes. La police utilise déjà des systèmes de reconnaissance faciale pour traquer les suspects potentiels, même si la technologie s’est avérée moins précise pour identifier les personnes de couleur. Au moins, plusieurs hommes noirs ont été arrêtés à tort en raison de cette utilisation de la reconnaissance faciale.

Garvie, qui a utilisé PimEyes sur une image de son propre visage, a remarqué que la plupart des résultats qui n’étaient pas elle étaient des femmes blanches d’apparence similaire dans la trentaine. Ce type d’identification erronée est courant dans les algorithmes de reconnaissance faciale, a-t-elle déclaré, et il est également plus probable qu’une personne qui voit ces résultats fasse ensuite une erreur d’identification. les personnes transgenres – intentionnellement ou non.

Lorsque Rachel Thorn, professeur à l’Université Seika de Kyoto, a téléchargé une photo récente d’elle-même sur PimEyes, elle a rencontré d’autres images récentes d’elle-même. Il y avait aussi des images plus anciennes, dit-elle, où elle se présentait comme masculine. Elle a l’air très différente aujourd’hui, a-t-elle dit, mais elle a deviné que PimEyes avait peut-être détecté des similitudes entre les traits du visage d’une photo récente et de vieilles photos.

« En tant que personne transgenre, ce n’était pas une sensation agréable de voir de vieilles photos de moi-même apparaître. Je suis à peu près sûre que presque toutes les personnes transgenres ressentiraient la même chose », a-t-elle déclaré. Thorn, qui étudie les romans graphiques japonais, connus sous le nom de manga, était impressionnée par la technologie, mais s’inquiétait également de la façon dont elle pourrait être abusée.

Et comme le site ne l’a pas empêchée de télécharger l’image de quelqu’un d’autre, elle l’a fait: elle a recherché une connaissance qui avait travaillé dans la pornographie en téléchargeant un selfie que cette personne lui avait envoyé. Effectivement, des images pornographiques de son amie sont apparues. « J’ai pensé, ‘Oh mon Dieu’, » dit-elle.

« Si vous vouliez savoir si quelqu’un avait déjà travaillé dans le porno, cela le ferait. »

Tags: , ,