L’Ukraine utilise la reconnaissance faciale de l’IA pour identifier les victimes et contrôler les personnes aux points de contrôle

Le ministère ukrainien de la Défense a annoncé qu’il utilisait désormais la technologie de reconnaissance faciale d’une startup américaine pour lutter contre la désinformation, identifier les morts et dénoncer les assaillants russes. La technologie, qui ressemble à un moteur de recherche de visages qui regroupe les données de millions d’utilisateurs de médias sociaux sur le Web ouvert, avait auparavant suscité la controverse en raison de plaintes concernant la confidentialité. Crédit : Pixabay.

Après le déclenchement de la guerre, la société américaine d’intelligence artificielle Clearview a contacté le gouvernement ukrainien, offrant ses services gratuitement. Cette semaine, la collaboration est devenue officielle et la technologie de reconnaissance faciale de Clearview est désormais censée être utilisée à des fins de sécurité, telles que la vérification des personnes d’intérêt aux points de contrôle. Clearview affirme avoir constitué une base de données de plus de 10 milliards de photos publiées publiquement sur Internet à partir de sites comme Facebook, Instagram, Flickr et Getty Images.

La technologie AI utilise ensuite cette base de données pour fournir une reconnaissance faciale rapide. L’outil dispose également de fonctionnalités d’amélioration pour nettoyer les photos à basse résolution et offre même la possibilité de générer des représentations plus jeunes et plus anciennes qui pourraient être associées à des photos d’enfance. De nombreux clients de la startup américaine sont issus des forces de l’ordre, où il s’est avéré un outil de police inestimable.

Le Federal Bureau of Investigation, l’Immigration and Customs Enforcement et le Fish and Wildlife Service font partie d’une douzaine d’agences américaines qui ont utilisé Clearview jusqu’à présent (à notre connaissance). Deux milliards de photos de cette énorme base de données de profilage ont été supprimées de VKontakte, le plus grand réseau de médias sociaux de Russie. À l’aide de leur outil, les responsables militaires ukrainiens peuvent scanner rapidement le visage d’une personne, et s’ils utilisent VKontakte, ils peuvent obtenir une identification pratiquement en quelques secondes.

L’outil peut être particulièrement utile pour identifier les soldats tombés au combat beaucoup plus rapidement que les empreintes digitales correspondantes. La reconnaissance faciale semble fonctionner même s’il y a des dommages au visage, bien qu’un rapport du Département américain de l’énergie affirme que l’efficacité de la technologie est considérablement réduite dans les corps en décomposition. La même technologie pourrait être utilisée pour identifier des agents secrets russes se faisant passer pour des civils ukrainiens, aider l’Ukraine à démystifier les faux messages sur les réseaux sociaux diffusant de la propagande de guerre et aider à réunir les réfugiés séparés de leurs familles.

Mais bien que très puissante, la reconnaissance faciale Clearview pourrait être une épée à double tranchant qui pourrait conduire à des tragédies évitables. La technologie ne renvoie pas toujours une correspondance parfaite, ce qui pourrait conduire à une identification erronée aux points de contrôle, faisant potentiellement des victimes innocentes. Clearview affirme que sa technologie a un taux de précision de 99%, mais cela ne peut pas être vérifié et est probablement une surestimation grossière.

Une double vérification utilisant des renseignements alternatifs devrait être utilisée pour éviter les faux positifs, mais dans le brouillard de la guerre, cela ressemble à une hypothèse irréaliste. Pour sa défense, Clearview affirme que les personnes en Ukraine qui sont censées utiliser cette technologie ont reçu une formation et doivent saisir un numéro de dossier et la raison d’une recherche avant toute requête. D’autres critiques ont exprimé leur inquiétude quant au fait que Clearview effectue une surveillance de masse, dont certaines pourraient être illégales.

Le Canada et la France affirment que le type de collecte de photos en ligne utilisé par Clearview enfreint leurs lois sur la confidentialité. Le Royaume-Uni et l’Australie ont également jugé cette pratique illégale, tandis qu’aux États-Unis, Clearview se bat contre un certain nombre de poursuites qui pourraient bientôt forcer l’entreprise à changer de vitesse. Pour l’instant, cependant, l’approche est utilisée dans l’Ukraine meurtrie.