Bien qu’il soit presque certain que cela ne fonctionnera pas, c’est un signe révélateur de l’évolution de ce domaine.
Un officier de police est sur la scène d’un meurtre. Pas de témoins. Pas d’images de caméra. Pas de suspects ou de motifs évidents. Juste un poil sur la manche de la veste de la victime. L’ADN des cellules d’un cheveu est copié et comparé à une base de données. Aucune correspondance n’est trouvée, et l’affaire est classée. Corsight AI, une filiale de la société israélienne Cortica spécialisée dans la reconnaissance faciale, prétend trouver une solution à ce genre de situation en utilisant l’ADN pour créer un modèle de visage qui peut ensuite être soumis à un système de reconnaissance faciale. Une tâche que les experts en la matière considèrent comme scientifiquement intenable.
Corsight a dévoilé son produit « DNA to Face » lors d’une présentation faite par le président-directeur général Robert Watts et le vice-président exécutif Ofer Ronen, destinée à séduire les financiers au cours de la conférence des investisseurs d’Imperial Capital à New York le 15 décembre. Ce produit fait partie de la feuille de route globale de la société, qui comprend également la reconnaissance des mouvements et de la voix. L’outil « construit un profil physique en analysant le matériel génétique collecté dans un échantillon d’ADN », selon une présentation de la société consultée par le groupe de recherche sur la surveillance IPVM et partagée avec MIT Technology Review.
Une photo de la présentation aux investisseurs de Corsight montrant sa feuille de route de produits qui comprend « la voix au visage », « l’ADN au visage » et « le mouvement » comme une expansion de ses capacités de reconnaissance faciale.
Corsight a décliné une demande de réponse aux questions sur la présentation et sa feuille de route de produits. « Nous ne nous engageons pas avec la presse pour le moment car les détails de ce que nous faisons sont confidentiels pour l’entreprise », a écrit M. Watts dans un courriel.
Mais les documents marketing montrent que la société se concentre sur les applications gouvernementales et policières de sa technologie. Son conseil consultatif se compose uniquement de James Woolsey, ancien directeur de la CIA, et d’Oliver Revell, ancien directeur adjoint du FBI.
La science qui serait nécessaire pour soutenir un tel système n’existe pas encore, cependant, et les experts disent que le produit exacerberait les problèmes d’éthique, de vie privée et de partialité que la technologie de reconnaissance faciale cause déjà. Plus inquiétant, c’est un signal des ambitions de l’industrie pour l’avenir, où la détection des visages devient une facette d’un effort plus large pour identifier les gens par tous les moyens disponibles – même inexacts.
Cette histoire a été rapportée conjointement avec Donald Maye de l’IPVM qui a indiqué que « avant cette présentation, l’IPVM n’avait pas connaissance d’une société tentant de commercialiser un produit de reconnaissance faciale associé à un échantillon d’ADN ».
Un passé en dents de scie
L’idée de Corsight n’est pas entièrement nouvelle. Human Longevity, une entreprise « d’intelligence sanitaire basée sur la génomique » fondée par les célébrités de la Silicon Valley Craig Venter et Peter Diamandis, a affirmé avoir utilisé l’ADN pour prédire les visages en 2017. Mais les experts étaient toutefois dubitatifs. Un ancien employé de Human Longevity a déclaré que l’entreprise ne pouvait pas repérer une personne dans une foule à l’aide d’un génome, et Yaniv Erlich, directeur scientifique de la plateforme de généalogie MyHeritage, a publié une réponse exposant les principales failles de la recherche.
Une petite société d’informatique génétique, Parabon NanoLabs, fournit aux forces de l’ordre des représentations physiques de personnes dérivées d’échantillons d’ADN par le biais d’une gamme de produits appelée Snapshot, qui comprend la généalogie génétique ainsi que des rendus 3D d’un visage. (Parabon publie certains cas sur son site Web avec des comparaisons entre les photos de personnes que les autorités souhaitent retrouver et les rendus que la société a produits).
Les composites générés par ordinateur de Parabon sont également accompagnés d’un ensemble de caractéristiques phénotypiques, comme la couleur des yeux et de la peau, auxquelles est attribué un score de confiance. Par exemple, un composite peut indiquer qu’il y a 80 % de chances que la personne recherchée ait les yeux bleus. Les médecins légistes modifient également les composites pour créer des modèles de visage finalisés qui intègrent des descriptions de facteurs non génétiques, comme le poids et l’âge, dans la mesure du possible.
Le site Web de Parabon affirme que son logiciel aide à résoudre une affaire par semaine en moyenne, et Ellen McRae Greytak, directrice de la bioinformatique de la société, affirme avoir résolu plus de 600 affaires au cours des sept dernières années, bien que la plupart d’entre elles soient résolues par la généalogie génétique plutôt que par l’analyse composite. Mme Greytak explique que l’entreprise a été critiquée pour ne pas avoir publié ses méthodes et ses données exclusives ; elle attribue cela à une « décision commerciale ».
Parabon n’intègre pas l’IA de reconnaissance faciale à son service de phénotypage et stipule que ses clients des forces de l’ordre ne doivent pas utiliser les images qu’elle génère à partir d’échantillons d’ADN pour alimenter les systèmes de reconnaissance faciale.
La technologie de Parabon « ne vous dit pas le nombre exact de millimètres entre les yeux ou le rapport entre les yeux, le nez et la bouche », explique Ellen McRae Greytak. Sans ce genre de précision, les algorithmes de reconnaissance faciale ne peuvent pas donner de résultats exacts, mais l’obtention de mesures aussi précises à partir de l’ADN nécessiterait des découvertes scientifiques fondamentalement nouvelles, dit-elle, et « les articles qui ont tenté de faire de la prédiction à ce niveau n’ont pas eu beaucoup de succès. » Selon Mme Greytak, Parabon ne prédit que la forme générale du visage d’une personne (bien que la faisabilité scientifique d’une telle prédiction ait également été remise en question).
La police est connue pour exécuter des croquis médico-légaux basés sur les descriptions des témoins à travers des systèmes de reconnaissance faciale. Une étude réalisée en 2019 par le Center on Privacy and Technology de Georgetown Law a révélé qu’au moins une demi-douzaine d’agences de police aux États-Unis « autorisent, voire encouragent » l’utilisation de croquis médico-légaux, dessinés à la main ou générés par ordinateur, comme photos d’entrée pour les systèmes de reconnaissance faciale. Les experts en IA ont averti qu’un tel processus conduit probablement à des niveaux de précision inférieurs.
Corsight a également été critiqué par le passé pour avoir exagéré les capacités et la précision de son système de reconnaissance faciale, qu’il qualifie de « système de reconnaissance faciale le plus éthique pour des conditions très difficiles », selon une présentation de diapositives disponible en ligne. Lors d’une démonstration technologique pour l’IPVM (1) en novembre dernier, le PDG de Corsight Watts a déclaré que le système de reconnaissance faciale de Corsight peut « identifier quelqu’un avec un masque facial – pas seulement avec un masque facial, mais avec un masque de ski ». L’IPVM a rapporté que l’utilisation de l’IA de Corsight sur un visage masqué a donné un score de confiance de 65%, la propre mesure de Corsight de la probabilité que le visage capturé corresponde à sa base de données, et a noté que le masque est plus précisément décrit comme une cagoule ou une guêtre de cou, par opposition à un masque de ski avec seulement des découpes pour la bouche et les yeux.
- IPVM est la première source mondiale d’information et de formation en ligne sur la vidéosurveillance. Dédiés à l’information indépendante et objective, elle refuse toute publicité, tout parrainage et toute consultation de la part des fabricants. Elle fournit les meilleures analyses, tests et formations en matière de vidéosurveillance à des milliers de membres dans le monde.
Les problèmes plus généraux liés à la précision de la technologie de reconnaissance faciale ont été bien documentés (notamment par le MIT Technology Review). Ils sont plus prononcés lorsque les photographies sont mal éclairées ou prises sous des angles extrêmes, et lorsque les sujets ont la peau plus foncée, sont des femmes, ou sont très âgés ou très jeunes. Les défenseurs de la vie privée et le public ont également critiqué la technologie de reconnaissance faciale, en particulier les systèmes comme Clearview AI qui exploitent les médias sociaux dans le cadre de leur moteur de comparaison.
L’utilisation de cette technologie par les forces de l’ordre est particulièrement délicate : Boston, Minneapolis et San Francisco comptent parmi les nombreuses villes qui l’ont interdite. Amazon et Microsoft ont cessé de vendre des produits de reconnaissance faciale aux groupes de police, et IBM a retiré son logiciel de reconnaissance faciale du marché.
« Pseudoscience »
« L’idée que vous allez être en mesure de créer quelque chose avec le niveau de granularité et de fidélité nécessaire pour lancer une recherche de correspondance de visage – pour moi, c’est grotesque », déclare Albert Fox Cahn, avocat des droits civils et directeur exécutif du Surveillance Technology Oversight Project, qui travaille beaucoup sur les questions liées aux systèmes de reconnaissance faciale. « C’est de la pseudo-science ».
Dzemila Sero, chercheur au sein du Computational Imaging Group du Centrum Wiskunde & Informatica, l’institut national de recherche en mathématiques et en informatique des Pays-Bas, estime que la science nécessaire à la mise en place d’un tel système n’est pas encore suffisamment développée, du moins pas publiquement. Mme. Sero affirme que le catalogue des gènes nécessaires pour produire des représentations précises des visages à partir d’échantillons d’ADN est actuellement incomplet, citant l’étude de Human Longevity de 2017.
En outre, des facteurs tels que l’environnement et le vieillissement ont des effets substantiels sur les visages qui ne peuvent être saisis par le phénotypage de l’ADN, et la recherche a montré que les gènes individuels n’affectent pas autant l’apparence du visage d’une personne que son sexe et son ascendance. « Les tentatives prématurées de mise en œuvre de cette technique risqueraient de saper la confiance et le soutien à la recherche génomique et ne procureraient aucun avantage pour la société », a-t-elle déclaré par courriel à la MIT Technology Review.
Dzemila Sero a étudié le concept inverse du système de Corsight – « visage à ADN » plutôt que « ADN à visage » – en faisant correspondre un ensemble de photographies en 3D avec un échantillon d’ADN. Dans un article publié dans Nature, M. Sero et son équipe ont fait état de taux de précision compris entre 80 et 83 %. Mme Sero précise toutefois que ses travaux ne doivent pas être utilisés par les procureurs comme des preuves à charge et que « ces méthodes présentent également des risques indéniables d’aggravation des disparités raciales dans la justice pénale, ce qui justifie une mise en garde contre une application prématurée de ces techniques tant que des garanties appropriées n’auront pas été mises en place ».
Les forces de l’ordre dépendent des ensembles de données ADN, principalement du site Web gratuit GEDmatch, qui a joué un rôle déterminant dans la recherche du célèbre « Golden State Killer ». Mais même les prélèvements d’ADN, autrefois considérés comme la seule forme de preuve médico-légale scientifiquement rigoureuse par le Conseil national de la recherche des États-Unis, ont récemment fait l’objet de critiques pour des problèmes de précision.
Fox Cahn, qui poursuit actuellement le département de la police de New York pour obtenir des dossiers relatifs à la partialité de son utilisation de la technologie de reconnaissance faciale, affirme que l’impact du système hypothétique de Corsight serait désastreux. « En jouant sur l’impact que cela va avoir, cela augmente tous les cas d’échec de la reconnaissance faciale », dit Fox Cahn. « Il est facile d’imaginer comment cela pourrait être utilisé de manière vraiment effrayante et orwellienne ».
L’avenir de la technologie de reconnaissance faciale
Malgré ces inquiétudes, le marché de la technologie de reconnaissance faciale est en pleine croissance, et les entreprises se bousculent pour attirer les clients. Corsight n’est qu’une des nombreuses entreprises qui proposent des services de comparaison de photos avec de nouvelles fonctionnalités tape-à-l’œil, sans se soucier de savoir si elles ont fait leurs preuves.
Nombre de ces nouveaux produits cherchent à intégrer la reconnaissance faciale à une autre forme de reconnaissance. La société NtechLab, basée en Russie, propose par exemple des systèmes qui identifient les personnes en fonction de leur plaque d’immatriculation et de leurs caractéristiques faciales. Son fondateur, Artem Kuharenko, a déclaré l’année dernière au MIT Technology Review que ses algorithmes tentaient « d’extraire le plus d’informations possible du flux vidéo ». Dans ces systèmes, la reconnaissance faciale n’est qu’un élément d’un dispositif qui permet d’identifier les personnes à l’aide de toute une série de techniques, fusionnant les informations personnelles dans des bases de données connectées en une sorte de panoptique de données.
Le système de l’ADN au visage de Corsight semble être l’incursion de la société dans la construction d’un ensemble de surveillance futuriste et complet qu’elle peut proposer à des acheteurs potentiels. Mais alors même que le marché de ces technologies se développe, Corsight et d’autres entreprises risquent de commercialiser des technologies de surveillance entachées de partialité et d’inexactitude.
https://www.technologyreview.com/2022/01/31/1044576/corsight-face-recognition-from-dna/
