Une pensée qui peut venir à l’esprit est de regarder une comédie ancienne où un adulte en colère reproche un jeune garçon et dit: «Je peux dire juste en vous regardant que vous n’êtes pas bon! Votre réaction pourrait être de rire. Deux chercheurs chinois, cependant, sont très sérieux au sujet de leur travail. Ils ont rédigé un document sur l’apprentissage automatique et ils examinent comment un ordinateur peut être capable de dire qui est un criminel ou pas.
Xiaolin Wu et Xi Zhang, des chercheurs chinois de l’Université Jiao Tong de Shanghai, ont écrit un article qui est sur arXiv. Leur document est intitulé «Inférence automatisée sur la criminalité à l’aide d’images faciales».
Mais réellement? Comment des algorithmes peuvent faire mieux dans un exercice où vous examinez réellement le visage pour faire une inférence (1) sur la criminalité?
Katyanna Quach sur le site « The Register » dit: « Il est vrai que les machines n’ont pas les émotions ou la conscience d’être considéré comme subjectif, mais cela ne signifie pas que les données ne peuvent pas être biaisées. » Ben Sullivan du site MotherBoard souligne que les chercheurs ont maintenu que les ensembles de données ont été contrôlés pour la race, le sexe, l’âge et les expressions faciales.
Les auteurs ont déclaré: «Nous sommes les premiers à étudier l’inférence automatisée induite par le visage sur la criminalité sans aucun biais de jugements subjectifs des observateurs humains. Par des expériences approfondies et de vigoureuses validations croisées, nous avons démontré que par de l’apprentissage machine supervisé, les classificateurs sont en mesure de faire une inférence fiable sur la criminalité. «
Ben Sullivan a écrit un peu plus sur la question du biais: «Wu a dit que le biais humain n’était pas entré en jeu.» En fait, nous avons obtenu notre premier lot de résultats il y a un an. Nous avons réalisé de sérieuses vérifications au sein de nos ensembles de données, et exécuté de nombreux tests de recherche pour détecter des contre-exemples, mais n’en avons trouver aucun « , a déclaré Wu. »
Comment ils ont testé: Xiaolin Wu et Xi Zhang ont envoyé dans un algorithme d’apprentissage machine des images faciales de 1856 personnes. Près de la moitié étaient des criminels reconnus coupables.
Ils ont utilisé des photographies d’identité standard de mâles chinois entre de 18 et 55 ans. Les hommes n’avaient pas de poils sur le visage.
MIT Technology Review a repris leurs méthodes: «Ils ont ensuite utilisé 90 % de ces images pour former/entrainer un réseau neuronal convolutif afin de reconnaître la différence et ensuite testé le réseau neuronal sur les 10% restants des images. Résultats? Ils ont dit que les classificateurs se comportaient «régulièrement bien» et produisaient «des preuves de la validité de l’inférence automatisée induite par le visage sur la criminalité».
MIT Technology Review de leurs conclusions dans «Emerging Technology de l’arXiv», a déclaré que la paire a constaté que «le réseau de neurones pourrait correctement identifier les criminels et les non-criminels avec une précision de 89,5 %.
Quels genres de caractéristiques ont été décelés ? Les chercheurs ont déclaré qu’ils ont trouvé «certaines caractéristiques discriminantes structurelles pour prédire la criminalité, comme la courbure des lèvres, l’angle du coin intérieur de l’œil, et l’angle de la bouche nasale.
En regardant leurs résultats, Quach a dit: «Ce sont de mauvaises nouvelles pour ceux qui ont des bouches plus petites, des lèvres supérieures incurvées et des yeux plus proches, car vous ressemblez plus à un escroc, apparemment. En moyenne, les criminels ont dans 19,6 % des cas, un angle bouchez-nez plus petit, une plus grande courbure de la lèvre supérieure à 23,4 %, et une distance de 5,% cent plus courte entre les coins internes des yeux.
Une remarque dans Hacker News: «Je pensais que c’était une blague quand j’ai lu l’abrégé, mais cela semble être un véritable papier. »
Et si vous pensez toujours que l’idée même de regarder les traits du visage pour déterminer quoi que ce soit du genre est un peu bizarre, vous ne seriez pas les seuls. En 2016, le thème central d’un article concernait certaines personnes qui préféreraient éviter tout concept qui suggère d’utiliser des caractéristiques physiques pour déterminer la criminalité.
Sam Biddle a déclaré que «aucun ordinateur ou logiciel n’est créé pour rien. Le logiciel est conçu par des personnes et les personnes qui ont l’intention d’inférer la criminalité à partir de caractéristiques faciales ne sont pas exemptes de biais inhérents.
MIT Technology Review a déclaré: «Bien sûr, ce travail doit être renforcé, il doit être reproduit avec des âges, des sexes, des groupes ethniques différents, et ainsi de suite. Aussi, a déclaré le rapport, « Tout cela annonce une nouvelle ère de l’anthropométrie, criminelle ou autre, » et il y a de la place pour plus de recherche « à mesure que les machines deviennent plus performantes »
1) L’inférence désigne les actions de mise en relation d’un ensemble de propositions, aboutissant à une démonstration de vérité, de fausseté ou de probabilité, sous la forme d’une proposition appelée conclusion.
http://www.theregister.co.uk/2016/11/18/ai_can_tell_if_youre_a_criminal/
http://motherboard.vice.com/read/new-program-decides-criminality-from-facial-features
https://arxiv.org/pdf/1611.04135v1.pdf
