Oui, la reconnaissance faciale est amusante. Nous l’utilisons pour débloquer sans effort nos téléphones, découvrir quelle peinture de la Renaissance du 18ème siècle ressemble le plus à nos visages, … Mais il y a un côté plus obscur, dont vous avez probablement entendu parler beaucoup plus récemment. La technologie de reconnaissance faciale facilite la surveillance gouvernementale, peut être utilisée sans le consentement explicite des participants et peut même perpétuer la discrimination raciale et les poursuites injustifiées.
Jusqu’à présent, les entreprises développant et utilisant la technologie de reconnaissance faciale n’ont aucune règle à suivre. Mais les préoccupations éthiques s’accumulent et certains pays ont commencé à adopter des lois pour les faire respecter (les règles). L’Union européenne a promulgué ses propres réglementations de protection de la vie privée qui exigent que les entreprises obtiennent le consentement explicite des personnes dont le visage est scanné. Et si ces entreprises n’ont pas obtenu cet accord, elles font face à des amendes. Mais aux États-Unis, les législateurs n’ont pas adopté une réglementation équivalente.
Microsoft, l’un des plus grands noms de la technologie de reconnaissance faciale, pense que c’est une erreur.
La semaine dernière, dans un geste sans précédent, le président de Microsoft, Bradford L. Smith, a appelé à une régulation de la reconnaissance faciale aux États-Unis. «Nous vivons dans une nation de lois et le gouvernement doit jouer un rôle important dans la régulation de la reconnaissance faciale. » a écrit Bradford Smith dans un article de blog
Ce président n’est pas seulement préoccupé par la façon dont le secteur de la technologie utilise la reconnaissance faciale – la réglementation permettrait également de contrôler la propre utilisation du gouvernement. « La seule façon efficace de gérer l’utilisation de la technologie par un gouvernement est que le gouvernement gère de manière proactive cet usage », écrit Bradford Smith.
Il est la voix la plus récente dans un ensemble croissant de personnes qui sont contre les manières problématiques utilisées dans la reconnaissance faciale:
- Chez Google: Les employés de Google ont signé une lettre publique demandant au PDG Satya Nadella de fermer Project Maven, un contrat du ministère de la Défense pour créer un « moteur de surveillance à AI personnalisé » qui permettrait aux drones militaires d’utiliser des logiciels de reconnaissance faciale.
- Chez Microsoft: Les employés de Microsoft ont livré leur propre lettre dénonçant le contrat de l’entreprise avec le controversé Immigration and Customs Enforcement (ICE). Alors que le PDG Satya Nadella a minimisé leur relation avec l’agence qui était en grande partie responsable de la séparation des enfants et des familles, les employés s’inquiétaient à juste titre que Microsoft puisse un jour travailler avec eux.
- Chez Amazon: les employés d’Amazon ont regardé avec horreur alors que les autorités gouvernementales américaines séparaient de force leurs enfants de leurs parents et ont demandé au PDG Jeff Bezos de cesser toutes les ventes du logiciel Rekognition aux entreprises de répression.
Il y a des façons cyniques de lire le message de Bradford Smith. «Les plus grands rivaux de Microsoft en matière de technologie – Apple, Google, Amazon et Facebook – utilisent tous la reconnaissance faciale sous diverses formes et sont des leaders dans le développement de la technologie. Microsoft pourrait estimer que prendre position en faveur de la réglementation servirait mieux ses intérêts que de continuer à se concurrencer sur un terrain de jeu non réglementé.
Même ainsi, la lecture la plus sérieuse – que les législateurs ne peuvent plus ignorer ces préoccupations – ne devrait pas être rejetée à la légère. Nous avons déjà vu la technologie de reconnaissance faciale signaler à tort des milliers de personnes innocentes et scanner d’innombrables autres personnes aux frontières des États-Unis et dans les aéroports sans avoir la possibilité d’être supprimer des fichiers. Même Facebook a été pris au dépourvu, scannant les visages des utilisateurs sans consentement explicite lorsque le Règlement général sur la protection des données de l’UE (GDPR) était sur le point d’entrer en vigueur. Toutes ces actions constituent un précédent dangereux et pourraient constituer une menace pour la liberté individuelle si elles n’étaient pas complètement réglementées.
Sans une surveillance suffisante, le contrôle des frontières et l’application de la loi pourraient facilement être influencés par un logiciel de reconnaissance faciale déficient. Et ce n’est pas une idée ridicule – dans le cas où la police du Sud du Pays de Galles a utilisé la reconnaissance faciale pour identifier des sujets suspects lors d’un match de football, 87,5% des personnes identifiées étaient des faux positifs. Et en l’absence de procédure régulière ou de procédures d’appel réglementées pour les accusés à tort, des personnes innocentes pourraient passer des années derrière les barreaux en conséquence.
Si le gouvernement américain n’intervient pas de manière significative, la Silicon Valley sera obligée de naviguer dans une énigme morale: jeter ses valeurs morales par la fenêtre – être damné ou se réguler. Aucune de ces options n’est particulièrement souhaitable – les entreprises privées auront toujours leurs propres objectifs, que ce soit pour le plus grand bien ou le gain en capital.
Mais au moins Microsoft donne le ton en exerçant une certaine pression sur les régulateurs et en jetant un regard critique sur une technologie qui a de vastes ramifications sociétales et un potentiel d’abus. Comme le sentiment se répand dans toute la Silicon Valley, les régulateurs pourraient n’avoir d’autre choix que d’intervenir, en garantissant nos libertés personnelles et notre sécurité dans le processus.
https://futurism.com/microsoft-facial-recognition-regulation/
