The Future of Life Institute a présenté une lettre ouverte signée par plus de 1000 chercheurs en robotique et l’intelligence artificielle, exhortant les Nations Unies à imposer une interdiction sur le développement de l’IA militarisée ayant la capacité de cibler et de tuer sans intervention humaine significative. La lettre a été présentée pendant la Conférence internationale sur l’Intelligence Artificielle (IJCAI) de 2015, et est soutenue par un certain nombre d’éminents scientifiques et leaders de l’industrie, y compris Stephen Hawking, Elon Musk, Steve Wozniak, et Noam Chomsky.
Pour certains, AI militarisée et autonome pourrait sembler un concept fantaisiste confinée au domaine des jeux vidéo et de la science-fiction. Cependant, le terrifiant avertissement contenu dans la lettre ouverte récemment publiée insiste pour que la technologie soit disponible d’ici quelques années, et pas dans des décennies, et que des mesures doivent être prises dès maintenant si nous voulons empêcher la naissance d’un nouveau paradigme de la guerre moderne.
Considérons maintenant les implications de cela. Selon la lettre ouverte, beaucoup considèrent désormais l’IA militarisé comme pouvant être la troisième révolution dans la guerre moderne, après la poudre à canon et l’arme nucléaire. Cependant, pour les deux précédentes, il y a toujours eu des mesures dissuasives pour l’utilisation de la technologie. Pour utiliser des carabines sur le terrain, vous avez besoin d’un soldat pour manier l’arme, et ceci en retour, signifie que des soldats risquent leur vie.
Avec la révolution nucléaire, il fallait tenir compte de la nature coûteuse et difficile d’acquérir les matériaux et l’expertise nécessaires pour fabriquer une bombe, sans parler des immenses pertes humaines et les condamnations internationales qui suivraient inévitablement le déploiement d’une telle arme et la menace d’une destruction mutuelle assurée (DMA). Ces facteurs de dissuasion ont donné lieu au fait qu’à ce jour, seules, deux bombes ont explosé dans un conflit au cours de l’ère nucléaire.
Le véritable danger d’une machine de guerre à l’IA est qu’il manque de ces barres au conflit. L’IA pourrait remplacer la nécessité de risquer la vie d’un soldat sur le terrain, et son déploiement ne ferait pas faire tomber la colère de la communauté internationale de la même manière que le lancement d’un missile balistique intercontinental. En outre, selon la lettre ouverte, des drones militarisés à IA avec la capacité de chasser et tuer des personnes indépendantes d’un commandement humaine ne seraient pas chers et relativement faciles à produire en masse.
La technologie aura l’effet global de faire une incursion militaire moins coûteuse et plus attrayante, abaissant essentiellement le seuil d’un conflit. En outre, en prenant la décision de tuer sans une intervention humaine supprime l’élément de la compassion humaine et le processus de raisonnement qui, au moins dans un avenir prévisible, ne correspond en rien dans une simple machine.
Un autre aspect dissuasif de la technologie de l’IA militarisée que la lettre met en évidence est le potentiel qu’un tel équipement militaire puisse arriver dans les mains de despotes et de seigneurs de guerre qui ne réfléchiraient pas à deux fois avant de déployer les machines comme un outil pour vérifier le mécontentement, ou même effectuer un nettoyage ethnique.
« Un très nombre des plus grands scientifiques dans notre domaine ont accepté que leurs noms soient cités pour soutenir cette cause», explique le professeur en intelligence artificielle de l’Université de Nouvelle-Galles du Sud (UNSW) et de NICTA en Australie, Toby Walsh. « Avec cette lettre ouverte, nous espérons sensibiliser les gens sur ce sujet qui, sans aucun doute, aura un impact vicieux sur l’ensemble de l’humanité. Nous pouvons agir à ce stade précoce, ou nous pouvons rester les bras croisés et assister à la naissance d’une nouvelle ère de la guerre. Franchement, ce n’est pas quelque chose que beaucoup d’entre nous veulent voir. Notre appel à l’action est simple: interdiction des armes offensives autonomes, et ce faisant, assurer un avenir sûr pour nous tous. »
http://futureoflife.org/AI/open_letter_autonomous_weapons
