Alexander Reben a un talent pour identifier le potentiel malveillant dans des choses qui pourraient sembler banales. Dans le passé, l’artiste et le roboticien formé au MIT ont construit un bras mécanique d’apparence rudimentaire qui poignarde arbitrairement les gens, offrant aux participants volontaires un moment fugace de vulnérabilité aux mains d’une machine. Pour son dernier projet, le résident de Berkeley, en Californie, a augmenté la létalité, créant un système qui permet à un haut-parleur intelligent de Google Home de commander un appareil pour déclencher un pistolet à plombs.
Le travail combine deux objets actuellement plongés dans la controverse : les assistants virtuels – source de nouvelles craintes sur le piratage et l’écoute clandestine – et les armes à feu, un sujet politique puissant au milieu d’une nouvelle série de fusillades massives aux Etats-Unis.
Fusionnant les deux, précise Alexander Reben, soulève des «questions fondamentales» sur la responsabilité.
« Jusqu’à quel point une entreprise devrait-elle être en mesure de prévoir comment sa technologie sera utilisée et jusqu’à quel point peuvent-elles finalement la contrôler? » demande Alexander Reben. « Encore plus intéressant, que se passe-t-il lorsque les machines commencent à prendre des décisions? »
En réponse à la vidéo, Google a rapidement fait remarquer que – pour ce qui est de l’engin d’Alexander Reben – l’arme n’est pas déclencher en exploitant la puissance de l’intelligence artificielle.
« Cela semble être un projet fait maison qui est contrôlé par une prise intelligente, pas quelque chose qui est programmé dans l’Assistant ou utilise n’importe quel type d’IA », a déclaré la compagnie dans un communiqué. « Ceci n’est pas toléré par Google et ne pourrait pas être lancé en tant qu’Action pour l’Assistant, car cela va à l’encontre de nos conditions d’utilisation, qui interdisent les actions qui favorisent la violence gratuite ou les activités dangereuses.
« Vous pouvez en lire plus sur nos politiques ici », a ajouté l’entreprise.
Alexander Reben, qui a déclaré ne pas tolérer la violence, a déclaré que l’analyse de Google est exacte. L’arme n’est pas tirée par une reprogrammation cauchemardesque de l’intelligence artificielle de Google. Le même résultat aurait pu être produit en utilisant un Amazon Echo ou un téléphone portable, a-t-il dit. Pour appuyer sur la gâchette, l’appareil repose principalement sur un interrupteur et un solénoïde utilisé dans un distributeur de monnaie d’un lavomatique – une bobine de fil qui exerce une traction lorsqu’elle est alimentée en énergie.
La séquence commence quand Alexander Reben dit: « Ok, Google, active le pistolet. »
Après cette invite verbale, un signal sonore retentit et l’arme se déclenche.
En plus des commandes vocales de l’assistant de reprogrammation, Alexander Reben a dit qu’il a construit le projet entier en environ 30 minutes en utilisant des trucs autour de sa maison et a noté que la partie la plus laborieuse était d’aller au magasin pour acheter une pomme.
Avec près de 80 000 vues, la vidéo a attiré autant de haine et d’éloges sur YouTube:
« Dans 50 ans, les gens reviendront sur cette vidéo pour voir comment tout a commencé », a prédit un spectateur.
« La guerre a changé », a noté un autre.
« Mauvaise tentative de faire honte à l’AI et Google », a déclaré un troisième intervenant. « La seule chose que fait l’assistant de Google est d’allumer un interrupteur principal comme il se doit. C’est la personne à blâmer pour nommer l’interrupteur comme «pistolet» et attacher le solénoïde à l’arme à feu. «
La nature simple et surréaliste de la séquence de tir, a-t-il dit, est en quelque sorte le point.
« Une partie de ce projet était une réponse à certaines des nouvelles sur l’apprentissage profond d’une intelligence artificielle utilisée pour des applications militaires », a déclaré Alexander Reben. « C’est une provocation, bien sûr, mais la simplicité est un bon moyen de lancer une conversation. »
« Je n’ai pas les réponses, mais je pense que nous devons avoir une conversation », a-t-il ajouté
https://developers.google.com/actions/policies/general-policies
