Un tour d’horizon des brevets technologiques récents, grâce au site Protocol, a révélé un certain nombre d’idées relativement prévisibles en cours de réalisation dans la Silicon Valley, notamment la prolongation de la durée de vie des batteries des montres Apple, des flux d’informations plus personnalisés et automatisés grâce à Google, le soleil masqué par un bataillon de dirigeables d’Amazon. Mais une idée saisie par Microsoft laisse entrevoir un avenir très étrange, bien que largement prévu : des chatbots qui peuvent imiter n’importe qui si on leur fournit suffisamment de données personnelles.
Plus humain qu’humain
Le brevet » Creating a Conversational Chatbot of a Specific Person » ou « Créer un chatbot conversationnel d’une personne spécifique », déposé la semaine dernière par Microsoft, peut sembler relativement inoffensif, et il l’est probablement, dans une certaine mesure.
« Par certains aspects, des données sociales (par exemple, des images, des données vocales, des messages sur les médias sociaux, des messages électroniques, des lettres écrites, etc.) concernant la personne spécifique peuvent être consultées. Les données sociales peuvent être utilisées pour créer ou modifier un index spécial sur le thème de la personnalité de la personne spécifique », lit-on dans l’abrégé du brevet.
En gros, on dirait que Microsoft espère mieux améliorer ses chatbots de service client, ainsi que l’assistance future en matière d’IA sur le modèle d’Alexa, de Siri ou de son propre Cortana.
Une nouvelle époque de vol d’identité
Cela dit, les implications de ce type de mimétisme de personnalité hyperspécifique et numérisé sont aussi variées que troublantes. Si Microsoft a probablement (probablement) suffisamment de sens du groupe cible et d’avocats sous contrat pour éviter de faire de la publicité pour un assistant personnel qui ressemble et ressemble à votre grand-père mort, on ne peut pas en dire autant des autres entreprises et des programmeurs.
Outre le fait qu’un être cher décédé vous lise de manière très évidente des instructions Waze pour se rendre vers le restaurant le plus proche depuis l’au-delà, l’idée d’une IA conversationnelle basée sur un amalgame de vos tweets, de vos messages Facebook et de vos SMS, couplée à une imitation vocale (qui est déjà une chose, d’ailleurs) pourrait ouvrir une toute nouvelle ère de cyber-fraude et de vol d' »identité ».
Qui posséderait qui ?
Et bon sang, ne commençons même pas à analyser ce que cela signifie pour nos notions d’identités individuelles et conscientes (Mike Murphy, qui a rassemblé ces brevets pour le protocole, a déjà fait un travail admirable à ce sujet, de toute façon). Ensuite, il y a tout le sujet épineux concernant le droit à la vie privée d’une personne après sa mort. Oh, et qu’en est-il de la propriété des droits sur les données numériques ? L’assistant numérique que vous avez modelé en 2006 et que vous avez acheté en état d’ivresse pour faire une gaffe vous appartient-il vraiment ? Ou est-ce que ce « vous » de 16 ans – vous savez, le vous avec une obsession embarrassante pour les groupes Metal, les gilets de costume et les bretelles – est la propriété de Bill Gates à perpétuité ? En y réfléchissant bien, il peut avoir cela, si nous sommes honnêtes avec nous-mêmes.
Mais quand même ! Tout cela semble vraiment compliqué et, contrairement au brevet du jeu de basket-ball en VR avec un seul joueur de Microsoft, cela semble être une quasi-certitude pour les années à venir.
https://www.inputmag.com/culture/microsoft-files-patent-to-create-chatbots-from-your-dead-loved-ones
https://www.protocol.com/microsoft-wants-you-to-live-on-as-a-digital-chatbot
