« Je ne pouvais pas le croire – ça avait marché. »
Escroqué par un clone: Si vous n’êtes pas déjà inquiet du clonage de la voix par l’IA, vous devriez sans doute l’être. Testant les limites de cette technologie, le journaliste Joseph Cox, de site Internet Vice, s’est introduit sur son propre compte bancaire en utilisant un clone de sa voix synthétisé par l’IA pour prouver son identité, ce qui met en évidence le potentiel dangereux de cette technologie ainsi que les lacunes de la biométrie vocale.
Lorsque Joseph Cox a appelé la ligne de service automatisée de la banque britannique Lloyds, le robot à l’autre bout du fil lui a demandé de préciser la raison de son appel. Il lui a demandé de « Check my balance » ou « vérifier mon solde », en utilisant un extrait sonore de sa voix synthétisé par l’IA.
La banque lui a ensuite demandé sa date de naissance, que Joseph Cox a saisie, avant de lui demander de dire à haute voix « My voice is my password » ou « ma voix est mon mot de passe ».
« Ma voix est mon mot de passe », a déclaré le clone de la voix de Joseph Cox.
« Merci », a répondu la banque. Et voilà : un clone vocal d’IA dirigé par un humain s’est introduit dans un compte bancaire, permettant à son propriétaire d’accéder aux soldes du compte et aux transactions récentes.
« Je n’arrivais pas à y croire : ça avait marché », écrit Joseph Cox.
Attrapez-les si vous pouvez
Heureusement, il s’agissait cette fois du propriétaire du compte, mais rien ne garantit qu’à l’avenir, des pirates malveillants ne seront pas capables de monter la même arnaque sur des personnes sans méfiance.
Joseph Cox a utilisé un outil de clonage de voix d’IA bon marché et populaire de ElevenLabs, que vous avez peut-être déjà vu déployé dans des mèmes viraux d’une fausse voix de Joe Biden et dans les caniveaux de 4chan.
4chan ou 4channel est un forum anonyme anglophone. Constitué d’un réseau d’échange d’images dit en anglais « imageboards » celui-ci est calqué sur les modèles des sites populaires japonais 2channel (créé en 1999 par Hiroyuki Nishimura) et Futaba Channel.
Pour produire une copie convaincante, il suffit à l’utilisateur de l’outil de télécharger des échantillons de la voix qu’il souhaite cloner et de taper ce qu’il veut que le clone dise – aucune expertise technique n’est requise.
Joseph Cox affirme avoir utilisé d’autres outils d’IA pour tenter de réaliser le coup de la banque, mais aucun autre qu’ElevenLabs n’a réussi à contourner l’authentification.
La biométrie vocale est utilisée par un certain nombre de banques, dont Chase, Wells Fargo et TD Bank, pour vérifier les titulaires de comptes qui appellent par téléphone.
La Lloyds Bank, où le clone de Cox a réussi à s’introduire, affirme que son dispositif de sécurité « sûr » Voice ID analyse plus de « 100 caractéristiques différentes de votre voix, qui, comme votre empreinte digitale, vous sont propres ».
Pour l’instant, la fraude par clonage vocal n’est pas exactement en train de prendre le monde d’assaut puisqu’il n’est pas toujours aisé pour un pirate d’obtenir votre voix – à moins que vous ne soyez célèbre – mais il est probablement préférable de ne pas s’y fier comme seule ligne de défense.
Et si votre voix est unique pour vous, elle ne l’est pas pour une IA, du moins aux yeux de la biométrie.
https://www.vice.com/en/article/dy7axa/how-i-broke-into-a-bank-account-with-an-ai-generated-voice
https://twitter.com/josephfcox/status/1628798416754032643
