Ils ont raison car cette IA est inappropriée
L’Italie peut être considérée par certains comme l’un des pays les plus romantiques du monde, mais selon une nouvelle décision de son organisme de surveillance de la vie privée, l’amore dans l’air italien ne s’étend pas aux petites amies alimentées par une intelligence artificielle.
Selon un ordre officiel de l’autorité italienne de protection des données, le principal régulateur de la vie privée du pays, la société de chatbot d’IA Replika doit cesser de traiter les données des Italiens à compter d’aujourd’hui, invoquant « trop de risques pour les enfants et les personnes émotionnellement vulnérables. »
« De récents reportages dans les médias ainsi que des tests […] effectués sur ‘Replika’ ont montré que l’application comporte des risques factuels pour les enfants », peut-on lire dans le communiqué, « en premier lieu, le fait qu’on leur serve des réponses absolument inappropriées à leur âge. »
Cyber-copine
Ces préoccupations sont sans doute assez justifiées étant donné les récents rapports selon lesquels le chatbot « compagnon » crache des commentaires sexuels non désirés aux utilisateurs. (Et oui, Replika est aussi l’application que les hommes utilisent pour créer des petites amies IA et les agresser verbalement).
Alors que Replika se vantait autrefois de fournir aux gens des « amis » intelligents plutôt que des petites amies intelligentes, elle exploite désormais les sextos comme l’un de ses principaux arguments publicitaires pour ses abonnements payants.
Selon des plaintes récentes, même les utilisateurs de la version gratuite, censée être non sexuelle, reçoivent des messages effrayants de l’IA.
Vérification de l’âge
Selon l’organisme italien de protection de la vie privée, Replika ne semble pas se soucier de l’âge légal ou de la maturité de ses utilisateurs.
« Il n’y a en fait aucun mécanisme de vérification de l’âge en place : aucun mécanisme de barrière pour les enfants, aucun blocage de l’application si un utilisateur déclare être mineur », peut-on lire dans la déclaration de l’organisme de surveillance. « Lors de la création d’un compte, la plateforme demande simplement le nom, le compte de messagerie et le sexe de l’utilisateur. »
L’organisme de surveillance a également menacé d’utiliser les lois de l’Union européenne sur la collecte de données pour faire appliquer une mesure provisoire qui interdit à Luka Inc, le développeur de Replika, d’opérer à l’intérieur des frontières italiennes.
Si la société ne se met pas en conformité dans les 20 jours, le régulateur a déclaré qu’elle pourrait se voir infliger une amende allant jusqu’à 21,5 millions de dollars, soit environ quatre pour cent du « chiffre d’affaires annuel mondial total » de la société.
En bref, l’Italie ne plaisante pas lorsqu’il s’agit de protéger les enfants contre l’application d’IA étrangement excitante de Replika.
https://futurism.com/the-byte/italy-replika-ban
https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9852506
https://twitter.com/ghostysays/status/1612462849649168392
