Les fournisseurs de services qui manipulent des images et des vidéos seront tenus de vérifier l’identité des utilisateurs et de respecter la morale sociale
La Chine prévoit d’exiger des entreprises fournissant des services d’intelligence artificielle (IA) deepfake et similaires qu’ils vérifient l’identité de leurs utilisateurs et promeuvent les valeurs socialistes chinoises, selon un projet de règlement publié par le principal organisme de surveillance de la cybersécurité du pays, alors que Pékin continue de serrer la vis sur potentiellement technologies disruptives.
Le « Règlement sur la gestion de la synthèse profonde des services d’information sur Internet » dévoilé vendredi par l’Administration du cyberespace de Chine promettait de réglementer les technologies qui génèrent ou manipulent du texte, des images, de l’audio ou de la vidéo à l’aide de l’apprentissage en profondeur, comme l’échange de visages et l’amélioration des images. Les règles sont ouvertes à la consultation publique jusqu’au 28 février, la version finale pouvant être modifiée.
En vertu du projet de règlement, les fournisseurs de services deepfake doivent vérifier l’identité de leurs utilisateurs avant de leur accorder l’accès aux produits concernés. Les entreprises sont également tenues de « respecter la morale et l’éthique sociales » et de « suivre la bonne direction politique ».
Les règles sont les dernières d’une longue série de réglementations que Pékin a élaborées pour faire face aux dangers des technologies émergentes grand public. Plus tôt ce mois-ci, la Chine a publié un règlement pour contrôler les algorithmes conçus pour recommander des articles, des vidéos, des jeux et des marchandises aux utilisateurs d’applications.
En 2019, la Chine a publié des règles interdisant aux fournisseurs de vidéo et d’audio en ligne d’utiliser l’apprentissage en profondeur pour produire de fausses nouvelles.
En mars dernier, les régulateurs chinois ont convoqué 11 grandes entreprises technologiques, dont ByteDance, Alibaba Group Holding et Tencent Holdings, pour une réunion et leur ont demandé de mener des examens de sécurité sur l’utilisation des technologies deepfake sur leurs plateformes. Les entreprises étaient tenues de soumettre les résultats de leurs examens.
Ces mesures interviennent également dans le cadre des efforts législatifs accrus de Pékin pour protéger la vie privée des utilisateurs dans le cyberespace.
Selon le dernier projet de règlement, les fournisseurs de services doivent obtenir le consentement de l’utilisateur avant de fournir « des fonctions d’édition importantes pour les informations biométriques, telles que les visages et les voix humaines ». Tous les fichiers informatiques qui ont été modifiés par la technologie deepfake doivent être clairement étiquetés comme tels.
Les règles proposées obligent également les fournisseurs de services à créer un système de plainte des utilisateurs pour empêcher la diffusion de fausses informations. Les magasins d’applications seront tenus de suspendre ou de supprimer les fournisseurs de services deepfake sur ordre des autorités.
Les contrevenants peuvent être poursuivis en vertu des lois civiles et pénales, les primo-délinquants étant passibles d’une amende pouvant aller jusqu’à 100 000 yuans (16 000 dollars).
