Le système de modération de contenu alimenté par l’intelligence artificielle de BIGO offre une précision de 99 % pour identifier les contenus illégaux tels que la pornographie et la violence.
L’entreprise voit une occasion de répondre à la demande accrue de technologie qui aide à combattre les mensonges, la propagande et les théories du complot.
Les entreprises chinoises d’Internet et de médias sociaux ont dû développer des capacités complètes de révision du contenu pour bloquer les contenus jugés nuisibles ou inappropriés par les autorités chinoises. Photo : PGPC
Une entreprise singapourienne offre maintenant des services d’examen de contenu sur les marchés étrangers en réponse à la demande croissante des gouvernements du monde entier, et alors que Pékin poursuit ses efforts pour assainir son cyberespace national.
BIGO Technology, une société de médias sociaux basée à Singapour et détenue par le radiodiffuseur chinois YY Inc, aide le gouvernement indonésien à filtrer son contenu Internet, et est également en pourparlers avec les autorités au Vietnam, en Égypte, en Inde et au Moyen-Orient pour exporter sa technologie de révision de contenu, selon James Wang, Vice-Président de BIGO.
Les entreprises chinoises d’Internet et de médias sociaux ont dû développer des capacités complètes d’examen du contenu pour bloquer les contenus jugés nuisibles ou inappropriés par les autorités chinoises, ce qui les place à l’avant-garde des technologies qui sont de plus en plus demandées par les gouvernements du monde entier qui veulent nettoyer Internet des activités néfastes et illégales.
Le système de modération de contenu basé sur l’intelligence artificielle de BIGO, qui a été formé sur un énorme pool de contenu pour analyser les images, offre une précision de 99 % pour identifier les contenus illégaux tels que la pornographie, la violence et les informations liées au terrorisme, selon la société. Chez BIGO, cela est soutenu par une équipe de 2000 employés dans le monde entier qui révisent également manuellement le contenu pour s’assurer que rien n’est oublié.
« Maintenant que nous avons la technologie, nous allons la montrer », a déclaré James Wang lors d’une interview. « Je ne suis qu’un vendeur de couteaux de cuisine. C’est leur affaire, qu’ils l’utilisent pour couper des légumes ou de la viande. »
BIGO Technology, qui gère la plateforme de diffusion en direct Bigo Live, une application vidéo de courte durée et le service de messagerie et de réseau social Imo au niveau international, a été fondée à Singapour par l’entrepreneur chinois Xueling Li, qui est également le co-fondateur et directeur général de YY. YY, société basée à Pékin et cotée aux Etats-Unis, a acquis BIGO en mars de cette année.
L’entreprise n’hésite pas à promouvoir ses capacités malgré l’inquiétude croissante dans certains milieux au sujet de la montée des technologies qui permettent aux gouvernements de censurer et de surveiller les activités en ligne de leurs citoyens. Au lieu de cela, BIGO voit une opportunité de répondre à la demande croissante de technologie qui aide à combattre les mensonges en ligne, la propagande, les théories de conspiration et les discours de haine.
Même les géants des médias sociaux occidentaux, comme Google et Facebook, subissent de plus en plus de pressions de la part des gouvernements pour qu’ils intensifient leurs efforts de modération de contenu, après une série d’incidents controversés, dont le récent massacre de mosquées en Nouvelle-Zélande, qui a été diffusé en direct sur Facebook et affiché sur YouTube et Twitter.
Le 31 mars, le fondateur de Facebook, Mark Zuckerberg, a publié une lettre ouverte invitant les gouvernements et les organismes de réglementation à jouer » un rôle plus actif » dans le choix du contenu préjudiciable, afin d’assurer l’intégrité des élections, la protection des renseignements personnels et la transférabilité des données.
Dans le cadre d’un partenariat avec le ministère indonésien des technologies de la communication et de l’information (KOMINFO), BIGO utilise son système de filtrage depuis 2017 pour aider l’autorité à détecter, surveiller et bloquer les « contenus négatifs », notamment la pornographie, la fraude, les jeux de hasard et les informations liées au terrorisme.
Bigo Live a lui-même été interdit en Indonésie en 2016 pour un grand nombre de « contenus inappropriés » sur sa plateforme. Il est revenu en janvier 2017 après un nettoyage et la mise en place d’un mécanisme de surveillance, et 200 000 contenus négatifs ont été bloqués à partir de février 2019, selon une déclaration de KOMINFO en mars.
Les gouvernements occidentaux entrent dans des territoires inexplorés alors qu’ils s’attaquent au problème des contenus préjudiciables
Le gouvernement indonésien utilise la technologie de BIGO pour filtrer le contenu sur Internet – y compris sur les plateformes sociales telles que Facebook et Instagram, a déclaré James Wang, qui a ajouté que son principal objectif était de bloquer le contenu généralement considéré comme « inacceptable » comme la violence et la pornographie, plutôt que le matériel politique.
M. Wang a déclaré que l’entreprise est « un fournisseur de services neutre » offrant une technologie. Le client décide comment régler les filtres.
Quelques semaines après la fusillade en Nouvelle-Zélande, l’Australie a adopté une loi de grande envergure pour punir les entreprises de médias sociaux qui ne retirent pas en temps opportun les contenus violents de leurs plateformes. Le premier ministre néo-zélandais Jacinda Ardern s’est également joint au président français Emmanuel Macron pour lancer un plan qui réunit les gouvernements et les entreprises de technologie pour examiner comment le contenu en ligne est diffusé.
Entre-temps, le Royaume-Uni a publié en avril le Livre blanc sur les préjudices en ligne, qui propose une vaste réglementation des médias sociaux, y compris la création d’un nouvel organisme de réglementation doté de pouvoirs d’application pour imposer des amendes aux entreprises et aux dirigeants qui enfreignent le » code de pratique » en omettant de supprimer les contenus qui favorisent le terrorisme, les crimes haineux et l’automutilation.
La Chine met hors ligne pendant 24 heures l’application d’information populaire Toutiao sur le contenu pornographique
M. Wang affirme qu’il est crucial que BIGO, qui est le fer de lance des opérations internationales de YY, respecte les réglementations locales partout où elle opère. Le contenu généré par les utilisateurs est difficile à modérer et les risques juridiques doivent être gérés.
BIGO exécute des applications dans 150 pays avec plus de 300 millions d’utilisateurs actifs par mois. Son application de messagerie Imo a atteint 212 millions d’utilisateurs mensuels dans le monde, apportant plus d’utilisateurs et de revenus à ses services de vidéo courte et de streaming en direct. L’Amérique du Nord et l’Amérique du Sud sont actuellement ses marchés les plus dynamiques.
« Nous ne nous considérons pas comme un outsider sur les nouveaux marchés, » a déclaré James Wang. « Au lieu de cela, nous embrassons la communauté locale, la culture, les religions et les règlements. »
