« En somme: Alexa est un peu mon nouveau meilleur ami», écrit Rebecca, une auteure et blogueuse sur Mommyproof. En tant que mère de jeunes enfants, il est facile de voir pourquoi: Rebecca détaille les joies de l’assistant virtuel Echo d’Amazon, qui fonctionne comme une sorte d’aide de cuisine combiné avec un amuseur d’enfants et un DJ. «Est-ce bizarre qu’Alexa agisse comme mon fidèle petit ami pendant ces 60 mn entre 18 et 19h, m’aidant doucement vers l’heure du dîner? »
Rebecca n’est pas la seule: D’autres parents blogueurs ont vanté les usages amicaux de l’appareil en ce qui concerne la garde des enfants et les tâches ménagères. Beaucoup de ces messages « de blogs de mamans » sont parrainés par Amazon à l’occasion d’une campagne publicitaire explicitement orientée vers les familles avec de jeunes enfants. Dans un spot télévisé récent pour le dispositif, un jeune père achète avec enthousiasme un Echo et montre comment Alexa devient lentement une partie intégrante de la maison.
Mais quelles sont les réalités qui consistent à placer un appareil « toujours allumé » qui enregistre la voix des enfants dans l’intimité de son foyer ? Une nouvelle enquête explore les violations potentielles des lois sur la protection de l’enfance par des dispositifs tels qu’Echo d’Amazon. Selon The Guardian, les entreprises avec des assistants virtuels, comme Amazon, pourraient être condamnés à une amende de plusieurs millions de dollars pour la collecte des données relatives aux enfants sans le consentement explicite des parents. Plus précisément, ces appareils d’intelligence artificielle stockent les fichiers audio des commandes vocales des enfants, mais ne fournissent aucune information sur la durée de stockage de ces fichiers ou comment ils sont utilisés.
« Il suffit de dire aux parents qu’assumer la responsabilité effective de l’enfant ne suffit pas», a déclaré Jeffrey Chester, un avocat qui a aidé à élaborer la COPPA (Children’s Online Privacy Protection Act : Loi sur la protection de la vie privée en ligne des enfants), qui vise à protéger la vie privée numérique des enfants de moins de 13 ans. «Avec COPPA, ils ont besoin de savoir ce qui est collecté, comment cela sera utilisé, ils doivent de donner un consentement éclairé réel pour commencer. »
L’Echo d’Amazone n’est pas le seul dispositif qui préoccupe Jeffrey Chester. Google a annoncé qu’il travaille sur un assistant virtuel similaire. Et puis il y a Siri, l’application vocale d’Apple accessible via iPhone et iPad, ainsi que des rumeurs sur le fait qu’Apple développe son propre rival d’Echo.
Jeffrey Chester a également déclaré être préoccupé par les tactiques de marketing qui visent à plaire aux enfants. Il cite une annonce pour Siri d’Apple qui montre Cookie Monster (1) utilisé l’assistant virtuel pour l’aider à faire cuire des biscuits, ainsi que l’annonce d’Amazon qui offre les jeunes enfants demandant à Echo de nouvelles blagues toc-toc ou un peu idiotes. Les annonces comme celles-ci démontrent une volonté explicite de convertir les jeunes enfants à des clients, ce qui est un cas encore plus fort sur le fait que ces entreprises violent la COPPA.
1) Macaron le glouton (en anglais Cookie Monster) est une marionnette dans l’émission pour enfants 1, rue Sésame
«L’objectif est d’utiliser ces dispositifs pour alimenter la masse sans cesse croissante d’informations qui sont recueillies sur nous», a déclaré Jeffrey Chester, qui cite le potentiel de créer des profils de consommateurs très informés pour les individus avant qu’ils atteignent même l’âge adulte. « Ces appareils ne sont pas considérés protégeant la vie privée, ils sont considérés comme de nouvelles façons de porter atteinte à notre vie privée. »
Il ajoute que les paramètres de confidentialité « opt-in » qui ne font pas un bon travail pour expliquer les violations de la vie privée potentiels alimentent le problème. Amazon (dont le patron, Jeffrey P. Bezos, est propriétaire du The Washington Post) a déclaré au Washington Post qu’il est conforme aux COPPA et à d’autres lois applicables.
La collecte de données sur les enfants a été un sujet brûlant. Des rapports récents démontrent que les entreprises de technologie de l’éducation, tels que celles qui sont derrière les efforts visant à informatiser les tests de tronc commun, sont tranquillement en train de collecter et de vendre des données sur les élèves. Ces données sont utilisées à des fins de marketing, pour aider à cibler les dollars publicitaires vers la prochaine génération de consommateurs.
Dans le rapport «Learning to be Watched : Surveillance Culture at School » publié par le National Center for Education Policy, Facebook et Google sont identifiés comme deux des plus grands coupables. Le rapport appelle à une plus grande compréhension des processus de collecte de données et l’exigence du consentement parental.
Mais que dire des données sur les enfants que leurs propres parents sont volontairement en train de brancher dans le monde numérique? Après tout, les messages de parents moyens postent environ 1000 photos d’un enfant avant qu’il atteigne l’âge de 5 ans. L’éthique de l’affichage des images, des vidéos et des anecdotes sur les enfants entrent dans un nouveau territoire mal à l’aise dans le monde d’aujourd’hui.
C’est un problème qui pourrait faire que les parents risquent une sévère punition en France, qui a des lois sur la vie privée. Les avocats en France ont mis en garde des parents qu’ils pourraient faire face à des amendes allant jusqu’à 50 000 € ou même jusqu’à un an d’emprisonnement pour avoir publié des photos de leurs enfants sans leur consentement explicite.
Pour Kathryn Montgomery, professeur de communication et un co-auteur de la COPPA, les impacts psychologiques potentiels de collecte de données sur les enfants sont inquiétants.
«Les parents dans leur effort pour partager la joie d’élever les enfants … peuvent poster des choses à propos de leurs enfants et les exposer avant qu’ils ne soient même assez vieux pour savoir ce qui se passe. Ils deviennent une autre forme de télé-réalité numérique», dit-elle. «Je pense que cela pourrait être vraiment menaçant et dangereux et vraiment affecter le fait sens d’envahir l’espace privé dont les jeunes ont vraiment besoin pour développer leur identité. »
Mais comme Kathryn Montgomery et Jeffrey stress Chester le soulignent fortement, ce sont les entreprises qui ont besoin de prendre la responsabilité d’informer les parents sur ce qui se passe au sujet des données de leurs enfants.
« Ce média numérique qui est entraîné par certains modèles d’entreprise, qui récompense et incitent certains comportements … favorisent de nouvelles normes sociales. Vous pourriez ne pas penser que ce soit le genre de société que nous voulons avoir ici », conclut Kathryn Montgomery .
A noter qu’en septembre dernier, 29 autorités dans le monde ont mené un audit pour vérifier le respect des règles de protection de la vie privée par les sites internet consultés par les enfants. Cette opération montre que leurs données personnelles sont insuffisamment protégées.
https://www.theguardian.com/technology/2016/may/26/amazon-echo-virtual-assistant-child-privacy-law
https://www.theguardian.com/technology/2016/may/18/google-home-assistant-amazon-echo-apple-siri
https://www.cnil.fr/fr/vie-privee-des-enfants-une-protection-insuffisante-sur-les-sites-internet-0