Des études montrent que la nouvelle technologie d’Elon Musk peut déformer votre esprit de manière étrange et troublante.
Elon Musk veut mettre une puce électronique dans votre cerveau. Enfin, peut-être pas dans votre cerveau, mais dans le cerveau d’un humain quelque part. La startup neurotech d’Elon Musk, Neuralink, travaille à l’implantation de sa puce cérébrale intégrée au crâne dans un humain depuis sa création en 2016. Après des années de tests sur des sujets animaux, Elon Musk a annoncé en décembre que l’entreprise prévoyait de lancer des essais sur des humains dans les six mois (bien que ce ne soit pas la première fois qu’il dise que ces essais sont à l’horizon).
Neuralink a passé plus d’une demi-décennie à chercher comment traduire les signaux cérébraux en sorties numériques – imaginez pouvoir déplacer un curseur, envoyer un message texte ou taper dans un traitement de texte par une simple pensée. Si, dans un premier temps, l’entreprise se concentre sur des cas d’utilisation médicale, par exemple pour aider les personnes paralysées à communiquer, M. Musk aspire à généraliser les puces Neuralink et à mettre, comme il l’a dit, un « Fitbit dans votre crâne ».
L’entreprise d’Elon Musk est loin d’être le seul groupe à travailler sur les interfaces cerveau-ordinateur, ou sur des systèmes facilitant la communication directe entre le cerveau humain et des ordinateurs externes. D’autres chercheurs se sont intéressés à l’utilisation des interfaces cerveau-ordinateur (BCI : Brain Computer Interface) pour restaurer des sens perdus et contrôler des prothèses, entre autres applications. Bien que ces technologies n’en soient qu’à leurs débuts, elles existent depuis suffisamment longtemps pour que les chercheurs aient une idée de plus en plus précise de la manière dont les implants neuronaux interagissent avec notre esprit.
Comme le dit Anna Wexler, professeur adjoint de philosophie au département d’éthique médicale et de politique de santé de l’université de Pennsylvanie : « Bien sûr que cela provoque des changements. La question est de savoir quels types de changements elle provoque, et dans quelle mesure ces changements sont importants. »
Intervenir dans le fonctionnement délicat d’un cerveau humain est une affaire délicate, et les effets ne sont pas toujours souhaitables ou voulus. Les personnes qui utilisent des BCI peuvent ressentir un profond sentiment de dépendance à l’égard de ces appareils, ou avoir l’impression que leur identité a été altérée. Avant d’en arriver au point où les gens font la queue pour se faire implanter un smartphone dans le cerveau, il est important de s’attaquer à leurs dangers et à leurs pièges éthiques uniques.
De la science-fiction à une industrie d’un milliard de dollars
Dans le film « The Terminal Man » (1974), un homme se fait implanter un cerveau invasif pour soulager ses crises. Si l’opération semble initialement être un succès, les choses tournent mal lorsqu’une exposition prolongée à la puce le plonge dans une folie psychotique. Comme c’est généralement le cas dans les films de science-fiction, un scientifique prévient du désastre dès le début de l’histoire en comparant les implants aux lobotomies des années 1940 et 1950. « Ils ont créé un nombre inconnu de légumes humains », dit-il. « Ces opérations ont été réalisées par des médecins trop pressés d’agir ».
Alors que les humains doivent encore produire des voitures volantes, des missions humaines vers Mars ou concevoir des réplicants convaincants, les BCI pourraient être la technologie la plus significative pour non seulement rattraper, mais dans certains cas dépasser leurs premières représentations de science-fiction.
Plus de 200 000 personnes dans le monde utilisent déjà une sorte de BCI, principalement pour des raisons médicales. Le cas d’utilisation le plus connu est sans doute celui des implants cochléaires, qui permettent aux personnes sourdes d’entendre, en un sens. Un autre cas d’utilisation privilégié est la prévention des crises d’épilepsie : Les dispositifs existants peuvent surveiller l’activité des signaux cérébraux pour prédire les crises et avertir la personne afin qu’elle puisse éviter certaines activités ou prendre des médicaments préventifs.
Certains chercheurs ont proposé des systèmes qui permettraient non seulement de détecter mais aussi de prévenir les crises par une stimulation électrique, ce qui correspond presque exactement au mécanisme décrit dans « The Terminal Man ». Des implants destinés aux personnes atteintes de la maladie de Parkinson, de dépression, de TOC et d’épilepsie font l’objet d’essais sur l’homme depuis des années.
Les récentes améliorations de l’intelligence artificielle et des matériaux de sondage des neurones ont rendu ces dispositifs moins invasifs et plus évolutifs, ce qui a naturellement attiré une vague de financements privés et militaires. Paradromics, Blackrock Neurotech et Synchron ne sont que quelques-uns des concurrents financés par le capital-risque qui travaillent sur des dispositifs destinés aux personnes paralysées. En novembre dernier, une startup appelée Science a dévoilé un concept d’interface bioélectrique pour aider à traiter la cécité. Et en septembre dernier, Magnus Medical a obtenu l’approbation de la Food and Drug Administration pour une thérapie de stimulation cérébrale ciblée pour les troubles dépressifs majeurs.
Neuralink, quant à elle, a été marquée par des promesses exagérées – elle n’a pas respecté les délais, par exemple, et aurait déclenché une enquête fédérale sur des allégations de violations du bien-être des animaux. La société d’intelligence économique Grand View Research a évalué le marché mondial des implants cérébraux à 4,9 milliards de dollars en 2021, et d’autres sociétés ont prévu que ce chiffre pourrait doubler d’ici 2030.
Pour l’instant, les BCI sont limités au domaine médical, mais un vaste éventail d’utilisations non médicales a été proposé pour cette technologie. Des recherches publiées en 2018 décrivent des participants utilisant des BCI pour s’interfacer avec de nombreuses applications sur une tablette Android, notamment pour taper, envoyer des messages et effectuer des recherches sur le web en imaginant simplement les mouvements pertinents.
Des applications plus spéculatives incluent le jeu vidéo, la manipulation de la réalité virtuelle, ou même la réception d’entrées de données comme des messages texte ou des vidéos directement, en contournant le besoin d’un moniteur. Ces applications peuvent sembler relever de la science-fiction, mais la réalité est que nous avons atteint un point où les obstacles culturels et éthiques à ce type de technologie ont commencé à dépasser les obstacles techniques. Et malgré la nature fictive de « The Terminal Man », sa tournure désastreuse soulève des questions réelles sur les effets non intentionnels des BCI.
Un esprit changé
Il n’y a pas eu de cas confirmé de déchaînement de violence du type « Terminal Man » causé par les BCI, mais des preuves irréfutables suggèrent que ces dispositifs peuvent provoquer des changements cognitifs au-delà de leurs applications prévues.
Certains de ces changements ont été positifs ; après tout, les BCI sont censés changer certaines choses chez leurs utilisateurs. M. Wexler, professeur de philosophie à l’université de Pennsylvanie, a interrogé des personnes atteintes de la maladie de Parkinson qui subissaient une stimulation cérébrale profonde, un traitement chirurgical consistant à implanter de fins fils métalliques qui envoient des impulsions électriques au cerveau afin d’atténuer les symptômes moteurs, et il a constaté que nombre d’entre elles avaient perdu le sens de leur identité avant de subir le traitement. « Beaucoup avaient le sentiment que la maladie les avait privés, d’une certaine manière, de qui ils étaient », m’a-t-elle dit. « Cela a vraiment un impact sur votre identité, votre sentiment d’identité, si vous ne pouvez pas faire les choses que vous vous imaginez pouvoir faire. » Dans ces cas, les BCI ont aidé les personnes à se sentir de retour à elles-mêmes en contribuant à traiter la maladie sous-jacente.
Stimulation cérébrale profonde chirurgie du cerveau. Une femme subit une opération de stimulation cérébrale profonde – un type d’interface cerveau-ordinateur qui peut aider les personnes atteintes de la maladie de Parkinson.
Eran Klein et Sara Goering, chercheurs à l’université de Washington, ont de même remarqué des changements positifs dans la personnalité et la perception de soi chez les personnes utilisant des ICB. Dans un article de 2016 sur les attitudes et les considérations éthiques entourant les DBS, ils ont rapporté que les participants à l’étude avaient souvent le sentiment que le traitement les aidait à retrouver un soi « authentique » qui avait été usé par la dépression ou les troubles obsessionnels compulsifs. « J’ai commencé à me demander ce qui est moi, et ce qui est la dépression, et ce qui est le stimulateur », a déclaré un patient. Lors d’une conférence donnée fin 2022 sur des recherches similaires, la neuropsychologue Cynthia Kubu a décrit un sentiment accru de contrôle et d’autonomie chez les patients qu’elle avait interrogés.
Mais les changements constatés par les chercheurs ne sont pas tous bénéfiques. Lors d’entretiens avec des personnes ayant subi un BCI, Frederic Gilbert, professeur de philosophie à l’université de Tasmanie, spécialisé dans la neuroéthique appliquée, a remarqué des effets étranges. « Les notions de personnalité, d’identité, d’agence, d’authenticité, d’autonomie et de soi – ce sont des dimensions très compactes, obscures et opaques », précise Frederic Gilbert. « Personne n’est vraiment d’accord sur ce qu’elles signifient, mais nous avons des cas où il est clair que les ICB ont induit des changements dans la personnalité ou l’expression de la sexualité. »
À travers de nombreuses études d’entretiens, Frederic Gilbert a remarqué que les patients rapportent des sentiments qui sont de ne pas se reconnaître, ou ce qui est typiquement appelé « estrangement » dans la recherche. « Ils savent qu’ils sont eux-mêmes, mais ce n’est pas comme avant l’implantation », a-t-il déclaré. Certains ont exprimé le sentiment d’avoir de nouvelles capacités sans rapport avec leurs implants, comme cette femme d’une cinquantaine d’années qui s’est blessée en essayant de soulever une table de billard qu’elle pensait pouvoir déplacer toute seule. Si certains éloignements peuvent être bénéfiques – s’ils débouchent sur une bonne estime de soi, par exemple – les cas négatifs, connus sous le nom d’éloignement détérioratif, peuvent être très contrariants. « Cela a conduit à des cas extrêmes où il y a eu des tentatives de suicide », a déclaré Gilbert.
Pour les personnes qui utilisent des ICB pour pallier une limitation médicale importante, il est logique que le traitement ait un effet psychologique positif. Mais lorsqu’il s’agit d’envisager des puces cérébrales pour un usage populaire, on s’inquiète beaucoup plus des inconvénients.
Un smartphone dans votre cerveau
À mesure que la technologie s’améliore, nous nous rapprochons de la vision du « Fitbit dans votre crâne » de Musk. Mais il y a lieu d’être prudent. Après tout, s’il est facile de devenir dépendant de son téléphone, imaginez à quel point il pourrait l’être davantage s’il était directement relié à votre cerveau.
Gilbert m’a parlé d’un patient qu’il avait interrogé et qui avait développé une sorte de paralysie de la décision, ayant finalement l’impression qu’il ne pouvait pas sortir ou décider quoi manger sans consulter d’abord l’appareil qui montrait ce qui se passait dans son cerveau. « Il n’y a rien de mal à avoir un appareil qui complète une décision », a dit M. Gilbert, « mais à la fin, l’appareil supplantait en quelque sorte la personne dans la décision, la mettant hors circuit. »
Parfois, un patient peut en venir à dépendre tellement de son appareil qu’il a l’impression de ne pas pouvoir fonctionner sans lui. M. Gilbert a rencontré de nombreux participants à des études qui ont sombré dans la dépression après avoir perdu le soutien de leur appareil et l’avoir retiré, souvent simplement parce qu’un essai donné avait expiré ou n’était plus financé. « On s’y fait progressivement et on s’y habitue », a déclaré dans une interview un participant anonyme qui avait reçu un appareil pour détecter les signes d’activité épileptique. « C’est devenu moi ».
Ce type de dépendance est encore compliqué par le fait que les BCI sont difficiles à soutenir financièrement et à entretenir, nécessitant souvent une chirurgie cérébrale invasive pour les retirer et les réimplanter. Comme les BCI sont encore largement en phase d’essai, il n’existe pas de normes universelles ni de soutien financier stable, et de nombreux dispositifs risquent de perdre brusquement leur financement. Les premiers utilisateurs pourraient voir leur sentiment d’autonomie perturbé par des problèmes de chaîne d’approvisionnement, des mises à jour de matériel ou la faillite d’une entreprise.
Le fait qu’un ordinateur ait accès à vos ondes cérébrales soulève également des problèmes de confidentialité. « Si vous obtenez un appareil pour vous aider à déplacer votre prothèse de bras, par exemple, cet appareil captera d’autres sources de bruit que vous ne souhaitez peut-être pas voir sortir de votre cerveau », a expliqué M. Gilbert. « Il y a beaucoup de bruit de fond, et ce bruit de fond peut être déchiffré. Ce bruit est nécessairement converti, assis quelque part sur le nuage. » Quelqu’un pourrait apprendre beaucoup de choses en étudiant vos ondes cérébrales, et si un pirate réussissait à accéder à vos données, il pourrait lire dans votre esprit, en un sens, en recherchant des expressions spécifiques de l’activité des signaux cérébraux.
Étant donné que les BCI sont encore principalement limités au domaine médical, la plupart des premiers utilisateurs sont heureux de faire ce genre de compromis. « Si une personne souffre d’un handicap qui l’empêche de communiquer, elle est généralement très heureuse qu’une technologie lui permette de le faire », explique M. Wexler. Mais, si l’on met de côté l’idée que les BCI non médicaux introduiraient probablement une foule de nouveaux problèmes, il est moins évident que les compromis en valent la peine pour avoir un Fitbit dans la tête.
Bien que nous soyons encore loin de l’avenir cyborgique des esprits interconnectés électroniquement prophétisé par des gens comme Elon Musk, la croissance accélérée de l’industrie rend plus urgentes les considérations éthiques autrefois cantonnées à la science-fiction. Si une puce cérébrale peut modifier des éléments clés de votre personnalité, les entreprises ne devraient pas se précipiter pour en installer dans la tête des gens. Mme Wexler m’a dit que si la plupart des acteurs du secteur ne sont pas aussi ouverts à l’utilisation des ICB en tant que produit de consommation, ils pensent néanmoins que cela est susceptible de se produire. Si c’est le cas, dit-elle, « tout le compromis risque-bénéfice change ».
