Cela ressemble à de la science-fiction, voire à de la magie : la capacité de communiquer, de contrôler un ordinateur ou de déplacer un membre robotique via le pouvoir de la pensée.
Cependant, c’est non seulement possible, mais cela transforme déjà la vie des patients gravement handicapés.
En 2024un auditoire lors d’une conférence de l’ONU à Genève, j’ai été stupéfait de constater qu’un jeune homme portugais atteint du « syndrome de verrouillage » – un trouble neurologique qui le rendait incapable de bouger une quelconque partie de son corps – était capable de « parler » avec eux, en utilisant une interface cerveau-ordinateur (BCI) qui traduisait ses pensées en mots, exprimées avec sa voix, et répondait à leurs questions.
Il s’agit d’un exemple frappant du domaine en pleine croissance de la neurotechnologie, qui représente un grand espoir pour les personnes vivant avec un handicap et des troubles mentaux tels que la maladie de Parkinson, l’épilepsie et la dépression résistante aux traitements.
Intimité mentale : une bataille perdue ?
Mais si l’utilisation des neurotechnologies dans le secteur médical est strictement réglementée, son utilisation dans d’autres domaines suscite des inquiétudes.
Les produits tels que les bandeaux, les montres et les écouteurs qui surveillent la fréquence cardiaque, les habitudes de sommeil et d’autres indicateurs de santé sont de plus en plus populaires. Les données qu’ils collectent peuvent fournir des informations approfondies sur nos pensées, réactions et émotions privées, améliorant ainsi la qualité de vie.
Cela pose des problèmes d’éthique et de droits de l’homme, car les fabricants sont actuellement libres de le vendre ou de le transmettre sans restriction. Les individus risquent de voir leur intimité mentale la plus intime envahie, leurs pensées exposées, monétisées et même contrôlées.
«Il s’agit de liberté de pensée, d’action et de confidentialité mentale», déclare Dafna Feinholz, responsable par intérim de la recherche, de l’éthique et de l’inclusion à UNESCO.
Elle craint que la bataille pour la vie privée mentale ne soit perdue à l’ère des médias sociaux, où les utilisateurs téléchargent volontiers leur vie privée sur des plateformes appartenant à une poignée d’entreprises technologiques géantes.
« Les gens disent : « Je n’ai rien à cacher », mais ils ne comprennent pas ce qu’ils révèlent », ajoute-t-elle.
Les technologies d’assistance peuvent permettre à une personne d’écrire ou de déplacer des objets dans l’espace en utilisant ses ondes cérébrales.
« Nous sommes déjà profilés par l’IA, mais il existe désormais cette possibilité d’entrer dans les pensées, de mesurer directement l’activité du cerveau et d’en déduire des états mentaux. Ces technologies pourraient même modifier la structure de votre système nerveux, permettant ainsi d’être manipulé. Les gens doivent savoir que ces outils sont sûrs et que, s’ils le souhaitent, ils peuvent cesser de les utiliser. »
Les gens doivent savoir que ces outils sont sûrs et que s’ils le souhaitent, ils peuvent cesser de les utiliser.
Le responsable de l’ONU insiste sur le fait que même si nous devons accepter le fait que nous devons vivre avec la technologie, nous pouvons garantir que les humains restent aux commandes.
« Plus nous nous soumettons à la puissance et à la supériorité de ces outils, plus nous allons être pris en main. Nous devons contrôler ce qu’ils font et ce que nous voulons qu’ils réalisent, car c’est nous qui les produisons. C’est notre responsabilité pour toute la technologie que nous créons. »
Il est temps d’adopter une approche éthique
Mme Feinholz s’est entretenue avec Actualités de l’ONU depuis l’ancienne ville ouzbèke de Samarkand où, mercredi, les délégués des États membres de l’UNESCO – l’agence des Nations Unies pour l’éducation, la science et la culture – ont officiellement adopté un «Recommandation» (orientations non contraignantes sur les principes et les meilleures pratiques pouvant constituer la base des politiques nationales) sur l’éthique de la neurotechnologie, en mettant l’accent sur la protection de la dignité humaine, des droits et des libertés.
Les lignes directrices prônent la promotion du bien-être et la prévention des préjudices associés à la technologie, la liberté de pensée (garantissant que les individus conservent le contrôle de leur esprit et de leur corps) et le respect des normes éthiques par les développeurs, les chercheurs et les utilisateurs et la responsabilité de leurs actes.
Il est conseillé aux États membres de mettre en place plusieurs mesures, notamment la mise en œuvre de cadres juridiques et éthiques pour surveiller l’utilisation des neurotechnologies, protéger les données personnelles et évaluer l’impact sur les droits de l’homme et la vie privée.
« Les humains doivent être au courant », déclare Mme Feinholz. « Il faut de la transparence, des réparations et des compensations, comme c’est le cas dans d’autres secteurs. Prenons l’exemple des restaurants. Si vous mangez au restaurant, vous n’avez pas besoin de savoir cuisiner. Mais si vous commandez des spaghettis à la carbonara et que cela vous rend malade, vous pouvez vous plaindre au propriétaire. Il y a une responsabilité. La même chose devrait s’appliquer à la neurotechnologie : même si vous ne comprenez pas comment cela fonctionne, il doit y avoir une chaîne de responsabilité. «
