Au XIXe siècle, on mesurait les crânes et les cerveaux pour justifier la hiérarchie entre les sexes, les races et classes sociales. Le XXe siècle découvre et admet comme critères modernes les tests cognitifs, l’imagerie cérébrale et les gènes. Que sera le XXIe siècle, depuis la découverte de la plasticité cérébrale et ses fascinantes possibilités de remodelage, chez l’enfant mais aussi chez l’adulte ? Que dire des promesses réelles ou fantasmées d’hybridation homme-machine ? Que penser des expériences d’implants cérébraux annoncées par les grands gourous des nouvelles technologies et de leurs promesses réelles ou fantasmées d’hybridation homme-machine ? Neurobiologiste, directrice de recherche honoraire à l’Institut Pasteur de Paris et membre du comité éthique de l’Inserm, Catherine Vidal nous livre ses réflexions sur les technologies prétendument bénéfiques pour « réparer » les humains et sur les manipulations qui menacent nos libertés d’agir et de penser.
Elon Musk, le milliardaire patron de Tesla, Spaxe X et créateur historique de Paypal aurait investi plusieurs dizaines de millions de dollars dans Neuralink. Cette société regrouperait certains des plus grands neuroscientifiques du monde dans un laboratoire de l’Université de Californie à Davis. Elon Musk a déclaré que le système Neuralink a pour vocationl’implantation d’une minuscule puce – appelée interface cerveau-machine – dans le cerveau de sujets volontaires et permettrait aux humains d’atteindre une « symbiose avec l’intelligence artificielle ».
De petites puces, mesurant environ 4 mm sur 4 mm, sont ainsi conçues pour stimuler les neurones en utilisant de minuscules fils flexibles d’électrodes. Chaque fil d’électrode est inséré à l’aide d’un robot de précision dans le cadre d’une intervention dont Musk prétend qu’elle est parfaitement sûre et indolore. Selon lui, le système pourrait être utilisé pour traiter des troubles cérébraux, comme la maladie d’Alzheimer ou la maladie de Parkinson, et pourrait ultimement » préserver et améliorer » les fonctions cérébrales. Il a affirmé que les puces Neuralink seraient mille fois plus efficaces que d’autres systèmes de stimulation d’électrodes.
On connait les talents d’Elon Musk dans l’art de la communication. Mais dans cette histoire, il nous dit que la fusion entre cerveaux humains et ordinateurs est un horizon qui se rapproche. Nombreux sont les chercheurs à s’être penchés sur les récents et fascinants phénomènes de la plasticité cérébrale. Les travaux ont mûri, nourrissant de nombreux espoirs thérapeutiques. Aujourd’hui, à l’heure où fleurissent les images de cerveau « super ordinateur » et les promesses d’hybridation, les espoirs suscités par cette formidable faculté du cerveau à se réinventer sans cesse se sont transformés en fantasmes. Depuis une vingtaine d’années, les neuroscientifiques ont réalisé leur rêve : voir le cerveau vivant à travers la boîte crânienne ! Mais aujourd’hui, ils vont encore plus loin en appliquant la puissance de contrôle des technologies numériques dans notre cerveau lui-même.
Qu’est-ce qui est, aujourd’hui, réellement faisable ? Et demain ? Il ne s’agit pas seulement de faire le point, mais aussi de réfléchir à ce qui est souhaitable, afin que l’humain pensant d’aujourd’hui continue à cogiter par lui-même demain…
Entretien avec Catherine Vidal
UP’ : Votre livre Nos cerveaux resteront-ils humains ? débute avec la découverte de la plasticité cérébrale. Cette caractéristique permet des performances incroyables. Pouvez-vous nous en dire plus ?
Catherine Vidal : Un apport majeur de l’IRM est d’avoir révélé les extraordinaires propriétés de « plasticité » du cerveau humain. Au cours des apprentissages et des expériences vécues, on peut voir se modifier la structure et le fonctionnement du cerveau. Rien n’est jamais figé dans nos cerveaux, quels que soient les âges de la vie. Les connexions se réorganisent en permanence dans le temps et dans l’espace, selon l’histoire propre à chacun de nous.
La découverte de la plasticité cérébrale a ouvert la voie à la possibilité d’agir directement sur le cerveau pour le réparer, en utilisant des outils technologiques pour créer de nouveaux circuits de neurones qui vont prendre le relais des circuits défaillants. Ces « neurotechnnologies » s’avèrent efficaces dans un nombre croissant de pathologies du cerveau.
UP’ : On est capable de stimuler certaines zones du cerveau avec tout un arsenal d’implants, de stimulations cérébrales et interfaces cerveau-machines. Ces prouesses des neurobiologies laissent accroire qu’on pourrait « téléguider » le cerveau ou l’améliorer sur certaines de ses fonctions, comme par exemple la mémoire, et c’est dans ce courant de recherche que s’engouffre le transhumanisme qui consiste à émanciper l’homme de sa condition naturelle, soit pour l’améliorer, soit pour combiner le cerveau avec des machines qui lui apporteront leur puissance de calcul. La question semble être pour vous un mythe dangereux. Pourquoi ?
CV : Dans les situations pathologiques, les neurotechnnologies sont efficaces pour pallier les déficits des fonctions élémentaires du système nerveux telles que les fonctions sensorielles (implants sur le nerf auditif) et motrices (réduction des tremblements dans la maladie de Parkinson, contrôle d’un exosquelette). Mais quand il s’agit de pallier des troubles du fonctionnement mental, comme dans la maladie d’Alzheimer ou la dépression majeure, on est dans un domaine infiniment plus complexe dans lequel on est très peu avancé. D’autant plus que chaque individu a un cerveau et une personnalité qui lui sont spécifiques. Quant à l’amélioration des fonctions intellectuelles chez les personnes saines, les résultats des recherches publiés dans les revues scientifiques sont peu probants et restent préliminaires.
Il est important de réaliser que dès qu’on intervient sur le cerveau humain, avec des électrodes et des microprocesseurs, il y a un risque d’interférer avec le fonctionnement normal du cerveau, avec ses capacités de plasticité, d’élaborer des idées, de ressentir des émotions. Un autre risque est de provoquer des courants épileptiques qui peuvent tuer les neurones. On est loin de disposer du recul nécessaire pour évaluer le rapport bénéfice/risque des neurotechnologies. Passer de la réparation à l’augmentation du cerveau est un leurre savamment entretenu par les transhumanistes.
UP’ : En ce qui concerne le rapport entre l’intelligence humaine et l’IA, vous expliquez pourquoi les deux organes – cerveau humain et cerveau machine – sont radicalement différents : un cerveau, ne ressemble pas à un ordinateur. Cette course à l’IA comme copie du cerveau humain n’est-elle pas un combat perdu d’avance ?
CV : L’idée de séparer la pensée du corps et de la loger dans une machine relève de la science-fiction ou bien d’une mystique religieuse, mais pas d’une démarche scientifique. L’intelligence humaine est indissociable du cerveau et du corps. Les cent milliards de neurones de notre cerveau sont connectés entre eux par un million de milliards de synapses. La combinaison de l’influx nerveux et des molécules des neurotransmetteurs, qui est propre à la matière vivante, permet de nuancer sans limites le contenu des messages échangés entre les neurones. Rien à voir avec le fonctionnement des puces de silicium dont le code binaire obéit aux règles de calcul des algorithmes programmés dans la machine. Laisser croire à une fusion entre intelligence humaine et intelligence artificielle, entre la matière vivante et la matière inerte, est totalement indéfendable face à la réalité du fonctionnement du cerveau humain.
UP’ : Vous craignez que dans ce mouvement d’augmenter l’humain, on oublie tout simplement l’humain. Vous évoquez très rapidement les risques d’inégalité que représenterait une société où seuls, ceux qui ont les moyens peuvent augmenter leur « humanité ». Est-ce le seul danger à venir dans ces initiatives ?
CV : Face aux prophéties transhumanistes, le grand public a bien du mal à se repérer. La fusion entre la pensée et l’ordinateur est-elle un pur fantasme ou s’agit-il d’un futur probable où les robots humanoïdes mèneront le monde ? Les récits de science-fiction ont bercé notre enfance et beaucoup continuent d’être fascinés par ces perspectives : certes, on a marché sur la Lune, on a créé des stations orbitales, alors pourquoi être réticent à l’idée qu’un jour on pourrait devenir mi-homme mi-machine ? La banalisation de ces discours est alarmante car elle laisse croire que le progrès réside dans la transformation de l’humanité par l’intelligence artificielle et les neurotechnologies. Les GAFAM en sont les premiers promoteurs pour occuper le marché des technologies futuristes et attirer des financements. Il est dès lors essentiel d’informer un large public de non spécialistes sur des innovations technologiques réellement bénéfiques pour « réparer » les humains, et celles qui visent à transformer les individus et menacent leur liberté d’agir et de penser.
UP’ : Vous déclarez que « dans le domaine médical, le recours à l’IA est en pleine expansion ». D’abord, pourquoi ? Est-ce une aide à la décision médicale, ou au contraire, un danger ? Où se place le médecin ? Comment imaginez-vous son avenir ?
CV : La constitution de bases de données de plus en plus massives permet de croiser les données d’un patient avec celles de milliers d’autres, avec pour objectif d’établir des diagnostics et de proposer des solutions thérapeutiques. Des logiciels d’aide à la prescription sont déjà disponibles dans de nombreux domaines tels que l’imagerie médicale, la génétique, l’anatomo-pathologie. On nous prédit que l’intelligence artificielle sera supérieure à celle de l’humain pour le dépistage de tumeurs.
La question se pose de la place laissée au médecin face à « l’avis » de la machine. En cas de désaccord, quelle marge d’autonomie sera celle du médecin pour contester le diagnostic posé par l’IA ? Où situer la responsabilité si une erreur médicale est avérée ? Le danger est bien de déléguer un pouvoir de décision à une machine dans des métiers (médecine, justice) où la dimension humaine de la prise de décision est fondamentale, car c’est le devenir d’un autre être humain qui est en jeu.
L’enthousiasme suscité par les perspectives de victoires sur les handicaps et le vieillissement du cerveau ne doit pas occulter la vigilance face à ceux qui seraient tentés de transformer notre esprit et notre rapport au monde. Une réflexion éthique s’impose afin que les avancées technologiques en neurosciences et en intelligence artificielle s’orientent dans le respect des droits humains et des libertés fondamentales.
(1) Source : Quand l’idéologie envahit la science du cerveau, Catherine Vidal, « La Recherche », Novembre 2001
Neurobiologiste, très impliquée dans la vulgarisation du savoir scientifique, Catherine Vidal est directrice de recherche honoraire à l’Institut Pasteur de Paris et membre du comité d’Ethique de l’Inserm. Ses recherches portent sur les mécanismes fondamentaux du fonctionnement du cerveau en lien avec les maladies neuro-dégénératives. Elle travaille au sein du comité d’Ethique de l’Inserm et co-dirige le groupe « Genre et Recherches en Santé ».
Son intérêt porte sur les enjeux éthiques des neurosciences, le déterminisme en biologie, le cerveau et le sexe.
Première publication : 24 juillet 2019
