Frankenstein et le transhumanisme

Le transhumanisme veut nous séduire. Le mythe de Frankenstein nous prévient qu’il risque bien de nous détruire.

Intelligence ou superintelligence ?

Nous commençons à nous habituer au vocable « transhumanisme » qui peine encore à s’imposer dans les logiciels correcteurs d’orthographe. Derrière ce terme, plusieurs courants porteurs de nuances propres de part et d’autre de l’Atlantique. Cependant, de la Singularity University californienne au Future of Humanity Institute de Grande-Bretagne, chacun s’accorde, semble-t-il, sur un point : le modèle de l’homme est la machine. Plus précisément : le modèle du cerveau, c’est l’ordinateur.

Ainsi, Ray Kurzweill vante dans The Singularity Is Near l’expansion des performances du cerveau grâce aux capacités infiniment plus grandes des systèmes de calcul non-biologiques. Quant à Nick Bostrom, il souligne dans Superintelligence, la supériorité du potentiel de l’« intelligence mécanique » par rapport à l’« intelligence organique ».

Pour Kurzweill, l’attractivité de ce modèle est tel qu’il concentre ses recherches et ses investissements sur la possibilité de télécharger les données du cerveau sur un disque dur. Bostrom doute que la complexité du contenu de l’esprit humain puisse permettre que celui-ci soit modélisable et téléchargeable. Reste une fascination partagée pour l’« intelligence artificielle », au sens d’une machine qui « posséderait » une intelligence. Il s’agirait, grâce à des combinaisons algorithmiques, d’augmenter les performances de certains robots informatisés jusqu’à leur permettre d’autoréguler leurs réactions aux stimulations de l’environnement. Autrement dit, souligne Jean-Gabriel Ganascia, il s’agirait de construire un double de l’homme avec une conscience de lui-même et un champ d’action autonome.

Les chercheurs en IA disent leur inquiétude éthique vis-à-vis des conséquences négatives possibles du développement de l’IA. Viktoriya Kralovna, du Future of Life Institute, en a proposé une liste. En bref, n’allons-nous pas vers des formes d’intelligence dont les actions deviendraient incontrôlables par l’homme, voire se retourneraient contre l’homme ?

Bostrom lui-même se dit conscient de ces dangers, mais estimant l’avènement de nouvelles formes d’IA inévitable, il préfère une régulation interne de ces nouveaux systèmes technologiques. La puissance de contrôle et d’action de certains outils technologiques rendent de fait plus que jamais nécessaire la réflexion éthique. L’enjeu est que ces outils restent au service du développement et de la solidarité humaine sans devenir le modèle oppressant de l’activité et des relations humaines.

C’est là où le modèle anthropologique transhumaniste d’un Kurzweill ou d’un Bostrom, lorsqu’il devient moteur d’une fascination pour l’IA pose un problème, dans la mesure où ce qui est dit de la machine se répercute sur la vision de l’homme.

À commencer par la vision même de ce que serait l’« intelligence » et la place qui lui serait donnée. Parler d’« intelligence artificielle » c’est d’ailleurs réduire l’intelligence à n’être qu’une fonctionnalité, en l’occurrence un instrument de calcul très performant. Or, l’intelligence humaine n’est pas qu’un instrument de calcul, elle n’est même pas une simple faculté de pensée, elle est aussi faculté morale, capacité à discerner le bien du mal. Elle s’insère ainsi dans la profondeur de l’intériorité humaine qu’il serait dommageable d’oublier : la conscience, lieu personnel de la moralité ; l’âme qui habite et anime notre être, dans son unité corporelle et spirituelle, depuis les fonctions végétatives jusqu’au questionnement existentiel voire à la vie mystique.

Mieux vaudrait donc parler par exemple de robots à très haute capacité de calcul, pour bien marquer que nous ne parlons que d’un certain type de capacités. Cela permettrait d’éviter la propension à « humaniser » la machine qui se transforme vite en propension à « mécaniser » l’humain avec des conséquences éthiques désastreuses. Nick Bostrom, dans son ouvrage sur la « superintelligence » évoque déjà comme une possibilité envisageable la sélection à grande échelle d’embryons humains. Le but en serait de favoriser des cerveaux humains plus performants comme modèle à des machines plus performantes. Eugénisme libéral, car non-coercitif, mais eugénisme glacial.

Un avertissement bicentenaire

L’usage éthique des nouvelles technologies impose une prise de distance par rapport à l’idéologie transhumaniste. N’est-ce pas le message qu’envoyait déjà à l’humanité, sans en soupçonner la portée, la jeune Mary Shelley dans son roman Frankenstein ? La psychanalyste Monette Vacquin et le lettré Jean Duchesne nous invitent à voir dans cette œuvre un mythe prémonitoire effectivement porteur d’une mise en garde. La passion d’arracher la vie à la mort qui habite le Docteur Victor Frankenstein se transforme en cauchemar dès que la créature qu’il a façonnée prend vie.

Le dur prix à payer pour la fabrication de cet être né de la technique et non de l’amour sera la mort : celle des deux principaux protagonistes, et avant cela celle des trois êtres qui sont le plus chers à Victor : son jeune frère, son meilleur ami et son épouse. La prétention à créer une nouvelle humanité hors des méandres du désir charnel, par l’alliance périlleuse de la raison et de l’imaginaire, s’est retournée contre l’amour.

Pour Monette Vacquin, Mary Shelley nous prévient qu’il ne faut pas s’en remettre à la science pour savoir qui est l’homme : c’est une question à laquelle elle ne peut répondre. Aujourd’hui les techniques de fécondation artificielle conduisent à une déstructuration des relations d’engendrement et préparent le terrain à l’eugénisme transhumaniste par la sélection prénatale de masse.

Quant à la quête d’immortalité par le jeu de l’interface homme-machine, elle a pour prémisse l’obsolescence de l’homme. Jean Duchesne voit plutôt dans Frankenstein, ce « Prométhée moderne » pour reprendre le sous-titre du roman de Mary, la projection des transgressions romantiques ou l’ordre surnaturel des classiques et l’ordre rationnel des Lumières sont supplantés par l’ordre existentiel décrété par des individus d’exception, hissés au rang de génie. Les transhumanistes, chercheurs de haut niveau liés pour certains à l’industrie technologique américaine, veulent nous convaincre que Prométhée est heureux. Mais il ne peut l’être, car la puissance de la technique ne peut supplanter l’amour. Frankenstein nous prévient que le bonheur de l’homme ne se trouve pas dans une sortie de l’humanité. L’usage éthique des nouvelles technologies se fonde dans la vulnérabilité de l’incarnation.

Brice de Malherbe, Professeur à la Faculté Notre-Dame de Paris et co-directeur du département de recherche « éthique biomédicale » du Collège des Bernardins, Collège des Bernardins

La version originale de cet article a été publiée sur The Conversation.