Super-intelligence et vie éternelle : comment le transhumanisme voudrait fabriquer l’élite du futur

Le développement rapide des technologies dites NBIC - nanotechnologies, biotechnologies, technologies de l'information et sciences cognitives - donne naissance à des possibilités qui ont longtemps été du domaine de la science-fiction. La maladie, le vieillissement et même la mort sont autant de réalités humaines auxquelles ces technologies cherchent à mettre fin.
 
Elles peuvent nous permettre de jouir d'une plus grande "liberté morphologique" - nous pourrions prendre de nouvelles formes grâce aux prothèses ou au génie génétique. Ou d'améliorer nos capacités cognitives. Nous pourrions utiliser des interfaces cerveau-ordinateur pour nous connecter à une intelligence artificielle avancée.
 
Des nanorobots pourraient parcourir notre circulation sanguine pour surveiller notre santé et améliorer nos propensions émotionnelles pour la joie, l'amour ou d'autres émotions. Les progrès réalisés dans un domaine ouvrent souvent de nouvelles possibilités dans d'autres domaines, et cette "convergence" peut entraîner des changements radicaux dans notre monde, dans un avenir proche.
 
Le "transhumanisme" est l'idée que les humains devraient transcender leur état naturel actuel et leurs limites par l'utilisation de la technologie – c'est-à-dire que nous devrions adopter une évolution humaine autodirigée. Si l'histoire du progrès technologique peut être considérée comme la tentative de l'humanité d'apprivoiser la nature pour mieux répondre à ses besoins, le transhumanisme en est la suite logique : la révision de la nature de l'humanité pour mieux servir ses fantasmes.
 
Comme le dit David Pearce, l'un des principaux partisans du transhumanisme et cofondateur d'Humanity+ :
Si nous voulons vivre dans un paradis, nous devrons l'inventer nous-mêmes. Si nous voulons la vie éternelle, nous devrons réécrire notre code génétique truffé de bugs et devenir semblables à un dieu... Seules les solutions de haute technologie peuvent éradiquer la souffrance du monde. La compassion seule ne suffit pas.
 
Mais il y a un côté plus sombre à la foi naïve que Pearce et d'autres partisans ont dans le transhumanisme - une foi résolument dystopique.
 
Il est peu probable qu'il y ait un moment clair où nous émergeons comme transhumains. Les technologies deviendront plutôt davantage intrusives et s'intégreront de façon parfaite au corps humain. La technologie a longtemps été considérée comme une extension de soi-même. De nombreux aspects de notre monde social, et en particulier nos systèmes financiers, sont déjà largement fondés sur les machines. Il y a beaucoup à apprendre de ces systèmes hybrides homme-machine en constante évolution.
 
Pourtant, le langage et les attentes souvent utopiques qui entourent et façonnent notre compréhension de ces développements n’ont pas fait l’objet d’analyses fouillées. Les changements profonds qui nous attendent sont souvent évoqués de manière abstraite, car les "avancées" évolutionnaires sont considérées comme tellement radicales qu'elles ignorent la réalité des conditions sociales actuelles.
 
Ce faisant, le transhumanisme devient une sorte de "techno-anthropocentrisme", dans lequel les transhumanistes sous-estiment souvent la complexité de notre relation avec la technologie. Ils y voient un outil contrôlable et malléable qui, avec la bonne logique et la rigueur scientifique, peut être transformé à n'importe quelle fin. En fait, tout comme les développements technologiques dépendent de l'environnement dans lequel ils surviennent et en sont le reflet, ils se répercutent à leur tour sur la culture et créent de nouvelles dynamiques - souvent imperceptibles.
 
Il est donc essentiel de situer le transhumanisme dans les contextes sociaux, culturels, politiques et économiques plus larges dans lesquels il émerge pour comprendre à quel point il a une portée éthique.
 

Environnements concurrentiels

 
Max More et Natasha Vita-More, dans leur ouvrage The Transhumanist Reader, rervendiquent le besoin d’un transhumanisme pour "l'inclusion, la pluralité et la remise en question perpétuelle de nos connaissances".
 
Pourtant, ces trois principes sont incompatibles avec le développement de technologies transformatrices dans le système dominant duquel elles émergent actuellement : le capitalisme avancé.
 
Dopé perpétuel doper ou défunt évolutionnaire ?
 
Un des problèmes réside dans le fait qu'un environnement social hautement compétitif ne se prête pas à diverses façons d'être. Au lieu de cela, il exige plutôt des comportements de plus en plus efficaces. Prenons l'exemple des étudiants. Si certains ont accès à des pilules qui leur permettent d'obtenir de meilleurs résultats, les autres élèves peuvent-ils se permettre de ne pas faire de même ? Il s’agit d’un vrai dilemme. Un nombre croissant d'étudiants prennent déjà des pilules pour doper leur performance. Et si les pilules deviennent plus puissantes, ou si les améliorations impliquent de faire appel au génie génétique ou à des nanotechnologies intrusives qui offrent des avantages concurrentiels encore plus forts, que faire alors ? Rejeter une orthodoxie technologique avancée pourrait rendre quelqu'un moribond socialement et économiquement (peut-être évolutivement), alors que tous ceux qui ont accès aux pilules sont effectivement forcés de la suivre pour garder la cadence..
 
Passer outre les limites quotidiennes suggère une sorte de libération. Mais ici, c'est d’une contrainte emprisonnante dont il s’agit. Il nous faut littéralement nous transcender pour nous conformer (et survivre). Plus la transcendance est extrême, plus la décision de se conformer est profonde et plus il est impératif de le faire.
 
Les forces systémiques qui cajolent l'individu pour qu'il soit "modernisé" afin de rester compétitif se manifestent également sur le plan géopolitique. La défense est l'un des domaines où la R&D technologique a le plus grand potentiel transhumaniste. Le DARPA (le département américain de la défense, responsable du développement des technologies militaires), qui tente de créer des "soldats métaboliquement dominants", est un exemple clair de la façon dont les intérêts acquis d'un système social particulier pourraient déterminer le développement de technologies transformatrices radicalement puissantes, qui ont des applications destructrices plutôt qu'utopiques.
 
La ruée vers le développement d'une IA super-intelligente par des États nationaux compétitifs et méfiants à l'échelle mondiale pourrait aussi se traduire par une course aux armements. Dans Radical Evolution, le romancier Verner Vinge décrit un scénario dans lequel l'intelligence surhumaine est l'"arme ultime". Idéalement, l'humanité procéderait avec le plus grand soin au développement d'une innovation aussi puissante et transformatrice.
 
La création de la super-intelligence et l'émergence de la "singularité" suscitent à juste titre une grande inquiétude - l'idée qu'une fois que l'intelligence artificielle atteindra un certain niveau, elle se remodèlera rapidement, conduisant à une explosion de l'intelligence qui dépassera rapidement celle des humains (ce qui se produira d'ici 2029 selon le futuriste Ray Kurzweil).
 
Il est également difficile de concevoir un aspect de l'humanité qui ne pourrait pas être "amélioré" en étant rendu plus efficace pour satisfaire les exigences d'un système compétitif. C'est donc le système qui détermine l'évolution de l'humanité - sans se prononcer sur ce que sont les humains ou ce qu'ils devraient être. L'une des manières dont le capitalisme avancé se montre extrêmement dynamique est dans son idéologie de la neutralité morale et métaphysique. Comme l’affirme le philosophe Michael Sandel : « les marchés ne font aucune distinction entre le bien et le mal » (Michael J. Sandel, Ce que l’argent ne saurait acheter. Les limites morales du marché, Paris, Seuil, 2014). Dans le capitalisme avancé, maximiser son pouvoir d’achat revient à maximiser sa capacité à s'épanouir, ce qui revient à dire que le shopping est un impératif moral primordial de l'individu.
 
Le philosophe Bob Doede suggère à juste titre que c'est cette logique banale du marché qui va dominer :
Si la biotechnologie a rendu la nature humaine entièrement révisable, elle ne peut, en revanche, aucunement diriger ni contraindre la forme que nous lui donnons. Ainsi, quelle forme les artéfacts posthumains prendront-ils ? Je ne doute point que notre grande société de consommation, notre économie capitaliste saturée de médias et nos forces commerciales parviendront à leur fin. Alors, l’impératif commercial deviendrait le vrai architecte de l’humain futur.
Que le processus évolutif soit déterminé par une IA super intelligente ou un capitalisme avancé, nous pourrions être obligés de nous conformer à une transcendance perpétuelle qui ne nous rendra plus efficaces que dans les activités nécessaires au système le plus puissant. Le point final serait sans aucun doute une entité technologique entièrement non-humaine - bien que très efficace - dérivée de l'humanité, qui ne sert pas nécessairement un but qu'un être humain moderne valoriserait de quelque façon que ce soit. La capacité de servir efficacement le système serait la force motrice. Cela vaut également pour l’évolution naturelle, la technologie n’étant pas un outil simple nous permettant d’élucider cette énigme. Mais le transhumanisme pourrait amplifier la vitesse et les aspects les moins souhaitables du processus.
 

Autoritarisme de l'information

 
Pour le bioéthicien Julian Savulescu, la principale raison pour laquelle les humains doivent être améliorés est la survie de notre espèce. Il affirme que nous sommes confrontés à un triangle des Bermudes de l’extinction : le pouvoir technologique radical, la démocratie libérale et notre nature morale. En tant que transhumaniste, Savulescu prône le progrès technologique, qu'il juge aussi inévitable qu’inarrêtable. C'est la démocratie libérale - et en particulier notre nature morale - qui devrait changer.
 
L’incapacité de l’humanité à régler les problèmes mondiaux est de plus en plus évidente. Mais Savulescu néglige de situer nos faiblesses morales dans leur contexte culturel, politique et économique général, croyant plutôt que les solutions se situent dans notre composition biologique.
 
Pourtant, comment les technologies de Savulescu visant à améliorer la moralité pourraient-elles être diffusées, prescrites et potentiellement appliquées pour remédier aux défaillances morales qu'elles cherchent à "guérir" ? La réponse réside probablement dans les structures de pouvoir qui pourraient être en grande partie responsables de ces défaillances. Il est aussi rapidement amené à révéler à quel point le concept de "morale" est relatif et contestable :
Nous devrons assouplir notre engagement à assurer une protection maximale de la vie privée. Nous assistons à une augmentation de la surveillance des individus, et elle sera nécessaire si nous voulons éviter les menaces que représentent les personnes atteintes de troubles de la personnalité antisociale, de fanatisme, du fait de leur accès à une technologie radicalement améliorée.
Cette surveillance permet aux entreprises et aux gouvernements d'accéder à des renseignements extrêmement précieux et de les utiliser. Dans Who Owns the Future, le pionnier de l'internet Jaron Lanier explique:
Des foules de dossiers sur la vie privée et intime des gens ordinaires, collectés sur des réseaux numériques, sont conditionnés dans une nouvelle forme privée de monnaie réservée à une élite... C'est une nouvelle forme de sécurité négociée par les plus nantis, dont la valeur augmente naturellement. Cela devient un énorme levier, inaccessible aux gens ordinaires.
Il est crucial de dire que ce levier est invisible pour la plupart des gens. Il ne fait pas que dévier le système économique vers les élites, mais il modifie aussi de manière significative la conception même de la liberté, car l’autorité du pouvoir est à la fois radicalement plus efficace et dispersée.
 
L'idée de Foucault selon laquelle nous vivons dans une société panoptique - une société où le sentiment d'être perpétuellement surveillés inculque la discipline - est aujourd'hui étiré au point que l'on a surnommé le "superpanopticon", la machinerie incessante d'aujourd'hui. Le savoir et l'information que les technologies transhumanistes auront tendance à créer pourraient renforcer les structures de pouvoir existantes qui consolident la logique inhérente du système duquel la connaissance émane.
 
Cela est en partie évident dans la tendance des algorithmes à établir des discriminations raciales et sexistes, lesquelles reflètent déjà nos échecs sociaux existants. Les technologies de l'information ont tendance à interpréter le monde de façons bien définies : elles privilégient une information facilement mesurable, comme le PIB, au détriment d'une information non quantifiable, comme le bonheur ou le bien-être humain. Alors que les technologies envahissantes fournissent des données de plus en plus granulaires sur nous, ces données peuvent, dans un sens très réel, venir définir le monde - et l'information immatérielle peut ne pas conserver la place qui lui revient dans les affaires humaines.
 

Déshumanisation systémique

 
Les iniquités existantes seront certainement amplifiées avec l'introduction de produits psychopharmaceutiques très efficaces, la modification génétique, la super intelligence, les interfaces cerveau-ordinateur, la nanotechnologie, les prothèses robotiques et le développement possible de l'expansion de la vie. Ils sont tous fondamentalement non égalitaires et reposent sur une notion de non-limitation plutôt que sur le niveau standard de bien-être physique et mental que nous acceptons dans le domaine des soins de santé. Il est difficile de concevoir une façon où tous pourront jouir de ces possibilités..
 
La sociologue Saskia Sassen parle des "nouvelles logiques de d’exclusion", qui reflètent "les pathologies du capitalisme mondial d'aujourd'hui". Ces exclus comprennent aussi bien les plus de 60 000 migrants qui ont perdu la vie au cours des vingt dernières années lors de voyages mortels, que les victimes de la surpopulation carcérale.
 
En Grande-Bretagne, ils incluent les 30 000 personnes dont les décès en 2015 ont été liés à la réduction des soins de santé et des prestations sociales et les nombreuses personnes qui ont péri dans l'incendie de la Tour Grenfell. On peut dire que leur mort est le résultat d'une marginalisation systématique.
 
Parallèlement à ces « exclusions », une concentration sans précédent de richesses se produit. Des réalisations économiques et techniques avancées permettent cette richesse et l'expulsion des groupes excédentaires. En même temps, écrit Sassen, ils créent une sorte de contexte nébuleux sans centre semblable au lieu de pouvoir :
Les opprimés se sont souvent élevés contre leurs maîtres. Mais aujourd'hui, les opprimés ont été pour la plupart expulsés et survivent à une grande distance de leurs oppresseurs... L'"oppresseur" est de plus en plus un système complexe qui combine des personnes, des réseaux et des machines dont le centre n’est pas défini.
 
Les populations excédentaires, retirées des aspects productifs du monde social, pourraient augmenter rapidement dans un proche avenir, car l'amélioration de l'IA et de la robotique pourrait entraîner un chômage important lié à l'automatisation. De larges pans de la société peuvent devenir productifs et économiquement redondants. Pour l'historien Yuval Noah Harari, "la question la plus importante dans l'économie du XXIe siècle pourrait bien être : que devrions-nous faire de tous les gens superflus ?"
 
Nous n’aurions d’autre scénario que celui d’une petite élite possédant la presque totalité de la richesse et ayant accès à la plus puissante des technologies transformatrices de l’histoire de l’humanité et d’une masse de gens accessoires, ne pouvant suivre le contexte évolutif dans lequel ils se trouvent et dépendant entièrement de la bienveillance de cette élite. Le traitement déshumanisant accordé aux groupes exclus d’aujourd’hui démontre que les valeurs libérales des pays développés ne s’étendent pas toujours à ceux qui ne partagent pas les mêmes privilèges et la même race, culture ou religion.
 
À une époque de puissance technologique radicale, les masses peuvent même représenter une menace importante pour la sécurité de l'élite, ce qui pourrait justifier des actions agressives et autoritaires (peut-être rendues possibles par une culture de la surveillance).
 
Dans leur traité sur le transhumanisme, The Proactionary Imperative, Steve Fuller et Veronika Lipinska affirment que nous sommes obligés de poursuivre sans relâche le progrès techno-scientifique, jusqu' à ce que nous atteignions notre destinée de dieu ou notre pouvoir infini - servir efficacement Dieu en devenant Dieu. Ils révèlent sans hésitation la violence et la destruction naissantes que de tels objectifs prométhéens exigeraient : « le remplacement du naturel par l'artificiel est tellement essentiel à une stratégie pro-actionnaire... Du moins il est sérieusement possible, sinon probable, que cela entraîne une dégradation environnementale de la Terre à long terme.».
 
L’ampleur de toute la souffrance qu’ils seraient prêts à mettre en jeu dans leur cruel casino ne peut être entièrement comprise que lorsque nous analysons ce que leur projet signifie pour les êtres humains :
Un monde proactionnaire ne ferait pas que tolérer la prise de risque, mais l’encouragerait, puisque les gens se verront fournir des incitatifs juridiques pour spéculer sur leurs actifs bioéconomiques. Vivre dangereusement deviendrait une entreprise en soi… les proactionnaires cherchant d’importants bénéfices à long terme sur les survivants d’un régime révolutionnaire qui encouragerait bien des préjudices pour y parvenir.
 
Des élites divines
 
La fragilité économique à laquelle les humains pourraient bientôt être confrontés en raison du chômage dû à l'automatisation s'avérerait probablement extrêmement utile aux buts proactionnaires. Dans une société où une vaste majorité de la population dépendra d’aumônes pour survivre, les forces du marché feront en sorte que le manque de sécurité sociale poussera les gens à prendre plus de risques pour peu d’avantages, alors les « proactionnaires réinventeraient le système d’assistance sociale comme véhicule favorisant la prise de risque en tant qu’instrument du marché » pendant que « l’état proactionnaire serait exploité en tant qu’énorme capital-risqueur ».
 
Au cœur de cet état se trouve le remplacement des droits fondamentaux de « l’Humanité 1.0 », terme de Fuller pour définir les êtres humains non augmentés modernes, par des obligations envers l’Humanité 2.0 augmentée future. Ainsi, nos codes de valeurs peuvent et doivent même être monétisés :
« l’autonomie personnelle devrait être perçue comme une franchise accordée par le gouvernement où les individus envisageraient leur corps comme une parcelle de terrain dans ce que l’on peut appeler un « patrimoine génétique commun ».
La préoccupation néolibérale entourant la privatisation s’étendrait alors aux êtres humains. En effet, l’endettement à vie, qui fait partie de la réalité de la plupart des citoyens des nations développées capitalistes, prendrait une tout autre signification lorsqu’une personne naîtrait endettée : être en vie équivaudrait à « vous investir dans un capital où des résultats sont attendus ».
 
Les masses socialement moribondes pourraient être forcées de servir le super-projet technoscientifique de l’Humanité 2.0, qui utilise l’idéologie du fondamentalisme commercial dans sa quête d’un progrès perpétuel et d’une productivité maximale. La seule différence significative est que le but déclaré des capacités divines de l’Humanité 2.0 est patent, par opposition à la fin indéfinie déterminée par le « progrès » infini d’une logique commerciale encore plus efficiente que celle que nous avons à l’heure actuelle.
 

Une nouvelle politique

 
Certains transhumanistes commencent à comprendre que les limites les plus sérieuses de ce que les humains peuvent accomplir sont d'ordre social et culturel, et non technique. Cependant, trop souvent, leur recadrage de la politique tombe dans le même piège que leur vision du monde technocentrique. Ils affirment généralement que les nouveaux pôles politiques ne sont pas de gauche ni de droite mais techno-conservateurs ou techno-progressifs (et même techno-libertariens et techno-sceptiques). Pendant ce temps, Fuller et Lipinska affirment que les nouveaux pôles politiques seront de haut en bas au lieu de gauche et de droite : ceux qui veulent dominer le ciel et sont devenus tout puissants, et ceux qui veulent préserver la Terre et sa diversité riche en espèces. C'est une fausse dichotomie. La préservation de cette dernière est sans doute nécessaire pour espérer atteindre le premier objectif.
 
Le transhumanisme et le capitalisme avancé sont deux processus qui valorisent avant tout le "progrès" et l'"efficacité". Le premier comme moyen de pouvoir et le second comme moyen de profit. Les humains deviennent des véhicules au service de ces valeurs. Les possibilités transhumaines appellent d'urgence à une politique avec des valeurs humaines plus clairement délimitées et explicites afin d'offrir un environnement plus sûr dans lequel favoriser ces profonds changements. Notre position sur les questions de justice sociale et de durabilité environnementale n'a jamais été aussi importante. La technologie ne nous permet pas d'échapper à ces questions - elle ne permet pas la neutralité politique. Le contraire est vrai. Elle détermine que le politique n'a jamais été aussi important. Savulescu a raison quand il dit que les technologies radicales arrivent. Il a tort de penser qu'elles vont corriger nos valeurs morales… elles les refléteront.
 
Alexander Thomas, PhD, University of East London
 
Source : Daily Mail /The Conversation
Photos : Shutterstock