Tubes à peau humaine pour réparer les brûlés, manipulations mentales, créations automatisées, robots tueurs…les propositions techniques offrent un florilège de possibles qui peuvent tourner au cauchemar. Plus grave, les automates couplés au web installent un « milieu numérique » qui pourrait bien nous faire crever à petit feu. Car il semble bien que tout se paie : la sécurité par le flicage, l’accès par l’esclavage, les échanges ou les monnaies nouvelles par un coût environnemental exorbitant… Le réseau Presans est un éclaireur du monde qui vient. Entremetteur entre experts et grands groupes, il organise chaque année le rendez-vous Dystopia comme un exercice de montagnes russes entre fascinations et enfers. Des témoignages coup de poing au milieu de ceux qui veulent encore rêver…
Désillusion ou déception ? La fête au numérique est en train de tourner court. Les alertes se multiplient dans le monde : James Bridle dénonce l’emprise des plateformes numériques dans New Dark Age, Elon Musk considère que l’intelligence artificielle menace notre civilisation, Tristan Harris a quitté Google, écœuré des méthodes du Persuasive Tech Lab du MIT… pour créer il y a juste un an, le Center for Humane Technology, avec d’autres dissidents des GAFA. Ces défections jettent le trouble… Et si la mise en algorithmes du monde n’était d’une vaste opération de fragmentation et de colonisation ?
Avec son événement Dystopia, la plateforme Presans (prononcez Présence) dédiée à la prospective, entend « rompre en beauté avec les faux charmes de l’utopie et se déprendre d’un rapport naïf aux nouvelles technologies ». Son fondateur Albert Meige se souvient : « à 15 ans je percevais les risques de surveillance et de prise de contrôle sur les individus. On baigne dans les technos qui induisent des externalités négatives dont il faut parler ! »
En conséquence, les deux cents personnes qui ont rejoint la communauté Presans le 5 mars à Beaubourg ne sont pas ressortis indemnes. Ballotés entre rêves et cauchemars, ils ont touché du doigt les possibles comme les dérives qui sont à l’horizon. De plus, un foisonnement d’expériences impromptues et d’émotions fortes étaient au rendez-vous. On a pu apprécier de voir voler au-dessus des têtes, le Black Hornet, micro drone d’observation des forces françaises, présenté par Emmanuel Chiva, directeur de la nouvelle Agence Innovation Defense dotée d’un budget de 1,2 milliard par an. Si l’heure magicienne a subjugué la salle, son maître, Rémi Larrousse, a permis de saisir l’importance des biais cognitifs car « notre attention est sélective, elle fait de fausses corrélations et notre mémoire est victime d’illusion ». Une immersion qui permet de saisir le fossé considérable qui existe entre une intelligence humaine incarnée et les algorithmes !
Autre moment savoureux, la méditation avec Mister Phi, alias Thibaut Giraud, à propos de Black Mirror… la série qui révèle l’état de notre société aliénée au spectacle. Dans l’épisode 15 millions de mérites on voit que le pire désespoir devient le meilleur show à vendre. Une façon pour le réalisateur Charlie Brooker de faire sentir les situations inhumaines de nos vies, derrières les écrans.
Des promesses qui tournent court
Oui le numérique est devenu un milieu. Vivable ou pas, telle est la question ? Pour Michel Baudouin-Lafon, spécialiste des interfaces homme-machine à Paris-Sud, l’augmentation des capacités cognitives a été le but des pionniers d’internet comme Douglas Engelbart. Mais il semble bien que « toutes les promesses ont foiré : Le web a été pensé par les chercheurs comme accès aux savoirs ; mais ce sont des vidéos pour la plupart insipides qui sont chargées (près de cent heures par minute sur la toile. L’internet a ouvert les partages d’informations ; et l’on voit foisonner les fakenews, la délation et le harcèlement. Avec son iPhone, Steve Jobs a rêvé une démocratisation des pratiques ; et cela tourne aux pires addictions chez les jeunes ». On pense aux Hikikomoris qui, par milliers non seulement au Japon mais en Europe, se retranchent dans leur chambre pendant des mois, voire des années…
LIRE DANS UP’ : Tim Berners-Lee : « 30 ans après son invention, le web a été détourné par des trolls et des escrocs »
Il semble que les innovations déferlent sur des populations impréparées. Et elles sont vécues comme des contraintes, comme des cadres auxquels il faut se conformer. « Il faut que nous soyons clairs sur le rôle que l’on veut faire jouer aux technologies, insiste Michel Baudouin-Lafon. L’ordinateur peut être un outil, un partenaire ou un média : ce n’est pas l’homme qu’il faut mettre dans la boucle, c’est la machine qui doit rentrer dans la logique humaine et sociale ». Le chercheur montre combien nous laissons les projets dériver jusqu’à placer l’homme comme esclave de l’univers automatisé. Quand Amazon révèle qu’il est obligé de fournir des gilets de protection à son personnel opérant dans ses dépôts pour éviter les chocs avec les robots, on mesure l’inversion des rôles qui s’opère… Pourtant on peut concevoir des automates autrement. Michel Baudouin-Lafon signale des applications adaptées aux pratiques humaines : Skinput prend le corps humain comme surface interactive, Holodesk permet les interactions avec des objets virtuels, ou encore RoomAlive superpose un terrain de jeu sur le salon familial…
Le constat est le même chez Frédéric Charon, Faurecia qui décrit comment les fonctions de délégation successives dans nos véhicules sont devenues invisibles aujourd’hui. « Nous sommes en train de confier notre transport à des robots. Mais veut-on vraiment totalement perdre la main en supprimant les volants ? Quel est le contrat donné aux automates ? Respectera-t-il les lois de la robotique édictées par Isaac Asimov ? Et qui veut véritablement des voitures autonomes ? N’est-ce pas ceux qui veulent récupérer du temps de cerveau disponible ? »
Peut-on rivaliser avec une intelligence humaine à 20 watts ?
Le crack de l’intelligence artificielle Rand Hindi craint aussi de nous voir devenir esclaves des milliards d’objets connectés qui déferlent sur la planète : smartphones mais aussi montres, voitures, vêtements, réfrigérateurs, pèse-personnes et autres tensiomètres. « Nous allons être harcelés par les objets qui nous demanderont constamment des validations ou nous enverront des informations… Les années qui viennent vont être les pires de l’histoire en matière de qualité de vie» disait-il en 2015 lors du Festival du Monde.
Quatre ans plus tard il rempile : « Le pire d’internet aujourd’hui ce sont les enceintes connectées (comme Alexa d’Amazon, Google Home ou HomePod d’Apple) qui récupèrent toutes vos données ». Sa lucidité c’est de faire la part des choses : « L’intelligence émotionnelle, qui permet de résoudre les paradoxes, est juste inaccessible aux machines. Car il faut trois choses : un corps pour ressentir, un sens du collectif et de son insertion juste et enfin une autonomie énergétique. Rappelez-vous bien qu’un cerveau, ça ne consomme que vingt watts contre dix mégawatts pour faire tourner une machine. Si on veut résoudre tous ces problèmes, le mieux est de faire…un gamin ! »
Il y a donc un véritable « bluff technologique » selon Laurence Devillers qui reprend à son compte la formule de Jacques Ellul. Chargée de mission à l’institut de convergence pluridisciplinaire DATAIA de Paris-Saclay, Laurence Devillers voit la réduction des représentations qui s’opère avec la colonisation de nos facultés par les algorithmes. « L’affective computing cherche à ranger nos émotions en six références (celles de Paul Eckman), mais c’est une caricature, ça gomme les états intermédiaires complexes. Si nous ne mettons pas des garde-fous, nous ferons n’importe quoi. » alerte-t-elle. Et de prôner la création d’une Agence pour l’éthique de l’IA comme il en existe à l’étranger, afin de mieux cerner la vulnérabilité de l’IA et son explicabilité. L’exemple du Règlement général sur la protection des données (RGPD) européen est instructif : il est possible de soumettre les accès aux marchés à des comportements vertueux…
Le numérique pour se reconnecter au monde et à la nature ?
Une posture défensive pour protéger les populations de l’invasion digitale est donc en train de s’installer. D’autant que chacun perçoit les mœurs de mercenaires sur lesquelles les GAFA ont assis leur fortune. Il semble bien que les technologies digitales n’ont aucunement révisé leurs feuille de route : il s’agit encore et toujours de pousser les performances de manière univoque. Pourtant, Internet est le troisième consommateur mondial d’énergie après la Chine et les Etats-Unis et les matières premières de l’électronique entretiennent les tensions géopolitiques…
La question qui émerge est bien de réviser les objectifs en fonction des défis sociaux actuels qui poussent vers des projets collectifs, des services pour le bien-être, un souci du monde commun à l’heure des menaces vitales. Un collectif d’acteurs français du Net a d’ailleurs proposé, en janvier dernier, de lancer un mouvement ‘RESET’ « pour un numérique plus équitable, plus émancipateur, plus attentif aux libertés et plus soucieux des enjeux écologiques ».
Dans ce contexte nouveau, Daphné Bavelier qui étudie l’apprentissage humain et la coévolution avec les machines, considère qu’« il nous faut désormais travailler sur « l’augmentation sociale », penser l’augmentation humaine à un niveau collectif, en s’intéressant aux conditions favorables. On trouve ici l’attention aux milieux de vie que manifeste l’anthropologue Laurens Vadelli. « Il faut prendre la mesure de la diversité des mondes sensoriels, comme l’a fait le biologiste Jakob Van Uexküll » insiste-t-il.
Cet observateur hors pair du tournant du XXe siècle a repéré que chaque espèce vivante a sa propre réalité qui dépend de ses capteurs. Ainsi par exemple, la tique qu’il a étudiée particulièrement, a juste trois capteurs qui lui permettent de se nourrir de sang chaud. De même, les serpents voient dans l’infra-rouge, l’abeille dans l’ultra-violet et la chauve-souris capte les ultrasons. « La perception n’a de sens que quand elle est partagée, souligne le chercheur et body-hacker qui a testé sur lui des implants magnétiques. Nous pouvons peut-être imaginer accroître notre sensibilité à la nature, mais inversement s’en affranchir nous couperait de toute communauté humaine ».
Notre confrontation aux limites planétaires oblige à revisiter nos imaginaires technologiques. Rappelons-nous : « Face aux divinités numériques, la question qu’il faut se poser est bien : “Jusqu’à quel point voulons-nous être coupés du monde ?» insiste l’auteur américain Nicholas G. Carr.
Pour Mathieu Baudin, fondateur de l’Institut des Futurs souhaitables, « c’est absurde de continuer à nous détacher de la nature. Survivre ne va pas être possible en se plaçant hors sol ». Il plaide pour une connexion entre Elon Musk et …Pierre Rabhi.
Dans la même dynamique, Alexandre Cadain qui a fondé Anima.ai, s’emploie à déconstruire le mythe de la singularité technologique qu’il connait bien pour avoir travaillé une dizaine d’année sur l’Hyperloop en Californie. « L’avenir est à la pluralité culturelle, à la diversité des récits ». Ce féru de sciences et d’art est rapporteur à la commission AI for Good de l’ONU et co-anime le séminaire Postdigital de l’École normale supérieure. Il constate combien les utopies de la Silicon Valley peuvent être des dystopies vues depuis l’Europe. « Par exemple, le projet Neuralink d’Elon Musk – pour connecter les cerveaux aux machines – laisse imaginer la torture à venir. Pour moi cela ressemble à l’enfant hypermnésique qui n’arrive plus à vivre, décrit par Borges dans Fictions. »
Ces craintes sont aussi clairement exprimées par Eric Sadin qui voit dans les modes d’organisation automatisés une manière de chasser le conflit, la délibération et la concertation. Autant de principes qui conditionnent la vie politique et démocratique…
Les cybergouvernements qui « tiennent » ou « conditionnent » leurs peuples
Pourtant, la connectivité permanente est en train de devenir un enfer en Chine, si l’on en croit la description faite par Jago Campos, directeur des studios Aletheia. Les systèmes de surveillance et de reconnaissance faciale – 200 millions de caméras installées – permettent l’organisation de crédits sociaux assujettis à des comportements conformes.
LIRE DANS UP’ : La Chine s’installe dans un monde que même Orwell n’aurait osé imaginer
Le cybergouvernement concerne aussi les Etats-Unis avec le développement des pratiques d’encouragement ou de conditionnement (nudge) et la référence à l’économie comportementale, saluée par l’attribution du prix Nobel d’économie à Richard Thaler. Ce théoricien de la « manipulation bienveillante » a développé avec le juriste Cass Sustein le « paternalisme libertarien ». L’idée est de limiter les choix en organisant le questionnement des populations pour mettre en avant certaines décisions (plus civiques, plus conformes…).
Au plan international, les risques de mainmise sur les élections démocratiques sont aujourd’hui démontrés. On sait comment Robert Mercer, propriétaire de Cambridge Analytica est intervenu avec Steve Bannon pour faire élire Trump outre Atlantique et faire passer le Brexit en Grande Bretagne. Leurs équipes sont présentes actuellement en Italie…
L’Europe a-t-elle de quoi réagir ? A-t-elle les outils et les cadres pour générer les stratégies techniques les plus adaptées à l’humain ? On évoque souvent le besoin d’une alliance franco-allemande pour avoir les moyens d’alternatives techniques fortes. C’est l’esprit dans lequel André Loesekrug-Pietri, est venu présenter JEDI, une contre-offensive européenne aux impérialismes chinois et américains, lancée en aout 2017. L’ancien conseiller de la ministre des Armées, Sylvie Goulard, défend la Joint European Disruptive Initiative pour s’atteler à quatre enjeux prioritaires : l’urgence climatique, la santé, la transition digitale, l’espace et les océans.
Quatre-vingts grands groupes et organismes de recherche (Thales, Naval Group, CEA, CNES, ANSSI, DLR…) soutiennent cette agence franco-allemande avec comme modèle la Darpa, l’agence de recherche avancée du Pentagone. Il s’agit de financer des sujets orientés sur le long-terme ou trop risqués pour que le privé s’y engage (les fameux moonshots). Son financement est effectué par les États ou les régions. Pour l’heure, deux régions françaises ont abondé un projet ciblé sur le remplacement du glyphosate. Une trentaine d’autres challenges ont été identifiés, comme le développement d’une blockchain moins énergivore, la création de liaisons quantiques avec les satellites, qui permettrait de les rendre plus compétitifs par rapport à la 5G par exemple, ou la récupération des débris spatiaux en orbite basse, enjeu essentiel pour continuer à exploiter l’espace.
Les perspectives sont justes si elles parviennent à tisser les cadres d’une renaissance européenne originale, inscrite dans une reconnexion aux territoires, dans une prise en compte des limites biosphériques. « La Renaissance en Europe a vu se côtoyer Léonard de Vinci et la St Barthelemy », souligne Mathieu Baudin. Mais désormais la trajectoire technique se doit d’être biocompatible. Ironie des synchronies : l’exposition La fabrique du vivant, offerte à la découverte des participants de Dystopia, renouvelle tous les possibles dans l’écoute des êtres. Entre biotechniques, cultures cellulaires, croissances odorantes… le monde vivant a quelques tours dans son sac pour réenchanter les machines…
Dorothée Browaeys, Chroniqueuse invitée UP’ Magazine, présidente de TEK4life
Pour aller plus loin :
– L’apocalypse numérique n’aura pas lieu de Guy Mamou-Mani – Editions de l’Observatoire, décembre 2018
– En attendant les robots de Antonio A. Casilli – Editions du Seuil / Collection La couleur des idées, janvier 2019
Quelque chose à ajouter ? Dites-le en commentaire.
Pourquoi ne pas profiter d’une lecture illimitée de UP’ ? Abonnez-vous à partir de 1.90 € par semaine.
