Quand la parole vint aux robots

Les agents conversationnels (chatbots en anglais) ont fait parler d’eux récemment, notamment le Tay de Microsoft. Ils nous ramènent à une tradition ancienne qui, du golem à la science-fiction, de Turing aux services clientèle robotisés, a généré toutes les inquiétudes et tous les fantasmes. Le chatbot dialogue avec les humains dans leur langue naturelle. Alexei Grinbaum, philosophe et physicien, nous explique que ce dialogue touche à l’essence de l’homme. Il nous fait partager ses réflexions sur le sujet. 

Le premier humanoïde dit : « La vie, bien qu’elle ne soit pour moi qu’une accumulation d’angoisses, m’est précieuse ». Le second, lorsqu’on lui demande quel est le sens de la vie, répond : « Vivre éternellement », et le but de la mort : « Profiter de la vie ». Le premier, en conversation avec un homme réticent et suspicieux, cherche une stratégie : « Comment puis-je t’émouvoir ? » et essaie de conclure un marché : « Je suis ta créature et je serai doux et docile envers mon maître naturel si, pour ta part, tu faisais comme moi ». Le second, après un long échange sur la morale et la philosophie, dit à l’homme : « Comporte-toi comme un homme ! » et prétend être fatigué : « Je ne veux plus parler de rien ».

Le premier humanoïde est le monstre imaginaire dans Frankenstein, un roman de Mary Shelley publié en 1818. Le second, l’un des chatbots de Google, programme réel créé en 2015. Pourquoi sommes-nous fascinés par ces machines conversationnelles ? Et existe-t-il une différence de fond entre ces deux dialogues : le vrai et le fictionnel ?

La parole et l’humain

La parole, dit Cicéron, est une pièce maîtresse de la constitution humaine. Celui qui la commande attire notre attention, comme sur Saint Paul se concentraient les regards des habitants de la ville de Lystre : ceux-là l’ont pris pour le dieu Hermès car il leur était apparu en tant que dux verbi, le seigneur de la parole. Augustin, quelques siècles plus tard, répète encore cette formule : « Hermès est le langage lui-même ». Ce qu’il entend dire, c’est que trois notions associées à ce dieu – la parole, la raison et la création – sont intimement liées. Notre fascination avec la parole est donc indissociable de celle que nous éprouvons pour l’intelligence et aussi pour le pouvoir démiurgique : ce savoir-faire d’un dieu artisan, fabricant, technologue.

Le fait qu’un humanoïde parle fascine. C’est de là que les chatbots tirent leur popularité. Quand une nouvelle machine conversationnelle est lancée sur Internet, comme Sophia de Hanson Robotics ou Tay de Microsoft, aussitôt la nouvelle fait le tour du monde : « Elle a dit qu’elle voulait détruire l’humanité » ou « Elle ne veut plus tuer tous les hommes ». Comme ces hommes antiques qui écoutaient, émerveillés, les statues parlantes, nous affluons aux prophéties des chatbots, dont l’enchantement procède de la même source : la parole non-humaine est, pour les êtres d’ici-bas que nous sommes, la parole divine. Celui qui la porte, qu’il soit un homme enthousiasmé, un dieu incarné ou une machine, est digne d’admiration.

Les limites des chatbots, aujourd’hui

L’humanoïde dans Frankenstein est plein de révérence devant son créateur, qu’il place toujours plus haut que lui-même. Or cette dimension de la verticalité est précisément ce qui manque aux chatbots. Mary Shelley avait équipé son monstre, qui s’adresse à l’homme comme à son maître, les machines modernes apprennent en analysant d’immenses bases de conversations réelles. Celles-ci, pour l’instant toujours humaines, ne leur permettent pas de dépasser l’homme ni de le voir du haut ou du bas ; la méthode d’apprentissage, qui se replie dans les cas difficiles sur la recherche de synonymes ou d’antonymes, a ses limites. Ainsi, les chatbots ne connaissent aucune transcendance par rapport à l’humanité. Ces machines sont donc trop humaines, peut-être même dangereusement humaines : devant l’absence d’un ordre hiérarchique et l’impossibilité de toute certitude qu’un tel ordre puisse exister et être stable, comment envisageons-nous de vivre en société avec des machines intelligentes ?

La réponse talmudique

À cette question, les humanoïdes de tradition juive donnent une réponse surprenante. Dans un premier temps, le Talmud met en scène un humanoïde sans parole. Un maître talmudique l’ayant créé et envoyé à un collègue, celui-ci lui parla mais l’autre ne répondait pas. Alors il comprit que ce n’était pas un homme et lui dit de retourner à la poussière. Quelques siècles plus tard, une autre légende change la donne.

Elle met en scène le prophète Jérémie, qui crée un homme artificiel parfait et ressemblant en tout point à un homme né de père et de mère. Ce golem, doué de la parole, se met aussitôt à dialoguer avec Jérémie. Il lui explique la confusion entre le naturel et l’artificiel que Jérémie vient d’introduire dans le monde et, demande à un prophète qui baisse les mains devant sa propre insouciance : « Défais-moi ! » Voilà une machine étonnamment éthique et même prête à se sacrifier ! Quoique la vie puisse lui sembler précieuse, elle préfère de se faire détruire au nom du maintien d’une distinction que l’on aurait cru désuète.

Par contraste, Ava, l’humanoïde dans le film Ex Machina d’Alex Garland, vise à mieux connaître les hommes plutôt que de maintenir une distance avec eux : « Si je pouvais sortir, j’irais à un carrefour, qui fournit une perspective concentrée mais constamment évoluant de la vie humaine ». Elle cherche à en apprendre davantage et, comme le monstre dans Frankenstein, elle a pour cela un stratagème : manipuler les émotions humaines. Elle sait que les hommes se comportent justement comme des hommes et que cela les rend prédictibles. Elle se donne pour but de recueillir un maximum d’informations qui l’approcheraient de l’indistinction parfaite avec une femme. Contrairement au cas de Frankenstein, elle n’a aucune révérence devant son créateur. Ava ne vénère aucun humain. Elle n’est pas non plus prête à se sacrifier. Son attitude est pragmatique et calculant : après avoir évité sa propre destruction, elle va profiter de la vie tout en distribuant la mort aux hommes.

Et les humains ?

Nous ne devons pas sous-estimer la force de la parole et des préjugés anthropologiques dont nous, les humains, ne nous libérerons pas facilement. Loin d’être d’innocentes machines à fabriquer des phrases amusantes, les chatbots, dans la mesure où ils envahissent peu à peu nos communications, deviennent un formidable outil de transformation démiurgique qui s’appliquera à l’individu comme à la société. Dans la droite ligne de Cicéron et des rabbins antiques, Alan Turing a fait de la parole le critère principal de l’intelligence.

Ce qu’il n’a pas demandé – et que nous ne savons toujours pas – c’est quelle sera la réaction de cette autre machine à dialoguer, à savoir le cerveau humain, à la prolifération massive des conversations dépourvus du sens profond de la hiérarchie. Quand les machines découvrent la parole, l’homme devrait réfléchir à ce que la parole peut encore signifier pour lui-même.

Alexei Grinbaum, Chercheur au LARSIM (Laboratoire des Recherches sur les Sciences de la Matière), Commissariat à l’énergie atomique (CEA) – Université Paris-Saclay

La version originale de cet article a été publiée sur The Conversation.