AI: Double Je - Artificial intelligence and me

The exhibition IA : Double Je, présentée au Quai des Savoirs du 2 février au 3 novembre 2024, plonge dans le monde de l’intelligence artificielle. Une science qui, si elle existe depuis longtemps, alimente aujourd’hui les fantasmes, particulièrement depuis l’arrivée de ChatGPT ou de Midjourney. Chaque jour, des innovations font leur apparition, provoquant débats et controverses, entre peur et enthousiasme. Pour y voir plus clair, le Quai des Savoirs propose, avec cette exposition, un voyage à la fois historique et prospectif, au cœur de la recherche scientifique contemporaine et de ses multiples enjeux.

 Toute technologie suffisamment avancée est indiscernable de la magie »
Arthur C. Clarke (1917-2008), auteur de science-fiction

" Réussir à créer l’IA serait le plus grand événement de l’histoire de l’humanité. Malheureusement, ce pourrait aussi être le dernier, à moins que nous n’apprenions à éviter les risques. » Le physicien Stephen Hawking évoque ainsi le bouleversement que représenterait l’intelligence artificielle (IA) mais aussi toute sa complexité. Cette nouvelle exposition  IA  : Double Je évoque justement cette dualité entre progrès technologiques révolutionnaires et nécessaire anticipation des impacts conséquents. Elle nous invite ainsi à explorer les possibles sans oublier de questionner les limites du recours à l’IA.
Fidèle à notre tradition de terre de pionniers, Toulouse est dotée d’un écosystème de l’innovation dynamique, avec la présence d’entreprises, de laboratoires et centres de R&D, de clusters et d’incubateurs, et ANITI, un des quatre instituts de recherche français pour l’intelligence artificielle, constitué de plus de 200 chercheurs qui mettent l’intelligence artificielle au cœur de leurs travaux. Avec notre futur campus d’excellence thématique Grand Matabiau, dont l’objectif est de fédérer, à Toulouse, un écosystème dédié au numérique, à l’intelligence artificielle et à la cyber sécurité, nous créons les conditions pour appréhender les enjeux de demain en la matière.
Avec cette exposition sur l’IA, le Quai des Savoirs, équipement métropolitain, met en lumière le travail de ces milliers de personnes à Toulouse et participe à la diffusion de la culture scientifique. "
Jean-Luc Moudenc, Maire de Toulouse, Président de Toulouse-Métropole

" L’intelligence artificielle est omniprésente dans les débats, entre espoir de nous libérer de tâches dont elle pourrait se charger et crainte du dépassement de l’homme par la machine. Elle trouve des applications croissantes dans des secteurs vitaux comme l’analyse d’images médicales, tout comme dans des usages plus récréatifs, telles que la génération d’images. Elle participe des grands questionnements de notre époque, qu’ils touchent à la décarbonation – c’est une technologie coûteuse énergétiquement -, à l’esprit critique ou à la lutte contre la désinformation, la possibilité de générer massivement textes de synthèse et “deep fakes” bouleversant l’écosystème informationnel.
C’est cette complexité que l’exposition IA : Double Je du Quai des Savoirs présente et décrypte, des dimensions scientifiques et techniques de l’intelligence artificielle aux perspectives qu’elle ouvre dans les domaines de l’art, de la philosophie, de la culture et de la politique. Elle met en lumière sa dualité structurelle : si le recours à cette technologie ouvre des possibilités infinies, qu’il s’agisse d’automatiser des opérations banales ou d’ordonner des données complexes, la manière dont nous construisons les algorithmes et les bases des données qu’ils exploitent bouleverse en profondeur nos cadres de référence. IA : Double Je interroge in fine la notion de responsabilité, celle des ingénieurs et techniciens, mais aussi celle de la société dans son ensemble, du citoyen à l’entrepreneur, en passant par le législateur. Dans un monde où l’intelligence artificielle pourrait être amenée à gouverner nos décisions dans des domaines aussi divers que le recrutement, la justice ou la santé, les citoyens doivent devenir des défenseurs éclairés de sa transparence ; l’intelligence artificielle, plus qu’aucune autre technologie à ce jour, pose des questions inédites que l’exposition aborde dans le souci de faire progresser la conscience commune des temps qui viennent. "
Bruno Maquart, Président d’Universcience

Faut-il avoir peur de l’intelligence artificielle ?

 

L’intelligence artificielle s’inscrit dans la longue liste des innovations scientifiques et technologiques qui nous promettent un avenir plus sûr, plus facile, plus harmonieux. Des voitures autonomes, des systèmes de traduction automatique qui permettent aux humains de communiquer directement entre eux, même s’ils parlent chacun une langue différente, des capacités de calculs inouïes qui aident à prendre les bonnes décisions dans des problèmes complexes, des robots physiques ou virtuels pour nous assister, prendre les risques à notre place, réaliser ce que nous ne pouvons (ou ne voulons) pas faire, nous cajoler aussi, parfois. En échange, il nous faudrait accepter de ne plus jamais gagner aux échecs, ni au jeu de go, face aux machines. Mais aussi d’être répertoriés, catalogués, scrutés à chaque moment de nos vies, du berceau à la tombe, transformés en Big Data pour être plus prévisibles. Dans un monde avec des technologies d’intelligence artificielle, qu’allons-nous perdre ? Qu’allons-nous gagner ?

The exhibition IA : Double Je, présentée au Quai des Savoirs du 2 février au 3 novembre 2024, s’intéresse donc à l’intelligence artificielle. Une science qui, si elle existe depuis longtemps, alimente aujourd’hui les fantasmes, particulièrement depuis l’arrivée de ChatGPT ou de Midjourney. Chaque jour, des innovations font leur apparition, provoquant débats et contro – verses, entre peur et enthousiasme. Pour y voir plus clair, le Quai des Savoirs présente, dans cette exposition, l’actualité des recherches et développements autour de l’intelligences artificielle. Il met en avant les rapports que nous entretenons avec cette technologie. Il les met en perspective pour interroger les futurs plus ou moins désirables auxquels l’IA pourrait nous conduire.

C’est donc à un voyage à la fois historique et prospectif, au cœur de la recherche scientifique contemporaine et de ses multiples enjeux, que cette exposition invite ses visiteurs. Où en est la science ? Quels résultats sont attendus ? Qu’est-ce qui marche déjà aujourd’hui, et que pouvons-nous espérer ou craindre pour demain ? Dans quelles conditions pourrons-nous accorder notre confiance aux technologies d’IA ? Mais aussi, en ce siècle où les humains ont enfin pris conscience de leur impact majeur sur leur environnement, un monde avec IA est-il durable ? Comment peut-il contribuer aux solutions, plutôt que d’accroître encore les problèmes ?

Rigoureuse dans ses contenus, inventive par sa muséographie, attractive et accessible pour toucher un large public, l’exposition IA  : Double Je est largement immersive. On y joue à se laisser conduire par un véhicule autonome, on y construit un outil d’aide au diagnostic du cancer du sein, on y découvre comment l’IA permet d’anticiper les effets du changement climatique, on y analyse l’impact de l’IA sur son métier, on y prend le temps de rêver devant une danse étrange entre un humain et un robot… IA  : Double Je est issue d’un projet collectif, associant de nombreux partenaires, tant sur les plans scientifique, technologique, indus – triel que culturel, éducatif et artistique.

« Le développement frénétique de l’IA fascine et interpelle à la fois » – 3 questions à Laurent Chicoineau, Directeur du Quai des Savoirs

Pourquoi une expo sur l’IA maintenant, alors que les technologies évoluent à toute vitesse ? Ne risque-t-elle pas d’être dépassée avant même d’ouvrir ses portes ?

Pourquoi une expo sur l’IA en 2024 ? Tout simplement parce que cette technologie est au cœur de l’actualité. Elle est en plein développement depuis les années 2000/2010, en particulier depuis l’avènement du « big data », ces immenses quantités de données issues du web et des réseaux sociaux. Ce développement frénétique fascine et interpelle à la fois. Les applications et performances de l’IA semblent sans limite, mais leurs conséquences et leurs implications nous interrogent déjà, voire nous inquiètent. Les questions liées au contrôle de l’IA, à sa régulation, à l’éthique des technologies se posent. Pour l’anecdote, lorsque nous avons démarré le travail de conception de cette exposition, fin 2021, personne n’avait entendu parler de ChatGPT ! Aujourd’hui, à l’ouverture de l’exposition, ce chatbot a déjà été testé par plusieurs centaines de millions d’humains, et il est au centre de multiples controverses, attentions et fantasmes…
Le rôle d’un centre de culture contemporaine comme le Quai des Savoirs est d’explorer les futurs des sciences et de la société au plus près de la recherche en train de se faire. Et aussi de montrer, sous l’écume médiatique, les principes scientifiques de l’intelligence artificielle et les questions de fond soulevées par toute technologie dans la société. Car ceux-ci changent beaucoup moins vite que toutes les innovations relayées par les campagnes de marketing des géants de la tech…

L’IA est un sujet extrêmement vaste. On ne peut pas tout montrer, tout expliquer dans une seule exposition. Quel a été votre parti pris ?

En effet, le thème de l’intelligence artificielle est très vaste, et très abstrait aussi. Et lorsqu’il s’agit de montrer, en dehors des machines informatiques ou des robots, il n’y a pas grand-chose à présenter dans une exposition sur l’IA ! Notre parti-pris a donc consisté à concevoir l’ensemble de l’exposition comme une installation artistique immersive, approche qui nous a été proposée par la scénographe Clémence Farrel et ses équipes. Le sol, les murs, les mobiliers, tous les éléments de l’exposition contribuent à plonger les visiteurs dans un univers abstrait, psychédélique, inspiré des pavages mathématiques. Le choix des damiers noir et blanc, évoluant au fil de la visite en des formes plus rondes voire organiques, traduit notre intention de complexifier une relation qui est parfois résumée à une simple compétition entre l’humain et la machine. Le recours à la dimension artistique se retrouve aussi dans une sélection de créations présentées dans l’exposition pour adresser les questions éthiques et d’usage de l’IA. Enfin, nous avons créé de nombreux interactifs, films et dispositifs audiovisuels pour amener les visiteuses et visiteurs au cœur des enjeux et applications de l’IA.

En quoi une exposition sur l’IA peut-elle alimenter les réflexions menées par le Quai des Savoirs depuis plusieurs années autour des futurs désirables ?

La raison d’être du Quai des Savoirs est de croiser les arts et les sciences, toutes disciplines confondues, pour construire collectivement des futurs désirables. L’enjeu est de renouveler les imaginaires des sciences en société pour accélérer les transitions nécessaires afin de transmettre un monde vivable aux générations futures. Le sentiment d’éco-anxiété n’a jamais été aussi fort dans nos sociétés. Après ce que certains ont appelé une panne des imaginaires du futur, ceux-ci n’ont jamais été aussi divergents qu’aujourd’hui. Entre les tenants d’un futur décroissant, low-tech et résilient, et ceux d’un futur accélérant les technologies pour dépasser les limites terriennes, les désaccords sont nombreux. Comment faire la part des choses ? Comment se positionner et agir sans se résigner ? Sur quelles données et retours d’expérience s’appuyer ? C’est pour proposer des pistes de réponses à ces questions que le Quai des Savoirs a nommé cette exposition « Double Je », pour accompagner, guider, l’exploration à la fois individuelle et collective de l’intelligence artificielle et moi. Imaginer des futurs désirables nécessite de comprendre le présent, et de prendre le temps, ensemble, de le questionner et d’imaginer les multiples voies qu’il peut prendre à l’avenir. Que ce soit à propos de l’intelligence artificielle ou de toute autre domaine de la connaissance humaine.

La dualité est, en quelque sorte, dans l’ADN de l’intelligence artificielle… et dans celle de l’exposition qui lui est consacrée  

L’IA est une des branches de l’informatique, avec ses séquences binaires de 0 et de 1. Mais elle produit aussi de nombreux doubles, de nos comportements, de nos émotions, de notre environnement… Ses applications nous interrogent, nous questionnent d’un point de vue moral ou éthique. Comme les deux faces d’une même médaille, de nombreuses applications apportent à la fois des bienfaits, des avancées significatives, des réponses ou des solutions à des problèmes, mais elles ouvrent aussi la porte à des mésusages, des détournements, ou génèrent de nouveaux problèmes. La dualité, le double, est donc le principe moteur de cette exposition, appuyé par une scénographie tout en noir et blanc.

Mais il ne s’agit pas pour autant d’enfermer les visiteurs dans une approche manichéenne de l’intelligence artificielle. Au contraire, toute la narration de l’exposition contribue à montrer que la plupart des usages et des questions qui se posent trouvent leur réponse dans des zones de gris, jamais dans le noir ni dans le blanc – dans des zones de gris, ou dans une infinie palette de couleurs…

L’exposition propose une exploration de l’intelligence artificielle et de ses enjeux, articulée autour de cinq modules thématiques.
En ouverture, une frise chronologique rappelle les principaux points de repère de l’histoire scientifique, technologique et sociétale de l’intelligence artificielle. Le visiteur est accueilli par un rappel du célèbre match qui opposa le champion du monde des échecs, Garry Kasparov, au supercalculateur américain d’IBM, Deep Blue, en 1997. Un match qui se solda par la victoire de la machine….

Start-stop, qu’est-ce que l’IA ?

L’intelligence artificielle fait partie de l’informatique, tout comme les robots et les ordinateurs. Les trois sont des machines artificielles programmées. Qu’il soit classique ou qu’il utilise des fonctions d’intelligence artificielle, tout programme informatique est un algorithme, c’est à dire une séquence d’instructions qui va être exécutée pour résoudre un problème. La différence entre un algorithme classique et un algorithme d’IA, c’est l’adaptabilité et la capacité de ce dernier à prendre en compte des informations supplémentaires pour personnaliser et ajuster les résultats en fonction des demandes.

Seules quatre fonctions de notre intelligence peuvent être simulées par des machines. On les retrouve d’ailleurs toutes dans les voitures autonomes :

• La machine perçoit, grâce à des signaux reçus par des capteurs comme des images, du son, des textes captés par des caméras ou des micros. Ces signaux sont interprétés par la machine et c’est ce qui lui permet de percevoir son environnement. 
• La machine raisonne. Grâce à une capa – cité de calculs extrêmement rapide et les bases de données, les raisonnements peuvent être plus rapides que les nôtres. Mais ils sont spécifiques, pour un but précis, là où les humains raisonnent sur beaucoup de problé – matiques différentes.
• La machine agit et interagit. Elle peut se déplacer, déplacer des objets mais aussi com – muniquer en interaction avec ce qui l’entoure. 
• La machine apprend. Elle peut optimiser ses performances, grâce à l’apprentissage continu, appelé rétroaction. Pour cela, elle analyse ses réussites ou ses échecs passés. Par exemple, si la voiture autonome fait un dépassement risqué qui entraîne une rétroaction négative, elle ajuste ses paramètres pour éviter de reproduire cette erreur.

Les algorithmes d’IA ne simulent donc pas tout. De nombreux éléments de notre intelligence sont impossible à simuler. Notre instinct par exemple : en cas d’accident on agit instinctivement, mais comment font les machines puisqu’elles n’ont pas d’instinct ?

À travers l’exemple du véhicule autonome, ce premier module introduit les différentes fonctions de l’IA et propose une définition aux visiteurs. Il ouvre vers les multiples applications de l’intelligence artificielle.

Zéro-Un Des datas à l’IA

Il existe plusieurs méthodes d’intelligence artificielle :

• Le machine learning ou, en français, apprentissage automatique C’est une méthode qui entraîne des algorithmes à faire ce qu’on attend d’eux à partir de données. Cette méthode s’est beaucoup développée récemment grâce à l’utilisation d’ordinateurs plus puissants et rapides, et la possibilité, avec internet, d’avoir accès à de grosses quantités de données.
• Le deep learning ou, en français, apprentissage profond Il permet à la machine d’apprendre à partir de beaucoup plus de données grâce aux réseaux de neurones artificiels profonds. La spécificité du deep learning est que la machine peut apprendre à partir des données brutes.  La machine est composée de plusieurs couches.

Prenons l’exemple d’un chat. Les premières couches détectent les formes basiques, tandis que les couches suivantes identifient des caractéristiques plus complexes : oreilles, moustaches… Les dernières couches servent à déterminer avec précision si l’image donnée représente un chat ou non. C’est la méthode d’apprentissage la plus précise.  Tous les programmes de machine learning et de deep learnig se basent sur le big data, c’est-à-dire l’ensemble des innombrables données numériques produites chaque jour dans le monde entier par nos utilisations d’internet et des réseaux sociaux.

Des données qui ne sont pas exemptes de biais, ni de failles – à l’image des humains ! Le stockage de ces données nécessite de créer et d’entretenir des infrastructures en dur pour assurer le bon fonctionnement des technologies d’IA. Chaque année, les datas centers s’étendent et se multiplient sur la planète.

Le problème des modèles d’IA est qu’ils sont opaques et basés sur des calculs complexes effectués par les réseaux de neurones. C’est ce qu’on appelle le paradoxe de la boîte noire : on sait ce qui entre dans la boîte noire mais pas ce qui s’y passe à l’intérieur. La recherche actuelle tend à les rendre plus transparents, en favorisant la diversité des données.

Le second module est centré sur la boîte noire, métaphore de l’IA. Dans cette boîte noire, des algorithmes traitent des données. L’exemple des données de santé est mis en scène, ainsi que les questions soulevées : celles de la transparence, des biais, de la législation.

Rêve-Réalité : Les imaginaires de l’IA

Pourquoi notre imaginaire collectif s’emballe-t-il au sujet de l’intelligence artificielle ? Sûrement parce qu’il s’inscrit dans une longue continuité de mythes et de récits qui façonnent depuis des siècles nos rapports à la technologie et à la création. Peurs, espoirs, fascination, fantasmes, affection, appréhension : une superposition d’émotions, une quête de création et de puissance qui peut être retracée depuis les récits anciens. Entre attirance et répulsion, nos relations ambivalentes à la technique et à l’artificiel ne datent pas d’aujourd’hui.

En partant de la mythologie grecque, les visiteurs pourront constater que les peurs, espoirs et fantasmes projetés sur l’IA s’inscrivent dans la continuité des grandes figures mythologiques, actualisées à l’époque contemporaine par la science-fiction et les littératures de l’imaginaire.
Par cette approche, ils saisiront mieux les ambiguïtés (entre fiction et réalité) contenues dans les imaginaires et inconscients collectifs, qui se traduisent dans nos attitudes vis-à-vis du progrès technologique en général et de l’intelligence artificielle en particulier. Conçu comme un pas de côté dans la visite, le troisième module propose un voyage dans les imaginaires de l’IA, des mythes les plus anciens aux récits de science-fiction contemporains. Il montre aussi comment ces imaginaires influencent nos perceptions de l’IA.

Pire-mieux – Les impacts de l’IA

L’IA a des impacts concrets sur bien des aspects de nos vies quotidiennes, en premier lieu sur l’environnement et notre rapport au travail.

• L’impact environnemental: Alors que l’IA évoque un imaginaire immatériel – le cloud – les programmes dotés d’IA et leurs supports numériques ont en réalité un impact environnemental très concret. Leur développement nécessite des ressources matérielles et des infrastructures importantes. Les données qui les alimentent consomment de l’énergie et laissent une empreinte carbone loin d’être négligeable. Ils ont également un impact humain considérable pour réguler leur fonctionnement. Mais a contrario, les algorithmes développés par l’IA sont aussi capables de modéliser et de calculer des données en faveur de l’environnement. Ils sont à même de suivre l’état global de la planète et de prendre des décisions en adéquation à la situation, notamment en matière de lutte contre le réchauffement climatique. Déjà, des solutions ou des alternatives existent pour réduire l’impact des technologies numériques, en développant des systèmes dotés d’IA plus sobres et plus durables, mais aussi en les utilisant de manière plus responsable.
• L’impact social : l’IA au travail: Le remplacement de l’humain au travail par l’IA : un mythe cauchemardé issu de l’apparition des robots ? Le fantasme d’un monde où nous ne travaillerons plus ? On constate aujourd’hui très peu de suppressions massives d’emplois liées à l’IA. En revanche, certains s’inquiètent quant à la dégradation possible de leurs conditions de travail : invisibles derrière leur machine, exploités, commandés, cantonnés à des tâches précises, les humains pourraient perdre leur autonomie ou leur motivation. A l’inverse, certains bouleversements peuvent être bénéfiques et aider l’humain à se libérer de tâches répétitives, sans valeur ajoutée et chronophages, afin de dégager du temps pour des tâches plus créatives, sociales, bénévoles, personnelles. Ces changements impliquent des évolutions plus globales de la société. Il est probable qu’une grande partie de nos métiers seront transformés dans leur organisation et que l’IA va encore accentuer les interactions entre les humains et les machines. Mais quoi qu’il en soit, il faut garder en tête que l’IA reste un outil au service des humains et non l’inverse !

Le module 4 dévoile les apports et les impacts concrets de l’IA en matière d’environnement et de rapport au travail. Il montre la face matérielle et énergivore de l’IA, ainsi que les diverses mutations que ces technologies peuvent engendrer dans le monde du travail.

Humain-Machine – Dialoguer avec l’IA

Des logiciels de traduction automatique aux robots dits « affectifs » en passant par le prompt-art, les systèmes d’intelligence artificielle misent sur la communication naturelle pour favoriser au mieux l’interaction humain-machine. Aussi, les systèmes d’IA sont entraînés à reconnaître non seulement notre langage naturel, mais aussi nos émotions et nos comportements afin de mieux interagir avec nous. Ils nous font des propositions orientées selon les modèles affectifs et comportementaux dans lesquels ils nous rangent.

Cette situation peut être problématique, car il est facile pour un humain d’oublier qu’il interagit avec une machine lorsque celle-ci semble le comprendre et agir en conséquence. Cette empathie artificielle modifie nos relations sociales, créant des effets néfastes, comme le risque de s’attacher à la machine avec laquelle on communique. Elle soulève également des questions éthiques sur la manipulation potentielle des usagers que ces systèmes permettent.

Cette proximité apparente entre l’humain et la machine est encore renforcée par les capacités de cette dernière à créer une œuvre originale (texte ou image), soit «  à la manière de », soit à partir d’une simple phrase (prompt-art).
Elle peut aussi produire des images ultraréalistes, favorisant là aussi la supercherie et la tromperie (fake-art). Tout ceci accroît encore le trouble entre l’humain et la machine, et conduit certains à penser que la machine sera bientôt dotée d’une conscience, comme celle d’un humain…

À travers ce module, les visiteurs seront à la fois troublés par les performances de l’intelligence artificielle et confrontés à ses limites. Ils seront amenés à s’interroger sur ce qui leur est propre en tant qu’humain au regard du fonctionnement des machines et sur ce qu’ils sont prêts à accepter dans leur quotidien et leur futur proche.

Le point de vue des experts

Tout au long de l’exposition, les visiteurs pourront écouter le point de vue d’experts à qui il a été posé trois questions (Interviews à découvrir dans leur intégralité au fil de l’exposition)

• Cédric Villani : enseignant chercheur en mathématiques, lauréat de la médaille Fields en 2010. Il se consacre depuis cette date à la vulgarisation scientifique. Il est l’auteur d’un rapport sur l’intelligence artificielle en 2017 à la demande du premier ministre de l’époque, Édouard Philippe.
• Laurence Devillers : professeure en informatique appliquée aux sciences sociales à l’Université Paris-Sorbonne et chercheuse au Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur du CNRS.
• Marie-Laure Denis : conseillère d’État, présidente de la CNIL depuis 2019.
• Thierry Ménissier : professeur à l’Institut de Philosophie de Grenoble, responsable de la chaire « éthique et IA » (MIAI).
• Yann Ferguson : docteur en sociologie de l’Université Toulouse Jean-Jaurès, directeur scientifique du LaborIA à Inria et chercheur associé au Centre d’études et de recherche Travail Organisation Pouvoir.

QUI CONTRÔLE L’IA ? 

Marie-Laure Denis : Le contrôle des systèmes mettant en œuvre l’IA est essentiel pour organiser la complémentarité entre l’humain et l’intelligence artificielle. Il s’agit ainsi de s’assurer que ces systèmes disent ce qu’ils font et font ce qu’ils disent, en particulier au regard des enjeux d’explicabilité et d’interprétation des décisions et des résultats produits.  Ensuite il est essentiel de s’assurer que les utilisateurs gardent la main sur ces outils. Il s’agit de penser la place des hommes dans les interactions avec la machine et plus globalement dans le processus de décision. Enfin ces systèmes doivent être régulés par des organismes de supervision.

Cédric Villani : Pour moi, la question est plutôt : comment contrôler les intelligences artificielles ? Ça dépend du contexte et des communautés. S’il n ‘y a pas de volonté de les contrôler, ce n’est pas un scoop, il peut faire n ‘importe quoi. S’il y a une volonté dès le début de la conception, on y arrive. Voyez comment ChatGPT est bien muselé pour éviter les questions gênantes, les dérapages, les prises de positions sur des sujets politiques ou autres. Pourquoi ? Parce que les concepteurs, dans la façon dont ils l’ont entraîné, dans la façon dont ils l’ont policé après-coup, ont fait attention justement à éliminer toutes ces aspérités.

Laurence Devillers : Demain, l ‘IA sera partout autour de nous. Il est vraiment essentiel, non seulement de faire des normes, des lois autour de son utilisation, mais également que nous, en tant que citoyens, en tant de parents, soyons conscient de l’importance de garder notre libre arbitre et d’apprendre à utiliser ces machines pour ce qu’elles sont. Elles n’ont rien d’humain, être poli avec ChatGPT ne sert à rien

UNE MACHINE PEUT-ELLE CRÉER ?

Cédric Villani : Avec la sophistication des algorithmes, les humains terrifiés essaient de se rassurer : «  l’algorithme sait faire ça mais, nous, on a telle ou telle spécificité, nous sommes créatifs et pas lui…  » Ce n’est pas vrai ! Pour démontrer qu’une machine peut être originale, il suffit de considérer la fameuse partie de go entre AlphaGo et Lee Sedol, et le moment ultra-commenté du 37e coup de la deuxième partie, où l’algorithme joue un coup qui n’avait pas été prévu. Les gens ont d’abord cru à une erreur, Lee a été complètement décontenancé et, a posteriori, on s’est rendu compte que c’était un coup de génie, pas dans les manuels… C’était quelque chose d’inventif, de créatif. Ce n’est pas venu parce que l’algorithme avait une intelligence ni parce qu’il avait une inventivité supérieure à celle de l’humain. C’est venu parce qu’il a exploré, réexploré, usant de l’avantage de ses circuits – comme de milliards d’années de recherche. Vous me direz  : c’est extrêmement bourrin  ! Certes, mais dans le monde des humains il y a eu aussi de grands créateurs « bourrins »… excusez le mot… des inventeurs comme Edison, des écrivains comme Flaubert. Pour autant, ce qu’ils ont produit était inventif et émouvant !

Thierry Ménissier : Il n’y a pas de doute que les systèmes d’algorithme sont capables de faire des prodiges, susceptibles de nous émerveiller. On a vu apparaître des IA génératives qui sont capables de créer des quasi-œuvres originales. Ces machines sont des quasi-autrices. Elles ne le sont pas réellement puisqu’elles empruntent à l’existant et elles recombinent, recomposent de manière certes originale et imprévisible, des contenus qui, de toute façon, sont déjà existants.

Laurence Devillers : Pour un artiste, il y a matière à trouver de la nouveauté, de l’inventivité à travers les résultats que proposent ces machines. Mais en aucune manière, la machine n’a l’intention de produire quelque chose de nouveau, d’intéressant, de sensible, puisqu’elle n’a pas conscience de créer quelque chose.

Yann Ferguson : Il s’agit aussi de savoir ce que nous ressentons devant l’œuvre d’une machine. Si une machine écrit un roman, si une machine compose un concert ou un tableau et que je ressens une émotion en lisant, en écoutant cette composition, est-ce qu’on ne peut pas dire, du coup, que cette machine est capable de créer ? C’est une des questions que l’on peut se poser : se demander si le pouvoir de création de la machine, on va l’accorder en fonction de l’émotion qu’on ressent devant son œuvre.

UNE MACHINE PEUT-ELLE PENSER ?

Thierry Ménissier : Du point de vue philosophique qui est le mien, non, une machine ne peut pas penser, si l’on entend par là la capacité à mobiliser des facultés comme l’intuition, le fait d’être inspiré et aussi la réflexivité, le fait de se regarder soi – même, ou encore le fait de douter.

Marie-Laure Denis : Il est difficile de considérer qu’il s’agit de pensée, car contrairement aux humains et aux animaux, les IA conversationnelles génératives de textes ne produisent pas de raisonnement, elles ne manipulent pas d’hypothèses, selon des règles et des critères de véracité et de pertinence. Elles peuvent se contredire dans un laps de temps très court, dans la même conversation. Elles n’ont pas de processus de raisonnement qui leur permet d’organiser leur réponse de manière suivie, cohérente et pertinente pour celui qui reçoit le texte. En revanche, les IA génératives apprennent par retour d’expérience. C’est ce qu’elles font en prédisant le mot le plus probable pour compléter une suite.

Yann Ferguson : Il ne s’agit pas de savoir si la machine est intrinsèquement intelligente, mais de savoir si elle est capable de se faire passer pour intelligente. Pour Alan Turing [auteur du test dit Test de Turing et de l’article « L’intelligence de la machine » en 1950], l’imitation de l’intelligence et l’intelligence elle-même, la pensée et l’imitation de la pensée, c’est la même chose. Et donc à mesure que l’intelligence artificielle va se développer, on va être de plus en plus face à cette question : est-ce que c’est vraiment intelligent ? Est-ce que ça pense vraiment ? Et on va de plus en plus se poser la question de savoir si l’imitation de l’intelligence équivaut à l’intelligence elle-même.

IA : Double Je est issue d’un projet collectif, associant de nombreux partenaires, tant sur les plans scientifique, technologique, industriel que culturel, éducatif et artistique. Elle est conçue par le Quai des Savoirs et coproduite avec Universicence Paris.
Partenaires scientifiques : ANITI/ Université de Toulouse, le CNES, le CNRS, l’Inria.

Exhibition AI: Double Je - Artificial intelligence and me , Quai des Savoirs – Allée Matilda – 31000 Toulouse – du 2 février au 3 novembre 2024

WWW.quaidessavoirs.toulouse-metropole.fr

To go further : 

• Conférence inaugurale : Pour plonger dans le sujet, rendez-vous le 6 février à 18h30 pour une conférence exceptionnelle de Laurence Devillers, professeure en informatique appliquée aux sciences sociales à l’université Paris Sorbonne et chercheuse au Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur du CNRS. Elle abordera une question d’actualité : « quelle est la place de l’intelligence artificielle dans l’éducation ? »

• Cinéma : Quand la réalité rattrape (presque…) la fiction. S’il est bien un endroit où l’on parle d’intelligence artificielle depuis longtemps… c’est au cinéma ! Les scénarios de science-fiction les plus fous, souvent sombres il faut le reconnaître, sont devenus des références des salles obscures et ont, chacun à leur manière, contribué à construire nos imaginaires sur ce sujet… Avec la Cinémathèque de Toulouse, l’American Cosmograph, le Grindhouse Festival et le Fifigrot, le Quai des Savoirs proposera un cycle Cinéma et IA.

  Le programme sera lancé par la Cinémathèque dès le mois de janvier pour un premier avant-goût, avant le démarrage de cette série de rendez-vous dès le mois de février : Blade Runner, IA, Terminator et tant d’autres… Et pour aller plus loin sur le sujet IA et cinéma :

  • 29 février à 19h à la Cinémathèque : rencontre avec Ariel Kyrou dans les imaginaires du futur, animation Franck Lubet
  • 14 mars de 9h à 17h – Journée d’études au Quai des Savoirs sur L’intelligence imaginaire : enjeux esthétiques des IA (cinéma et arts visuels) organisée par Camille Prunet et Vincent Souladié de l’Université Toulouse Jean-Jaurès.

  Cette journée d’études s’intéressera aux «  imaginaires esthétiques » de l’intelligence artificielle dans le cinéma et les arts visuels, c’est-à-dire aux représentations qu’elle suscite, qu’elle génère ou qu’elle questionne, aux modalisations artistiques de son système perceptif et énonciatif, à l’épistémologie du vrai et du faux induit par ses images.

  Des rendez-vous projections suivis d’un débat seront également proposés tout au long de l’année avec les cinémas partenaires de la Métropole