Mutations technologiques et action publique – 2

L’action publique peine à prendre en compte les conséquences potentielles des mutations technologiques en cours sur les libertés individuelles, mais aussi sur l’égalité, la souveraineté et même l’avenir de l’homme, comme l’a illustré l’article précédent dans le domaine de la santé. Quelles solutions sont envisageables ?

Partie II : quelles solutions ?

La puissance publique s’amenuise à mesure que les États perdent le monopole de l’accès aux données et de leur régulation et que leurs capacités financières et techniques sont concurrencées, voire dépassées, par celles d’acteurs privés. La réaction sociale et politique est d’autant plus complexe à définir et plus exigeante que les « promesses » technologiques foisonnent, formulées par des acteurs aux statuts et aux ambitions divers.

 

La technicisation du monde a été décrite par Heidegger dans son discours Sérénité en 1955 : « Dans tous les domaines de l’existence, l’homme va se trouver de plus en plus étroitement cerné par les forces des appareils techniques et des automates. […] Ce qui, toutefois, est ici proprement inquiétant n’est pas que le monde se technicise complètement. Il est beaucoup plus inquiétant que l’homme ne soit pas préparé à cette transformation, que nous n’arrivions pas encore à nous expliquer valablement, par les moyens de la pensée méditante, avec ce qui, proprement, à notre époque, émerge à nos yeux. […] Aucune organisation purement humaine n’est en état de prendre en mains le gouvernement de notre époque »[1].

 

Nous ne suivons pas Heidegger dans cette dernière conclusion, trop radicale, non plus que sur le lien surprenant avec « l’enracinement des œuvres humaines dans une terre natale » qu’il évoque ensuite. Nous pensons en revanche le constat que les objets qui « émergent à nos yeux » méritent que « nous nous expliquions valablement, par les moyens de la pensée méditante » est applicable au contexte présent des technologies « NBIC ». Comme à l’âge de la bombe atomique qui marquait Heidegger, la société est frappée par une forme d’impuissance politique face à l’accélération des évolutions techniques. À l’âge de la bombe, c’était la crainte de l’apocalypse nucléaire qui menaçait le souci du futur, et donc l’espace politique. Aujourd’hui, c’est une idéologie désireuse de « vaincre la mort » et de simplifier la vie. Mais ces deux formes de menace de l’espace politique aux racines diamétralement opposées, crainte de destruction et fantasme d’éternité, sont-elles si différentes ?

 

Dans un monde où des entreprises décident d’évolutions déterminantes pour la société et où les États n’ont plus les moyens, voire le droit, de faire valoir l’intérêt général, l’espace démocratique est tout simplement déserté. Cette question est autrement plus grave et plus complexe que celle de la protection des données personnelles[2]. Et la tâche à accomplir est plus ardue encore que celle de restaurer un intérêt ou une volonté politique : elle est de restaurer la capacité même à agir dans un espace politique.

 

Pour autant, il serait à la fois irréaliste et pire que le mal d’en conclure que les États devraient « reprendre le contrôle » en nationalisant les entreprises à l’origine de ces changements ou en les censurant. Comme on l’a déjà noté en évoquant le récent contentieux entre Apple et le FBI, un contrôle accru par l’administration ne jouirait probablement pas non plus d’une grande légitimité. Quant à la Justice, elle manque de compétences et de moyens, elle est parfois démunie dans un cadre international, et ne peut qu’intervenir a posteriori.

 

Autre écueil, tout aussi terrible : la capture de l’espace public par la contestation militante. En effet, lorsque des questions liées aux mutations technologiques parviennent à être abordées dans l’espace public, c’est trop souvent sous la forme de mises en scène spectaculaires et d’oppositions (ou de défenses) idéologiques qui condamnent toute démarche politique constructive.

 

Citons de nouveau Sérénité de Heidegger : « Il serait insensé de donner l’assaut, tête baissée, au monde technique ; et ce serait faire preuve de vue courte que de vouloir condamner ce monde comme étant l’œuvre du diable. Nous dépendons des objets que la technique nous fournit et qui, pour ainsi dire, nous mettent en demeure de les perfectionner sans cesse. Toutefois, notre attachement aux choses techniques est maintenant si fort que nous sommes, à notre insu, devenus leurs esclaves. Mais nous pouvons nous y prendre autrement. Nous pouvons utiliser les choses techniques, nous en servir normalement, mais en même temps nous en libérer, de sorte qu’à tout moment nous conservions nos distances à leur égard. Nous pouvons faire usage des objets techniques comme il faut qu’on en use. Nous pouvons en même temps les laisser à eux-mêmes comme ne nous atteignant pas dans ce que nous avons de plus intime et de plus propre. Nous pouvons dire “oui” à l’emploi inévitable des objets techniques et nous pouvons en même temps lui dire “non”, en ce sens que nous les empêchions de nous accaparer et ainsi de fausser, brouiller et finalement vider notre être ».

 

Pour cela, nos attentes envers le pouvoir politique doivent être refondées. Pour que les innovations structurantes pour la société soient des objets de pensée et de choix collectif plutôt que des objets de consommation multipliés sans raison avant que le marché ne décide, les politiques doivent rendre ce choix collectif possible, et permettre, in fine, aux citoyens de définir des limites et de peser sur leur destin.

Il est tout d’abord nécessaire de repenser et de clarifier le rôle des scientifiques, des intellectuels et des politiques.

 

Comme l’écrivait il y a trente ans Ulrich Beck, « si l’on veut obtenir les conditions matérielles et institutionnelles nécessaires pour se payer “le luxe du doute” (baptisé “recherche fondamentale”), il faut être capable d’affirmer ses prétentions à la connaissance sur le marché, contre les groupes professionnels et les groupes profanes »[3]. Les sciences nous aident à définir le champ des possibles, à étudier les nuances du monde tel qu’il nous entoure et tel que nous le façonnons, en établissant et mettant à disposition les connaissances nécessaires. Leur ambition doit cependant rester modeste. « Leur but n’est pas d’ouvrir la porte à une sagesse infinie, mais de fermer la porte à une erreur infinie » rappelait Bertolt Brecht dans La vie de Galilée.

 

La connaissance scientifique permet de poser de manière rigoureuse les problèmes, elle est nécessaire à tout choix éclairé, elle peut (ou doit) conduire à lancer des alertes, mais elle ne doit pas prendre la place du discours politique : ainsi, lorsque les académies des sciences des pays du G7 et de pays partenaires proposent aux gouvernants de « promouvoir la modélisation du cerveau et l’intelligence artificielle » et d’« intégrer les acquis des neurosciences à ceux des sciences sociales et comportementales, afin d’améliorer l’éducation et les modes de vie », quand bien même ce serait « tout en engageant le dialogue sur l’éthique »[4], elles font, au service d’un but sans doute légitime (l’amélioration de l’éducation et des modes de vie), une proposition partisane (la promotion d’un type de solution) qui ne relève pas de la science.

Éviter la « confusion des arènes » (politique et scientifique) est une nécessité pour le bon fonctionnement du débat public, comme l’illustrent les dérives des « débats » sur le changement climatique. Pour les scientifiques, prendre un minimum de distance avec l’espace politique est même une condition d’exercice de la liberté académique. Pour autant, tout en se gardant d’intervenir en défense de propositions politiques, les scientifiques ont la responsabilité de fournir au plus grand nombre possible les connaissances disponibles, mais aussi d’apporter des nuances, d’identifier les risques et les effets collatéraux des techniques. « J’espère qu’à l’avenir vous prendrez autant en considération la durée et la substance que la méthode et la technique », écrivait Jonathan Swift[5].

 

On pourrait rétorquer que l’idéal des Lumières d’accomplissement de l’égalité à travers l’accès à la connaissance a peut-être été dépassé par les progrès de la technique : en effet, si les progrès des sciences et techniques étaient alors vus comme des moyens de « libérer » l’humanité de contraintes matérielles pour la rendre plus autonome et lui permettre d’accéder à une humanité plus haute, ils représentent peut-être au contraire aujourd’hui un obstacle à cet accomplissement. Cet idéal se heurte au foisonnement des innovations, à la bienveillance, proclamée ou sincère, de leurs promoteurs, à la croyance en leurs effets bénéfiques pour l’économie, à l’efficacité des services qu’elles permettent, aux attraits de la prolifération des interactions et des échanges, bref, à un « technoprogressisme » aveugle. C’est que pour renouer avec cet idéal, il faut aussi pourfendre l’idée que la culture se dresserait en obstacle à une égalité préexistante, et convoquer la philosophie, la littérature, toutes les sciences morales, qui sont aussi nécessaires pour appréhender les mutations technologiques et comprendre leurs conséquences potentielles, en particulier sur la liberté et l’égalité.

Les politiques exercent leur légitimité sur un terrain différent des scientifiques et des intellectuels, non celui des connaissances, mais celui des usages.

 

Devant l’absence de solution offerte dans les structures institutionnelles existantes[6], il semble nécessaire d’inventer de nouvelles modalités de prise en charge sociétale et institutionnelle des usages des technologies, comme ceux que nous avons illustrés précédemment dans le domaine de la santé. Ces modalités devront gérer de nombreuses contradictions : entre principe de précaution et désir des patients, entre prolongement de l’espérance de vie et égalité d’accès aux traitements, entre aspiration à l’efficacité et libertés, etc.

 

 

On peut en appeler pour cela à une écologie politique « étendue » à des domaines autres que la protection de l’environnement, pour accompagner l’évolution des sciences et techniques, et assurer un contrepoids à une dynamique de « progrès » autonome. En effet, l’écologie politique au sens usuel vise à une meilleure intégration de l’homme dans l’environnement pour éviter le dérèglement de ce dernier. Hannah Arendt invitait déjà à penser les dérives du monde technique comme un métabolisme déréglé. Les évolutions décrites ci-dessus peuvent faire craindre un dérèglement non pas de l’environnement mais de certains équilibres de la société (comme celui du système de santé), et de la santé, voire de l’espèce humaine elle-même, sous l’effet de technologies couplées à la massification des données et à des fragilités politiques.

 

En un certain sens, une telle politique s’opposerait à une dynamique dite de progrès, et serait donc qualifiable de « conservatrice ». Les transhumanistes ou technoprogressistes s’opposent d’ailleurs souvent eux-mêmes aux « bioconservateurs ». Mais il s’agit d’une démarche de conservation d’une potentialité de développement et d’une complexité. Il conviendrait plutôt de parler d’une politique de préservation des possibles.

 

Il serait utile de réfléchir aux manières d’adapter le cadre institutionnel pour permettre une priorisation du long terme dans l’action publique et entreprendre une politique de préservation des possibles. Bruno Latour a suggéré une évolution des institutions autour des pouvoirs de « prise en compte », d’« ordonnancement » et de « suivi », ce dernier étant assuré par l’État, et de cycles de « perplexité », de « consultation », de « hiérarchie » et d’« institution »[7]. Bruno Latour nous rappelle que les objets que nous devons prendre en compte sont des objets fondamentalement hybrides, ni naturels ni culturels. Aussi, se fier aux « lois de la nature » n’a pas plus de sens que se fier à celles du marché, et une nouvelle « Constitution » doit être adoptée pour permettre de trier ces « quasi-objets »[8]. Les technologies évoquées plus haut dans le domaine de la santé relèvent pleinement de cette analyse.« La liberté est redéfinie comme une capacité de triage des combinaison d’hybrides […]. La production d’hybrides, en devenant explicite et collective, devient l’objet d’une démocratie élargie qui en règle ou ralentit la cadence »[9].

En l’absence de réforme institutionnelle et dans le contexte actuel en France, l’administration doit s’efforcer de coordonner les initiatives visant à une meilleure définition des usages des technologies et favoriser la prise en compte des technologies émergentes dans l’action publique.

 

Le Conseil d’État a proposé dans son rapport annuel 2011 une évolution d’une administration consultative à une « administration délibérative ». Cependant, le recours est trop fréquent à des évolutions réglementaires par petits pas, trop catégorielles, qui peinent à être articulées, sont sans cesse en retard sur les évolutions technologiques et la jurisprudence et présentent un risque fort de dérive formelle ou de capture par les lobbies. L’administration subit une perte de sens de ses missions historiques, et la recherche « de bonne foi » d’amélioration est très difficile. La question peut se poser de savoir qui est le mieux placé entre le pouvoir exécutif et le pouvoir législatif pour mener à bien un travail dans ce sens. L’Office parlementaire d’évaluation des choix scientifiques et technologiques aurait une légitimité forte pour cela, mais il devrait s’adosser sur une structure d’animation et d’évaluation nourrie par les travaux issus des administrations, du monde académique et de la société civile. Certaines autorités indépendantes disposent aussi d’atouts pour porter des messages affranchis du temps court et des barrières partisanes des politiques : la CNDP pour favoriser le débat public, le CCNE pour nourrir et diffuser les questionnements éthiques[10], la CNIL vu la place centrale des questions liées à l’utilisation de données, l’AFLD dans les domaines du dopage génétique et de la médecine d’amélioration, la HAS pour l’évaluation et la prospective des technologies de santé… Elles font cependant face aux mêmes difficultés que les politiques pour faire entendre ces messages (communication portée par des événements, laissant peu de place à la complexité), et n’ont pas de mandat ni de poids politique.

 

Des collaborations renforcées entre des équipes compétentes en traitement des données, en sécurité informatique, en statistiques, et des domaines comme la santé, les transports ou l’éducation, pourrait aider à construire une vision des big data tournée vers l’intérêt général et une régulation adaptée. Cela implique notamment de développer des filières d’enseignement supérieur adaptées. Dans son essai À quoi rêvent les algorithmes, Dominique Cardon explique et catégorise les risques que présente l’abandon de certaines décisions à des algorithmes, et conclut à la nécessité de rendre ces algorithmes lisibles, critiquables, d’en faire des objets de questionnement, de contestation, de régulation[11]. Cela rejoint certaines propositions formulées dans l’étude annuelle 2014 du Conseil d’État de promouvoir le droit à l’« autodétermination informationnelle », d’obliger les plateformes à informer sur les critères de classement et de référencement et les auteurs de décisions s’appuyant sur des algorithmes à informer sur les données utilisées et le raisonnement suivi ou de mettre en place des contrôles des algorithmes et des différenciations des prix reposant sur l’utilisation de données personnelles[12]. Au-delà des seuls algorithmes, la mise en place de dispositifs d’évaluation des outils et dispositifs et de mise en lumière des conséquences des usages est nécessaire

 

Renforcer la prévention des conflits d’intérêt, le contrôle de concurrence et la régulation fiscale des entreprises collectant, traitant et utilisant des données, interdire certains usages discriminants des données de santé, en particulier par les assureurs, créer des structures à but non lucratif hébergées en Europe, sont d’autres pistes d’actions qui pourraient facilement être mises en œuvre dans le contexte actuel. Dans le domaine du vivant, la non brevetabilité et la réversibilité des transformations du vivant pourraient figurer parmi les critères pratiques de « triage » à retenir.

 

Des garanties simples doivent avant tout être données. Comme le rappelle Jean-Claude Ameisen, « le processus de “choix libre et informé” est au cœur de la démarche éthique biomédicale. Il est aussi essentiel à la vie démocratique »[13]. La garantie d’un choix libre et informé en matière d’usage des technologies, informé tant des conditions techniques que des conséquences sociales ou politiques possibles, libre car nuancé ; le droit à ne pas tout devoir mesurer ou partager de ses comportements ; l’écoute des silencieux et des abstentionnistes du monde numérique, doivent primer sur la recherche à tout prix d’innovation et de simplification.

 

Tout cela gagnerait bien entendu à être pensé et développé à l’échelle européenne. Bâtir une vision alternative du progrès (technique et social), un modèle plus humain et plus juste d’usage des technologies, mettre en place des institutions démocratiques en mesure de gérer des problèmes de long terme et de servir cette vision du progrès, serait peut-être un défi à la hauteur du besoin de recréer une aventure commune en Europe.

 

Ambroise Pascal, Ingénieur des Ponts, des eaux et des forêts – Actuellement en poste à l’Autorité de sûreté nucléaire

Le contenu de cet article n’engage que son auteur

 

Lire 1ère partie de « Mutations technologiques et action publique »