Mutations technologiques et action publique – 1

Qu’elles soient déjà intégrées à notre quotidien ou qu’elles relèvent encore de la science-fiction, les mutations technologiques façonnent notre rapport au monde. Pourtant, l’action publique peine à prendre en compte leurs conséquences potentielles, sur les libertés individuelles, mais aussi sur l’égalité, la souveraineté et même l’avenir de l’homme. Aux frontières de la santé et du numérique, certains sujets sont particulièrement sensibles.

Partie 1 : mutations technologiques en santé et risques pour la société

 

« Nous prétendons vivre dans une “société de la connaissance”, mais il serait certainement plus juste de dire que nous vivons dans une société de l’usage de la technologie ». Ce constatd’Étienne Klein[1] met en exergue nos usages quotidiens de produits d’une grande complexité technique, tout en ignorant tout de ce qui les rend possibles.

A cette familiarité des usages et à cette « étrangeté » aux fondements scientifiques des technologies, s’ajoutent (à quelques exceptions près, comme sur les OGM), une impuissance politique et un aveuglement moral à leurs conséquences, alors même que les mutations technologiques ont un rôle déterminant dans nos modes de vie et nos relations au monde et à autrui.

 

Les usages des technologies sont guidés par le « jeu » de l’offre et de la demande. Bien qu’il repose sur l’expression de préférences individuelles, l’ordre qui en découle n’est pas démocratique, car il ne passe pas par la définition collective d’objectifs. Il n’est d’ailleurs pas de nature politique, précisément parce qu’il ne fait qu’agréger des préférences individuelles, faisant fi de l’espace commun entre les hommes qui fait le politique. Cet ordre est enfin, sous l’effet de la révolution numérique, de portée internationale, presque hors d’atteinte des règles nationales, et représente pour les États une perte de souveraineté non consentie collectivement.

 

S. Escher, Escalier

On comprend donc que la question de l’usage des technologies ne soit pas une préoccupation centrale du débat politique, si ce n’est comme levier supposé de création d’emploi et de valeur. Cette forme d’impuissance du politique n’est certes pas propre aux questions technologiques, et existe sur bien des sujets de long terme ou touchés par la mondialisation. Il n’en est pas moins nécessaire d’anticiper, orienter, le cas échéant prévenir et dans tous les cas prendre en compte collectivement, de manière réfléchie et délibérée, les nouveaux usages des technologies pouvant transformer la société.

 

Enfin, certains usages des technologies ne posent pas seulement des problèmes politiques, mais aussi des problèmes moraux. Le recul critique nécessaire à la construction de choix de société éclairés est d’autant plus difficile à conquérir que l’innovation est souvent considérée comme une fin en soi. Pourtant, tout en étant de plus en plus complexes, les technologies font disparaître ou rendent invisibles des intermédiaires, servent l’homogénéisation des comportements, l’automatisation des tâches, bref, simplifient la vie, ce qui véhicule implicitement certaines valeurs. Des évolutions de la société semblent advenir d’elles-mêmes, sans attendre les choix démocratiques ni les réflexions éthiques.

 

Nous nous intéresserons ici essentiellement au domaine de la santé. Dans ce secteur comme dans d’autres, des transports aux télécommunications, de la sécurité à l’éducation, les mutations technologiques présentent bien entendu de nombreux aspects bénéfiques. Mais elles ont la particularité de mêler les sciences du vivant aux technologies, notamment numériques, d’où naissent une complexité et des risques particuliers pour le corps humain, l’environnement et la société. Touchant intimement chacun d’entre nous, la santé est sans doute le domaine dans lequel l’aspiration au progrès est la plus évidente, la plus inattaquable, et donc celui dont la prise en charge est la plus exigeante politiquement et les promesses les plus aveuglantes moralement.

Entrons en matière en donnant quelques exemples de mutations en cours dans le domaine de la santé :

–       tendance à l’enregistrement et au partage généralisés de données (courant du « quantified self », santé mobile ou « m-santé »), grâce à l’« informatique vestimentaire », aux déjà familiers bracelets connectés et applications mesurant l’activité sportive, les cycles du sommeil, le rythme cardiaque, la consommation alimentaire ou le taux d’alcoolémie[2] ;

–       naissance d’une médecine implantée (par exemple, partenariats entre Google et Novartis et Sanofi pour développer des lentilles de contact mesurant la glycémie et lutter contre le diabète[3], puces de l’entreprise Microchips Biotech délivrant des médicaments directement dans l’organisme, tissu cardiaque combinant des éléments organiques et électroniques développé à l’université de Tel-Aviv[4]…) ;

–       accès à peu de frais au séquençage et au décryptage de son ADN (par exemple par l’entreprise 23andMe) puis à son partage (par exemple sur le réseau social « OpenSNP ») ;

–       perspectives d’amélioration des performances physiques par des prothèses technologiques[5] ;

–       tentatives d’amélioration des performances sensorielles ou intellectuelles (lunettes à réalité augmentée, prothèses mnésiques plus ou moins élaborées[6], programmes de stimulation ou interfaçage du cerveau de la « Brain Initiative » de la DARPA, l’agence de recherche de l’armée américaine…) ;

–       thérapie génique (en 2015, des scientifiques chinois ont annoncé avoir réussi à supprimer sur un embryon un gène responsable de la bêta-thalassémie ; le Royaume-Uni a quant à lui autorisé des techniques de fécondation in vitro utilisant l’ADN de trois parents pour le traitement des maladies mitochondriales sévères)[7] et ses possibles dérives, du dopage génétique aux pratiques eugénistes.

 

 

Certes, une partie de ces exemples relève peut-être de la science-fiction : l’amélioration du corps par des prothèses, alors que la réparation n’est elle-même pas à qualités équivalentes (des fonctions restent non couvertes[8]) ; la convergence « NBIC » (technologies nano, bio, informatiques et cognitives) et certaines visées transhumanistes, qui se prêtent aux fantasmes et aux titres à sensation ; les promesses de reconstitution informatique du cerveau ou certaines perspectives d’« édition génétique », régulièrement dénoncés comme des supercheries[9]. Parmi les exemples cités, seuls les objets connectés appartiennent déjà au quotidien. Nul ne sait quelles technologies d’interfaçage cerveau-machines, quels tests de sélection d’embryons, quels projets d’« amélioration » de la « Singularity University », du Google X Lab ou de la DARPA verront le jour et se diffuseront à grande échelle. Des barrières infranchissables par la technique existent sans doute. Les inquiétudes sont alors aussi infondées que les promesses sont exagérées[10].

 

Il n’en demeure pas moins que de nombreux services sont déjà disponibles, en particulier de quantified self ». Dans le domaine de la réalité augmentée, la popularité du jeu « Pokémon Go » ne prépare-t-elle pas la diffusion des lunettes, casques et écrans à réalité augmentée ? De premières jurisprudences donnent également quelques signes tangibles, du jugement du tribunal arbitral du sport permettant à Oscar Pistorius de concourir comme athlète valide aux Jeux olympiques de Pékin en 2008 à la décision des autorités britanniques d’autoriser l’artiste daltonien Neil Harbisson à porter son « eyeborg » sur ses papiers d’identité[11] en passant par celle du Conseil d’État d’interdire le recours à un système de « téléobservance » pour conditionner la prise en charge d’un traitement de l’apnée du sommeil, qu’avait prévu l’Assurance maladie[12].

Au-delà des avancées scientifiques qui permettent ces mutations, ce sont des évolutions des comportements et des rapports à la technologie et à la santé qui fournissent un terrain fertile à leur déploiement :

–       se tourner vers la technique semble offrir une solution de facilité à des problèmes de société (du changement climatique à la sécurité et à l’éducation, l’idée est répandue que des moyens technologiques pourraient apporter des réponses à des questions en réalité politiques[13] ; la santé n’y échappe pas) ;

–       le recours aux technologies dans les domaines de la santé et de l’environnement conduit à une intrication des risques naturels, sanitaires et technologiques, ces derniers atteignant une ampleur inédite, rendant d’autant plus légitime une intervention technologique « curative », et ainsi de suite ;

–       la société s’accoutume au partage de données comme monnaie d’échange de services, sous une forte pression sociale et économique pour mettre en place des outils plus efficaces ;

–       l’aspiration à la santé s’élargit à une aspiration au bien-être[14] (voire se limite à elle, pour les bien-portants, grâce à la réduction de la souffrance permise par les progrès de la médecine), favorisant une conception non uniquement réparatrice mais aussi amélioratrice de la santé, et légitimant la modification de comportements quotidiens sous un contrôle externe pas nécessairement médical (bracelets connectés, mais aussi réseaux sociaux). Pascal Bruckner diagnostique que « “le droit à la santé pour tous” s’est transformé en angoisse collective, la conquête sociale s’est muée en droit à consommer pour éviter de tomber malade »[15] ;

–       l’accoutumance à la mesure des performances, physiques mais aussi psychiques, et à la confrontation entre hommes et machines (des médiatiques parties d’échecs et de go aux caisses automatiques de nos supermarchés en passant par les « bots », ces robots qui occupent déjà une place majoritaire sur Internet[16]…) pourrait conduire, comme le suggère Pierre Cassou-Noguès, à une évolution de notre perception de la pensée, d’une notion analogue à la douleur (intuitive et personnelle) vers une notion analogue à la fièvre (mesurable, détectable par un tiers à l’aide d’outils)[17] ;

–       dans le prolongement de cette aspiration à la performance, l’imaginaire collectif semble marqué par un certain culte de la « forme » et même une certaine idéalisation de l’homme et de la nature « augmentés » (que l’on pense aux publicités pour le parfum « Amen » de Thierry Mugler ou aux affiches d’HSBC faisant apparaître des poissons à code-barres ou des abeilles bioniques sous des slogans enthousiastes).

 

Affirmons-le sans détour : le fait que des évolutions technologiques puissent modifier la nature de certaines activités ou remettre en cause leur organisation sociale n’est pas un problème en soi. Les mutations technologiques ont toujours rencontré des oppositions pour ces seuls motifs, dont l’histoire a rarement conclu au bien-fondé. Le problème vient de ce que certaines évolutions entraînent un glissement des finalités de ces activités ou des valeurs ayant conduit à leur organisation, et de ce que les acteurs qui mettent en œuvre ces changements disposent aujourd’hui de moyens considérables et agissent en dehors du terrain politique et d’un contrôle démocratique, avec des objectifs mercantiles et parfois idéologiques.

 

Nous distinguons des conséquences sur les libertés individuelles, sur la souveraineté, sur l’égalité et sur l’avenir de l’espèce humaine.

 

Sur les libertés individuelles

 

Un point commun de plusieurs services décrits ci-dessus est le rôle central de la collecte et du traitement massif de données. Les « GAFA » (Google, Amazon, Facebook, Apple) donnent accès à d’autant plus de services qu’on leur cède de données : beaucoup ne sont accessibles qu’aux personnes qui acceptent de s’identifier, de synchroniser ou partager leurs données, d’être géolocalisées, etc. Leur modèle économique, qui se répand, repose sur la gratuité en échange d’un consentement à fournir des données destinées à une exploitation commerciale. Comme le dit le critique Geert Lovink, « L’anonymat n’est plus qu’une notion nostalgique »[18].

 

 

Ce traitement massif des données couplé à l’usage de certaines technologies est porteur de risques pour les libertés individuelles : risques d’exploitation commerciale illégitime, de détournement incontrôlé ou de vol, de récupération à des fins de chantage, de harcèlement ou de discriminations, voire de dérives autoritaires. Cet aspect est régulièrement évoqué[19], aussi ne nous y attardons-nous pas. Aborder ces risques sous le seul angle de la protection des libertés individuelles élude les questions véritablement politiques, c’est-à-dire celles qui se posent non pas aux individus mais au collectif.

 

Sur la souveraineté

 

L’accès à des données innombrables et à de puissants algorithmes ouvre la possibilité que des services soient proposés par des entreprises, voire des particuliers, dans des domaines dont la puissance publique avait jusqu’à présent le monopole. Par certains aspects, on peut s’en réjouir, et on ne peut en tous cas reprocher à personne de proposer des services nouveaux. D’autres aspects sont plus préoccupants.

 

Dans le domaine de la santé, l’émergence de la médecine personnalisée et connectée s’accompagne d’un transfert de pouvoir de l’État, responsable du système de santé et de sécurité sociale, vers les gestionnaires de données, et des médecins vers des opérateurs privés. L’organisme national de santé publique britannique, le NHS, a récemment confié à une filiale de Google spécialisée dans l’intelligence artificielle le traitement de données concernant 1,6 millions de patients[20]. La Cour des comptes a noté dans un récent rapport qu’au Royaume-Uni « la question de [l’]ouverture [des données médicales] au secteur privé est essentiellement abordée sous l’angle de l’innovation, de la compétitivité de pays et de la rentabilité des investissements ». Le même rapport note qu’aux États-Unis, « l’ambition des grandes firmes informatiques est désormais de gérer elles-mêmes les dossiers médicaux personnels de milliards d’usagers à travers le monde, en se finançant par l’exploitation commerciale de leur contenu »[21]. C’est en ceci que l’ordre de l’offre et de la demande dont relèvent ces évolutions technologiques conduit à une perte de souveraineté, y compris pour les États où ces entreprises ont leur siège. On peut d’ailleurs noter qu’il existe des liens étroits, du moins aux États-Unis, entre les mouvements transhumaniste et libertarien[22]. Tous deux sont favorables à la libéralisation des usages des données, car pour eux l’État constitue une entrave à l’épanouissement d’une société libre.

 

 

On assiste par ailleurs à une substitution de la loi par le contrat dans des domaines comme le droit du travail ou le commerce international, ce qui affaiblit le poids des règles définies démocratiquement et le pouvoir judiciaire. Le recours à l’arbitrage privé dans les litiges entre multinationales et États est envisagé dans les négociations sur le traité « TAFTA » et le « Privacy Shield » entre les États-Unis et l’Union européenne. Le fonctionnement de ces instances est opaque et miné par les conflits d’intérêts (comme l’illustre l’annonce, dans le cadre de ces négociations, que la sous-secrétaire d’État américaine Catherine Novelli, ex-directrice des relations publiques d’Apple, assurerait les fonctions de médiatrice en charge d’examiner les plaintes[23]).

 

Le récent contentieux entre Apple et le FBI au sujet de l’accès aux données d’un téléphone portable dans le cadre d’une enquête a enfin révélé que les États n’étaient plus perçus par tous comme jouissant d’une légitimité supérieure aux entreprises pour être garants des libertés individuelles.

 

Sur l’égalité

 

Le plus dangereux pour la société n’est peut-être pas tant l’usage irrégulier de données ou leur accaparement par des régimes autoritaires ou des « pirates » mal intentionnés, que la servitude volontaire de la population à des entreprises mettant des produits sur le marché à grand renfort de marketing. Un certain climat idéologique couplé à des incitations économiques données par des opérateurs privés, voire reprises par des services publics en mal de moyens, peut conduire à des inégalités accrues.

 

Ainsi, des compagnies d’assurance ou des entreprises offrent des avantages aux personnes qui acceptent de porter un bracelet connecté pour contrôler leur activité physique[24]. En Allemagne, les caisses d’assurance maladie collecteront et utiliseront prochainement les données issues des bracelets connectés[25]. On a cité plus haut, le projet de l’Assurance Maladie française de recourir à un système de « téléobservance » pour conditionner la prise en charge d’un traitement. Plusieurs organismes de prêt recourent aux données disponibles sur les réseaux sociaux pour évaluer la solvabilité de leurs clients[26]. La CNIL souligne que « le scénario dans lequel une assurance santé ou une mutuelle conditionnerait l’obtention d’un tarif avantageux à l’accomplissement d’un certain nombre d’activités physiques, chiffres à l’appui, se dessine. Dans les années à venir, les individus pourraient être priés d’apporter les preuves d’un comportement sain, sur le modèle de l’“usage-based insurance” »[27]. Refuser d’entrer dans un tel système ne sera possible qu’à ceux qui auront des moyens suffisants[28], et encore à condition que des alternatives soient toujours offertes, ce qui n’est pas garanti dans un univers concurrentiel.

 

Le fait que de nombreuses personnes adhèrent spontanément à certaines évolutions, pas plus que la mise en place de comités d’éthique ou de réflexion chez les promoteurs d’innovations (par exemple le « Brandeis Program » de la DARPA ou le comité d’éthique de Google[29]), ne dispense d’une prise en charge collective par une représentation politique. La seule protection des données et de la vie privées ne suffirait d’ailleurs pas à endiguer les risques que font courir ces usages sur l’égalité d’accès au système de santé et plus généralement aux services publics.

 

Sur l’avenir de l’espèce humaine

 

Imaginer une société dans laquelle un suivi de l’activité physique deviendrait obligatoire, dans laquelle l’accès à services courants passerait par la pose d’implants, dans laquelle des embryons seraient sélectionnés pour leur résistance à une maladie[30], pose déjà toutes sortes de questions juridiques et politiques. Imaginer une telle société, accoutumée à la mesure de tout, guidée par une idéologie de la performance, peinant ou renonçant à définir des limites à l’hybridation du vivant et de la technique[31] et se soumettant à une forme de servitude volontaire, pose aussi des questions plus fondamentales sur l’avenir de l’espèce humaine[32].

 

Des entreprises affichent sans complexe leur ambition de changer le monde. Google incarne le projet d’amélioration de l’espèce humaine et de la société par la technologie. L’entreprise a lancé sa filiale Calico avec l’objectif de « vaincre la mort »[33]. Avec un sens de l’annonce moins marqué, le leader français de la santé connectée Withings, tout juste racheté par la division technologique de Nokia (basée en Californie)[34], affiche sa volonté de permettre à chacun de changer sa relation à la santé, de vivre plus sainement et plus longtemps.

 

Les progrès du diagnostic prénatal et préimplantatoire (DPI) ont rendu réel le risque d’eugénisme : s’ils ont eu des bénéfices incontestables, ils ont aussi ouvert la possibilité « de la sélection d’embryons et la destruction de ceux qui sont atteints », comme le soulignait le Comité consultatif national d’éthique dans un avis de 2009[35]. Le CCNE notait également que certains« usages du DPI constituent des formes de dévoiement de la médecine, sa réduction à une ingénierie biologique » et que « Si de tels tests [réalisés sur l’ADN embryonnaire à partir du sang de la femme enceinte] étaient disponibles auprès d’officines privées commercialisant leur technologie par voie électronique, il serait possible d’envisager qu’un choix des couples soit élaboré en l’absence d’une information médicalement appropriée et de modérateurs extérieurs. C’est à la mise en place d’un véritable tourisme prédictif que nous assisterions alors, avec une clientèle composée de couples seuls et désemparés face à des tests non validés. » L’emploi du conditionnel, encore de rigueur en 2009, l’est beaucoup moins aujourd’hui avec l’apparition de services privés bon marché de séquençage, de décryptage et de partage de son ADN tels que ceux mentionnés plus haut.

 

En l’absence de réflexion suffisante, de réglementation et de contrôle efficaces, des « améliorations » ou extensions du corps humain donnant la possibilité de limiter le vieillissement de certains organes, de les « améliorer » (par exemple pour voir dans l’infrarouge) ou simplement, de manière plus terre-à-terre, de réduire ses dépenses de santé et celles de la collectivité, finiront par représenter un tel avantage économique ou social qu’elles se répandront.

 

A force de vouloir se simplifier la vie, on pourrait bien finir par se simplifier tout court[36]. Le dépassement de l’homme par la machine est peut-être illusoire, sauf si les hommes font la moitié du chemin. En souscrivant aux promesses de simplification ou de progrès que nous apportent certaines mutations technologiques, l’on souscrit aussi, même tacitement, à un projet de société. Mais Comme le remarque Pierre Manent, « en repoussant sans cesse les limites, on arrive à un point où l’on cesse d’améliorer la vie »[37].

 

Ambroise Pascal, Ingénieur des Ponts, des eaux et des forêts. 

Ambroise Pascal est polytechnicien, ingénieur des ponts, des eaux et des forêts. Après une spécialisation dans la gestion des risques alimentaires, sanitaires et environnementaux et un passage à l’Institut de radioprotection et de sûreté nucléaire (IRSN) au sein du laboratoire d’analyse économique des risques nucléaires, il a occupé deux postes à l’Autorité de sûreté nucléaire (ASN), d’abord en charge du bureau de la radioprotection, de l’environnement et de l’inspection du travail à la direction des centrales nucléaires, puis en tant que directeur de cabinet du directeur général. 

Le contenu de cet article n’engage que son auteur

 

Lire Partie 2 – Quelles solutions ?