L’appétit d’omniscience de Google est insatiable. On connait depuis longtemps les ambitions du géant de Mountain View dans le domaine de la santé. Mais, cette fois-ci, des limites semblent être franchies. The New Scientist vient en effet de révéler comment Google a signé un accord avec le service national de santé britannique (NHS). Cet accord, signé entre l’entité d’intelligence artificielle Deep Mind et le NHS, donne à Google accès aux données de santé de 1,6 million de patients passés par trois hôpitaux londoniens sur les cinq dernières années. Il s’agit de dizaines de millions de données sensibles, sur des personnes atteintes du VIH, ayant fait des overdoses ou subi des avortements…
Les dossiers médicaux ont été remis dans le cadre d’une collaboration qui permettra à la société en intelligence artificielle de Google, DeepMind, de créer une application d’alerte rapide pour les maladies rénales. Mais le magazine New Scientist a découvert un document décrivant l’accord qui révèle que le géant technologique a accès à des données beaucoup plus sensibles que celles qui étaient initialement prévues.
L’accord entre DeepMind et le NHS a été annoncé en Février de cette année. Son objectif était de transmettre à DeepMind un ensemble de données médicales afin que la société de technologie puisse développer une application d’alerte précoce appelé Streams pour les patients risquant de développer des maladies rénales aiguës.
À ce stade, il n’y a rien à dire. Cela semble aller dans le sens d’une meilleure connaissance de la maladie. Mais, là où le bât blesse, c’est que, loin d’avoir simplement accès aux données du NHS sur les maladies rénales, le document qui a fuité révèle que DeepMind a accès aux données de santé sur chaque patient qui passe à travers l’un des trois hôpitaux de Londres dirigé par le NHS : Barnet, Chase Farm et le Royal Free. Au total, ce sont les données médicales confidentielles de 1,6 millions patients qui sont transmises à Google, chaque année.
« Cela va inclure des informations sur les personnes qui sont séropositives, par exemple, ainsi que les détails des usages de drogues et d’avortements » rapporte Hal Hodson pour New Scientist . Il ajoute : « L’accord comprend également l’accès aux données des patients depuis les cinq dernières années. »
Avec cette révélation, on peut légitimement se demander pourquoi diable une société de technologie exige-t-elle tous ces détails des dossiers médicaux pour créer une application sur les maladies rénales ?
Google répond au New Scientist que les données spécifiques des personnes atteintes de maladies rénales sont insuffisantes et qu’il doit avoir accès à tous les dossiers médicaux dans le but de développer son système d’alerte précoce.
Pour défendre cet accord, les hôpitaux londoniens arguent que des conditions strictes sont mises en place pour assurer que les données restent privées. L’accord stipule en effet que Google ne peut pas utiliser les données dans ses propres locaux et que les données concernées sont stockées au Royaume – Uni par un tiers, et pas dans les bureaux DeepMind. En outre, la convention stipule que les données seront détruites lorsque l’accord expirera à la fin de 2017.
Mais de grands doutes subsistent. En effet, il apparaît que les ambitions de Google vont beaucoup plus loin que les maladies rénales, et que cela n’a jamais été précisé au moment où l’entente a été rendue publique. « Cela ne concerne pas seulement la fonction rénale. Ils obtiennent les données complètes de tous les patients des hôpitaux ». Pour Sam Smith, qui dirige le groupe de protection des données de santé MedConfidential : « Ce que DeepMind essaie de faire, c’est de construire un algorithme générique qui puisse tout traiter ». L’algorithme auquel il fait référence est une plateforme appelée Patient Rescue, qui est décrite dans le document comme une « plateforme de preuve de concept de technologie de diagnostic pour NHS Hospital Trusts ».
En clair, cela signifie que DeepMind veut exploiter la richesse des données médicales pour aider les médecins à prendre de meilleures décisions. En comparant les données d’un malade avec d’autres cas, le diagnostic pourrait être amélioré. Ce n’est en soi, certainement pas une mauvaise chose.
Alors, devrions -nous être inquiets ? Dans une déclaration, le NHS dit qu’il s’agit d’un accord standard, et les patients concernés peuvent choisir de se retirer. « Notre accord entre DeepMind et le NHS est le même que les 1500 autres accords avec des organismes tiers qui traitent des données des patients du NHS » déclare l’institution hospitalière londonienne.
Si on veut voir cette affaire d’un point de vue positif, on pourrait affirmer que cette initiative va dans le bon sens puisqu’en accédant à une énorme quantité de données, les algorithmes pourront prédire notre risque de maladie et potentiellement, comprendre comment mieux nous soigner.
Mais ici encore, des limites peuvent être allègrement franchies, en pleine euphorie technoscientiste. Sous prétexte de mieux nous soigner, de mieux combattre la maladie, les technologies avancent toujours plus profondément dans notre intimité, dans les zones privées de notre individualité. La marche des technosciences va toujours de l’avant en considérant les humains comme des données, des nombres, des statistiques dont le corps, modulable à l’infini est corrigeable, améliorable, augmentable, par des technologies supposées omniscientes. Un rêve ou un cauchemar ?
