S’il est un domaine de l’intelligence artificielle qui avance très vite, c’est bien celui de la reconnaissance faciale. La technologie semble arrivée à maturité et autorise une quantité de cas d’usage qui flirtent, quand ils ne les transgressent pas, avec les limites les plus élémentaires de l’éthique. Face à l’invasion de cette technique dans tous les secteurs de notre vie quotidienne, la position du « laisser faire » traditionnelle à l’Europe libérale est en train de se fissurer. Une note confidentielle provenant de la Commission européenne envisage de demander une pause dans le développement et les applications des technologies d’IA et plus particulièrement celles de reconnaissance faciale. Une sorte de moratoire de trois à cinq ans pour réfléchir, et envisager sereinement des régulations, sans casser la dynamique d’innovation européenne.
Il ne se passe pas une journée sans que l’on ne parle d’une nouvelle prouesse de la reconnaissance faciale. Cette technologie a fait son entrée avec fracas dans le domaine public. On s’apprête à la retrouver partout : dans nos aéroports, nos bus, nos trains, dans les rues, dans les magasins, chez le médecin, à l’école, au travail…. Et pourquoi pas au Carnaval ? Puisque la ville de Nice l’a expérimenté pour son défilé de grosses têtes en février de l’année dernière. Sécurité oblige dans ces temps troublés, la reconnaissance automatique des visages semble pour certains une véritable panacée. Le rêve le plus fou d’Orwell semble à portée. Pourquoi ne pas en profiter ?
Certes, la question mérite d’être posée mais elle est très vite complétée par une autre interrogation : jusqu’où aller ? Les américains qui ne s’embarrassent pas trop de scrupules quand il s’agit de high tech montrent jusqu’où les technologies de reconnaissance des visages et donc des individus peuvent aller.
Le New York Times vient de publier un long dossier sur une entreprise baptisée Clearview AI. Elle aurait répertorié près de trois milliards de photos de visages. Tout cela en emmagasinant, depuis 2016, des images récupérées sur internet en libre accès afin d’entraîner une intelligence artificielle à la reconnaissance faciale.
Il faut ici remettre les choses en perspective. Pour qu’un logiciel de reconnaissance faciale fonctionne, il lui faut des images de référence : une caméra dans un aéroport photographie votre visage et le compare à des millions de photos de visages situées dans des bases de données. Si votre visage n’apparaît dans aucune base, le meilleur logiciel du monde ne pourra jamais vous reconnaître. Les services officiels comme la police utilisent comme référence les images de visages des cartes d’identité, passeports et permis de conduire. Le FBI en possède ainsi 410 millions dans ses bases de données. Là où Clearview va plus loin, c’est que la société engrange toutes les photos de nos visages que nous laissons plus ou moins malgré nous sur Facebook, YouTube, Instagram et autre Twitter. Ces milliards de photos sont en mesure d’enrichir considérablement les bases de référence des logiciels de reconnaissance faciale de la police. Dans ce cas, il n’y a pas photo : votre visage doit certainement se situer quelque part dans ce nouveau type de bases de données, et il sera reconnu.
Fini l’anonymat dans nos rues ? Nous serons tous reconnus à plus ou moins brève échéance. On est en droit de se poser cette question, d’autant que celle-ci ne se pose déjà plus pour plus d’un milliard de Chinois. Des caméras à tous les coins de rue les observent, les reconnaissent, les traquent, les jugent même. Et les Chinois acceptent cela, sans broncher, pour leur sécurité et l’ « harmonie sociale ».
Pourquoi ne pas profiter d’une lecture illimitée de UP’ ? Abonnez-vous à partir de 1.90 € par semaine.
- LIRE DANS UP : L’arsenal de surveillance ultra high tech de la police chinoise et La Chine est en train de devenir la première dictature numérique du monde
Fuite à la Commission européenne
Les risque de ces technologies, si elles ne sont pas strictement bordées par des règles, sont immenses. Comme toujours avec ce type d’innovation, c’est qu’on ne peut pas les condamner tout de go. Elles remplissent des services indéniables et les entraver risquerait de freiner un développement technologique et scientifique du plus grand intérêt. C’est très exactement le dilemme des auteurs d’un rapport sur l’IA de la Commission européenne. C’est l’agence Euractiv qui a mis la main sur ce document non-public de 16 pages rédigé par les législateurs européens, relatant un projet de réglementation de l’intelligence artificielle. La Commission européenne semble émettre l’idée d’une période de trois à cinq ans pendant laquelle l’utilisation de la reconnaissance faciale pourrait être interdite dans les lieux publics. D’après ce document, la Commission européenne voudrait donner plus de temps aux législateurs pour concevoir des moyens efficaces d’évaluer et de gérer les risques liés à la reconnaissance faciale.
Cette idée de « pause » que voudraient, selon le document fuité, les législateurs, vient dans un contexte où la mise en œuvre de cette technologie ne cesse de s’accélérer. L’Allemagne planifie l’instauration de la reconnaissance faciale automatique dans 134 gares et 14 aéroports. La France a également l’intention d’établir un cadre légal permettant de rendre les systèmes de vidéosurveillance capables d’effectuer de la reconnaissance faciale.
L’intention européenne de faire une pause inquiète inévitablement les géants de la Tech. Le patron d’Alphabet, la maison mère de Google, Sundar Pichai, a appelé lundi 20 janvier l’UE à une « approche proportionnée » pour réglementer l’intelligence artificielle, lors d’un discours à Bruxelles. Il admet qu’une régulation est inévitable car les dérives sont possibles. C’est le cas, dit-il selon l’AFP, des « deepfakes » ou hypertrucages, et plus particulièrement de la reconnaissance faciale. « Elle peut être utilisée dans les nouvelles technologies d’assistance et les outils pour aider à trouver les personnes disparues. Mais elle peut aussi être utilisé avec des objectifs plus néfastes« , a-t-il avoué. D’autres, comme le président de Microsoft, Brad Smith, confirment leur foi inébranlable dans les vertus de la technologie. Selon lui, réguler juridiquement n’est pas efficace. « Le seul moyen d’améliorer la technologie, c’est de l’utiliser » proclame-t-il à Reuters. En clair : laissez faire, nous verrons bien ce qu’il adviendra… C’est exactement ce que n’entend pas faire l’Europe.
