L’Humain face au défi du Numérique – La confiance

Le numérique n’est pas seulement l’outil efficace d’une audience élargie ; il change notre rapport aux autres, notre rapport au monde, notre mémoire individuelle ou collective … En multipliant les possibilités de surveillance des individus, il remodèle l’espace de la vie privée.
Qu’adviendra-t-il de ces mutations à peine entamées ? Comment définir les contours d’une pensée numérique qui s’impose comme un véritable progrès pour l’homme et non comme une altération de son humanité ?

Beaucoup des débats actuels font état, dans la définition même de l’internaute, d’une tension entre un internaute créatif, flâneur, libéré des contraintes et un internaute prisonnier, assujetti, domestiqué. C’est plutôt entre les deux qu’il faudrait arriver à mieux décrire la nouveauté des usages, comme le montrent deux questions très présentes au cœur de la notion de confiance : celle de la privacy, des algorithmes,… Voici la synthèse de Maryvonne Valorso-Grandin du séminaire qui s’est tenu le 11 mars 2015 au Collège des Bernardins par Edouard Geffray et Dominique Cardon.

Edouard Geffray, secrétaire général de la CNIL, aborde le thème de la confiance par les données personnelles et les situations de défiance et d’inquiétude qui y sont souvent liées. En effet, par rapport à l’ordre des libertés, les données personnelles occupent dans l’environnement numérique une place particulière. Le plus grand changement réside dans le maillage inédit de la vie privée ou publique des individus, initié par les données personnelles, qui permet d’établir un continuum entre les différents compartiments de la vie numérique.

Les objets connectés renvoient des informations, lesquelles sont susceptibles d’êtres croisées et de générer un profilage de plus en plus fin. Qu’il s’agisse de données personnelles livrées sciemment ou de traces laissées et susceptibles d’être reliées aux informations données, dans les deux cas on assiste à un changement de paradigme permettant de créer des profilages prédictifs. Cette mutation vers une économie des données et des traces signifie que le potentiel de contraintes des choix comme d’enrichissements du service est fort, le tout créant une relation ambivalente à accepter et assumer dans la confiance. Jamais dans l’histoire, des acteurs notamment privés ont eu la capacité de connaître les individus avec autant de précision et de régularité sur autant d’objets différents, qu’il s’agisse de géo-localisation, de centres d’intérêt, de correspondances par e-mail, etc.

L’autre changement notoire pour Edouard Geffray est que les données constituent un capital informationnel qui devient pour l’entreprise un actif financier. Du point de vue entrepreneurial, la protection des personnels est de plus en plus une question de confiance et par là-même de compétitivité. Jusqu’à la révolution numérique, les traitements de données à caractère personnel étaient des bases relativement stables et encadrées par un système de déclaration et d’autorisation prévu par la loi Informatique et Libertés. Dans un univers caractérisé par des technologies, des usages, une sensibilité croissante des individus à l’utilisation de leurs données, il faut en permanence s’assurer de ne pas rompre le lien de confiance pour ne pas risquer un préjudice d’image ou commercial qui aurait, à l’échelle du numérique, un effet démultiplicateur très important. Aujourd’hui, via les données personnelles on a, du fait du maillage et du continuum entre différents compartiments de la vie, un double effet de levier, vis-à-vis des individus et des entreprises clientes d’autres entreprises, qui bouscule le paysage. Les données personnelles ne valent rien en tant que telles, si ce n’est de révéler une part d’intimité de l’individu qu’elles exposent à un profilage sur lequel des acteurs vont ensuite capitaliser.

Dans cet environnement comment établir alors la confiance ? Selon Edouard Geffray, un cadre juridique adapté est  nécessaire mais pas suffisant : il faut donner à l’individu la possibilité de maîtriser ses données et d’exercer effectivement ses droits. La maîtrise fonde la confiance car si on ne maîtrise pas ses données, on ne les confiera qu’avec réticence à des tiers, fussent-ils une autorité administrative. Si côté entreprise, cet aspect actif financier est un enjeu économique qui justifie un changement de paradigme, côté pouvoirs publics, le problème de la confiance se trouve posé dans les mêmes termes mais avec une acuité renforcée par la concentration de l’information et l’usage qui en est fait. Pour éviter l’arbitraire d’un État qui viendrait rompre le contrat de confiance en collectant des informations sur les citoyens, le législateur français a renforcé le droit d’accès des citoyens à n’importe quel fichier les concernant prévu par la loi Informatique et libertés, par un droit d’accès indirect permettant à la CNIL d’aller voir, au nom des citoyens qui en font la demande, ce qu’il y a dans ces fichiers afin de vérifier l’absence de fichage illégitime, illégal ou excessif. La montée en puissance des demandes de droits d’accès indirects enregistrées après le scandale de l’affaire Prism en 2013 témoigne de la sensibilité croissante du public à ces questions de surveillance et de confiance.
Pour la CNIL, on ne peut pas dans un État de droit, sauf à rompre l’équilibre global qui préside le contrat social, procéder à des captations massives et indifférenciées de données sans prévoir des systèmes de garanties rigoureux. D’où la nécessité dans un environnement mouvant technologiquement, juridiquement et au niveau des usages, de créer un mode de régulation adapté.

La démarche proposée par Edouard Geffray suit trois directions dont la première est le renforcement des droits de l’individu pour qu’il garde la maîtrise de la destinée de ses données. D’ici fin 2015, un règlement européen va se substituer à la loi sur l’Informatique et les Libertés de 1978 afin de renforcer les droits des personnes en amont (la
personne est sensée consentir à ce qu’on traite ses données, sauf cas prévus par les textes) et en aval (la personne est sensée pouvoir récupérer ses données, mieux maîtriser leur mise à disposition, voire les faire effacer). La Cour de Justice de l’Union européenne a consacré depuis avril 2014 le droit de déréférencement sur les moteurs de recherche, jugeant que toute personne peut demander à un moteur de recherche, dès lors qu’elle a un motif légitime pour le faire ou que l’information la concernant est erronée, d’effacer de la liste des recherches un résultat associé à son nom.

La deuxième direction est l’affirmation d’une certaine souveraineté numérique et juridique. En droit européen, la protection des personnels constitue, au-delà même de la protection de la vie privée, un droit fondamental reconnu par la Charte des Droits fondamentaux de l’Union européenne. Encore faut-il que ce droit qui revêt dans le modèle humaniste européen, centré sur la personne, une valeur intrinsèque structurante, soit effectivement garanti à tous les citoyens et qu’il puisse suivre leurs données pour constituer un véritable cadre éthique et juridique de confiance. La difficulté est que, pour pouvoir assurer une protection sinon universelle mais attachée à la personne et qui s’impose sur un territoire, on se heurte à des questions de souveraineté et de territorialité qui supposent un cadre de régulation territorial. Or, face au phénomène dé-territorialisé ou a-territorialisé, on bute aujourd’hui, selon Edouard Geffray, sur deux éléments de tempérament : le premier tient au fait que certaines législations des États non européens ont vocation à avoir des effets sur les données personnelles des citoyens européens (cf. les législations américaines de type Patriot Act et Foreign
Intelligence Surveillance Act permettant aux autorités publiques américaines de capter auprès d’opérateurs américains des données sur des résidents européens) ; le deuxième tient au fait que les données des citoyens européens peuvent, pour des raisons commerciales légitimes, être transférées dans des pays hors Union européenne.

Comment pouvoir alors, s’il s’agit d’un droit fondamental en Europe, garantir la protection des données personnelles qui « filent » ainsi en dehors du territoire européen ? Le règlement européen en cours de discussion prévoit, en convergence d’ailleurs avec les propositions de la CNIL, que tout transfert de données vers des autorités publiques étrangères à leur demande, fusse sur la base d’une loi bien établie, doit être précédé, lorsqu’il porte sur des résidents européens, de l’accord des autorités publiques européennes, sinon l’entreprise est réputée violer le règlement européen et donc passible de sanctions. L’idée est de créer un conflit de lois que seul un accord international, entre l’Europe et les ÉtatsUnis par exemple, pourra résoudre afin de réintroduire notamment des principes de proportionnalité ou d’intérêts légitimes et garantir au citoyen que ses données ne seront pas aspirées en dehors de tout contrôle des autorités européennes chargées de sa protection. Concernant les transferts d’initiative privée, il existe déjà des instruments juridiques de nature à créer une bulle juridique pour que la donnée conserve, lorsqu’elle circule dans le monde, le même niveau de protection que dans l’Union européenne.
Edouard Geffray ajoute qu’à la CNIL, le système des « Règles d’entreprise contraignantes », connu sous l’acronyme de BCR (Binding corporate rules), permet à un groupe de faire circuler les informations auprès de toutes ses filiales moyennant l’engagement, chaque fois qu’une donnée européenne sera traitée, de respecter partout dans le monde le standard européen. Cet effet extra territorial qui a pour unique portée d’assurer le même niveau de protection aux données des résidents européens, est un élément de la confiance.

Enfin, la troisième direction est la construction avec toutes les parties prenantes d’un cadre de régulation éthique garantissant un développement harmonieux de l’économie numérique et de l’innovation. En décembre 2014, le Groupe technique européen (G29 réunissant les CNIL européennes) a, lors d’une Conférence à l’UNESCO, The European Data Governance Forum, posé dans une déclaration commune un ensemble de principes pour cristalliser ce sur quoi le modèle européen est fondé. Ces principes ont pour objectif d’assurer au citoyen européen qui confie les clés de sa vie privée à des entreprises ou à des administrations de le faire en sachant qu’il existe : en amont, un cadre juridique protecteur, dont les lignes directrices sont accessibles à tous, qui l’assure qu’il peut disposer de nouveaux services sans pour autant que ses droits soient méconnus ; et en aval, des contrôles de la CNIL ou du juge dans le cadre du droit d’opposition et de déréférencement.
Pour assurer une meilleure sécurité informatique, la CNIL élargit sans cesse son offre en matière d’expertise et d’accompagnement : elle a développé dans un certain nombre de secteurs des labels attestant que l’entreprise à laquelle on a à faire, ou la prestation à laquelle on souscrit, est labellisée « informatique et libertés » c’est-à-dire respecte un standard élevé en termes de protection des personnels. Reste la question du croisement des données et celle de savoir si, en présence d’un service unique, on accepte ou pas que toutes les données personnelles soient croisées entre différentes dimensions, ou si on a le droit de maîtriser, sinon le devenir des données entre elles, du moins leur croisement.

A-t-on le droit par exemple de s’opposer à ce que des correspondances dans Gmail soient matchées avec des recherches dans le moteur de recherche ? Pour sa part, la CNIL défend au niveau des directives européennes l’idée selon laquelle on ne peut pas croiser universellement des données, tous services confondus, sans en informer préalablement les personnes et sans leur donner les moyens de s’opposer à certains de ces croisements.

Se plaçant dans un champ relationnel où une partie de la confiance est plus de l’ordre de la prise de risque que de la réduction des risques, Dominique Cardon, sociologue au département SENSE d’Orange labs, élargit le champ d’investigation de la notion de confiance aux réseaux sociaux et aux relations en ligne en en faisant un terrain à part entière de sciences sociales. Selon lui, le thème de la confiance est toujours un peu intrigant pour un sociologue, car derrière l’institution, la régulation, la norme juridique, il y a la norme sociale que sont les mœurs, le socle normatif des actions ordinaires qui fait qu’on prend ou non des risques, qu’on a ou non des représentations favorables des activités numériques.

Comment expliquer qu’Internet qui était « sympa » dans les années 2000/2005, ne l’est plus aujourd’hui ? Dominique Cardon choisit de s’appuyer sur les changements de climat et de représentation dans l’opinion comme témoins de la transformation des représentations et des attitudes à l’égard d’Internet, y compris chez les chercheurs eux-mêmes. Internet aurait perdu le caractère de créativité sauvage, attractive, excitante qu’il avait eu à l’origine du fait notamment du développement des empires marchands, du retournement des États dans la régulation des réseaux, de la massification des usages qui l’ont profondément changé. Ce changement de climat est d’ailleurs pour Dominique Cardon très frappant : si dans les années 2000, le paradigme dominant était celui de la force créative du réseau, des imaginations, de la puissance d’agir des individus, de cette capacité à s’émanciper, à fabriquer le monde, à faire exil sur Internet de la société réelle (cf. Gilles Deleuze, Félix Guatarri), aujourd’hui le paradigme est celui de la rationalisation, la domestication, l’aliénation, l’économisation (cf. l’École de Francfort, Theodor Adorno, Max Horkheimer).

Toutes les transformations, déformations, altérations dont Internet est aujourd’hui le vecteur invitent cependant à porter un regard vigilant, voire critique, sur cette nouvelle critique d’Internet. Internet était « sympa » pour les intellectuels quand le marché d’Internet était limité. A partir du moment où tout le monde a commencé à parler de coconception, de partage, d’open, de sociétés crowdfunding, quand le discours est devenu un discours d’entreprise, les universitaires et les chercheurs ont oublié ce qu’ils avaient dit précédemment pour laisser aux entreprises le soin de porter un vocabulaire identique et pour eux basculer dans une critique plus forte. Le discours sur Internet est dominé par un discours d’économisation de la pratique, qui se place du côté des GAFA (Google, Apple, Facebook, Amazon) et ne décrit plus l’expérience de l’internaute comme une pratique excitante, passionnée, produisant du lien social, de la participation politique, mais de plus en plus comme une pratique économique.
Dominique Cardon livre trois clés de lecture différentes sur la manière dont les transformations du numérique, en particulier de l’Internet, ont modifié les représentations intellectuelles de l’Internet : celles de la massification importante des usages, du Digital Labor comme symptôme du discours actuel et de l’aliénation comme composante adjacente au discours sur l’exploitation des internautes.

Pour Dominique Cardon, il est frappant de constater que l’Internet qui sert à critiquer les pratiques actuelles est celui des pionniers qui sociologiquement étaient une population masculine, hyper diplômée, américaine, celui d’un Internet qui a construit une représentation de la pratique de l’internaute sur le modèle de la créativité, celui d’un individu par excès comme l’appelle Robert Castel, individualisé, détaché de toutes contraintes, qui se forge ses points de vue, est un vrai flâneur, sait naviguer du fait de sa curiosité aiguisée, est constamment ouvert aux autres. C’est en développant considérablement la pratique de l’échange et de la production de soi que le modèle inventé par les pionniers est devenu une pratique populaire, ordinaire qui a massifié les usages et a contribué à la réussite de l’Internet.
Cette démocratisation ne s’est pas faite sur le modèle asymétrique producteur/récepteur mais sur le fait que les récepteurs produisent aussi. Aujourd’hui, beaucoup de ceux qui déplorent le nouvel Internet manifestent une sorte d’inconscient social de mépris de classe à l’égard des nouveaux usagers qui utilisent les outils participatifs, toujours avec l’idée de s’exprimer, d’interagir et de participer, mais du seul fait des propriétés sociales de ces nouveaux publics, on appelle cela du bavardage, du LOL, de l’exhibitionnisme. Les flâneurs, individus par excès, pensent que les nouveaux publics ne sont pas vraiment individualisés mais sont, pour reprendre la terminologie de Robert Castel, des individus par défaut.

Le Digital Labor est devenu un élément central dans beaucoup de débats intellectuels c’est-à-dire que l’internaute ne cesse à travers son clic ou chacune de ses actions, d’être décrit comme travaillant pour les GAFA qui produisent de la valeur en utilisant les données personnelles pour les revendre aux publicitaires. Cela procède d’une économisation, d’une manière de décrire les activités des internautes comme étant une activité sous-tendue par des motivations intrinsèques (exemple : écrire un blog signifie que mon objectif est à l’intérieur même de mon expérience présente) et extrinsèques (exemple : je n’agis pas parce que je prends du plaisir mais parce que j’ai une motivation externe, comme gagner de l’argent).

Les économistes avaient trouvé un argument sophistiqué (cf. Jean Tirole, prix Nobel d’économie) qui était de dire la motivation intrinsèque permet d’envoyer des signaux à la communauté qui montraient qu’on avait de la réputation, qu’on pouvait ensuite vendre sur le marché du travail pour se faire recruter par une bonne entreprise. Il y aurait donc une sorte de système d’exportation de la réputation interne liée à la motivation intrinsèque vers la motivation extrinsèque. Ce qui a été au cœur de l’Internet et des premiers récits des sociologues, philosophes, anthropologues, est un modèle lié à celui du don et de l’idée que si on s’engage dans le monde numérique, c’est parce qu’on acquiert une sorte de motivation à la fois intrinsèque et extrinsèque, qui est du prestige, de la réputation, de la reconnaissance. Ce qui fait la valeur de la communauté, c’est le fait de tenir d’elle des signaux qui attribuent des qualités propres à restituer, construire une estime de soi dans le regard porté par la communauté.

Mais pour Dominique Cardon, ces transformations et représentations de l’Internet mettent fortement en crise l’économie globale du Web au moins sur trois points : tout d’abord, la transformation des externalités positives avec la massification de l’Internet, car aujourd’hui ce ne sont plus les pionniers qui produisent une externalité positive mais les milieux populaires de Facebook, de ses pages, des réseaux sociaux et si les publicitaires, les sites marchands vont sur Internet ce n’est pas parce qu’il y a des blogueurs experts qui produisent des contenus intéressants (autrefois de  Pôle de Recherche 4 l’externalité positive que le marché pouvait capturer) mais pour les millions et les millions de pages Facebook, de conversations des nouveaux publics ; ensuite, la présence de plus en plus explicite d’un ethos calculateur dans les comportements d’une fraction des internautes pour obtenir du prestige, de la reconnaissance de la communauté, de ceux qui sont les plus visibles, les plus en vue, qui cherchent à obtenir de meilleurs nombres de Followers, de Retweets, à construire leur réputation ; enfin, la fragilisation du modèle des pionniers autour des outils de l’intelligence collective qui
ont construit la représentation positive de l’Internet, suivant l’idée que, dans la communauté, les actions individuelles étaient transformées par des mécanismes d’intelligence collective qui n’étaient pas la somme des actions de chaque individu. Dans les mécanismes d’intelligence collective, il se produit un phénomène de transformation, de déplacement de chaque action individuelle pour en faire un produit collectif qui est plus que la somme des parties. Parmi ces outils d’intelligence collective très divers, il y a les algorithmes comme le Patch Ran qui est un instrument de transformation des actions individuelles en quelque chose de collectif rendant un service à tous : on a besoin de la connaissance de chacun et de l’ensemble des sites pour produire un résultat collectif global. Ni les utilisateurs ni les intellectuels ne pensent plus les outils d’intelligence collective comme précisément des outils d’intelligence collective (cf. Yochai Benkler, « La richesse des réseaux »).
Aujourd’hui, l’intelligence collective a été appropriée par les GAFA pour faire du profit et un algorithme ne sert plus à produire du commun mais des revenus pour les grands opérateurs des plateformes.

Si le discours du Digital Labor consiste à dire qu’il faudrait rémunérer l’internaute puisqu’il travaille pour les plateformes, le débat se complique d’après Dominique Cardon du fait du nombre de solutions possibles de rémunération dont certaines sont intéressantes quand elles sont collectives ou de l’ordre d’une redistribution globale, mais plus
préoccupantes lorsqu’elles installent un partage entre ceux qui recevraient de l’argent pour le redonner parce qu’ils ne produisent pas de contenus créatifs et ceux qui seraient payés pour leurs contenus créatifs. La question des représentations sur l’Internet est fragilisée aujourd’hui par tout un ensemble de discussions visant à dire que si les internautes massifiés ont des pratiques coopératives qui n’en sont pas réellement par rapport à celles des pionniers, que si par ailleurs ils sont des agents calculateurs sur le Web qui travaillent sans le savoir pour les GAFA, il faut alors qu’il y ait une théorie de l’aliénation, c’est-à-dire il faut expliquer pourquoi les gens font une erreur si navrante sur le sens réel de leurs activités : ils pensent participer à une communauté « tricot », mais en fait ils travaillent pour Google.

Il y a là pour Dominique Cardon la matière d’un débat complexe, notamment sur le fait qu’un des moteurs des discours critiques sur Internet aurait pour visée de réanimer des motifs foucaldiens sur le sujet, qui serait habité, traversé par les nouvelles formes du capitalisme cognitif, selon lequel on ferait finalement de l’argent de ses sentiments, ses pensées, ses désirs et qu’au-delà des composantes habituelles de l’exploitation capitaliste du travail, c’est finalement la subjectivité même de l’internaute qui serait agrippée par ces nouvelles formes de capitalisme. Beaucoup des débats actuels font état, dans la définition même de l’internaute, d’une tension entre un internaute créatif, flâneur, libéré des contraintes et un internaute prisonnier, assujetti, domestiqué.

C’est plutôt entre les deux qu’il faudrait arriver à mieux décrire la nouveauté des usages, comme le montrent deux questions très présentes au cœur de la notion de confiance : celle de la privacy où, bien que la vision négative du monde numérique [surveillance étatique, surveillance interpersonnelle et surveillance par les grandes entreprises] soit très présente dans la conscience des individus, ceux-ci continuent à s’exposer et à livrer des données, même si de plus en plus leurs pratiques leur donnent (un peu faussement) un sentiment de maîtrise et de contrôle ; et celle des algorithmes à l’égard desquels les utilisateurs peuvent être très critiques à l’idée d’être dominés par des machines ou de voir leurs choix prescrits, même si par ailleurs dans leur usage, la crainte d’une prescription trop présente ne les empêche pas d’être dans un couplage assez fort avec ces machines puisqu’elles leur rendent des services.

Pour Dominique Cardon, le discours actuel d’économisation viendrait donc d’une lecture très individualisante des comportements qui fait abstraction de l’individu relié, assemblé, composite, cet individu-communauté qui était au cœur de la description de ses pratiques sociales. L’humain aspire à être un individu individuel, pleinement autonome, et si un algorithme lui prescrit quelque chose, il a l’impression d’être aliéné et contraint. Et c’est cette définition de l’individu qui fait oublier la dimension plus assemblée, collective, reliée, de l’individu qui ne cesse de composer et d’articuler ses actions et ses désirs à un environnement d’artefacts techniques.

©Pôle de recherche Collège des Bernardins – 2015