Le modèle économique des Big Techs cause un préjudice irréparable à la société. Il doit être réformé.

La semaine dernière, une foule violente a mené une attaque en règle contre le Capitole, siège de la démocratie américaine. Une foule mobilisée sur la fausse croyance que l’élection présidentielle avait été volée. Le principal auteur de cette affirmation est le président Donald Trump. Mais cette foule montant à l‘assaut sait-elle que son action est en grande partie le produit de l’économie de l’attention que la technologie moderne a créée ?

Les flux d’informations sur Facebook ou Twitter obéissent à un modèle commercial qui consiste à transformer l’attention de milliards de personnes en marchandise. En triant les tweets, les messages et les groupes pour déterminer ceux qui obtiennent le plus d’engagements (clics, opinions et partages) – ceux qui suscitent les réactions émotionnelles les plus fortes — ces plateformes de marchandisation de l’attention ont déformé la psyché collective. Elles ont conduit à des visions du monde de plus en plus étroites et folles.

Les flux d’informations et les systèmes de recommandation ont créé une spirale descendante de négativité et de paranoïa.Les algorithmes de recommandation de YouTube, qui déterminent 70 % du temps de visionnage quotidien de milliards de personnes, « suggèrent » ce qui est censé être des vidéos similaires, mais poussent en fait les spectateurs vers des contenus plus extrêmes, plus négatifs ou plus conspirationnistes, car c’est ce qui maintient plus longtemps le public sur leur écran. Pendant des années, YouTube a recommandé les vidéos de promotion de l’anorexie, dites « thinspiration », aux adolescentes qui regardaient des vidéos sur les « régimes ». Et lorsque les gens regardaient des vidéos scientifiques sur l’alunissage de la NASA, YouTube recommandait des vidéos sur la théorie complotiste de la Terre plate. Il l’a fait des centaines de millions de fois. Les flux d’informations et les systèmes de recommandation comme celui-ci ont créé une spirale descendante de négativité et de paranoïa, découplant lentement la perception de la réalité par des milliards de personnes, de la réalité elle-même.

Voir la réalité clairement et fidèlement est fondamental pour notre capacité à faire quoi que ce soit. En monétisant et en marchandisant l’attention, nous avons vendu notre capacité à voir les problèmes et à mettre en place des solutions collectives. Ce n’est pas nouveau. Presque chaque fois que nous permettons que les systèmes de survie de notre planète ou de notre société soient transformés en marchandises, cela entraîne de nouveaux dysfonctionnements ou effets pervers. Lorsque vous transformez la politique en marchandise grâce à des publicités microciblées, optimisées par l’intelligence artificielle, vous dépossédez la politique de l’intégrité qui devrait la caractériser. Lorsque vous transformez la nourriture en marchandise, vous perdez le contact avec le cycle de vie qui rend l’agriculture durable. Lorsque vous transformez l’éducation en flux numérique de contenus, vous perdez les liens entre le développement humain, la confiance, l’attention et l’autorité des enseignants. Lorsque vous transformez l’amour en marchandise, en transformant les gens en cartes à jouer sur Tinder, vous modifiez la danse complexe qui consiste à forger de nouvelles relations. Et lorsque vous transformez la communication ou l’information en morceaux de messages et en fils de commentaires sur Facebook, vous supprimez le contexte, la nuance et le respect. Dans tous ces cas, les systèmes d’accaparement érodent lentement les fondements d’une société et d’une planète saines.

Changer de système pour protéger l’attention

E.O. Wilson, le célèbre biologiste, a proposé que les humains ne gèrent qu’une moitié de la Terre, et que le reste soit laissé en paix. Imaginez quelque chose de similaire pour l’économie de l’attention. Nous pouvons et devons dire que nous voulons protéger l’attention humaine, même si cela sacrifie une partie des profits d’Apple, de Google, de Facebook et d’autres grandes entreprises technologiques.

Les bloqueurs de publicité sur les appareils numériques sont un exemple intéressant de ce qui pourrait devenir un changement structurel dans le monde numérique. Les bloqueurs de publicité sont-ils un droit de l’homme ? Si tout le monde pouvait bloquer les publicités sur Facebook, Google et les sites web, l’internet ne pourrait pas s’autofinancer et l’économie publicitaire perdrait des sommes considérables de revenus. Ce résultat est-il contraire à ce droit ? Votre attention est-elle un droit ? Est-ce que vous la possédez ? Doit-on y mettre un prix ? La vente d’organes humains ou d’esclaves peut répondre à une demande et générer des profits, mais nous disons que ces articles n’ont pas leur place sur le marché. Comme les êtres humains et leurs organes, l’attention humaine doit-elle être quelque chose que l’argent ne peut pas acheter ?

Nous devons modifier les institutions pour qu’elles servent l’intérêt public d’une manière qui soit proportionnelle à la nature et à l’ampleur des défis auxquels nous sommes confrontés.La pandémie de Covid-19, le mouvement Black Lives Matter, le changement climatique et d’autres crises écologiques ont fait prendre conscience à de plus en plus de personnes de l’état de délabrement de nos systèmes économiques et sociaux. Mais nous ne nous attaquons pas aux racines de ces crises interconnectées. Nous nous activons dans des interventions qui ressemblent à de bonnes réponses, mais sont en réalité des pièges qui maintiennent subrepticement le statu quo. Des pratiques policières légèrement améliorées et des caméras corporelles n’empêchent pas les comportements répréhensibles de la police. Acheter une Prius ou une Tesla ne suffit pas à faire réellement baisser les niveaux de carbone dans l’atmosphère. Remplacer les pailles en plastique par des pailles biodégradables ne va pas sauver les océans. La décision d’Instagram de cacher le nombre de « j’aime » ne transforme pas les problèmes de santé mentale des adolescents, alors que le service est basé sur une comparaison sociale constante et un détournement systémique de la pulsion humaine de connexion. Nous avons besoin d’une réforme systémique beaucoup plus profonde. Nous devons modifier les institutions pour qu’elles servent l’intérêt public d’une manière qui soit proportionnelle à la nature et à l’ampleur des défis auxquels nous sommes confrontés.

Au Center for Humane Technology, ils ont notamment convaincu Apple, Google et Facebook d’adopter – au moins en partie – la mission du « temps bien dépensé », même si cela allait à l’encontre de leurs intérêts économiques. C’est un mouvement qui a été lancé par le biais de vastes campagnes de sensibilisation et de plaidoyer auprès des médias, et qui a gagné en crédibilité auprès des concepteurs de technologies, des parents et des étudiants. Il a appelé à changer les motivations du monde numérique pour passer d’une course au « temps passé » sur les écrans et les applications à une « course au mieux » pour aider les gens à bien passer le temps. Cela a entraîné un véritable changement pour des milliards de personnes. Apple, par exemple, a introduit en mai 2018 des fonctions de « temps passé sur l’écran » qui sont désormais disponibles sur tous les iPhones, iPads et autres appareils. En plus de montrer à tous les utilisateurs combien de temps ils passent sur leur téléphone, Screen Time offre un tableau de bord des contrôles parentaux et des limites de temps des applications qui montrent aux parents combien de temps leurs enfants passent en ligne (et ce qu’ils font). Google a lancé une initiative similaire, Digital Wellbeing, à peu près au même moment. Elle comprend d’autres fonctionnalités comme la possibilité de débrancher plus facilement le téléphone avant de se coucher et de limiter les notifications. Dans le même ordre d’idées, YouTube a introduit les notifications « Take a break« .

Ces changements montrent que les entreprises sont prêtes à faire des sacrifices, même s’ils se chiffrent en milliards de dollars. Néanmoins, nous ne sommes pas encore parvenus à modifier la logique de base de ces entreprises. Pour une entreprise, faire quelque chose contre son intérêt économique est une chose ; faire quelque chose contre l’ADN de son but et de ses objectifs en est une autre.

Travailler à l’action collective

Nous avons besoin d’une réforme profonde et systémique qui amènera les entreprises technologiques à servir d’abord et avant tout l’intérêt public. Nous devons réfléchir plus largement à l’ampleur des changements systémiques possibles et à la manière d’exploiter la volonté collective de la population.

Récemment, au Center for Humane Technology, nous avons interviewé Christiana Figueres, l’ancienne secrétaire exécutive de la Convention des Nations Unies sur le changement climatique (2010-2016). Elle était responsable de la « diplomatie collaborative » qui a conduit à l’Accord de Paris, et elle nous a expliqué comment elle a réussi à faire en sorte que 195 pays différents, contre toute attente, prennent des résolutions communes et de bonne foi pour lutter contre le changement climatique. Au départ, Mme Figueres ne croyait pas qu’il était possible d’obtenir l’accord d’autant de pays, mais elle a compris que pour réussir l’Accord de Paris, elle devait elle-même changer. Elle a dû croire sincèrement qu’il était possible d’amener les pays à s’engager dans la lutte contre le changement climatique. C’est ainsi qu’elle a pu se concentrer sur la nécessité d’amener les pays participants à croire en la possibilité de s’attaquer également au changement climatique. Là où les précédentes négociations internationales sur le climat avaient échoué, les efforts de Mme Figueres ont rassemblé les nations pour qu’elles se mettent d’accord sur le financement, les nouvelles technologies et d’autres outils permettant de maintenir l’augmentation de la température mondiale en dessous de 2 ou, mieux encore, de 1,5 °C.

Moins de dix personnes dirigent l’infrastructure numérique la plus puissante du XXIe siècle.Dans le cas de l’industrie technologique, nous avons une longueur d’avance dans la mesure où nous n’avons pas besoin de convaincre des centaines de pays ou des millions de personnes. Moins de dix personnes dirigent l’infrastructure numérique la plus puissante du XXIe siècle ; ce sont les fameux GAFA :  Facebook, Amazon, Apple, Netflix et Alphabet (anciennement Google). Si ces personnes se réunissaient et convenaient que la maximisation du profit des actionnaires n’était plus l’objectif commun, l’infrastructure numérique pourrait être différente. Si Christiana Figueres pouvait amener un consensus entre 195 nations, nous pourrions raisonnablement envisager la possibilité de le faire avec dix PDG de sociétés technologiques.

Une nouvelle économie de la technologie humaine

Plusieurs principes économiques doivent être modifiés pour que la technologie s’aligne sur les intérêts de l’humanité et de la planète. L’un d’entre eux est le paradigme de la croissance. On ne peut tout simplement pas appliquer une logique de croissance infinie sur un substrat fini. La recherche d’une croissance économique infinie conduit à une crise écologique planétaire. Pour les entreprises technologiques, la poursuite de la croissance infinie de l’accaparement de l’attention humaine conduit à une crise similaire de la conscience mondiale et du bien-être social. Nous devons passer à une économie de l’attention post-croissance qui place la santé mentale et le bien-être au centre des résultats souhaités.

Plusieurs principes économiques doivent changer pour que la technologie s’aligne sur l’humanité et la planète. Un petit indice de ce changement est en train de se produire dans des pays comme la Nouvelle-Zélande et l’Écosse, où des organisations comme la Wellbeing Economy Alliance s’efforcent de passer d’une économie qui favorise le produit intérieur brut (PIB) à une économie ayant d’autres priorités : les dirigeants se demandent comment le bien-être peut éclairer la compréhension des politiques et des choix politiques par le public, guider les décisions et devenir une nouvelle base pour la pensée et la pratique économiques.

L’opportunisme économique avilit l’écologie de l’information en détruisant notre capacité à faire confiance aux sources de connaissances ou à partager nos convictions sur ce qui est vrai.Une autre évolution vers une technologie plus humaine nécessite un plus large éventail de parties prenantes capables de rendre compte de l’impact social à long terme de nos actions. À l’heure actuelle, il est possible pour les grandes entreprises technologiques de gagner de l’argent en vendant de plus en plus de « fausses » tranches d’attention – de faux clics provenant de fausses sources d’information à de faux annonceurs. Ces entreprises gagnent de l’argent même si ce à quoi le lien ou l’article conduit est totalement faux et propage des informations erronées. Cet opportunisme économique avilit l’écologie de l’information en détruisant notre capacité à faire confiance aux sources de connaissances ou à partager nos convictions sur ce qui est vrai ; ce qui, à son tour, détruit notre capacité à prendre de bonnes décisions. Il en résulte une polarisation, une désinformation et l’effondrement de la citoyenneté démocratique. Nous devons créer des mécanismes qui incitent les acteurs du monde numérique à envisager de prendre conscience de leurs actions sur la société dans un temps plus long que le court terme, et sur un spectre plus large que leurs simples ratios de performance.

La volonté humaine joue un rôle important à cet égard. Que se passerait-il si les responsables du modèle de distribution des revenus de l’App Store d’Apple – qui agit comme la banque centrale ou la Réserve fédérale de l’économie de l’attention – choisissaient simplement de distribuer les revenus aux fabricants d’applications en se basant non pas sur les utilisateurs qui ont acheté le plus de biens virtuels ou passé le plus de temps à utiliser l’application, mais sur ceux qui, parmi les fabricants d’applications, ont le mieux coopéré avec d’autres et aidé tous les membres de la société à vivre mieux ?

Sans règles et sans garde-fous, les acteurs les plus impitoyables gagnent.En fin de compte, il s’agit de fixer les bonnes règles. Il est difficile pour un seul acteur d’optimiser le bien-être et l’alignement sur les valeurs de la société lorsque d’autres sont encore en concurrence pour des ressources et un pouvoir limités. Sans règles et sans garde-fous, les acteurs les plus impitoyables gagnent. C’est pourquoi des lois et des politiques sont nécessaires, de même que la volonté collective de la population de les mettre en œuvre. La grande méta-crise est que les processus démocratiques de création de garde-fous fonctionnent à un rythme beaucoup plus lent que le rythme de développement technologique nécessaire pour faire la différence. La technologie continuera à progresser plus vite que les institutions démocratiques du XXe siècle ne peuvent en comprendre les inconvénients. Le secteur technologique lui-même doit se rassembler, collaborer et trouver des moyens de fonctionner pour que les objectifs sociétaux communs soient placés au-dessus de l’hyperconcurrence et de la maximisation des profits.

Enfin, nous devons reconnaître le pouvoir asymétrique massif que les entreprises technologiques exercent sur les individus et la société. Elles nous connaissent mieux que nous ne nous connaissons nous-mêmes. Toute structure de pouvoir asymétrique doit suivre un modèle fiduciaire ; à l’instar du bon professeur, du thérapeute, du médecin ou du travailleur social – c’est-à-dire qu’elle doit fonctionner au service de ceux qui ont moins de pouvoir. Elle ne doit pas fonctionner avec un modèle commercial dont l’accaparement est le seul moteur. Les modèles commerciaux des acteurs de la technologie doivent être générateurs : ils doivent nous traiter comme le client et non comme le produit, et s’aligner sur les valeurs les plus profondes, et sur l’humanité.

Vers l’être humain

E.O. Wilson a déclaré : « Le problème de l’humanité est que nous avons des émotions paléolithiques, des institutions médiévales et une technologie divine ». Nous devons embrasser nos émotions paléolithiques dans toutes leurs faiblesses et vulnérabilités. Nous devons moderniser nos institutions pour y intégrer plus de sagesse, de prudence et d’amour. Et nous devons ralentir le développement d’une technologie divine dont les pouvoirs excèdent notre capacité à diriger le navire sur lequel nous nous trouvons tous.

Le domaine du possible continue de s’étendre, mais il surgit en même temps que des problèmes mondiaux posant des défis exponentiels et qui exigent une meilleure information, un meilleur leadership et une meilleure action. Plutôt que d’accepter une course vers le bas qui nous rabaisse et nous divise, nous pouvons créer ensemble un paysage technologique qui favorise une course vers le haut – une course qui soutient notre interconnexion, notre civilité et notre intelligence. Le changement, je crois, est humainement possible.

Tristan Harris est cofondateur et président du Center for Humane Technology.
Ce texte, publié la première fois par la MIT Technology Review, est une adaptation d’un extrait de The New Possible : Visions of Our World beyond Crisis, qui sera publié le 26 janvier 2021 par Cascade Books.