Les données humaines du monde entier, fournies grâce à la puissance et à la portée croissantes de l’intelligence artificielle, pourraient, un jour prochain, se retrouver entre les mains d’un petit nombre de puissants – un avenir dystopique peuplé d' »humains piratés », selon Yuval Noah Harari. L’auteur du best-seller mondial Sapiens explique à CBS que les nations doivent commencer à coopérer pour éviter cela en réglementant l’intelligence artificielle et la collecte de données dans toutes les nations.
« Le monde est de plus en plus découpé en sphères de collecte de données, de récolte de données. Pendant la guerre froide, il y avait le rideau de fer. Maintenant, nous avons le rideau de silicium, le monde est de plus en plus divisé entre les États-Unis et la Chine », explique Yuval Harari à la CBS. « Vos données vont-elles en Californie ou vont-elles à Shenzhen, à Shanghai et à Pékin ? »
Yuval Harari, professeur d’histoire à l’Université de Jérusalem, a publié son premier livre, « Sapiens », en 2014 ; il a été un best-seller mondial. Il a depuis publié deux autres livres aux thèmes futuristes, « Homo Deus » et « 21 leçons pour le 21e siècle ». Les trois livres réunis ont été vendus à 35 millions d’exemplaires dans 65 langues.
Dans son interview à la BBC, il met en garde contre un avenir pas si lointain marqué par des changements incroyables, affirmant que l’intelligence artificielle à l’œuvre aujourd’hui grâce aux algorithmes ne fera que renforcer son emprise sur les humains. « Netflix nous dit ce que nous devons regarder et Amazon nous dit ce que nous devons acheter. À terme, d’ici 10, 20 ou 30 ans, ces algorithmes pourraient également vous dire quoi étudier à l’université et où travailler, qui épouser et même pour qui voter », déclare-t-il.
L’auteur de Sapiens souligne que la pandémie a ouvert la porte à une collecte encore plus intrusive de nos données. « Ce sont des données sur ce qui se passe à l’intérieur de mon corps. Ce que nous avons vu jusqu’à présent, ce sont des entreprises et des gouvernements qui collectent des données sur les endroits où nous allons, les personnes que nous rencontrons, les films que nous regardons. La prochaine étape sera la surveillance sous notre peau », prévient-il.
« Il est certain que nous sommes maintenant au point où nous avons besoin d’une coopération mondiale. Vous ne pouvez pas réguler le pouvoir explosif de l’intelligence artificielle au niveau national », dit-il, expliquant ce qu’il faut faire selon lui. « Une règle clé est que si vous obtenez mes données, ces données doivent être utilisées pour m’aider et non pour me manipuler. Une autre règle clé est que chaque fois que vous augmentez la surveillance des individus, vous devez simultanément augmenter la surveillance des sociétés, des gouvernements et des personnes au sommet. Et le troisième principe est le suivant : ne jamais permettre que toutes les données soient concentrées en un seul endroit. C’est la recette d’une dictature. »
Pourquoi ne pas profiter d’une lecture illimitée de UP’ ? Abonnez-vous à partir de 1.90 € par semaine.
Selon Harari, les humains risquent d’être « piratés » si l’intelligence artificielle n’est pas mieux réglementée. « Pirater un être humain, c’est apprendre à connaître cette personne mieux qu’elle ne se connaît elle-même. Et sur cette base, vous manipuler de plus en plus », explique-t-il.
Il y a aussi un côté positif à la montée de l’intelligence artificielle, dit Harari, mais seulement si elle est accompagnée d’une réglementation. « Tout cela n’est pas seulement dystopique. C’est aussi utopique. Je veux dire, ce genre de données peut aussi nous permettre de créer le meilleur système de santé de l’histoire », dit-il. « La question est de savoir ce que l’on fait d’autre avec ces données. Et qui les supervisent ? Qui les réglementent ? »
Source CBS Interactive
Image d’en-tête : Maggie Chiang/Quanta
