IA : Appel à une gouvernance fondée sur les droits de l’être humain

Les participants à la Conférence mondiale de l’UNESCO sur l’intelligence artificielle appellent à une gouvernance fondée sur les droits pour l’IA

 

Il est nécessaire de garantir une gouvernance de l’intelligence artificielle (IA) centrée sur l’être humain, sont convenus les participants à la conférence intitulée Principes de l’Intelligence artificielle : vers une approche humaniste ? qui s’est tenue le 4 mars au siège de l’Organisation.

La Directrice générale de l’UNESCO, Audrey Azoulay, a ouvert la Conférence en déclarant : « L’intelligence artificielle n’est pas un questionnement de la technologie, c’est un questionnement de notre propre humanité. Un questionnement scientifique, politique, philosophique, éthique ».

« Il est plus que temps de définir un socle de principes éthiques qui encadreraient cette disruption technologique. Pour qu’elle soit au service des préférences collectives. Pour qu’elle repose sur des valeurs humanistes. », a poursuivi Audrey Azoulay.

 

Faisant référence au travail de l’UNESCO sur l’IA, la Directrice générale a annoncé : « Nous allons désormais pouvoir travailler sur la base d’un premier rapport de la Commission mondiale d’éthique des connaissances scientifiques et des technologies, la COMEST.  Ce nouveau rapport consacré à l’intelligence artificielle sera certainement un appui scientifique majeur aux réflexions et initiatives des États membres. » (1)

 

Angel Gurría, Secrétaire général de l’Organisation de coopération et de développement économiques (OCDE), a rappelé pour sa part l’importance de la coopération pour faire en sorte que l’IA devienne un moteur d’une croissance inclusive et durable. « Nous n’avons pas droit à l’erreur, parce que si l’IA alimente l’optimisme, elle est également source d’anxiété et de préoccupations éthiques. »

M. Gurría a encore souligné la nécessité de travailler avec l’UNESCO dans un effort concerté pour « rendre l’IA moins artificielle et plus intelligente ».

 

Tout au long de la journée, des universitaires, des représentants d’organisations intergouvernementales, des ministres, le secteur privé, des acteurs de la communauté technique, des journalistes, et la société civile ont appelé à l’élaboration de principes éthiques pour régir l’IA sur la base de la transparence et de la responsabilité. Ils ont insisté sur la nécessité de disposer de données libres d’accès et respectueuses de la vie privée. Ils ont souligné l’importance de ces données qui dépassent le cadre des informations traditionnellement collectées par les services publics, car elles alimentent les prévisions et les décisions qui permettent déjà à l’IA de contribuer au traitement des maladies, à la gestion des ressources en eau ou encore à la planification agricole.

 

Mais les données ne sont pas neutres, et plusieurs participants ont relevé que pour mettre la technologie au service de l’humanité, il faut des données qui soient réellement représentatives et inclusives. Or la moitié de la population mondiale n’est toujours pas connectée à l’Internet.

 

Cédric Villani, lauréat de la médaille Fields en mathématiques et député français, a quant à lui rappelé combien il était important de préserver la souveraineté humaine face aux algorithmes, et la souveraineté géopolitique dans un contexte marqué par une forte concurrence dans le domaine du développement de l’IA. Evoquant la nécessité de mettre l’IA au service d’objectifs humains, Cédric Villani a poursuivi : « le danger c’est que nous ne parvenions pas à relever le défi ».

 

Bunmi Banjo, Directrice générale de Kuvora Inc., a alerté sur le risque consistant à tomber dans le piège de l’efficacité sans tenir compte de ce qui est juste et équitable, car les décisions prises aujourd’hui affecteront l’humanité pour des décennies à venir.

 

Les intervenants ont souligné la lenteur de l’élaboration d’instruments normatifs internationaux qui ont toujours suivi l’innovation technologique au lieu de l’anticiper, ce qui est pourtant nécessaire en matière d’IA.

 

Alors que tous les orateurs ont insisté sur la nécessité de développer des principes pour IA, Fabrizio Hochschild Drummond, Sous-Secrétaire général à la coordination stratégique au Cabinet du Secrétaire général des Nations Unies, a averti que : « la préférence actuelle pour les accords internationaux non contraignants, qui marque un effacement de la coopération au profit de la concurrence, rend les traités non contraignants beaucoup plus attractifs. Mais on ne peut pas compter sur la bonne conduite de tous. Si nous laissons la main invisible du marché opérer librement, nous obtiendrons des applications utiles, mais notre vie privée sera exposée et les inégalités s’accentueront, ce qui contribuera à la polarisation de nos sociétés ».

 

 

Cette conférence s’inscrivait dans le cadre d’une série d’événements organisés par l’UNESCO sur l’IA. Elle fait suite au débat organisé au siège le 22 janvier sur l’éthique des nouvelles technologies et de l’intelligence artificielle « L’avenir high tech pour l’homme : espoir ou crainte ? », et au Forum sur l’intelligence artificielle en Afrique organisé à Benguérir (Maroc) les 12 et 13 décembre 2018.  

 

L’UNESCO organisera à Beijing, en partenariat avec le gouvernement de la République populaire de Chine du 16 au 18 mai, une grande conférence sur l’intelligence artificielle et l’éducation dont l’objectif sera d’étudier les nouvelles technologies de l’IA et les pratiques innovantes dans l’utilisation de l’IA dans l’éducation.

 

(1) Le Groupe de travail de la COMEST sur l’éthique et l’IA a mis au point une étude préliminaire sur l’éthique de l’IA, qui recommande un instrument normatif dans ce domaine. Cette étude sera présentée au Conseil exécutif de l’UNESCO en avril comme une introduction au dialogue avec les États membres dont l’objectif est de progresser vers l’élaboration d’un nouvel instrument normatif.

Source : CP UNESCO n° 2019-17, 06 Mars 2019