Franck Pasquale est professeur de droit à l’Université du Maryland (USA). Il a publié au début de 2015 un livre qui est devenu rapidement une référence : The Black Box Society. Une analyse méticuleuse du développement incontrôlé du pouvoir des algorithmes dans nos sociétés. Nous en parlions hier en relatant la conférence de Jennifer Granick « Internet, la fin d’un rêve ? ». Ce livre à ne pas manquer sort aujourd’hui en français aux éditions FYP.
Capturées, compilées, archivées, nos données personnelles et nos traces numériques sont silencieusement injectées dans le cœur du Big Data. Des algorithmes cachés influencent nos choix, statuent sur notre solvabilité, jugent de notre employabilité, prédisent nos actions ou tout simplement, nous surveillent. Les géants de la Silicon Valley et de la finance donnent des verdicts algorithmiques qui jouent un rôle central dans nos vies et décident du sort des start-ups, des innovateurs et de toute l’économie.
Interrogé par l’Obs à l’occasion de la sortie de son livre aux Etats-Unis, Franck Pasquale définissait ce que sont ces boîtes noires et leurs conséquences : « La boîte noire est une métaphore d’ingénieur, qui décrit un système dans lequel vous savez ce qui entre et ce qui sort, mais rien de la transformation qui s’est opérée entre les deux.
La presse américaine a longtemps présenté Google comme un modèle pour les entreprises, en mettant en avant tous ses côtés sympathiques : la cantine délicieuse, les massages offerts, les décisions laissées aux ingénieurs… Mais ces articles ne disaient rien du rôle des avocats et des financiers, qui travaillaient à garder secret tout le fonctionnement interne de l’entreprise. C’est ça, la boîte noire : ce qui se passe dans les entreprises est protégé par le secret.
Aujourd’hui, aux Etats-Unis, de plus en plus d’entreprises affirment que toute l’analyse de données qu’elles mènent en interne relève du secret commercial, et que les algorithmes de notation, d’une personne ou d’une entreprise, sont protégés par le premier amendement, qui garantit la liberté d’expression. Certains tribunaux ont déjà accepté ces arguments. C’est comme ça que se crée une boîte noire de plus en plus impénétrable ».
Dans Black Box Society, Frank Pasquale dresse le portrait effrayant d’un monde ténébreux où la neutralité n’est qu’un mythe. Au terme de plus de dix ans d’enquête, il soulève le couvercle des boîtes noires et révèle comment des intérêts puissants, privés et gouvernementaux, abusent du secret commercial, trahissent notre confiance, et tirent d’immenses profits de la manipulation algorithmique. Son analyse est sans équivoque : « La capacité de surveiller les moindres faits et gestes des autres, tout en cachant les siens, est la forme la plus haute du pouvoir.
C’est l’histoire platonicienne de l’anneau de Gygès : celui qui est invisible, et qui donc peut voir tout ce que font les autres à leur insu, dispose d’un avantage stratégique énorme. C’est le ressort central d’entreprises comme Google ou Facebook. Elles disent qu’elles doivent leur richesse et leur succès au fait d’avoir les meilleurs analystes de données et les meilleurs algorithmes. Mais ce succès tient moins à des compétences spéciales qu’à une position de pouvoir particulière, qui leur permet de surveiller tout le monde en se soustrayant elles-mêmes aux regards ».
Face à l’urgence citoyenne et politique de réagir, il propose des méthodes pour apporter de la transparence à cette société de la boîte noire qui contrôle nos vies et conditionne notre futur.
Vidéo de l’auteur :
Frank Pasquale est professeur de droit à l’université du Maryland, chercheur à l’Information Society Project de l’école de droit de l’université Yale, et membre du Council for Big Data, Ethics, and Society. Il travaille depuis longtemps sur les rapports entre les technologies de l’information et la loi, et s’intéresse plus particulièrement aux dimensions sociales et éthiques de ces questions.
Pour aller plus : Grand Format « Sous le règne d’Algorithme »
