« Je suis partisan d’une désescalade numérique ». Entretien avec Félix Tréguer

Quel bilan peut-on faire de l’action des institutions vis-à-vis du numérique ?

En travaillant depuis une dizaine d'années sur l’économie politique du numérique, d’abord au sein de La Quadrature du Net dont le travail consiste en partie à interagir avec différentes institutions autour de la fabrique de la loi, puis dans le cadre de mes recherches, j’ai acquis la conviction, dossier après dossier, que les institutions étaient finalement inaptes à pousser le numérique vers un horizon plus démocratique.
Si on revient un peu en arrière, les risques de surveillance de masse ou de déshumanisation bureaucratique liés à l’informatisation des administrations publiques ont été pointés dès les années 1960-1970. A l’époque, la conviction était que le droit pouvait être l’instrument de la gestion des risques informatiques. C’est ce que symbolise par exemple la création de la CNIL, en réponse à plusieurs scandales tels que le fichier SAFARI en 1974. On peut citer comme autre exemple la loi sur la transparence administrative, dite loi CADA, adoptée en 1978. Un conseiller d’État de l’époque, Guy Braibant, disait même que la transparence des administrations était le fruit de la rencontre de l’idée de transparence et de l’informatique.

Or il me semble que l’on peut dire aujourd’hui que cette approche « procédurale », fondée sur la protection de la vie privée et de la transparence, a échoué. Je constate une incapacité collective à faire progresser le numérique vers un horizon plus émancipateur. Compte-tenu des tendances actuelles, marquées par une recentralisation très forte du contrôle de l’infrastructure numérique et au recul des valeurs démocratiques, il me semble très peu probable que ces mêmes approches soient aujourd’hui capables de renverser la table.

Je constate une incapacité collective à faire progresser le numérique vers un horizon plus émancipateur.

Quelles relations les institutions entretiennent-elles avec les grands acteurs de l’économie numérique ?

Je situerais le point de bascule des relations entre État et plateformes numériques en 2013    au moment où de grands acteurs de la publicité ciblée - que l’on considère désormais comme acteurs du “capitalisme de surveillance” - se sont hissés à la tête des plus grandes capitalisations boursières mondiales, et où Snowden fait ses révélations sur le programme PRISM (un grand programme de surveillance permettant au FBI et à d’autres services de renseignement de piocher des donneés dans les serveurs de ces entreprises). En réaction à ces premières révélations en juin 2013, Google, Facebook, Apple et autres vont adopter une stratégie de distanciation qui passe notamment par le fait de nier toute collaboration avec les renseignements étasunien. Cela s’accompagne de plusieurs annonces, comme le déploiement accéléré de techniques de chiffrement pour mieux protéger les communications des utilisateurs.
En France, dès 2013 et la loi de programmation militaire, puis à nouveau en 2015 avec la loi renseignement, les ministres défendent de nouvelles loi de surveillance en pointant l’hypocrisie des acteurs privés qui s’y opposent, en rappelant que les plateformes aussi surveillent très largement leurs utilisateurs. A partir de 2015, le pouvoir politique français va également mettre en scène la faible coopération des plateformes dans la lutte contre la propagande terroriste sur Internet pour étendre la censure du Web.

A mon sens, au-delà de la mise en scène d’un conflit entre l’État et les plateformes le fait le plus marquant réside bel et bien dans leur interdépendance toujours plus poussée. L’intégration de ces acteurs dans les politiques numériques des États constitue le fait le plus marquant. On le voit bien en matière de surveillance et de censure des communications dans des textes comme la loi Avia en France ou le règlement européen sur l’anti-terrorisme. Même s’il y a encore des résistances, notamment au sein du Conseil Constitutionnel qui, au nom de la liberté d’expression, est très réticent à déléguer des pouvoirs de censure à ces entreprises, des alliances objectives se nouent au sein de structures telles que le “groupe de contact” mis en place entre le ministère de l’Intérieur et les plateformes dans le cadre de la lutte anti-terroriste.

Au-delà de la mise en scène d’un conflit entre l’État et les plateformes le fait le plus marquant réside bel et bien dans leur interdépendance toujours plus poussée

Au-delà des questions régaliennes, on peut observer l’intégration de ces acteurs aux politiques numériques à plusieurs niveaux : le Health Data Hub réalisé avec Microsoft qui équipe aussi le ministère des armées, Facebook qui, à la demande de Pôle Emploi, va former au numérique des demandeurs d’emploi, ou encore l’ouverture d’ateliers Google de médiation numérique, alors qu’historiquement on avait confié ce travail à des associations financées pour cela. Les exemples sont légion, et encore on ne parle pas ici d’acteurs français fers de lance de la surveillance comme Thalès ou Idemia.

Peut-on renverser la logique de surveillance et de contrôle que vous décrivez, en mobilisant justement les outils numériques qui favorisent une plus grande transparence des institutions ?

Le couple surveillance-secret est quelque chose de très ancien. L’État qui cherche à se protéger du regard de ses citoyens, tout en cherchant à connaître leurs moindres pensées, remonte de la naissance de l’État moderne. Il s’agit là d’une préoccupation très forte des théoriciens de la raison d’Etat dès les XVIème et XVIIème siècles. Au début de la Révolution, le processus de démocratisation s’est construit sur l’idée de renverser le couple surveillance et secret, c’est-à-dire de protéger les citoyens de la surveillance d’État et de leur permettre de contrôler les actions de ce dernier. Il y a eu depuis quelques progrès, mais ils restent limités et incapables de transformer réellement les rapports politiques. C’est ce que décrivait Jacques Chevallier dans un article sur la transparence administrative qui dresse un bilan très sévère de la loi relative à l’accès aux documents administratifs (loi CADA) de 1978. Les réflexions qu’il y développe sont d’ailleurs toujours valables aujourd’hui si l’on considère les politiques d’open data. En tant que chercheur, je peux constater régulièrement à quel point les demandes CADA de publication de documents se révèlent décevantes, dans le cas notamment du déploiement de technologies policières de surveillance. Malgré tout, ces dispositifs créent des brèches dans lesquelles les collectifs citoyens peuvent s’engouffrer pour tenter de faire progresser la transparence. Combattre l’opacité des systèmes de pouvoir demeure un combat essentiel.

En quoi les organisations publiques se sont-elles adaptées au paradigme numérique ?

Principalement à travers l’émergence du nouveau paradigme bureaucratique de la gouvernance par les données, c’est-à-dire le fait de collecter un maximum de données pour être en mesure de réaliser des traitements afin d’optimiser une fonction administrative. Les entreprises du numérique, et Google en particulier, en ont été les pionnières. Ce paradigme issu du secteur privé est actuellement incorporé par les administrations, de la même manière que le nouveau management public s’est imposé au secteur public à partir des années 1980 et a modifié en profondeur les pratiques administratives. Au nom de la gouvernance par les données, on voit un très grand nombre de projets émerger qu’on peut qualifier d’automatisation des fonctions administratives.

Les institutions sont-elles démunies face aux plateformes numériques ?

Je ne crois pas à l’idée selon laquelle les États n’auraient pas ou peu de pouvoir sur ces entreprises, même si je comprends évidemment qu’il puisse y avoir certaines contraintes. La Quadrature du Net avait par exemple proposé de garantir l’interopérabilité entre les réseaux sociaux afin de permettre aux utilisateurs de s’émanciper des grandes plateformes. Ce à quoi il a pu être opposé par certains que la France s’exposait à des sanctions commerciales de la part des États-Unis si elle avançait seule sur ce sujet. Pourtant, même si ce type d’obstacles existe, la taxe sur les GAFAM montre aujourd’hui qu’avec un peu de volonté politique, on peut faire bouger les lignes. Certaines batailles ne sont tout simplement pas menées.

Je ne crois pas à l’idée selon laquelle les États n’ont pas de pouvoir sur ces entreprises.

Il s’agit d’une question de  volonté politique, des marges de manœuvre que l’on se donne, et du type de société que l’on souhaite construire. L’apparente faiblesse des institutions face aux défis posés par l’émergence de ces acteurs et des infrastructures numériques qu’ils conçoivent ne s’explique pas par une perte de souveraineté mais parce que le projet politique dominant consiste à composer avec elles plutôt que de lutter contre.
De la même manière, les institutions politiques qui délèguent de nombreux services à des startups reflètent des changements assez conséquents. C’est une question fondamentalement politique : quels acteurs choisit-on d’encourager, de soutenir ? L’ouverture de l’économie sociale et solidaire aux startups réalisée ces dernières années traduit un biais entrepreneurial, qui se fait au détriment d’acteurs associatifs à qui on avait auparavant délégué des missions publiques, par exemple en matière de formation aux médias ou au numérique. Tout cela se fait sans débat public alors que ces évolutions traduisent des orientations idéologiques à mon sens très marquées.

Internet peut-il servir d’inspiration pour la construction d’une société plus égalitaire et plus décentralisée ?

Dans un autre monde, peut-être. Mais je suis beaucoup revenu de cet espoir. Toute une partie de notre imaginaire politique a été stimulée par l’avènement d’Internet et la démocratisation de ses usages. Nous avons ainsi contribué à recycler, dans un nouveau paradigme technologique, des idées assez anciennes voyant un lien direct entre progrès techniques et démocratisation. Or le progrès politique authentique n’a pas besoin de technologie pour advenir. Même si l’on doit en partie « faire avec », je crois que celle-ci constitue aujourd’hui bien davantage un obstacle qu’une solution.

Vous avez développé récemment le concept de « cage de fer algorithmique ». Qu’entendez-vous par là ?

A l’origine, la notion de cage de fer bureaucratique a été développée par Max Weber pour désigner la déshumanisation du pouvoir dans le cadre du développement des bureaucraties, un phénomène majeur de la fin du XIXe siècle. La cage de fer algorithmique renvoie à l’aggravation des problèmes liés à l’organisation bureaucratique, à partir du moment où celle-ci est automatisée et articulée à des machines. Le fait que les administrations soient composées d’êtres humains crée autant d’occasions de s’opposer au plan bureaucratique, par des viscosités, des retards, des  interprétations ajustées au terrain… Certes, du point de vue de l’organisation bureaucratique, cela peut poser problème. En même temps, c’est cette dimension qui permet de s’adapter aux situations que les règles hyper-formalisées, abstraites et simplificatrices n’ont pas su prévoir.

Le numérique a rendu possible la distanciation sociale et le confinement généralisé en temps de pandémie, et celle-ci a permis d'accélérer le paradigme dominant lié à la numérisation du monde.

Il y a des exemples très concrets de la dimension froide, déshumanisante de la bureaucratie algorithmique, dans laquelle l’élément humain disparaît. Interrogez des lycéens sur leur expérience face à ParcourSup, ou demandez à des demandeurs d’emplois lorsque Mon Assistant Personnel, une application développée par Pôle Emploi, leur décerne un score d’employabilité de 0. Tout cela est accentué par la crise sanitaire. Le numérique a rendu possible la distanciation sociale et le confinement généralisé pendant la pandémie, et celle-ci a permis d'accélérer le paradigme dominant lié à la numérisation du monde.

On surinvestit dans le numérique mais, à mon sens, ce n’est pas le levier le plus pertinent pour améliorer la relation de l’État à ses usagers. En revanche, la numérisation comporte de vrais risques, notamment en termes de droits. Je citais ParcourSup et Mon Assistant Personnel, mais on pourrait également parler des formes de contrôle induites par la reconnaissance faciale ou la surveillance automatisée des réseaux sociaux par le Fisc ou la CAF.

La numérisation de l’État s’articule également à un certain nombre de postulats sur la bonne gestion de l’État, comme l’austérité ou la réduction du nombre de fonctionnaires. Dans ses effets les plus délétères, elle résulte en réalité de choix politiques. On ne peut se contenter de débattre sur la meilleure manière de rendre ces choix technocratiques acceptable, en cherchant par exemple uniquement à corriger les bugs de ParcourSup sans débattre du bien-fondé de l’outil et des logiques sous-jacentes.

Pour résumer, le numérique est le reflet d’une société et de ses rapports de force politique ; il ne les change pas en tant que tel. Plus encore, la crise sanitaire nous rappelle qu’il tend plutôt à les aggraver.
Pourtant, je pense qu’il y a une demande d’une société plus incarnée, où le face-à-face physique et l’interaction directe entre les êtres humains seraient au fondement des relations sociales. On le voit par exemple avec les revendications contre la disparition des guichets SNCF. L’automatisation va à l’encontre de ce désir et de cette revendication, qui n’est pas ou mal prise en compte dans les politiques publiques et dans la manière dont on pense ces questions au sein des administrations.

Il y a une demande d’une société plus incarnée, où le face-à-face physique et l’interaction directe entre les êtres humains seraient au fondement des relations sociales.

Tout cela fait écho à des questions plus philosophiques. Une société dans laquelle je trouve au guichet un bureaucrate qui est aussi un citoyen, qu’est-ce que cela signifie par rapport à une administration presque entièrement automatisée ? La sociologie s’est beaucoup intéressée aux street-level bureaucrats, aux agents de terrains et autres employés de guichet. Cette littérature tend à montrer justement cette capacité d’adaptation au réel, même si bien sûr des conflits se nouent aussi à cette échelle. Les agents sont capables de formes d’anti-discipline qui servent aussi à humaniser le fonctionnement bureaucratique. Tout cela risque de disparaître avec l’algorithmisation.

Pour conclure, faut-il arrêter la machine ?

Le numérique est un fait social total, de la même manière que le capitalisme en est un. On peut se dire anticapitaliste, mais on vit de fait dans un système où il est pratiquement impossible de se passer de la monnaie ou de sortir de la sphère des échanges marchands. Il faut donc faire avec, sans évidemment renoncer à transformer cet état de fait.
Je suis devenu très critique du processus de numérisation, je pense que nous sommes allés beaucoup trop loin. Quand j’ai découvert Internet au début des années 2000, j’avais beaucoup d’espoir s’agissant de ses usages médiatiques comme la capacité pour les individus à communiquer, à s’exprimer à une échelle transfrontières. Aujourd’hui, avec l’intelligence artificielle et la numérisation de l’ensemble des activités sociales, on est bien au-delà de cela. À cette échelle, il ne fait plus de doute que le numérique est devenu aliénant, écocide, comme d’autres technologies qui pouvaient paraître bonnes à l’origine et qui se sont ensuite avérées poser problème.

Je suis partisan d’une désescalade numérique

Je serai donc partisan d’une désescalade numérique. Il est encore temps de mettre en place des politiques publiques numériques qui soient non seulement conformes à l’horizon démocratique mais aussi conscientes des impératifs écologiques. Pour cela, il serait sans doute nécessaire proscrire un grand nombre d’usages et de dispositifs. Comme face au changement climatique, c’est un défi proprement anthropologique qui nous faut aujourd’hui relever, qui s’incarne déjà dans une multitude de luttes politiques. Cela passera nécessairement par l’action collective.