Ecriture participative du code, un enjeu démocratique. Échange avec Hugues Bersini

Comment atténuer les risques de défiance de l’usage des algorithmes dans l’action publique ?

La complexité des enjeux auxquels nous faisons face, nous dépasse souvent, et l’usage des algorithmes dans l’action publique semble nécessaire pour répondre à cette complexité. En parallèle, il y a une réticence des citoyens face à l’usage des algorithmes dans la sphère publique, et notamment du risque qu’ils nous dessaisissent. L’idée est de savoir comment les administrations publiques peuvent bénéficier de dispositifs logiciels efficaces, mais également transparents et inclusifs. Il s’agit de donner aux citoyens les clés pour mieux appréhender ces enjeux.

Au sein de l'Institut de l’IA pour le bien commun, nous prônons une nouvelle forme d’écriture collectivisée des algorithmes qui associerait les administrations politiques, les geeks, le monde académique et les experts. En associant les citoyens à l’écriture des codes censés les gouverner, nous pouvons atténuer leur crainte et leur frustration en leur permettant de décider directement ce qui deviendra opérationnel. Aujourd’hui, des plateformes existent pour valoriser la collaboration telles que GitHub, qui ouvre la possibilité à des millions de développeurs de construire collectivement des programmes informatiques, mais la participation est souvent réservée aux informaticiens. À ce jour, plusieurs expériences sont en cours pour renforcer la participation citoyenne dans l’écriture des algorithmes, mais aucune initiative n'a abouti. Par exemple, un groupe de développeurs de Boston, rassemblés sous le label « Code for America » a lancé un lieu d’expérimentation algorithmique qui traite entre autres de l’inscription automatisée dans les écoles publiques.

Au sein de notre institut, nous avons lancé un travail pour la rentrée prochaine qui vise à réécrire le code de Décret Inscription, l’équivalent belge de Parcoursup. Nous avons mené une enquête qui précise que 30% des habitants de Bruxelles ne sont pas satisfaits de cet algorithme. C’est pourquoi, nous souhaitons le réécrire en faisant participer les parents, élèves et professeurs dans l’écriture du code. Cela nécessite cependant de mettre en place des formations pour les accompagner à l’algorithmie et la délibération.

Dans le contexte de la mise en place d’une taxe kilométrique à Bruxelles, FARI a créé également un logiciel intitulé https://jeasy.ai/ qui propose des solutions de mobilités et d’intermodalités et qui intègre la question de la taxe kilométrique en fonction des options retenues. L’objectif serait également de faire participer les citoyens à cette démarche.

Quelle méthode pour faire participer les citoyens à l’écriture du code ?

La participation citoyenne à l’écriture du code s’organise en trois phases : la sélection des participants, la formation aux enjeux d'algorithmie et la discussion avec les participants autour des critères de l’algorithme. Cette méthode permet de tester l’algorithme et faire évoluer certains critères une fois qu’il est en action. L’avantage du code sur la loi est qu’il est plus simple à mettre en place et plus agile.

Je défends l’idée de la programmation agile, où les usagers testent l’algorithme et ont la possibilité de revenir sur les critères.

Cela serait notamment possible sur le projet sur l’intermodalité des transports. Ces propositions permettraient de répondre à la fois à la défiance et à la fatigue démocratique mais aussi à la prise en charge de plus en plus algorithmisée de nos existences par des forces économiques, non transparentes, non démocratiques.

De plus, l’inscription dans le code d’un algorithme permet de garder une trace de la participation citoyenne. Pour la convention citoyenne pour le climat, il aurait fallu que les citoyens inscrivent leurs propositions dans un algorithme efficace et incontournable. Inscrire des propositions dans le marbre d’un logiciel pourrait légitimer beaucoup de choses.

Comment répartir les rôles entre les citoyens, les informaticiens et les élus dans le cadre d’une démocratie représentative ?

La première raison pour laquelle il faut des algorithmes est que le contexte politique est devenu trop complexe pour les êtres humains. Si l’on prend l’exemple de la vaccination, il s’agissait de répartir des centres, des conditions de conservation et de logistique particulières en fonction des vaccins etc. Une fois que l’on est d’accord sur les priorités, seul un algorithme peut le faire. De la même manière, les enjeux d’intermodalité des transports, qui valorisent le prix, l’empreinte environnementale ou encore la durée sont également très complexes. Les recherches pour définir l’algorithme approprié pour l’intermodalité ont duré deux ans.

La participation citoyenne dans l’écriture du code revient à rebattre les cartes de la démocratie représentative.

Je ne suis pas pour mettre à l’écart le personnel élu mais pour valoriser une formule tripartite : élus, citoyens et experts pour mélanger démocratie, technocratie et algocracie.

Par exemple, il est dommage que les gouvernements n’aient pas réfléchi à la manière de gérer le covid de manière algorithmique, avant même la question de la vaccination. Il aurait fallu le penser de manière très embryonnaire et inclure les citoyens dans cette démarche afin qu’ils en comprennent les enjeux.

Est-ce réaliste du point de vue de la maîtrise de la technique dans les administrations nationales et locales ? Quels sont les leviers ?

C’est la raison pour laquelle nous avons créé l’institut FARI. Je constate l’analphabétisme informatique de nos administrations. D’ailleurs, leur réflexe est souvent d’aller directement vers le privé plutôt que vers le milieu académique. L’idée de la création de cet institut est de faire des académiques le premier interlocuteur des administrations, notamment dans le cadre de la formation. Mon rêve est que cette initiative fasse tache d’encre dans les autres villes et pays. Beaucoup de problèmes sont internationaux, comme l’a illustré le Covid tant pour les outils de traçage que sur la vaccination.

Pour aller plus loin :

• Hugues Bersini, Le code informatique, par son modus operandi, écrit la loi dans le marbre mais ce sont les citoyens qui en manient les burins, Le Monde, 23 décembre 2020.
• ITW Académie royale de Belgique : Regards sur une crise avec Hugues Bersini, 16 janvier 2021. Lien
• BERSINI Hugues, Big Brother is Driving you : Brève réflexion d’un informaticien obtus sur la société à venir, 2016. Lien.
• Hugues Bersini, Il est grand temps de reprendre la main sur les algorithmes qui nous gouvernent, Le Monde, 22 juin 2019. Lien.
• FARI : https://fari.brussels/.