Réguler l’IA pour préserver l’avenir

Lire la tribune sur Le Monde

L’accord politique obtenu de haute lutte vendredi 8 décembre sur le projet de règlement européen sur l’intelligence artificielle (IA) marque probablement la fin d’un cycle de régulation acharné, qui aura marqué les cinq dernières années. Depuis l’entrée en fonction de la Commission von der Leyen, nous avons assisté à une déferlante de textes qui ont fait de l’Europe le régulateur du numérique pour le reste du monde. Pour beaucoup, cette abondance cache une incapacité à agir.

Et, de fait, comme rarement auparavant, la négociation du règlement sur l’intelligence artificielle aura malheureusement fait s’opposer les pro-régulation aux pro-innovations dans une dialectique nous faisant oublier combien la régulation s’inscrit dans le cycle de l’innovation en ce qu’elle en détermine le cours. Une invention pour devenir une innovation doit être accueillie dans le tissu social.

Cela se fait par l’usage, mais aussi par cette expression de volonté collective qu’est le droit. Son rôle est alors de nous assurer par le jeu de la délibération démocratique que la course technologique dans laquelle nous nous lançons est la bonne. Négliger cela revient, sinon, à croire que la technologie va d’elle-même résoudre les problèmes qu’elle créera, ou que nous pouvons agir uniquement de manière corrective.

A l’inverse de quoi, l’Europe nous offre la possibilité de faire régner nos principes d’ouverture, nos libertés fondamentales ou encore notre aspiration à la paix sur le développement technologique. Alors profitons-en, et rappelons-nous que rien ne sert de nous lancer dans une course dont la ligne d’arrivée est assurément un mur. Cette course-là, nous pouvons nous réjouir de ne jamais en avoir pris le départ.

Gestion du risque

Comme cela a bien été identifié au cours de ces cinq dernières années, la gestion du risque est devenue la boussole première de la régulation européenne sur le numérique, et le règlement sur l’intelligence artificielle en cours de finalisation en est peut-être l’expression la plus aboutie.

S’il est entendable que la responsabilité du législateur soit d’abord de nous prémunir des risques les plus importants, nous pourrons nous accorder sur le fait que cela ne constitue pas un objectif politique viable sur le long terme. Gouverner uniquement par le risque, ce ne serait pas construire un projet social, mais se contenter de ramasser les pots cassés. En amont de l’émergence des systèmes, nous devons établir les jalons nécessaires mais aussi les objectifs positifs auxquels nous voulons parvenir. Ce qui rejoint bien le rôle structurant que doit avoir la régulation dans le déploiement de l’innovation.

Si nous devions définir ce point de mire pour l’avenir, quel serait-il ? Il y a quelques années, le professeur de droit Yochai Benkler nous a fourni une des plus belles formulations, à travers le titre d’un de ses plus fameux ouvrages : La Richesse des réseaux (Presses universitaires de Lyon, 2009).

A très gros traits, Yochai Benkler y défendait que la richesse des réseaux viendrait de cette capacité de création collective offerte par l’ouverture d’Internet. Aujourd’hui, prolongeons le trait en pensant d’abord la préservation d’écosystèmes ouverts permettant l’innovation par tout un chacun, la coopération et la liberté de choix des utilisateurs.

Les « travailleurs du clic »

À ce titre, observons que là où le règlement sur l’intelligence artificielle exemptera les systèmes « open source » de certaines règles, nous avons avant tout besoin d’un système de soutien actif à l’ouverture. L’ouverture ne se fait pas par l’absence de règles mais, bien au contraire, par l’imposition de règles à des systèmes qui sinon enferment les utilisateurs et empêchent les innovateurs.

Cela peut se faire à travers de nombreux « remèdes », comme des obligations d’accès et de non-discrimination, des modes de règlements des différends comme nous en connaissons dans les télécoms et qui pourraient demain être imposées aux géants qui ont la main sur les principaux systèmes aujourd’hui.

Défendre la richesse des réseaux de manière étendue, c’est aussi préserver et enrichir les ressources qu’exploitent les intelligences artificielles. D’un point de vue humain, c’est prendre en considération les « travailleurs du clic », pour reprendre l’expression du sociologue Antonio Casilli. L’intelligence artificielle comme la modération des réseaux sociaux sont nourries de ces travailleurs.

Une action serait assez sensée de ce point de vue et nous ferait honneur. Si cette préoccupation peut valoir pour de nombreuses catégories de travailleurs dans de nombreux secteurs économiques, l’enjeu ici est aussi de se départir de l’idée que les IA seraient le fruit de processus évanescents.

Des chiffres ahurissants

Autres ressources à préserver, les ressources environnementales, notamment dans la confection des équipements numériques et l’exploitation des intelligences artificielles génératives. Aujourd’hui, en France, nous savons demander aux entreprises du numérique combien elles consomment de minerais dans la fabrication de nos téléphones, combien les centres de données utilisent d’eau et d’énergie.

Nous devons faire la même chose avec les intelligences artificielles génératives. Les chiffres qui circulent sont ahurissants. Les faits doivent être posés clairement et objectivement pour prendre des décisions sereines. La régulation est là pour nous guider en ce sens.

Assurer la pérennité de nos productions culturelles comme celle des intelligences artificielles génératives exige, par ailleurs, de penser un système de répartition de la valeur entre elles et les communautés de créateurs de contenus. Sans quoi, nous risquons de voir se démultiplier les situations où des systèmes, à l’instar de certains réseaux sociaux et moteurs de recherche, se referment sur eux-mêmes et empêchent l’accès à leurs ressources, en érigeant au surplus des barrières tarifaires inabordables pour la recherche ou le commun des utilisateurs.

En matière d’intelligence artificielle, cela ne ferait que nous inscrire dans un cercle vicieux de la perte de valeur. Mais ce cercle vicieux est probablement à casser en amont, en instillant auprès des créateurs la confiance nécessaire dans leur avenir. Ainsi, tout le monde pourra se retrouver assis à la table des négociations.

Projet européen en péril

Sur un tout autre plan, s’il s’agit bien de réguler, « penser la richesse des réseaux », enfin, c’est penser la richesse des réseaux dans la prise de décision publique. Comme Joseph Stiglitz [Prix Nobel d’économie 2001] en son temps, ou Olivier Sibony [professeur de stratégie en entreprise], plus récemment, nous l’ont enseigné, la « polyarchie institutionnelle » et la pluralité de points de vue permettent d’améliorer la qualité de la décision en diminuant le risque de commettre des erreurs. C’est ce qui fait la richesse de la démocratie.

Mais encore faut-il que les points de vue divergents trouvent un terrain d’articulation les uns avec les autres. La discussion doit être organisée.

Or, la situation à laquelle nous avons abouti en cinq ans est celle où la Commission européenne a beaucoup de pouvoirs et où, certes, il existe des enceintes d’experts et de régulateurs nationaux, mais encore trop éparses. Pour pallier cette défaillance, la Commission européenne aura tout intérêt à assurer la plus grande perméabilité des enceintes de discussions, des expertises et des points de vue.

Cette exigence d’intégration des autorités nationales est d’ailleurs renforcée par un arrêt de la Cour de justice de l’Union européenne du 9 novembre, qui interdit aux Etats membres d’imposer aux plates-formes des obligations générales supplémentaires à celles imposées dans leur Etat d’établissement, soit, dans la plupart des cas, l’Irlande.

Ne pas donner de voix aux Etats pour protéger leur population face à des situations que l’Europe ne saurait gérer seule n’est pas seulement mettre en danger les populations et les démocraties nationales, mais c’est aussi mettre en péril le projet européen, sous couvert de construction du marché intérieur. Ne prenons pas ce risque.

Est-il possible de réguler l’IA ?

Le développement des systèmes d’intelligence artificielle générative entraîne une nouvelle compétition technologique mondiale.

• « L’Union européenne a beaucoup à gagner en élaborant un cadre pour l’utilisation de l’IA », par Laurence Devillers, professeure à Sorbonne Université, spécialiste des interactions humain-machine et de l’informatique émotionnelle au CNRS.
• « Les investisseurs restent préoccupés », par Georges Nahon, ancien directeur du centre d’innovation d’Orange à San Francisco.
• « Pour concevoir une agence de sécurité de l’IA, il faut penser, et surtout prévoir, son impact sur les comportements humains », par Guillaume Chevillon, professeur en économie et statistique et codirecteur du Metalab for Data, Technology & Society à l’Essec Business School.
• « La culture artificielle ne doit pas suivre le triste chemin de la malbouffe », par Vincent Lorphelin, fondateur de Controv3rse et coprésident de l’Institut de l’Iconomie, groupes de réflexion sur l’économie numérique.
• « Qui, de l’humain ou de la machine, est le plus fort ? », par Brian Hill, directeur de recherche au CNRS et professeur à HEC Paris, spécialiste de la décision et de l’incertitude.
• « L’IA générative n’hésite pas à plagier massivement », par Serge Abiteboul, chercheur en informatique à l’Inria et à l’ENS.

Jean Cattan (Secrétaire général du Conseil national du numérique)