À Rennes, un rapport d’étonnement citoyen sur l’intelligence artificielle

Le Conseil citoyen du numérique responsable (CCNR) de Rennes est une instance consultative créée en 2021 pour accompagner la ville dans la conduite des politiques numériques. En février 2024, il a rendu un avis relatif aux impacts de l’intelligence artificielle dans la vie des Rennaises et des Rennais. Pour parler de ces travaux, nous avons rencontré Lucie Briard, membre du CCNR, et Pierre Jannin, élu au numérique à la ville de Rennes. 

Comment le CCNR s’est-il saisi du sujet de l’intelligence artificielle ?

Pierre Jannin : Depuis 2021, le CCNR a été pensé comme une assemblée citoyenne, dont les membres sont tirés au sort et décident des sujets qu’ils traitent. En 2023, après plusieurs avis sur le numérique et la santé mentale, le numérique responsable et la dématérialisation des démarches administratives, la ville a proposé au CCNR de se pencher sur la thématique de l’intelligence artificielle, pour comprendre quelle peut être sa place dans nos vies de Rennaises et de Rennais.

Quelles ont été les étapes de cette réflexion ?

Lucie Briard : Dans un premier temps, les membres du CCNR ont engagé une première réflexion entre eux, en groupe. Au départ, il s’agissait de mettre en commun ce que chacun pensait, ce que chacun savait, ou du moins ce que chacun croyait savoir sur l’intelligence artificielle, pour voir si des consensus ou des préoccupations communes émergeaient du groupe. De nombreuses thématiques ont été abordées, autour des emplois, de la formation, du commerce, de la culture, du pilotage intelligent du territoire… et finalement cette méthode a permis de dégager trois axes de travail que nous avons choisi d’étudier en priorité : les influences de l’intelligence artificielle sur les opinions politiques, ses impacts sur les libertés fondamentales et enfin ses dangers potentiels en termes de sécurité.

Les membres du CCNR étaient en demande d’améliorer leurs connaissances du sujet, et des auditions d’experts ont donc été organisées sur des points précis, avec des agents des services de la ville, comme le directeur des services numériques, pour comprendre la manière dont les choses sont perçues en interne, mais aussi avec des chercheurs, une sociologue, un professeur d’informatique, un ingénieur, une data scientist, une juriste, qui ont pu expliquer leurs points de vue et leurs travaux. Au-delà de ces moments, les membres disposent d’une plateforme numérique sur laquelle ils peuvent partager des articles, des ressources, et continuer à alimenter le débat.

Ces rencontres ont permis de découvrir l’opacité du fonctionnement de l’IA, des questions comme le vol des données, le droit d’auteur… et on a pu voir ce qui confirmait ce qu’on ressentait, mais aussi ce qui infirmait certaines choses qu’on pouvait penser.

Après cette étape, des constats ont été dégagés, des sources d’inquiétudes pour les citoyens, comme le développement incontrôlé des IA génératives, le contrôle social, l’accentuation de la fracture numérique et sociétale, la manipulation de l’information et la difficulté à discerner le vrai du faux, l’affaiblissement des capacités cognitives, la perte de contrôle démocratique ou encore les risques potentiels de dépendance de l’humain à l’IA dans la prise de décision…

Quelles idées sont ressorties de cette réflexion citoyenne ?

Lucie Briard : Ces étapes ont permis de rédiger un rapport d’étonnement, qui reprend les points de vigilance posés par les membres du groupe. Par exemple, il y a besoin de faire attention au langage qui est utilisé pour parler d’IA, ne pas laisser penser que cette intelligence là pourrait être meilleure que l’humain, parce qu’elle ne doute pas… Il est aussi important de se rappeler que l’intelligence artificielle est un outil, que le sujet central, c’est le traitement des données.

Les échanges ont aussi été l’occasion de comprendre, en rencontrant les services de la ville et de la métropole, qu’il y a à ce niveau une main sur les utilisations du numérique, une certaine éthique dans l’utilisation des données, ce qui est rassurant, en tant que citoyens… Mais il y a là aussi un point de vigilance, parce que l’intelligence artificielle dépasse totalement le cadre de la ville, au niveau national, voire même international, et que c’est très compliqué de légiférer à ces niveaux.

Le CCNR a été surpris de la “non-place” des citoyens dans ces réflexions : il y a très peu de concertations citoyennes, et les citoyens ne sont pas particulièrement au cœur des interrogations sur l’IA. Au niveau local, ça reste très compliqué de pouvoir agir, et ça pourrait être pertinent de se saisir du sujet au niveau national en tant que citoyens…

Il y a aussi des recommandations qui sont là pour nuancer ces points de vigilance, autour de la gouvernance, de la confidentialité, de la sécurité des données… pour aider à la prise en compte de ces interrogations.

Comment la ville et la métropole projettent-elle de s’emparer de ces éléments ?

Pierre Jannin : La ville est consciente de ces enjeux, et veut mettre des garde-fous, réfléchir aux opportunités réelles de l’usage de l’IA dans le cadre des politiques, donc chercher l’utile et pas seulement le superflu dans le développement technologique. Concrètement, les démarches citoyennes ne doivent pas juste servir à consulter, mais doivent entraîner une vraie prise en compte des avis émis.

La ville s’interroge par exemple sur la manière dont utiliser le matériel lié à l’IA, à définir sa stratégie des données, avec une charte, une réflexion sur les algorithmes utilisés… et le rapport généré par le CCNR fait partie du matériel utilisé pour construire cette stratégie.

Au niveau métropolitain, un groupe de travail citoyen a aussi été lancé pour travailler sur la question des données, auquel deux membres du CCNR participent, pour déterminer comment les citoyens peuvent participer à ce suivi de la politique de la donnée sur la métropole. L’objectif est de pouvoir voter un texte à l’automne.  

Pour aller plus loin :

• Découvrir le rapport d’étonnement “Quelle place pour l’intelligence artificielle dans nos vies de Rennaises et de Rennais ?”
• Relire le paroles de Pierre Jannin, “Mettre le numérique entre les mains des Rennais”, publié en avril 2022.