Comment mettre en place un processus local d'appropriation citoyenne de l’IA ?

Bonjour, nous sommes le vendredi 7 juin 2024 et voici votre moment pour prendre le temps d’interroger notre relation au numérique. Cette semaine, nous nous intéressons aux projets de mobilisation citoyenne autour de l’IA, avec l’exemple du Conseil citoyen du numérique responsable de Rennes et de la convention citoyenne de Montpellier. Bonne lecture !

💡 La question de la semaine : comment mettre en place un processus local d'appropriation de l’IA ?

« Concrètement, les démarches citoyennes ne doivent pas juste servir à consulter, mais doivent entraîner une vraie prise en compte des avis émis. La ville s’interroge par exemple sur comment utiliser le matériel lié à l’IA, à définir sa stratégie des données, avec une charte, une réflexion sur les algorithmes utilisés… » Nos avons eu le plaisir d’interroger Pierre Jannin, élu au numérique à la ville de Rennes, et Lucie Briard, membre du Conseil citoyen du numérique responsable (CCNR) de Rennes (entretien à retrouver sur notre site internet), qui a rendu en février 2024 un avis relatif aux impacts de l’intelligence artificielle dans la vie des Rennaises et des Rennais. Le CCNR est une instance consultative créée en 2021, composé de vingt citoyens et citoyennes tirés au sort, en respectant des critères tels que la parité entre les femmes et les hommes, la répartition par quartiers, les catégories socio-professionnelles. Pensé « comme une assemblée citoyenne, dont les membres sont tirés au sort et décident des sujets qu’ils traitent », sa mission est d’accompagner la ville dans la conduite des politiques numériques. Surtout, il s’agit de « co-construire avec les citoyens, recréer ce lien brisé entre eux et les acteurs du numérique et promouvoir le dialogue avec tous les acteurs, pour remettre ensemble la technologie au service de la société et de ses grands enjeux d’égalité, de solidarité et d’écologie » comme nous le confiait dans un autre entretien Pierre Jannin en mars 2022, en marge du forum des Interconnectés à Nantes.

Comprendre et réfléchir collectivement aux usages des IA. Après des travaux sur les démarches administratives dématérialisées ou encore sur les effets du numérique sur la santé mentale des jeunes, la ville de Rennes a récemment proposé au comité de se pencher sur la thématique de l’intelligence artificielle, pour comprendre quelle peut être sa place dans les vies des Rennaises et Rennais. La saisine a été unanimement acceptée par l’ensemble des membres du CCNR - une première dans l’histoire du Conseil, ce qui témoigne d’un vif intérêt pour l’intelligence artificielle, mais également d’une soif d’apprendre sur un sujet au cœur de l’actualité comme le rappelle Lucie Briard : « Les membres du CCNR étaient en demande d’améliorer leurs connaissances du sujet et des auditions d’experts ont donc été organisées sur des points précis, avec des agents des services de la ville, comme le directeur des services numériques, pour comprendre la manière dont les choses sont perçues en interne, mais aussi avec des chercheurs, une sociologue, un professeur d’informatique, un ingénieur, une data scientist, une juriste, qui ont pu expliquer leurs points de vue et leurs travaux. » C’est de cette réunion entre citoyens experts du sujet et citoyens susceptibles d’amener un regard plus novice, que peut naître un exercice de participation citoyenne.

Remettre au cœur de la politique de la ville une technologie qui nous concerne toutes et tous. Les nombreux échanges et concertations ont permis de rédiger un rapport d’étonnement mettant en lumière l’opacité du fonctionnement de l’IA, identifiant des sources d’amélioration des conditions de vie ou d’inquiétudes pour les citoyens et des recommandations. Plus spécifiquement, Lucie Briard rappelle que le Conseil a été surpris de la “non-place” des citoyens dans les réflexions sur l’IA : « l’intelligence artificielle dépasse totalement le cadre de la ville, au niveau national, voire même international, et que c’est très compliqué de légiférer à ces niveaux. Il y a très peu de concertations citoyennes, et les citoyens ne sont pas particulièrement au cœur des interrogations sur l’IA. Au niveau local, ça reste très compliqué de pouvoir agir, et ça pourrait être pertinent de se saisir du sujet au niveau national en tant que citoyens. » Ce qui permettra à une technologie d’être émancipatrice est d’en faire un objet compris par chacun, condition indispensable à en faire un objet d’expression collective.

Faire remonter les vigilances des citoyennes et des citoyens, opérer collectivement des choix technologiques et déployer à l'échelle de la ville un rapport démocratique profond à la technologie, c’est tout l’objet du CCNR. Pour Pierre Jannin, un tel rapport permet à la ville de « s’interroger par exemple sur la manière dont utiliser le matériel lié à l’IA, à définir sa stratégie des données, avec une charte, une réflexion sur les algorithmes utilisés. » Une approche également soutenue par Manu Reynaud, adjoint au maire de la ville de Montpellier, qui a organisé la première convention citoyenne locale à Montpellier sur l’intelligence artificielle. Il nous a partagé les enseignements de la démarche et l'importance d'écouter et de faire remonter la parole des citoyens (entretien à retrouver ici). Nous y reviendrons prochainement ! Car, de Rennes à Montpellier et partout ailleurs, se mettre au service de ceux qui permettent cette conversation permanente, c'est exactement la raison d'être de Café IA.

☕️ Café IA : structuration en cours !

Vous êtes nombreux à nous avoir fait part de votre intérêt pour Café IA et nous vous en remercions sincèrement. L’ambition du dispositif est de rendre l’appropriation de l’intelligence artificielle et des questions qu’elle soulève possible, accessible. Café IA est en cours de structuration mais l’énergie rencontrée doit pouvoir trouver des débouchés dès à présent. L’enjeu est alors de structurer et de faire vivre une version bêta de Café IA pendant les mois à venir tout en construisant sa version stabilisée. Pour participer ou simplement vous informer, plusieurs voies sont ouvertes :

• 🤝 Participez aux bureaux ouverts : Pour construire Café IA ensemble, nous organisons des bureaux ouverts les mardis de 13h30 à 15h00. Toute personne intéressée est bienvenue. Institutions, collectivités, enseignants, médiateurs, artistes, citoyens… Si vous souhaitez participer à une prochaine rencontre, indiquez-nous la séance de votre choix ici.
• 🎉 Découvrez, partagez, animez ! De nombreuses initiatives existent déjà pour mettre l’IA au cœur du débat. Notre première mission est de les rendre visibles et de construire sur l’existant. Café IA est en cours de construction et nous serons donc très heureux de recueillir vos ressources, principes et modalités d’organisation ! Écrivez nous à cafeia@cnnumerique.fr.

Encore merci pour votre retour et votre investissement, qui contribuera à la réussite du mouvement engagé !

🔎 La veille du Conseil

« Nous devrions parler, non plus d’intelligence artificielle, mais d’interprétation artificielle. » Dans The Conversation, le docteur en philosophie Rémy Demichelis constate que l’IA connaît un tournant interprétatif, à la fois pour les humains qui essayent de décrypter des algorithmes toujours plus complexes - et très souvent fermés -, que pour les machines qui interprètent les données pour en tirer des résultats pertinents.

Les entreprises les plus avancées dans le domaine de l'IA doivent accepter que leurs employés portent publiquement un regard critique sur leurs activités. Une dizaine d’employés des entreprises Open AI et Google DeepMind ont publié une lettre ouverte dans laquelle ils déclarent ne pas être en mesure d'exprimer leurs préoccupations concernant les risques liés au développement d’IA par leurs entreprises : renforcement des inégalités, la manipulation ou encore la désinformation. Ces risques pourraient pourtant être limités selon les signataires de la lettre « avec le concours de la communauté scientifique, des autorités et du public. » Pour en savoir plus, découvrez l’analyse de Casey Newton dans Platformer (en anglais).

L’intelligence artificielle peut-elle participer à l’avènement de la démocratie délibérative ? Au séminaire du Centre Internet et Société du CNRS, intitulé “Participation et citoyenneté numériques” auquel nous avons eu le plaisir d'assister ,Hélène Landemore, professeure de sciences politiques à l’université Yale, a présenté son article intitulé “Can AI bring deliberative democracy to the masses?” ("L'IA peut-elle apporter la démocratie délibérative aux masses ?”), publié un mois avant la sortie de ChatGPT au grand public. Elle affirme que l'IA offre des possibilités pour équilibrer la qualité de la délibération et la participation de masse, visant ainsi à réaliser une véritable démocratie délibérative. Elle propose deux modèles intégrant l'IA pour optimiser la participation et maintenir la qualité de la délibération : du choix des participants, de l’organisation des contributions, jusqu’à la transcription et l'évaluation de la qualité de la délibération. Toutefois, le séminaire a permis de souligner l'importance de rester vigilant face aux enjeux éthiques liés à l'IA et de s'interroger sur la manière dont nous voulons que ces outils influencent nos processus démocratique.

Rien à cacher, un nouveau jeu de cartes autour des enjeux de surveillance. L’association Le Mouton numérique et la Ligue des droits de l’homme (LDH) co-signent un jeu de bluff pour tout public afin de sensibiliser aux enjeux de surveillance soulevés par les nouvelles technologies. Le jeu, qui contient également un livret pédagogique de 32 pages, est à précommander ici. 🎲 Nous sommes toujours à la recherche de nouveaux jeux et autres formats pédagogiques pour sensibiliser et se former d’une manière plus ludiques aux nouvelles technologies. Partagez-nous vos préférés en nous écrivant à info@cnnumerique.fr, nous en ferons le relais dans une prochaine lettre d’information sur le sujet !

📬 Vous avez lu un article, écouté un podcast ou regardé une vidéo que vous souhaitez nous partager ? Ecrivez-nous à info@cnnumerique.fr 👋

🗓️ À vos agendas !

Plus que quelques jours avant notre rencontre avec Ariane Ollier-Malaterre. Pour la 54e édition du cycle de rencontre ASDN, nous recevons Ariane Ollier-Malaterre, autrice de l’ouvrage Living with Digital Surveillance in China : Citizens’ Narratives on Technology, Privacy, and Governance (Routledge, 2024). Dans ce travail de recherche, la chercheuse française dresse un portrait détaillé du quotidien autant que de l’imaginaire de la surveillance et de la vie privée au sein du système sociopolitique chinois. Rendez-vous le 12 juin à 17h30 en ligne. Inscriptions.

🏃 En bref... Le reste de l’actualité du Conseil en 1 minute chrono !

« C'est souvent à l'échelle d'une équipe que se construit l'organisation la plus efficace. » Dans Les Échos, Olga Kokshagina insiste sur les besoins d’instaurer davantage de confiance et de transparence entre acteurs à l’heure du travail hybride. ✦ « Plutôt que de manipuler des boîtes noires, il faut faire en sorte de créer de nouvelles formes d’institutions transparentes dont les citoyens sont les garants. » À l’occasion du salon de l’Association des maires d’Ile-de-France, Gilles Babinet a présenté le dispositif Café IA au micro de radio.immo. ✦ Comment encourager les enfants à pratiquer davantage d'activités ludiques et sportives tout en gérant mieux leur temps d'écran ? Au côté du pédiatre François-Marie Caron, Serge Tisseron participe au Webinaire de présentation dispositif "Écrans malins, enfants sereins" du programme de prévention santé Vivons en forme. Rendez-vous mardi 11 juin de 10h30 à 12h30. ✦ À l’aube des élections européennes, quel rôle pour la régulation des technologies en Europe ? Régulation, souveraineté, financement… Gilles Babinet était invité de BFM Business pour évoquer les grands sujets technologiques auxquels l’Union européenne va devoir se confronter. ✦ Agathe Bougon et Jean-Baptiste Manenti ont eu le plaisir d’intervenir lors de la journée des référents numériques de la CCI France. Un échange intéressant autour de l’IA en entreprise, de l’importance du débat et de la nécessité de toujours s’adapter à ces publics. ✦ Mercredi, Margot Godefroi était à Amsterdam pour participer à la journée de travail organisée par NGI Commons pour construire collectivement une stratégie pour diffuser et renforcer la place des communs numériques dans les politiques publiques européennes.

Merci pour votre lecture et à la semaine prochaine !

 👋 Avant de partir

Vous avez apprécié la lettre d’information de cette semaine ? Partagez-la à un ami ou un collègue. Ils peuvent s’inscrire ici.

Comme d’habitude, n’hésitez pas à nous faire vos retours. Vous avez des questions, des remarques ou des suggestions ou vous souhaitez que nous abordions un sujet en particulier ? Nous sommes à votre écoute ! n’hésitez pas à répondre à ce mail ou à nous écrire à info@cnnumerique.fr

Cette lettre d’information a été préparée par Gabriel Ertlé, illustrée par Magali Jacquemet et réalisée avec le soutien de Zora Decoust, Agathe Bougon et Jean Cattan.