Voix citoyennes 2e édition

Cette semaine, nous revenons à nouveau sur les actes de la matinée que le Conseil a organisé au et avec le CESE en février 2025, en préambule du Sommet pour l’action sur l’intelligence artificielle. Dans les actes de cette matinée, “IA : la voie citoyenne”, nous nous sommes donné pour mission d’écouter les voix citoyennes et leur offrir une visibilité pour que les développements de l’IA ne se fassent pas sans eux. Comment faire pour rendre l’IA plus démocratique qu’elle n’est ? Pour que les citoyens, les salariés, les administrés aient un poids dans les décisions des calculs ?

C’est avec les citoyens, les agents, les salariés… qu’on rendra l’IA responsable. C’est eux que nous devons aider à mettre en action. C’est eux que nous devons accompagner pour que leur voix porte. C’est à eux de répondre à la question de la place des citoyens dans les développements de la technique. Et leurs voix durant cette matinée furent assez consensuelles : les citoyens veulent discuter et peser sur l’évolution de la technologie.

C’est par l’action citoyenne que nous pourrons construire ensemble une action sur l’IA. Comme le disait Jean Cattan, Secrétaire général du Conseil, en préambule de cette journée : “écouter les voix citoyennes est notre principale voie d’action”. Car “la technologie ne remplacera ni la démocratie ni le dialogue social”.

Lire le rapport IA : la voie citoyenne

Après vous avoir partagé la semaine dernière le témoignage du sociologue David Gaborieau et de son enquête sur les ouvriers de la logistique confrontés au développement des technologies, nous avons choisi de vous donner à lire une autre intervention de cette matinée, celle de Soizic Pénicaud et Estelle Hary, cofondatrices de l’Observatoire des algorithmes publics :

« L’observatoire des algorithmes publics est un collectif qui rassemble des informations sur les algorithmes utilisés par les administrations”, témoignent Soizic Pénicaud et Estelle Hary. Le double enjeu consiste à les rendre visibles et les rendre plus transparents, alors que les administrations y ont de plus en plus recours dans tous les domaines, que ce soit pour l’éducation, la santé, les prestations sociales, l’immigration, la défense, etc. Ces systèmes ont des conséquences très concrètes sur la vie des gens et sur la façon dont sont distribués les services publics, comme vient de le montrer Didier Minot de l’association Changer de Cap.

Pourtant leurs conséquences sont encore bien trop peu débattues.

« Les algorithmes, ce sont des objets fondamentalement politiques et leur transparence est un moyen pour remettre ces enjeux politiques sur la table des discussions. Quand on parle de transparence, on ne parle pas ou pas seulement d’une transparence technique, c’est-à-dire, de la publication du code source par exemple, mais d’abord, voire surtout, de la transparence des processus de décision, des infrastructures, de tout ce qui, en fait, constitue ces algorithmes. Les algorithmes ne sont absolument pas des objets objectifs, contrairement à ce que l’on entend souvent. Ils sont le produit d’une histoire, de choix humains et institutionnels qui se situent à plusieurs niveaux, comme par exemple quand on décide de mettre en place ou non un système pour contrôler les allocataires ou attribuer des places en crèches. Cette transparence consiste aussi à documenter la façon dont ces algorithmes fonctionnent, comme les critères qu’ils mobilisent pour prendre des décisions, par exemple, dans le cas des allocataires de la CAF, quand ils utilisent le statut marital en donnant un score plus élevé aux gens mariés que pacsés. Enfin, la transparence consiste aussi à documenter la façon dont les agents travaillent avec eux, c’est-à-dire les ressources humaines et financières qu’on attribue à leurs déploiements et leur exploitation ou si des prestataires privés œuvrent à leur construction et à leur maintien ».

« Pour l’instant, il n’existe pas de panorama exhaustif des algorithmes utilisés par les administrations, d’abord parce qu’elles-mêmes ne les documentent pas publiquement malgré les obligations légales qui leur incombent. C’est pour cela que nous avons décidé de créer un inventaire, en rassemblant les sources publiques existantes, que ce soit des rapports, des articles de presse ou de recherches, des éléments de communication des administrations ou des enquêtes de collectifs, de chercheurs ou d’associations comme celles de la Quadrature du net. Cette première exploration nous a permis d’inventorier 72 algorithmes - on en a dénombré bien d’autres encore, mais que nous n’avons pas eu le temps d’analyser. Cette liste ne nous apprend rien sur combien d’algorithmes sont déployés dans l’administration. Par contre, elle nous permet de constater la très faible transparence à l'œuvre. Seulement 4% de ces algorithmes ont fait l’objet d’une évaluation interne publiée. Seulement 3 des 72 algorithmes recensés ont diffusé un budget ».

« On parle beaucoup de la révolution de l’IA. Mais l’IA n’est que l’arbre qui cache la forêt de la longue histoire de l’automatisation des services publics. Cette automatisation peut nous paraître inoffensive, technique, mais elle a des effets très concrets sur la vie des gens. Comme disait Pierre Jannin, la transparence est nécessaire, mais n’est pas suffisante. Car, dans la logique où les calculs publics doivent rendre des comptes, il faut à la fois que les choses soient documentées, ce qui n’est pas le cas, mais aussi que les problèmes soulevés soient entendus, résolus et que les dommages soient réparés ».

« La transparence est un outil au service des individus et des collectifs qui luttent pour la justice sociale, pour les droits humains, pour les droits des travailleurs et des travailleuses, pour la justice environnementale… Ce n’est pas un sujet technique. Les algorithmes sont au cœur des politiques publiques. Se battre pour des politiques publiques qui soient justes et égalitaires nécessite désormais de s’intéresser aux algorithmes, de comprendre comment les calculs sont opérés, par qui, comment. Cela demande de savoir s’ils sont opérés par le secteur privé et de savoir si nous sommes d’accord sur ce choix. Cela demande de savoir qui a du pouvoir sur ces décisions, ce qui nécessite de pouvoir en débattre, de pouvoir contester ou refuser les politiques publiques et les algorithmes qui les mettent en œuvre. Ces enjeux sont d’autant plus essentiels aujourd’hui, que la montée de régimes oppressifs, de régimes qui font reculer les droits, qui creusent les inégalités se répandent partout dans le monde y compris en Europe. La société civile doit s’emparer de ces sujets, à la fois comme partenaire du débat et comme contre-pouvoir. Ces sujets ne sont pas techniques. Ils sont profondément politiques. »

☕ Café IA !

IA & Information : un nouveau module pédagogique est disponible !

En quoi l’IA participe-t-elle aux bouleversements qui touchent le monde de l’information ? En quoi l’IA peut-elle, d’un côté, participer à un rapport renouvelé à l’information ? Une question qui se pose fréquemment lorsque l’on se livre à des conversations sur l’intelligence artificielle

Ce module, conçu à l’initiative de l’Arcom, en partenariat avec le Conseil national du numérique, s’adresse à celles et ceux qui souhaiteraient mieux comprendre comment l’IA, et notamment l’IA générative, transforme l’ensemble de la chaîne de l’information : que ce soit dans la génération de contenu, les façons d’accéder à l’information, la recommandation et la modération de contenus ou encore la certification et la labellisation de l’information. Lecteurs curieux ou animateurs de Cafés IA, ce module vous donnera des clés pour mieux comprendre les dynamiques à l'œuvre…

La publication du module s’accompagne de conseils quant à son utilisation dans le cadre de Café IA. Pour toute question ou remarque, écrivez-nous à bonjour@cafeia.org.

Lire le module IA et Information

Un podcast Café IA ! L’Atelier Canopé 74 et la DSDEN Haute-Savoie ont enregistré un premier épisode de Café IAlpes, un podcast pour réfléchir collectivement à l’IA en éducation. Après avoir débattu autour des enjeux de l’IA en éducation, exposer leurs points de vue, parler de leurs propres expériences, les participants ont ensuite enregistré un épisode qui interroge la reconfiguration des pratiques enseignantes à l’heure de l’intelligence artificielle. Le podcast est actuellement en montage et sera très bientôt disponible. Pour en savoir plus sur le projet, c’est par ici.

À l’occasion du Congrès de printemps de l’Association des villes et collectivités pour les communications électroniques et l'audiovisuel (Avicca), le Conseil est intervenu mardi dans le cadre d’un atelier dédié à l’intelligence artificielle. L’objectif étant d’explorer les dispositifs concrets mis en place par les collectivités pour comprendre les enjeux liés à l’IA et mieux en maîtriser les usages. L’atelier a permis de dresser un panorama de nombreuses ressources à disposition de toute personne souhaitant animer des Cafés IA qu’il s’agisse de la Bataille de l’IA, de Aïe Aïe IA ou encore des ressources présentes sur Les Bases de l’ANCT. On vous revient très vite à ce sujet.

Faire ensemble pour Café IA : rendez-vous au Faire Festival de Toulouse ! Du jeudi 22 mai au samedi 24 mai, le Conseil sera présent à La Cité à Toulouse au Faire Festival pour une immersion au cœur de la fabrication partagée, artisanale, numérique et low-tech. L’événement sera d’abord l’occasion de découvrir les trois objets Cafés IA, fruits d’un projet de fabrication distribuée en coopération avec le groupe de travail Fabrication Distribuée co-porté par le RFFLabs (Réseau français des FabLabs, Espaces et Communauté du Faire), l’Association nationale des tiers-lieux (ANTL) et le Groupement d’intérêt public France Tiers-Lieux. Trois objets permettant d’incarner Café IA, de nourrir le foisonnement existant autour des formats d’animation et surtout de penser de nombreux formats de manière collective. Nous avons très hâte de vous en dire plus et de vous dévoiler très bientôt ces objets ! Pensez à vous inscrire ici !

Le Conseil participera également à plusieurs temps forts du Festival :

• Jeudi 22 à 10h au sein du parcours inclusion numérique, Jean Cattan participera à un échange aux côtés de Kerry Gamon, designer des Imaginations Fertiles, sur les pistes d’action concrètes pour continuer à construire une médiation numérique émancipatrice, joyeuse et collaborative.
• Toujours jeudi, Cécile Ravaux présentera à 15h la démarche Café IA et l’Appel à Faire Ensemble autour de l’objet Café IA, en présence des trois lauréats : FabLab Créatech – MJC Saint-Jean, le RoseLab et Made in IKI.
• Vendredi 23 à 11h15, dans le parcours commun numérique, Cécile Ravaux, accompagnée de Paul Heddi du MoviLab, échangeront sur l’impact de l’IA sur le domaine de la fabrication et sur la compatibilité d’une telle technologie avec des outils libres et ouverts et aux défis écologiques et sociaux à l’œuvre.
• Samedi 24 de 11h à 12h puis de 14h à 15h, deux Cafés IA seront également organisés dans l'espace gradin !

Inscrivez vous au Faire Festival !

Des Cafés IA à venir partout en France. De très nombreux Cafés IA s’organisent, notamment à Troyes vendredi 16 mai avec le Rucher créatif, à Epernay vendredi 23 mai ou encore à Lyon, Pornichet, Toulouse ou Caen.

Après le succès du Café IA organisé au marché de la Grand-Place d’Arras en avril dernier à l’occasion du Mois du Numérique pour Tous, nous reconduisons l’initiative ce samedi 17 mai de 9h30 à 12h30 au marché de Port Royal (au niveau du 76-74 du boulevard de Port-Royal, Paris 5) avec PariSanté Campus. Venez nombreux échanger avec nous !

Venez participer aux prochains Cafés animation, l’espace d’échange privilégié autour de Café IA ! Chaque jeudi en ligne de 13h30 à 15h, les Cafés animation laissent la part belle aux témoignages, retours d’expériences et interrogations des organisateurs et futurs animateurs de Cafés IA, en plus de donner un espace d’échange aux personnes qui proposent des ressources pédagogiques et des formations d’animation sur l’IA. Depuis septembre, près de 1 800 personnes s’y sont déjà inscrites.

Nous vous donnons rendez-vous demain jeudi 15 mai pour un nouveau temps d’échange co-animé avec France Num qui sera dédié aux Cafés IA France Num à destination des TPE PME : actualités, retours d’expérience, questions / réponses, ressources utiles… n’hésitez pas à vous inscrire ici pour participer au débat et poser vos questions. Ne manquez pas également de vous inscrire aux autres Cafés animation à venir :

• Le 22 mai avec Manon Conan, cheffe du département "Education aux médias et sensibilisation au droit d'auteur" à l'ARCOM pour une présentation du module pédagogique “IA et information : enjeux et outils pour un usage éclairé”.
• Le 5 juin, venez découvrir la nouvelle version de l’outil Compar:IA avec Simon Žilinskas, chargé de déploiement compar:IA au ministère de la Culture.
• Le 26 juin, les équipes de Datactivist viendront présenter la Boîte Noire de l’IA, un format ludique et pédagogique qui met en avant la matérialité et la réalité sociale et environnementale de l’intelligence artificielle et désormais accessible en téléchargement.

👋 Avant de partir

Vous avez apprécié la lettre d’information de cette semaine ? Partagez-la à un ami ou un collègue. Ils peuvent s’inscrire ici.

Comme d’habitude, n’hésitez pas à nous faire vos retours. Vous avez des questions, des remarques ou des suggestions ou vous souhaitez que nous abordions un sujet en particulier ? Nous sommes à votre écoute ! N’hésitez pas à répondre à ce mail ou à nous écrire à info@cnnumerique.fr.

Cette lettre d’information a été préparée par Hubert Guillaud et Gabriel Ertlé et illustrée par Magali Jacquemet.