La démocratie n'est pas un fardeau. Elle est la solution.

Bonjour, nous sommes le vendredi 13 décembre 2024. Cette semaine, nous appelons à défendre la démocratie comme voie pour trouver des solutions aux problèmes auxquels nous faisons face. Bonne lecture !

La démocratie n'est pas un fardeau. Elle est la solution. Et nous devons la défendre comme telle : une voie en réalité très pragmatique pour trouver des solutions aux problèmes auxquels nous faisons face.

Aujourd'hui, l'évolution rapide de l'IA générative nous oblige à nous adapter en permanence à l'innovation et aux risques qu'elle comporte. Ce rythme effréné soulève une question cruciale : s’il nous était demandé ce que nous souhaitions réellement de l’IA générative, pouvons-nous affirmer avec certitude que ce qui nous est proposé aujourd’hui répond à ces attentes ? À voir les inquiétudes des citoyens, certainement pas. Cette incertitude appelle à une réévaluation de notre stratégie actuelle, en passant d'une approche orientée par l’offre à une approche guidée par la demande, une demande qui ne serait pas dictée par les marchés ou les institutions, mais par les citoyens eux-mêmes. Une politique de l'IA générative axée sur la demande doit être démocratique, guidée par les idées, les valeurs et les priorités des personnes qu’elle sert in fine, et non l’opposé : à savoir une offre faite par quelques entreprises en consolidation de puissance perpétuelle auxquelles toute la société doit s’acclimater dans l’urgence.

Dans deux mois, les 10 et 11 février 2025, se tiendra à Paris le sommet pour l’action sur l’IA. Plus que les deux jours du sommet en eux-mêmes, cette période sera celle où se rassembleront à Paris l’ensemble des initiatives et messages portés par un très grand nombre d’organisations du monde entier. Nous revenons vers vous très prochainement pour vous partager nos initiatives à cet égard. D’ores et déjà néanmoins, cette semaine était l’occasion de partager les résultats d’une consultation publique étendue sur la question de l’IA portée par l'Institut IA & Société (ENS-PSL), le Conseil national du numérique, The Future Society, Make.org et le pôle Innovation Tech & Global Affairs de Sciences Po, dont les résultats ont été publiés ce 9 décembre. Le principe était simple : proposer une idée pour mettre l’IA au service de l’intérêt général. Le monde de la recherche pouvait en parallèle partager leurs travaux. Plus de 11 000 citoyens et 200 organisations du monde scientifique et associatif ont participé à ces consultations. Une fois de plus, s’il en était encore besoin, des citoyens ont montré par milliers un degré de maturité très avancé sur notre rapport à la technologie.

Comme cela a été dit d’entrée de jeu à l’ouverture de la consultation, tout le monde s’accorde sur le fait que des consultations massives en ligne appellent à leur dépassement. Elles sont là presque pour ça : elles permettent de montrer que l’ordre du jour établi par les citoyens est loin d’être déraisonnable, au contraire. Le renversement des rapports de pouvoirs comme des rapports entre offre et demande est non seulement possible, il est souhaitable ! Loin d’une appréciation indifférenciée des problèmes posés, les participants indiquent un chemin parmi les terrains à investir et un ordre de priorité parmi les problèmes à traiter. Si, pour eux, certains usages sont encore à explorer en matière de santé ou de lutte contre les effets des crises climatiques et de protection de la biodiversité, d’autres font l’objet de controverses tranchées, comme en matière d’éducation ou de service public par exemple. Sans tabou, les citoyens sont prêts à aborder la question de la limitation des usages lorsque le coût environnemental est trop important. En bref, et pour reprendre les termes d’Axel Dauchez lors de la 6e édition de la Athens Roundtable qui se tenait lundi à l’OCDE, dans de nombreux domaines, on observe chez les participants une forme de « vigilance constructive ».

Surtout, nous constatons qu’une forte demande porte sur les moyens de partage de clefs de compréhension des enjeux, dans une approche cultivant l’esprit critique et au sein de l’ensemble de la population. L'une des premières demandes des citoyens est un meilleur accès à la connaissance sur le fonctionnement des systèmes d'IA, les biais qu'ils contiennent, les problèmes qu'ils posent, ainsi que les opportunités qu'ils offrent. Ce besoin de compréhension ne se limite pas aux environnements académiques ou éducatifs. Il constitue une étape fondamentale vers une dynamique démocratique. Permettre à la population de comprendre les enjeux est un pas essentiel pour construire une démocratie appliquée aux choix techniques à l'ère de l'IA. Cela signifie fournir aux gens les outils et les connaissances nécessaires pour participer activement à la définition de l'avenir de cette technologie transformatrice. En France, nous travaillons activement pour relever ce défi grâce à Café IA.

De toute évidence, cette expérience ne se suffit pas à elle-même et emporte ses biais de participation qui viendront rencontrer d’autres biais de participation d’autres tentatives d’écoute ou de prise de parole citoyenne. Aussi, elle ne se substitue aucunement à une mobilisation de terrain, comme dans l’environnement professionnel où les participants demandent des moyens d’accompagnement, mais sans se livrer à une adaptation aveugle.

En somme, cette consultation nous montre, à nouveau qu’il est possible de penser un mode de gouvernement des technologies qui laisse une place bien plus importante aux forces citoyennes. Ce qui, en soi, est déjà un apport fondamental : il n’y a aucune raison objective pour exclure les citoyens de la gouvernance de l’IA.

En ce sens, et comme rappelé par les instigateurs de la consultation dans une tribune publiée hier sur le site des Échos : « Le Sommet de février doit transformer ces propositions en actions concrètes. L'enjeu est clair : établir une feuille de route où l'IA sert véritablement l'humanité, dans un cadre démocratique approfondi et mature. Comme le rappelait la déclaration de Rio de 1992 en matière environnementale, la participation citoyenne est un gage de réussite. Cette consultation le confirme : la voix citoyenne, enrichie de l'expertise technique et sociétale, peut guider le développement technologique vers un progrès social partagé. L'occasion est historique et le monde observe. »

Pour aller plus loin, voici une liste non exhaustive d’exercices contributifs de participation citoyenne :

• La convention citoyenne sur l’IA de la ville de Montpellier. De novembre 2023 à février 2024, 40 citoyens tirés au sort avait participé à une convention visant à la définition des usages de l’intelligence artificielle dans la métropole et ses impacts pour les habitants. L'avis avait ensuite été présenté au grand public en avril 2024, appelant notamment à démocratiser la compréhension et la formation à ce qu’est l’intelligence artificielle. Pour en savoir plus sur la méthode de la convention, retrouvez notre entretien avec Manu Reynaud, adjoint au maire, délégué à la ville apaisée, respirable et numérique à la ville de Montpellier.
• Le rapport d’étonnement relatif aux impacts de l’IA dans la vie des Rennaises et des Rennais. Le Conseil citoyen du numérique responsable (CCNR) de Rennes est une instance consultative créée en 2021 pour accompagner la ville dans la conduite des politiques numériques. En février 2024, il a rendu un avis relatif aux impacts de l’intelligence artificielle dans la vie des Rennaises et des Rennais, à retrouver ici. Dans un entretien à retrouver sur notre site internet, Pierre Jannin, élu au numérique à la ville de Rennes, et Lucie Briard, membre du CCNR, reviennent sur le rôle des conventions citoyennes, qui doivent entraîner une véritable prise en compte des avis émis.
• La consultation de la ville de Paris sur la perception de l'IA par ses habitants et de son application sur le territoire parisien. Jusqu’au 31 octobre 2024, les habitants de la ville de Paris et plusieurs experts pouvaient contribuer à une consultation pour appréhender les nouvelles perspectives créées par cette technologie. Elle permettra de nourrir le programme d’une journée dédiée à l’IA le 25 janvier 2025 à l’Hôtel de Ville de Paris.
• La commission temporaire sur l’intelligence artificielle initiée par le Conseil économique, social et environnemental. Composée de nombreux experts et de 11 citoyennes et citoyens, la commission du CESE entend explorer de nombreux pans de notre relation à l’intelligence artificielle. La commission publie les restitutions de toutes les auditions menées dans le cadre des ses travaux, et qui feront l’objet d’un projet d’avis voté en janvier 2025 : accessibilité, impact sur le travail, enjeux juridiques… tout est à retrouver ici.

🔎 La veille du Conseil

Dans un monde saturé de distractions, notre attention n’aurait pas changé : c’est notre environnement qui la mettrait à l’épreuve.

Fin novembre, Anne Cordier revenait dans une vidéo pour l’émission Quotidien sur les supposés effets directs des écrans sur l’intelligence et l’attention des enfants et adolescents. Selon la chercheuse en sciences de l'information et de la communication, ce ne serait pas les écrans eux-mêmes qui affecteraient notre concentration, mais les sollicitations incessantes qui nous entourent « la capacité d’attention des individus dans des situations comparées années 1960 aujourd’hui est la même. En revanche, le monde d’aujourd’hui est fait de distracteurs, ce qui fait que lorsque vous êtes en situation de lecture ou d'écriture vous avez beaucoup d’éléments autour de vous qui peuvent venir vous déranger, dont les notifications, mais votre capacité d’attention en tant que telle n’a pas diminué. » Une question qui s’étend aussi aux étudiants. Cette semaine dans la lettre d’information TTSO, Olivier Sibony partage une étude de la revue de psychologie Advances sur la concentration des étudiants, après que plusieurs institutions aient réduit la durée de leurs cours magistraux à 15 minutes en se basant sur le fait que l'attention des étudiants diminuerait après 10 à 15 minutes de cours. L’étude conclut que c’est surtout la différence de qualité pédagogique des enseignants qui affecterait la concentration des étudiants.

L’IA générative attaque les artistes.

Dans une étude sur l’impact de l’IA sur les artistes, la Confédération internationale des sociétés d’auteurs et compositeurs (Cisac) évalue la chute des rémunérations des artistes à 24 % dans la musique et à 21% dans l’audiovisuel d’ici 2028. « À contrario, le marché des contenus tant musicaux qu’audiovisuels générés par l’IA va connaître “une croissance exponentielle, en passant dans les cinq prochaines années de 3 milliards d’euros à 64 milliards d’euros en 2028. » Une manne qui ne profitera en rien aux créateurs, en raison de “l’effet de substitution de l’IA sur leurs œuvres”, explique Le Monde. L’essentiel de ces revenus devraient être captés par les fournisseurs d’IA générative. L’étude détaille les bouleversements en cours dans le monde de l’audiovisuel et de la musique, avec l’arrivée des acteurs de l’IA générative, et montre où et comment ils se déploient. Dans le secteur de la musique, l’étude pointe le déferlement à venir de la musique générée par IA dans nombre d’usages quotidiens, à l’image de ce que propose déjà Suno. Dans le domaine audiovisuel, depuis février, la Chine a produit une première série animée de 26 épisodes, Qianqiu Shisong, entièrement fabriquée par IA générative. L’impact économique de l’IA générative se dessine et il n’est pas rassurant pour la création. De son côté, France Digitale cité par Contexte, défend une rémunération qui « ne serait pas liée à l’utilisation effective des œuvres dans les données d’entraînement mais serait basée sur un montant forfaitaire, établi par une autorité indépendante en concertation avec les représentants des secteurs de l’IA et de la création. » Un débat non sans lien avec notre note Cultiver la richesse des réseaux à l'heure de l'IA générative.

Après les chatbots, les agents !

Le consultant Frédéric Cavazza livre une synthèse des enjeux que dessine l’arrivée annoncée des agents intelligents. La promesse des agents (dont en dernier lieu les promesses de Google, un an après un fameux billet de blog de Bill Gates et un article d’Open AI dont nous vous parlions en début d’année) renouvelle celle de la vague des chatbots qui se révèlent coûteux à exploiter avec des résultats parfois trop incertains. L’économie de l’agentivité s’impose déjà comme la prochaine solution que les grandes entreprises du secteur tentent d’imposer au marché. Pourtant, prévient Cavazza, cette perspective n’est pas sans poser questions. Par exemple, est-ce que les éditeurs accepteront que des agents viennent manipuler des applications à la place des utilisateurs ? Autre grande question : quels publics auront accès à cette agentivité ? Les plateformes d’automation existent depuis longtemps, mais elles ne sont exploitées que par des populations très à l’aise à avec l’informatique. Leur simplification va-t-elle permettre d’élargir l’adoption ? Le mieux est d’aller tester les premières plateformes disponibles pour s’en rendre compte, en suivant les nombreux liens de l’article.

Vers un LinkedIn de plus en plus synthétique.

Siècle digital partage une étude de Originality AI affirmant que plus de 54 % des longs posts publiés sur LinkedIn sont probablement générés par des intelligences artificielles. Si Adam Walkiewicz, responsable de la pertinence des flux chez LinkedIn, rappelle pour WIRED que la plateforme met en place des mesures pour identifier et limiter la promotion de ces contenus de faible qualité ou dupliqués et que ce sont les pensées originelles et les idées uniques des membres qui sont promus sur le réseau, il n'empêche que le réseau créé un terrain fertile pour l’expérimentation de l’écriture assistée par l’IA. En effet, les codes d’expression de la plateforme et le rythme de publication imposés pour être mis en avant peuvent pousser les utilisateurs à recourir à de tels outils. Siècle digital partage notamment l’expérience d’une journaliste qui a vu augmenter de 11% le nombre d’impressions et de 75 % le taux d’engagement de ses publications générées par trois IA génératives. À nous de préserver l’équilibre entre les bénéfices de l’IA et la richesse de l’expression humaine et surtout de ne pas soumettre l’expression de nos idées aux rythmes et formes imposés par certaines plateformes. Une tâche bien difficile pour ne pas être rayés de la carte de la conversation dans le monde professionnel mais qui impose une réflexion d’ampleur si ce n’est une résistance collective.

Qui a hacké Garoutzia ?

Mardi nous sommes allés voir à la Scène parisienne la pièce écrite par Laurence Devillers, Serge Abiteboul et Gilles Dowek, une pièce jouée à guichet fermé ces derniers jours et d’une très grande actualité autour d’une bot soudainement dotée de mémoire parcellaire. Interlocutrice de plusieurs générations d’humains en détresse, elle devient la source de réflexions existentielles. Que va-t-il rester de nous, de notre mémoire, de celle inscrite dans nos machines ? Drôle et intelligente en plus d’être bien jouée, la pièce est à découvrir chez C&F Éditions avant de la voir près de chez vous pourquoi pas. Vous pouvez également découvrir un extrait de la pièce jouée à l’occasion de Numérique en Commun[s], et qui a été suivi d’un Café IA.

Ouvrir la Boîte Noire de l'IA.

Développée par Datactivist en collaboration avec des médiateurs numériques de Nantes Métropole, la Boîte noire de l'IA est un jeu de cartes qui permet de comprendre le fonctionnement d'une IA générative et de resituer son cycle de vie, depuis l'extraction des minéraux jusqu'au coût énergétique des data centers. Nous avions d’ailleurs eu la chance de participer à un atelier de co-conception du jeu en octobre dernier à Nantes aux côtés de Datactivist. Afin d'affiner le contenu des cartes, les développeurs du jeu lancent un appel à contribution : pour prendre part à l’exercice, c’est par ici et bien sûr très bientôt en référence sur Café IA ! On vous en reparlera.

📬 Vous avez lu un article, écouté un podcast ou regardé une vidéo que vous souhaitez nous partager ? Ecrivez-nous à info@cnnumerique.fr 👋

🏃 En bref... Le reste de l’actualité du Conseil !

« À l'heure d'une nouvelle migration depuis X, il importe de concentrer nos efforts sur des réseaux qui pourront au maximum être préservés d'une influence défavorable de leur organe dirigeant. » Interviewés par Nicolas Faucon dans La Montagne, Anne Alombert et Jean Cattan appellent à une refonte structurelle de nos réseaux sociaux et de nos écosystèmes numériques. ✦ Comment réenchanter le numérique ? François Saltiel animera un débat au Mucem à Marseille le 16 décembre, en compagnie de Sébastien Shulz et Anne Alombert. Ensemble, ils exploreront comment les nouvelles technologies peuvent servir de modèles de résistance et de sobriété. Inscriptions. ✦ « Reconnecter la technologie aux communautés vivantes. » En amont de la rencontre, retrouvez Anne Alombert dans Libération et en compagnie de Valérie Peugeot. ✦ « Aujourd’hui, certains Data Center consomment jusqu’à cinq gigawatts pour faire tourner les Large Language Models. Ce ne sera pas tenable dans le temps. L’avenir de l’IA réside donc dans des modèles sobres et frugaux. » L’Usine Digitale rapporte les propos de Gilles Babinet, en marge du salon Big Data Paris qui s’est tenu en octobre dernier. ✦ Encourager la présence des femmes dans les technologies émergentes et l’intelligence artificielle. Le fonds d’investissement européen investit 30 millions d’euros dans SistaFunds. « Le premier d'une longue série de fonds qui s'engagent à promouvoir la diversité, prouvant ainsi que des équipes inclusives seront un élément crucial pour faire avancer l'innovation. » selon Tatiana Jama. ✦ « Notre rôle en Europe, ce n’est pas nécessairement de créer des géants mais plutôt d’éviter qu’ils ne prennent toutes les ressources ! » Dans l’émission Smart Tech, Jean Cattan invite à inscrire l’État dans un rôle de bâtisseur. ✦ Comment éduquer à un usage responsable des IA ? Le 12 novembre dernier aux Apprentis d’Auteuil et aux côtés de Christophe Salomon, Pierre-Yves Oudeyer et Laurent Bibard, Joséphine Corcoral a pu présenter Café IA lors d’une soirée organisée par le Centre Catholique International de Coopération (CCIC - Unesco). L’occasion d’échanger, entre autres, autour de l’impact environnemental de l’IA, de son usage par les jeunes publics ou encore de sa réglementation. Le replay de la table ronde est à revoir ici. ✦ Faut-il des GAFAM français... ou pas de GAFAM du tout ? En marge de Numérique en commun[s] à Chambéry, Jean Cattan et Benjamin Bayart ont pu échanger sur leur première rencontre avec le numérique, leur vision sur les combats à mener pour reprendre en main. L’échange est à visionner ici.

👋 Avant de partir

Vous avez apprécié la lettre d’information de cette semaine ? Partagez-la à un ami ou un collègue. Ils peuvent s’inscrire ici.

Comme d’habitude, n’hésitez pas à nous faire vos retours. Vous avez des questions, des remarques ou des suggestions ou vous souhaitez que nous abordions un sujet en particulier ? Nous sommes à votre écoute ! N’hésitez pas à nous écrire à info@cnnumerique.fr.

Cette lettre d’information a été préparée par Jean Cattan, illustrée par Magali Jacquemet et réalisée avec le soutien de Gabriel Ertlé et Hubert Guillaud.