IA : sous la bulle, la lame de fond ?

Bonjour, nous sommes le vendredi 6 septembre 2024 et nous sommes ravis de vous retrouver pour une nouvelle saison pleine de projets ambitieux autour de Café IA et bien d’autres sujets tout aussi passionnants. Bonne lecture et bonne rentrée !

Attention à la lame sous la bulle ! Dans une récente publication, Gilles Babinet revient sur l’inversion de la tendance concernant les perspectives de développement des intelligences artificielles génératives, une alternance entre excitation et désillusion. Il fait écho en cela à un récent entretien de Cory Doctorow pour Le Monde : selon lui, l’IA est une bulle technologique en voie d’éclatement en raison du décalage existant entre les coûts engendrés et les revenus estimés. Cet entretien se réfère à une autre chronique de 2023 rédigée par l’essayiste américain. Cory Doctorow précisait alors que dans le domaine de la tech, deux types de bulles coexistent : celles qui ne laissent place qu’aux dérives sociales, à la spéculation et à l’accumulation des richesses entre une poignée d’acteurs, et celles qui parviennent à faire émerger des dynamiques positives de long terme (partage de connaissances, création d’écosystèmes, etc.). Quoi qu’il advienne de cette bulle-ci, si bulle il y a, nous devons veiller aux lames de fond qu’elle cache et qui, elles, sont loin d’être des épiphénomènes.

L'écologie au cœur des enjeux technologiques. L’IA soulève tout d’abord un enjeu écologique, au sens d’une triple écologie comme le rappelle Anne Alombert dans le dernier numéro du magazine Chut!, en référence aux travaux du philosophe Félix Guattari. L’« écologie environnementale » concerne les ressources et les infrastructures qui permettent à ces systèmes de fonctionner et dont les besoins continuent de croître. L’« écologie sociale », quant à elle, pose notamment la question de nos interactions et de l’exploitation de ressources culturelles que nécessite l'entraînement de ces systèmes, avec toutes ses implications qu’elle emporte. Enfin, l’« l’écologie mentale » est liée à la délégation de nos capacités d’expression, de mémoire et d’imagination à ces technologies.

Ne nous contentons pas de voir la technologie comme une simple bulle que nous regarderions grossir ou exploser, impuissants. D’ailleurs, sur ce volet environnemental, des acteurs institutionnels sont déjà mobilisés, comme l’Afnor qui a publié son référentiel pour mesurer et réduire l’impact environnemental de l’IA, l'Arcep avec le référentiel général de l’écoconception des services numériques, ou encore la Commission européenne. À n’en pas douter, ce sujet devra aussi être mis au cœur du Sommet pour l’action sur l’IA, les 10 et 11 février 2025. Car, comme le conclut Anne Alombert dans Chut ! : « Les innovations porteuses d’avenir seront celles qui parviendront à mettre les automates algorithmiques au service des trois écologies. »

L'importance d'une stratégie d'investissement durable. Cory Doctorow le rappelle, une bonne partie des investissements réalisés dans les cryptomonnaies et les NFT (non-fungible tokens, « jetons non fongibles » en français) témoignent d’une propension à dépenser de l’argent sans compter. Cette façon de faire se retrouve pour beaucoup dans l’IA. Comme le rapporte Nicolas Celnik dans Libération, en avril dernier, Sam Altman, directeur général d’Open AI, déclarait devant les caméras de l’Université de Stanford « Qu’on brûle 500 millions ou 50 milliards de dollars par an, je n’en ai vraiment rien à faire […] : on construit l’intelligence artificielle générale [comprendre supérieure aux humains] et cela en vaut la peine ». Selon The Information, Open AI pourrait perdre 5 milliards de dollars en 2024 et L’Express rapporte des pertes colossales de capitalisation boursière outre-Atlantique dans le domaine. Derrière la bulle, ce qui risque bien de demeurer est « l’économie de la bulle », soit la capacité de quelques-uns à dépenser de l’argent pour accomplir leur stratégie commerciale, sans en subir nécessairement les conséquences à long terme, là où d’autres se trouvent privés de toute capacité d’agir.

Quels services ces investissements mettront-ils dans nos poches ? Sur le terrain des services, vers quoi nous conduisent ces investissements au-delà des propositions anecdotiques et passagères ? En la matière les prédictions font florès. Parmi elles, et dans le prolongement des services existants, les agents conversationnels qui ont proliféré depuis deux ans nous orientent possiblement vers l’enrichissement des moteurs de recherche ou encore la fluidification de nos conversations avec des agents vocaux. Cela peut représenter de nombreux avantages et énormément de problèmes. Tous méritent d’être débattus, de l’accessibilité renforcée à des services ou informations au financement des producteurs de contenus en passant par la circulation de fausses informations.

Repenser nos choix technologiques. C’est pourquoi laisser planer l’idée que nous pourrions nous contenter d’un « on ne voit pas l’intérêt, tout cela passera aussi vite que c’est arrivé et de toute façon nous ne pouvons rien y faire » ne suffit pas. Que ce soit pour se battre contre ou nous saisir de nouvelles opportunités. Tout simplement parce que c’est l’entièreté de notre environnement social et informationnel qui est modifié, que l’on se serve d’un agent conversationnel ou non. Dans son article « une autre intelligence artificielle est possible », issu du numéro d'août du Monde Diplomatique, l’auteur Evgeny Morozov renverse le problème et invite à repenser notre rapport à la technologie. Au lieu de renforcer une approche actuelle fondée notamment sur des objectifs de productivité (ou de surveillance, comme le rappelle la dernière édition de la lettre d’information Dans les Algorithmes), il appelle à mobiliser « l’éducation et la culture, les bibliothèques et les universités », afin « d’ouvrir à tous, sans considération de classe, d’ethnicité ni de genre, l’accès à des institutions et des technologies qui favorisent l’autonomie créatrice et permettent de réaliser pleinement ses capacités. »

Là où l’association entre IA et bulle peut entraîner un dessaisissement, nous croyons au contraire et plus que jamais en l’importance de débattre et de mobiliser une démocratie de proximité, l’expression des choix, et la compréhension de ce qui se joue avec ces lames de fond.

Alors, demandez-vous : dans votre ville, votre structure professionnelle, à l’école, à l'université, bref, dans votre quotidien, quand vous a-t-on demandé votre avis sur le développement et le déploiement de telle ou telle technologie, pour tel ou tel usage, sur ses caractéristiques ou des retours sur son utilisation et ses fonctionnalités ? Café IA a vocation à ouvrir ces espaces-temps où l’on échange sur nos choix technologiques. Pour y participer ou contribuer, c’est par là : cafeia@cnnumerique.fr.

Café IA, Numérique en commun[s], prix du mémoire : les actualités de la rentrée du Conseil !

🎨 Les cafés animations continuent tous les jeudis ! Les cafés animations sont des espaces d’échanges hebdomadaires organisés chaque jeudi en ligne autour de personnes qui développent des ressources ou animent des temps d’échanges ludiques, pédagogiques et démocratiques sur notre relation à l’intelligence artificielle. Ce jeudi, nous étions plusieurs dizaines réunis autour de Justine Spérandio-Martinez et des animateurs du projet DATAculturation qui nous ont présentés les Cafés de la data, des modes d’appropriation collective des enjeux de la donnée. Un grand merci à elle ainsi qu'à Frédérique Rehfeld et Bertrand Giroux. Compte-rendu et synthèse sont à venir ! En attendant, découvrez notre entretien avec Justine Spérandio-Martinez pour en savoir plus sur le dispositif DATAcculturation. Pour la suite, plusieurs autres rencontres sont déjà programmées :

• Le 12 septembre, nous serons avec Lucie Termignon et Aurélien Barot, du service du Numérique du ministère de la Culture, et Romain Pennec de Pix pour tester collectivement l'arène LANGU:IA, un outil de comparaison des grands modèles de langage actuels et un module apprenant complémentaire sur le sujet de l’intelligence artificielle.
• Le 19 septembre avec Réseau Canopé (plus de détails à venir).

🏔️ Café IA à numérique en commun[s] - À l’occasion de l’événement national Numérique en commun[s] qui se tiendra les 25 et 26 septembre à Chambéry (inscriptions), le Conseil - qui est partenaire de l’édition cette année encore - animera trois temps d’échange et plus encore :

• Le mercredi 25 septembre à 9h : « Quel éveil à la vie affective, relationnelle et sexuelle en ligne ? »,
• Le jeudi 26 septembre à 11h15 : « Produire ensemble un commun de la connaissance sur l'IA »,
• Et toujours le jeudi 26, mais à 14h : « 6 ressources (ludiques) pour s’approprier l’intelligence artificielle.»

Numérique en commun[s] sera aussi une date charnière sur le chemin de la structuration de Café IA avec, nous œuvrons pour, la mise en partage et en discussion d'une version 0.1 de Café IA.

🗺️ Café IA prend forme près de chez vous - Que vous soyez dans le Jura, en Ardèche, au Havre, à Nantes, à Strasbourg, à Paris, ou ailleurs en France, des événements Café IA s’organisent près de chez vous. Si vous souhaitez animer des Cafés IA près de chez vous et que vous avez besoin de conseils et de ressources, ou nous partager un Café IA qui a eu lieu, écrivez-nous à cafeia@cnnumerique.fr !

🎓 Plus que 2 mois pour postuler au prix du mémoire du Conseil national du numérique ! En juin dernier, nous vous annoncions ouvrir la 2e édition du prix du mémoire du Conseil, qui récompense une étudiante ou un étudiant de master 2 en sciences humaines et sociales, quelle que soit la discipline, contribuant à l’amélioration de la compréhension des enjeux numériques. Délivré par un jury composé de membres du Conseil et du secrétariat général ainsi que de personnalités extérieures, le prix comporte une dotation de 1 500 € et une valorisation des travaux du lauréat sous différentes formes. Étudiantes, étudiants, il ne vous reste désormais que deux mois pour candidater et nous envoyer votre dossier avant le 31 octobre. Pour postuler, c’est par ici. Et bien sûr, bonne rentrée à tous les étudiants !
 

🔎 La veille du Conseil

« Alors qu’il ne nous viendrait pas à l’idée de déléguer la gestion de nos villes ou États à des groupes privés sans regard citoyen, nous semblons pourtant accepter cette situation pour nos médias sociaux ». Dans un article publié dans AOC, le chercheur Karl Pineau imagine à quoi pourraient ressembler des réseaux sociaux au design et au fonctionnement vertueux. Comparant ces réseaux à des « agoras numériques » qui occupent aujourd’hui « un rôle central dans nos démocraties quant à la diffusion de l’information et à la construction des opinions », il invite à transformer des espaces conçus dans une optique de captation du temps et d’aliénation des utilisateurs. Parmi les pistes explorées, le « minimalisme fonctionnel », afin que chaque média social se limite aux interactions essentielles du service, le droit au paramétrage ou encore le dégroupage des réseaux sociaux (merci pour la mention !), c’est-à-dire défendre un principe d’accès à certaines ressources dont le réseau social dispose afin de permettre leur exploitation par une entité tierce. Autant de méthodes pour repenser la gouvernance de ces réseaux, lutter contre la constitution d’oligopoles numériques, et mettre en œuvre cette « agora numérique ».

Twitter suspendu au Brésil ? Le colistier de Donald Trump souhaite démanteler les Gafam ? De nombreuses actualités viennent bouleverser cette rentrée technologique. Pour faire le point et en savoir plus, nous vous invitons à suivre la chronique de François Saltiel « un monde connecté » qui décortique chaque matin une nouvelle actualité liée au secteur du numérique.

Synthétiser avec l’IA, une perte de temps ? Dans un article de Next, Mathilde Saliou revient sur les limites de l’IA lorsqu’il s’agit de générer des synthèses, mises en lumière par l’autorité australienne de régulation des entreprises. En réalisant ainsi des tests sur divers modèles de langage, et en faisant exercer une tâche similaire à des humains venus de l’instance, les examinateurs ont pu déterminer que les IA étaient loin d’être véritablement au point pour les synthèses. Parmi les limites soulevées : le manque de nuance, de contexte, la mauvaise sélection des informations cruciales… Autant d’arguments qui nous invitent à réfléchir à deux fois avant de déléguer nos tâches quotidiennes à l’IA.

📬 Vous avez lu un article, écouté un podcast ou regardé une vidéo que vous souhaitez nous partager ? Ecrivez-nous à info@cnnumerique.fr 👋

🏃 En bref... Le reste de l’actualité du Conseil en 1 minute chrono !

Comment l’IA bouscule le milieu de la santé mentale ? Justine Cassell a été interrogée par Le Monde sur la (non) faculté des IA génératives à analyser les émotions de leurs utilisateurs. ✦ « Si les savoirs ne sont plus interprétés mais répétés, alors ils ne peuvent plus évoluer. L’enjeu, c’est la stérilisation de la culture collective. » Dans Libération, Nicolas Celnik revient sur la tenue du colloque « critique de l’IA », co-organisé par Anne Alombert en mai dernier à l’Université Paris 8. ✦ De quelle manière l’IA peut-elle se mettre au service de l’environnement ? Éléments de réponse de Gilles Babinet dans Le Monde et Terre Dauphinoise. ✦ Comment penser l’école à l’heure de TikTok et des IA génératives ? Anne Alombert répondait aux questions d’enseignants lundi dans Le téléphone sonne sur France Inter. ✦ Toujours dans Le téléphone sonne, dans un épisode consacré au rapprochement entre Elon Musk et Donald Trump, Jean Cattan appelait à penser les réseaux sociaux comme de véritables objets de démocratie. ✦ Et enfin, qualifiée d’historique outre-Atlantique, la décision de justice américaine reconnaissant les abus de positions dominante de Google rejoint pourtant de nombreux constats déjà à l'œuvre en Europe, comme le rappelle Jean Cattan dans Challenges.

👋 Avant de partir

Vous avez apprécié la lettre d’information de cette semaine ? Partagez-la avec un ami ou un collègue. Ils peuvent s’inscrire ici.

Comme d’habitude, n’hésitez pas à nous faire vos retours. Vous avez des questions, des remarques ou des suggestions ou vous souhaitez que nous abordions un sujet en particulier ? Nous sommes à votre écoute ! n’hésitez pas à nous écrire à info@cnnumerique.fr

Cette lettre d’information a été préparée par Gabriel Ertlé, illustrée par Magali Jacquemet et réalisée avec le soutien de Jean Cattan.