Le Conseil étudie les impacts des IA génératives sur la société

Une tribune pour poser le débat comme clef d'entrée

Depuis plusieurs mois, le développement rapide et la popularisation des IA génératives amplifient la sensible des débats sur le numérique, oscillant entre crainte et enthousiasme pour ces technologies. Face à des polarisations qui risquent de générer paralysie et anxiété, il est essentiel de porter un regard éclairé sur ces nouveaux outils et de favoriser un débat apaisé sur la place que l’on souhaite leur accorder dans nos sociétés. Dans cette perspective, les membres du Conseil ont appelé à travers une tribune publiée en mai dernier à prendre le temps de l’analyse et du dialogue et à mettre le sujet de l’intelligence artificielle au cœur du débat public.

Lire la tribune

11 échanges pour faire circuler la parole et partager les réflexions

Dans la continuité de sa démarche d’ouverture, le Conseil a conduit plusieurs entretiens avec des personnalités françaises et internationales pour recueillir leurs réflexions sur les enjeux liés aux IA : 

• Tom Mitchell, chercheur en apprentissage automatique à l’université américaine Carnegie Mellon, 
• Mitchell Baker et Mark Surman, respectivement présidente du conseil d’administration et directeur exécutif de la Fondation Mozilla,
• Laure Soulier, Maîtresse de conférences en informatique au sein de l’équipe Machine learning for information access de l’ISIR (Sorbonne Université, CNRS). La retranscription de l’entretien est disponible ici.
• Clément Le Ludec et Maxime Cornet, chercheurs au sein du projet "The Human Supply Chain behind smart technologies" (HUSH). La retranscription de l’entretien est disponible ici.
• Lê Nguyên Hoang, chercheur à l’Ecole Polytechnique Fédérale de Lausanne, vulgarisateur scientifique et fondateur de Tournesol.app. La retranscription de l’entretien est disponible ici.
• Helen Margetts, membre du Alan Turing Institute et du Ada Lovelace Institute, 
• Valérie Pisano et Benjamin Prud’homme de l’Institut québécois d’intelligence artificielle (Mila). La retranscription de l’entretien est disponible ici.
• Thomas Wolf, cofondateur de Hugging Face, 
• Imane Bello et Yacine Jernite, respectivement conseillère technique en droit de l’IA et chercheur en apprentissage automatique de Hugging Face, 
• Arvind Narayanan, chercheur en informatique à Princeton. La retranscription de l’entretien est disponible ici.
• ou encore Jean-Gabriel Ganascia, informaticien et philosophe.

Plusieurs restitutions de ces entretiens sont en cours de préparation.

Appréhender la technologie pour un usage apaisé au service de nos priorités : le fil rouge des travaux du Conseil

Les enjeux liés au développement et à l’utilisation des IA génératives sont multiples et étroitement liés, touchant à des domaines essentiels de nos sociétés : la construction des savoirs, l’information, le travail, la vie privée, la représentation du monde etc. Les interrogations qui animent le débat public actuellement renvoient à une question clé : comment mettre les technologies au service de nos priorités ? Cette réflexion est au cœur des travaux du Conseil. 

Dans son dossier Pour un numérique au service des savoirs, le Conseil identifie les technologies numériques comme des outils d’apprentissage à disposition de chacun, à condition que les citoyens soient formés à ces outils et en capacité de les utiliser. Dans le dossier Travailler à l'heure du numérique. Corps et machines, nous préconisions également la formation des travailleurs aux outils d’IA ainsi que leur implication dans la conception et le déploiement des outils, afin de les rendre acteurs de cette relation de travail. 

N’hésitez pas à parcourir les différents entretiens sur l’IA publiés dans la rubrique Paroles de !

Vous connaissez des experts et vous souhaiteriez voir leur parole relayée ? Vous pouvez envoyer vos suggestions à l’adresse info@cnnumerique.fr !

Plusieurs évènements pour un dialogue apaisé sur les intelligences artificielles génératives

Parlons Num’ dédié à l’intelligence artificielle générative - Le mercredi 17 mai 2023, le Conseil organisait avec le Service de l’économie un échange à destination des agents de Bercy sur les intelligences artificielles génératives, de leur histoire à leur fonctionnement, en passant par leur impact sur notre rapport au travail. Justine Cassell, membre du Conseil et directrice de recherche chez l'Inria sur les interactions humains et machines, est intervenue aux côtés de Guillaume Avrin, coordinateur de la Stratégie nationale pour l’intelligence artificielle à la Direction générale des Entreprises, Aurélien Palix, sous-directeur des réseaux et des usages numériques à la Direction générale des Entreprises et Philéas Samir, data scientist au Pôle d'expertise de la régulation numérique (PEReN).

Le Conseil participe au COMEX du LaborIA - Le LaborIA  est le fruit d’un partenariat entre Inria et le ministère du Travail, du Plein Emploi et de l’Insertion, conclu le 19 novembre 2021, pour une durée de cinq ans. Le LaborIA a pour objectif de mieux cerner les enjeux liés à l’usage et à l’impact de l’IA sur le travail, l’emploi, les compétences, le dialogue social pour animer le débat public et éclairer les décisionnaires publics et privés. Le Conseil est représenté par le biais de sa co-présidente Françoise Mercadal-Delasalles au sein du Comité exécutif du LaborIA, nommée au titre de personnalité qualifiée. 

Les membres dans les médias

Ces dernières semaines, les membres du Conseil sont intervenus à de nombreuses reprises sur le sujet. En voici une sélection : 

ChatGPT : « Un tournant dans l’histoire de l’intelligence artificielle » - Dans Sud Ouest, Gilles Babinet est revenu sur la façon dont ChatGPT et l’IA s’immiscent dans nos vies, interrogeant notamment son impact en milieu scolaire et professionnel. Il  décrypte l’impact de ces technologies sur l’emploi et l’économie et appelle à soutenir l’innovation et la recherche notamment à travers des plans de financement et une approche différente du risque. Ses chroniques dans Les Échos, son interview dans “L’invité des matins” sur France Culture ou son passage dans Clique sur Canal + le 18 janvier et le 20 mars et dans France 24. Dans Ouest France, il insiste sur l’importance d’une compréhension par le plus grand nombre des enjeux de l’IA.

Les faiblesses de ChatGPT sont le miroir des nôtres - Dans une tribune pour Le Point, Serge Tisseron observe que l’agent conversationnel reproduit tous les biais de la communication humaine.

Intelligence artificielle : de Turing à ChatGPT, comment les ordinateurs ont appris à parler - Justine Cassell détaille dans La Croix la genèse de l’intelligence artificielle, des premiers tâtonnements de la traduction automatique jusqu’à sa récente accélération.

« Avec ChatGPT, nous n’exerçons pas nos capacités d’interprétation, de réflexion, de critique et de délibération » - Anne Alombert interroge l’impact potentiel de ChatGPT sur l’individu, ses capacités de mémorisation et in fine notre manière de faire société dans un papier intitulé « Comment penser ChatGPT ? » et dans Usbek et Rica. Elle en parle sur Télématin ou encore sur Franceinfotv , Marianne et 01Net, dans le cadre de la sortie de son ouvrage Schizophrénie numérique.

Comment réguler une technologie comme ChatGPT ? - Olga Kokshagina a coécrit un article dans The Conversation sur le besoin de coopération entre les entreprises et les institutions pour réguler l’intelligence artificielle.

Gilles Babinet était sur France 24 aux côtés d’Arno Pons, Guillaume Grallet et Jean-Gabriel Ganascia pour débattre autour de la question « Peut-on réguler l’IA ? ».

« Les femmes et les minorités sont bien moins nombreuses à avoir accès à internet et à y produire du contenu ». Dans La Croix, Rahaf Harfoush rappelle comment les algorithmes d’IA amplifient les discriminations.

Jean-Marc Vittori s’intéresse à l’écart entre les enjeux liés à l’emploi et la durée effective de mise en place des évolutions dans une chronique ici. Il décrit la technologie et l’importance d'apprendre à s’en saisir dans une autre.

Eric Salobir rappelle dans CNews que ces évolutions sont un appel prégnant pour renforcer nos systèmes médiatiques et démocratiques.

La régulation des mondes numériques et de l'intelligence artificielle font partie des priorités de Paul Midy. Il en parle notamment dans une tribune pour Les Echos et dans un débat dans La Tribune.