Cénum - La lettre du Conseil #51 - Recherche et manipulation de l'information en ligne

Pas encore abonné ? C'est par ici !

LA VIE DU CONSEIL

Intelligence artificielle et conformité des systèmes

« Aujourd’hui, dans le numérique, nous nous posons la question de la conformité des systèmes avec la loi après leur déploiement. Je défends le principe de présomption de non-conformité. » - Dans ce nouveau Paroles de, Lê Nguyên Hoang, chercheur, vulgarisateur scientifique via la chaine Science4all et président de l'association Tournesol.app, revient sur les enjeux de sécurité, de régulation ou encore de désinformation que pose l’émergence auprès du grand public des intelligences artificielles génératives et de leurs multiples applications.

Lire l'entretien

Itinéraires numériques

Gilles Babinet a pu remettre Itinéraires numériques. Le temps du débat au ministre délégué chargé de la Transition numérique et des Télécommunications Jean-Noël Barrot - Pour nous saisir collectivement des enjeux du numérique et notamment de l'intelligence artificielle, nous avons besoin d’en comprendre les mécanismes et d’en parler pour comprendre, décortiquer et éviter un débat anxiogène sur le sujet.

Un an d’Itinéraires numériques ! Le 21 juin 2022, c’est en Gironde que nous avons débuté notre démarche exploratoire d’ouverture du débat autour du numérique. Un grand merci à toutes les personnes qui nous ont accueillis ! Vous voulez un exemplaire papier de la restitution de la démarche ou organiser une séquence avec nous ? Écrivez-nous à debat@cnnumerique.fr. Envie d’en savoir plus ? Écoutez Jean-Baptiste Manenti lors du Forum de la Gazette des communes.

… Et ça continue ! Jeudi dernier, nous étions à Concarneau pour assister à la première édition de [NET] “Numérique en territoire”, organisée par Konk Ar Lab, Concarneau Cornouaille Agglomération, la Coop des Milieux et Bretagne Transition. Citoyens, élus, agents, associations et entreprises réunis pour l'élaboration d'une future Stratégie Numérique à l'échelle de la communauté. Vendredi, direction la Somme à Saint-Valery pour les 25 ans de Somme Numérique, pour présenter les conclusions d’Itinéraires numériques.

Une semaine riche en événements pour encourager une régulation du numérique ouverte au monde de la recherche et à la société civile

Mardi 20 juin, le Conseil a co-organisé avec l’Arcom une matinée sur le rôle de la société civile et la recherche dans la régulation du numérique. Financement, indépendance, mutualisation, coopération... de nombreux sujets pour réussir ensemble à apaiser l'espace numérique. Gilles Babinet y a notamment rappelé l'importance d'une régulation ouverte, condition indispensable à la réussite du règlement sur les services numériques. La Correspondance de la Presse en parle ici.

L’après-midi, le Conseil assistait à la première conférence organisée par Viginum sur la lutte contre les manipulations de l’information. La rencontre a permis entre autres d’exposer les moyens de lutte contre les manipulations de l’information ainsi que de mieux appréhender les discours complotistes, terreaux fertiles de l’ingérence numérique étrangère en France.

Nous étions mercredi 21 juin à la Maison de l’Europe de Paris afin d’assister à une conférence sur les perspectives économiques et éthiques liées au futur de l’IA en Europe. De cette séance, co-organisée par Renaissance Numérique et Confrontations Europe, nous retenons notamment le besoin d’accompagner les entreprises dans leurs usages internes de l’IA, mais aussi de distinguer souveraineté et protectionnisme, afin de conserver notre choix entre différents systèmes et stimuler le marché.

Dans les médias

Serge Tisseron revient dans l’ADN sur la relation parent-enfant sur le rapport aux écrans. Il y affirme la nécessité tant pour les parents que les enseignants d’apprendre à dialoguer avec les plus jeunes afin d’interroger leur approche.

Gilles Babinet était sur France 24 ce mercredi aux côtés d’Arno Pons, Guillaume Grallet et Jean-Gabriel Ganascia pour débattre autour de la question « Peut-on réguler l’IA ? ». Il était également l’invité de la matinale d’RTS pour présenter les travaux du Conseil et son ouvrage.

« Oui, les technologies vont nous changer, mais ce sera en mieux si nous arrivons à les contrôler » - Eric Salobir a répondu à une interview dans le média canadien La Presse, croisant technologie, humain et spiritualité. En parvenant à garder le contrôle, il serait possible de  « mettre l’humain, et la relation humaine, beaucoup plus au cœur. ». L'Express dresse également un portrait d'Eric Salobir, « le conseiller du pape qui veut "détordre" le monde de la tech. ».

La révolution numérique au travail devrait avant tout être managériale et culturelle - Jeudi 15, Jean Cattan était sur le plateau de Julien Courbet et son équipe dans Ça peut vous arriver sur RTL et M6 autour du sujet : faut-il avoir peur de l’intelligence artificielle ? De nombreux échanges sur le risque de disparition des professeurs à l’école et de l’impact de ChatGPT sur le marché de l’emploi, en particulier pour les personnes non formées au numérique. Le lendemain, il était également sur France info TV pour parler de l’évolution de Twitter, des interventions d’Elon Musk et des projets industriels d’avenir.

THÉMATIQUE - Le rôle de la recherche à l’heure de la manipulation de l’information politique sur internet 

Entre le départ de Twitter du code européen de bonnes pratiques contre la désinformation et l’accès à tous aux outils d’intelligence artificielle permettant de toujours mieux manipuler le texte et l’image, les enjeux de désinformation sont au cœur des préoccupations. Comment soutenir la recherche pour étudier ces phénomènes ? Quels regards portent les médias et centres étrangers sur le sujet ? Analyses comparées entre les Etats-Unis et la France, c’est parti.

L'intelligence artificielle au cœur de l'action : Les élections américaines de 2024 se heurtent à l'essor de l'IA - Grâce aux nouveaux outils d’IA générative, le deepfake connaît une expansion, profitable à la désinformation. A l'approche de 2024, les vidéos factices de Jo Biden, Donald Trump ou encore Hillary Clinton se multiplient. Dans cet article de Reuters le Center for Humane Technology interpelle sur le manque de garde-fous dans la diffusion des outils permettant de réaliser des deepfake.

Youtube ne modère plus les contenus sur l’élection présidentielle de 2020 - Un article de la BBC nous apprend que YouTube va cesser de supprimer les vidéos contenant de fausses allégations de fraude lors de l'élection présidentielle de 2020. Selon la plateforme, la suppression de ce contenu erroné pourrait également « avoir l'effet involontaire de restreindre le discours politique sans réduire de manière significative le risque de violence ou d'autres dommages dans le monde réel ».

Les conspirationnistes français sous influence américaine - Une note de recherche publiée par l’Institut GEODE met en exergue la porosité entre les communautés conspirationnistes et d’extrême droite américaines, canadiennes et francophones. En analysant le partage de contenus sur Telegram entre ces groupes, GEODE montre qu’il existe une galaxie importante et interconnectée de groupes complotistes et d'extrême-droite à travers ces pays qui propagent des narratifs contenant des fausses informations, notamment sur l’élection présidentielle américaine de 2020. Retrouvez également la note de Rahaf Harfoush pour le Conseil sur le phénomène Qanon et son exportation en France.

Le domaine de la recherche, essentiel mais menacé ? Un collectif de plus de 30 chercheurs et experts européens appelle dans Le Monde à l’ouverture des données des réseaux sociaux à l’aune de l’entrée en vigueur du Digital Services Act (DSA) le 25 août prochain, une condition essentielle à son succès.

L’occasion de relire Récits et contre-recits. Accroître la coopération entre les acteurs, notamment chercheurs, pour lutter contre la manipulation des informations, était également une des conclusions de notre ouvrage Récits et contre récits. Itinéraire des fausses informations en ligne paru l’an dernier. Un ouvrage à redécouvrir ou à commander en nous écrivant !

RESTONS EN CONTACT

Si vous avez des recommandations, questions ou souhaitez nous rencontrer, n’hésitez pas à contacter info@cnnumerique.fr