Cénum - La lettre du Conseil #52 - L'influence des emojis

Pas encore abonné ? C'est par ici !

LA VIE DU CONSEIL

« C'est drôle de faire des livres quand on parle du numérique ! ». Nous vous racontions ici le choix de ce format si important à nos yeux. Avec 7 ouvrages, la collection de la mandature actuelle est désormais complète et mise en lumière. Vous voulez votre exemplaire ? Dites-nous lequel (et votre adresse postale !) en nous écrivant à info@cnnumerique.fr. Tous nos ouvrages sont également disponibles sur notre site internet.

Intelligence artificielle générative

Le Conseil étudie les impacts des IA génératives sur la société. Alors que les intelligences artificielles génératives suscitent un vif intérêt économique, politique et médiatique, le Conseil s’est saisi du sujet. L’objectif ? Faire circuler les idées et nourrir le débat public autant que les décideurs politiques à court et long termes. Réflexions et ressources à retrouver ici.

Qui se cache derrière nos IA ? Clément Le Ludec & Maxime Cornet, chercheurs à Institut Polytechnique de Paris et Télécom Paris, reviennent sur l’externalisation du travail d'entraînement des données par des entreprises françaises de l’Intelligence artificielle à Madagascar. Dialogue, régulation, encapacitation des travailleurs. Dernier « Paroles de » à lire dès maintenant ici.

Le 5 juillet, nous étions à l’édition francilienne de Numérique en Commun[s]. De nombreux retours et échanges et tous nos ouvrages distribués ! Merci pour l'invitation ! Prochaine étape ? Les 19 et 20 octobre à Bordeaux pour l’édition nationale de Numérique en Commun[s]. Inscriptions ici.

Nous intervenions également au Forum Néo-Aquitain sur l'Intelligence Artificielle et la Robotique pour échanger sur les questions soulevées par l'intelligence artificielle au travail. Entre création et destruction, il s’agit beaucoup plus de transformation de nos façons de travailler. Et de ça il faut en parler pour que tout le monde y trouve son compte !

Dans les médias

La régulation des réseaux sociaux passe par le contrôle de leur modèle économique et, par conséquent, de leurs algorithmes - Joëlle Toledano a rappelé dans une interview pour Ebra comment le DSA va obliger les plus gros acteurs du secteur à faire des efforts pour améliorer la modération, notamment via un contrôle accru de leur algorithme. À lire dans La Montagne ou L’Yonne Républicaine par exemple. Pour aller plus loin, retrouvez son intervention lors du colloque du Conseil d’Etat et de la Cour de Cassation : « De la régulation à la compliance : quel rôle pour le juge ? ».

Pour une régulation des réseaux sociaux ouverte, démocratique et collective. Jean Cattan est intervenu aux côtés de Véronique Reille Soult et Eric Sadin lors de l’émission 28 minutes sur Arte mais également avec Sophie Jehel dans 20Minutes et dans Le Téléphone Sonne sur France Inter pour débattre du contrôle des réseaux sociaux en période d’émeutes . Un moment charnière qui doit permettre d’ouvrir un débat large et pluriel sur le sujet pour ne pas céder à une prise de décision hâtive. Il propose 9 points d’analyse sur ce qu’apporte ou non DSA et quelles peuvent être les conditions de son succès. Jean a également participé au panel de clôture sur “Internet et vulnérabilité” du Forum sur la Gouvernance de l’Internet en compagnie de Lucile Petit, Xavier Delporte, Shani Benoualid, Vint Cerf, Vincent Lewandowski et Lucien Castex. Replay ici.
 
IA : comment dépasser la guerre des intelligences ? Anne Alombert participait aux 37e Rencontres de Pétrarque organisées par France culture à Montpellier. Qui détient l’intelligence, sous quelles formes et pour quoi faire ? Elle y a débattu aux côtés de Yann Le Cun, Yoshua Bengio et Patrick Perez. L’échange est à réécouter ici et a également fait l’objet d’une restitution dans un article de l’Usine Digitale. Anne était également au Festival International de Journalisme, où elle est intervenue avec Laurence Devillers lors du panel “ChatGPT : radiographie d’une panique morale”.

« Si les machines numériques n’ont cessé d’évoluer durant les cinquante dernières années, force est de constater que la machine idéologique, elle, n’a pas beaucoup changé. » Anne Alombert signe une tribune dans l’Humanité et appelle à se méfier métaphores anthropomorphiques attribuant une conscience et une forme d’intelligence aux outils numériques : une façon de vider le numérique de sa substance politique.  
 
« Il faut faire entrer l’IA dans la culture citoyenne ! » - Gilles Babinet ouvrait jeudi dernier le WebWestFestival, avec un débat sur le futur de l’intelligence artificielle. Pour l’occasion, il invite dans Ouest France à débattre le plus ouvertement sur le sujet.
 
« L’arrivée de ChatGPT représente l’occasion pour les directions des ressources humaines d’exercer pleinement leur métier (...), les DRH doivent s’emparer de l’émergence de l’IA afin de percevoir, comprendre et anticiper les ruptures qu’elle va générer en matière d’emploi ou de compétence » : Gilles Babinet parle emploi et innovation à l’ère de ChatGPT dans Décideurs Magazine.  Retrouvez aussi son intervention dans le dernier épisode du podcast de Gilles Lecerf La Data dans tous ses états

THÉMATIQUE

Les émojis, un véritable moyen d'influence

📆🌍🙂 - Aujourd’hui, c’est la journée internationale de l’émoji ! Plus qu’ils égayent nos messages et nos conversations, les émojis sont un langage à part entière, un véritable moyen d’influence que se disputent entreprises et internautes, comme le rappelle la journaliste Lucie Ronfaut. Détournés de leur utilisation principale à des fins politiques ou sexistes, issus d’un consortium privé ou d’une initiative libre, ou encore simplement utilisés pour faire deviner le titre d’un film : nous vous partageons plusieurs ressources pour mieux comprendre ce qui se cache derrière ces images du quotidien.
 
Pour s’échauffer, saurez-vous deviner quels films se cachent derrière ces émojis ? Un indice : ils traitent de notre relation aux nouvelles technologies (réponse à la fin de la lettre d’info) :

  1. 👱‍♂️🤖🎧👩‍🦰💕
  2. 🤖💕🤖🗑️🚀🌏

  3. 🔵🔴🤖🕶️

Les regards de...

Lucile Petit, directrice des plateformes en ligne de l’Arcom : “Le fort potentiel connotatif de l’emoji, associé à son aspect ludique, en fait un extraordinaire vecteur de polysémie et de sens caché… et un outil de choix pour contourner la modération sur les réseaux sociaux. Souvent bénigne, cette pratique peut aussi servir à distiller des messages de haine tout en passant sous les radars de la modération des contenus illicites, que celle-ci soit opérée à la suite d’un signalement ou menée de façon proactive par la plateforme. D’où l’importance que ces réseaux fournissent un effort continu pour adapter la justesse de leur modération à l’inventivité des utilisateurs. Les échanges sur le sujet au sein de l’observatoire de la haine en ligne ont montré combien les associations représentant la société civile, grâce à leur travail de vigie de la protection des personnes et de leurs droits en ligne, pouvaient contribuer à ces efforts.”

Olivier Cauberghs, Directeur de la Textgain Academy : “Les extrémistes ont développé un code étendu d'emojis qui portent des significations et des affiliations cachées. Par exemple, selon le contexte, un emoji apparemment innocent comme une grenouille peut être utilisé pour représenter le terme péjoratif "Pepe the Frog", qui a été repris par les suprémacistes blancs. De même, certains gestes de la main, chiffres ou drapeaux peuvent être combinés à d'autres emojis pour véhiculer des idéologies extrémistes ou indiquer l'appartenance à des groupes haineux. En utilisant ces symboles dans leurs messages ou leurs commentaires, les extrémistes cherchent à attirer des personnes partageant les mêmes idées tout en restant sous le radar de la modération des contenus (algorithmes).”

Quand l’émoji devient l’arme des cyber-harceleurs - La simplicité de rédaction d’un émoji - 1 seul clic - permet de « flooder » quelqu’un : c’est à dire envoyer, de façon généralement malveillante, une grande quantité de messages dans un système de discussion ou un réseau, de sorte que celui-ci devienne saturé ou inutilisable. Une pratique largement utilisée sur les réseaux sociaux pour cibler une communauté particulière : émoji médaille utilisé par des masculinistes, émoji dragon céleste par les communautés antisémites… Un dispositif qui, par sa simplicité, a tendance à échapper à la censure des réseaux sociaux et des espaces de discussion des plateformes de streaming. Pour y remédier, l’entreprise Textgain met à jour un dictionnaire des mots et emojis haineux dans le cadre de l’European Observatory of Online Hate, en partenariat avec la Commission européenne.  
 
Quelles stratégies de contournement de la modération en ligne ? Tel était le sujet de l’atelier du 10 mai 2023 de l’Observatoire de la haine en ligne auquel participe le Conseil depuis son lancement. Avec les opérateurs de plateformes en ligne, les associations luttant contre la haine en ligne ainsi que les chercheurs et administrations concernés par ces sujets, nous avons décortiqué la façon dont les utilisateurs tentent de contourner la modération de contenus illicites ou préjudiciables. Le recours aux émojis a notamment été pointés par de nombreux acteurs comme un mode d’action répandu, y compris dans les contenus vidéos. Une stratégie particulièrement difficile à repérer parce que les émojis sont souvent détournés de leur signification initiale, requérant de facto une analyse contextuelle de ces icônes.  
 
Une bibliothèque d’émojis gratuits et open source ? Partant du constat que le modèle Unicode était trop centralisé, que leur apparence visuelle pouvait être visuellement inadaptée en fonction de l’OS utilisé et que les conditions d’utilisations sont très restrictifs (celles d’Apple), des professeurs et des étudiants de l’école de design allemande HfG Schwäbisch Gmünd ont créé OpenMoji en 2018, la première librairie d’émojis open source. Un projet disponible gratuitement et en constante évolution grâce aux contributions de la communauté.
 
Réponses aux devinettes émoji : Her, Wall-e,The Matrix

RESTONS EN CONTACT

Si vous avez des recommandations, questions ou souhaitez nous rencontrer, n’hésitez pas à contacter info@cnnumerique.fr