Savoir comment les débats se nouent, échange avec Gabriel Ferriol

Quelles sont les missions de Viginum ?

Viginum est auprès du Secrétariat général de la défense et sécurité national, un service du Premier ministre. C’est l’une des composantes de l’écosystème interministériel de la lutte contre la manipulation de l’information. Son rôle est, plus particulièrement, de détecter et caractériser les campagnes de manipulations de l’information orchestrées par des acteurs étrangers sur les plateformes numériques pour nuire aux intérêts fondamentaux de la Nation en France. Il ne s’agit pas d’un service de police ni de renseignement, mais d’observation de données en sources ouvertes.

Concrètement, nous recherchons quatre éléments :

1. L’information doit toucher aux intérêts fondamentaux de la Nation, c’est-à-dire au cœur de la souveraineté du pays ;
2. Cette information doit émaner d’acteurs étrangers, étatiques ou non étatiques ;
3. Ces contenus ou narratifs doivent être manifestement inexacts ou trompeurs ;
4. Ces narratifs doivent bénéficier d’une amplification ou d’une visibilité accrue dans le débat public numérique du fait de méthodes artificielles ou automatisées, massives et délibérées¹.

À cela s’ajoutent d’autres missions, notamment le fait d’assister le Secrétariat général de la défense et de la sécurité nationale (SGDSN) dans la réponse apportée à la menace, dans ses missions spécifiques de lutte contre la manipulation de l’information en période électorale et dans sa participation aux instances internationales consacrées à ces enjeux.

Viginum a été créé le 13 juillet 2021. Six mois après, où en êtes-vous de l’installation du service ?

Beaucoup de choses ont été réalisées depuis la mission de préfiguration du printemps 2021.

En premier lieu, l’encadrement juridique du service s’est étoffé avec deux décrets. Le premier, en date du 13 juillet 2021, fonde le service et en détermine les missions. Plus récemment, le décret du 7 décembre 2021 autorise et encadre le recours par le service à un traitement de données à caractère personnel.

En ce qui concerne nos ressources humaines ensuite, nous comptons actuellement 23 collaborateurs, et nous avons pour objectif de poursuivre notre montée en puissance et de doubler nos effectifs à la fin de l’année 2022. Nous avons la volonté de mobiliser des méthodes innovantes et souples d’organisation du travail pour répondre à une menace qui évolue rapidement.

Troisièmement, nous sommes en train de nous équiper d’outils techniques, en particulier d’une plateforme d’analyse qui nous soit propre, de manière à être autonomes dans notre appréciation du caractère inauthentique ou non des contenus que nous examinons.

Enfin, nous développons notre réseau interministériel. La création de Viginum coïncide avec un renouvellement de la gouvernance de la lutte contre la manipulation de l'information. Viginum joue un rôle particulier d’animation de cette gouvernance, sous la tutelle du Secrétaire général de la défense et de la sécurité nationale. En parallèle, nous multiplions les échanges avec d’autres administrations qui peuvent nous aider à accomplir nos missions.

En ce qui concerne le recrutement, quels sont les profils que vous avez rassemblés et quels sont ceux que vous recherchez ? Est-ce que vous rencontrez des difficultés à recruter ?

Nous avons besoin de doter l’État d’un savoir-faire en matière de détection et de caractérisation de campagnes malveillantes sur les réseaux sociaux, savoir-faire que l’État ne maîtrise pas complètement aujourd’hui.

L’enjeu du recrutement est essentiel pour nous. Nous avons besoin de doter l’État d’un savoir-faire en matière de détection et de caractérisation de campagnes malveillantes sur les réseaux sociaux, savoir-faire que l’État ne maîtrise pas complètement aujourd’hui. De ce fait, attirer des compétences extérieures est primordial pour nous. Il est aussi à noter que nous recevons un nombre important de candidatures spontanées : cette mission nouvelle et d’actualité appelle des vocations.

Notre stratégie de recrutement repose sur deux piliers. D’un côté, nous recrutons des profils très régaliens avec des personnes qui ont travaillé dans l’administration publique et qui connaissent le monde de la sécurité nationale, de l’investigation et de la diplomatie. D’un autre côté, et dans la même quantité, nous recherchons des personnes provenant de l’écosystème numérique et qui possèdent des compétences de veille ou d'investigation numérique (c’est-à-dire des personnes qui vont parcourir des réseaux pour y détecter des phénomènes suspects), des data scientists qui vont apporter leur expertise sur l’approche statistique des contenus et des messages identifiés, des informaticiens, etc. Nous essayons donc de faire la jonction, à notre échelle, entre la sphère du régalien, de la protection et celle du numérique. Depuis quelques mois, cette acculturation se déroule bien.

Nous montons rapidement en charge et nous veillons à avoir une croissance homothétique et harmonieuse en donnant systématiquement la priorité à l'opérationnel.

Vous avez parlé de méthodes innovantes d'organisation du travail, pouvez-vous nous en dire plus ?

Notre travail est organisé autour d’opérations de vigilance : à un instant T, nous nous occupons de vérifier que le débat public autour d’une notion ne fait pas l’objet d’une manipulation. Nous allons par exemple nous intéresser à la période électorale, dans le cadre des lois qui veillent à la sincérité du scrutin. Chaque opération de ce type est menée par une équipe constituée spécifiquement et qui regroupe différents talents : un informaticien, un data scientist, et plusieurs veilleurs, encadrés par un “chef de projet opération” qui est un peu le chef d’orchestre.

Les équipes sont constituées en fonction de l’opération à traiter, de façon fluide. Cela permet de s'adapter aux enjeux, à l’intensité de l’activité et au type de menace. Nous souhaitons avant tout éviter les effets de taylorisation, et permettre à chacun de suivre le projet du début à la fin et de se voir accorder des responsabilités. Cela se traduit par des circuits de décision courts et un mode de travail très horizontal. Nous essayons en somme de développer la culture start-up dans le monde du régalien : c’est la rencontre de deux mondes !

Au niveau technique, quelle est la méthode de Viginum pour détecter des tentatives d’ingérence numérique ? Disposez-vous d’un outil propre, ou allez-vous acquérir des outils de prestataires privés ?

Il faut avoir à l’esprit que le premier déterminant de notre façon de travailler est l'encadrement juridique : le service, avant tout, répond aux normes réglementaires qui lui sont applicables, notamment le décret du 7 décembre 2021 qui organise la façon dont nous devons traiter des données à caractère personnel. Dans notre mission, il nous est impossible de vérifier les quatre critères que je mentionnais précédemment sans manier des données à caractère personnel. Nous mettons donc tout en œuvre pour le faire de façon proportionnée et adaptée aux finalités de notre traitement, conformément à la loi de 1978. 

Les opérations de Viginum se déroulent en deux phases :

1. Une phase de veille et d’observation des réseaux. Cette étape vise à identifier les plateformes intéressantes pour l’opération que l’on sécurise. Ensuite, nous déterminons les mots clés permettant d’approcher la thématique d’intérêt. Le but est d’éviter d’avoir à observer des messages non pertinents. Nous tentons aussi d’identifier les éventuels comptes ou comportements dignes d’attention. Une fois ces points étudiés, nous listons tous ces critères techniques dans une fiche de traçabilité qui permet d'entrer dans la deuxième phase.
2. Une phase de détection et caractérisation qui repose sur le recueil de données à caractère personnel, en fonction des critères techniques déterminés durant la phase de veille. Nous mettons tous les messages qui correspondent à ces critères dans un silo de données, à partir duquel nos équipes travaillent pour détecter des traces de manipulation de l’information. En pratique, nous sommes par exemple vigilants quant à l’activité des comptes. Nous regardons aussi quelle est la part de gros contributeurs dans la conversation. Les conversations manipulées se caractérisent en effet souvent par quelques contributeurs qui animent l’essentiel du débat. En bref, nous cherchons à construire des métriques nous permettant de détecter les signes d’une possible inauthenticité dans la façon dont le débat public se noue en ligne sur un certain nombre de thématiques.

En ce qui concerne les moyens techniques qui vont nous permettre de réaliser ces actions, nous allons à la fois nous doter d’outils acquis auprès d’industriels et développer nos propres solutions. Il s’agira d’une combinaison d’outils. Notre système d’information comprendra donc plusieurs briques, certaines achetées et d’autres conçues en interne.

Dans le cadre de ces missions, allez-vous collaborer avec des plateformes ? Si oui, les avez-vous déjà contactées et comment ont-elles réagi ?

Nous travaillons en effet en collaboration avec les plateformes numériques. Nous les avons rencontrées en octobre 2021 pour leur présenter ce nouveau service et les avertir que nous souhaitions nouer un dialogue avec elles. Ce partenariat va donc se mettre en place prochainement de façon plus opérationnelle, maintenant que l’encadrement juridique du service est déterminé.

Il est à cet égard difficile de traiter les plateformes comme un ensemble monolithique. Elles sont nombreuses et disposent chacune de leur fonctionnement, leurs données, leurs algorithmes, etc. Les principales plateformes ont accueilli favorablement l’arrivée de notre service. Du reste, il est à noter que beaucoup n’ont pas attendu Viginum pour travailler à la lutte contre la manipulation de l’information, qui était déjà portée par un écosystème plus large et à propos de laquelle elles rendent des comptes assez régulièrement et de manière publique.

Vous insistez également sur l’importance de la coopération avec d’autres organisations, notamment interministérielles. Des projets sont-ils déjà en cours ?

Viginum est en effet dans une logique de coopération. Au sein de l'écosystème interministériel de lutte contre la manipulation de l'information, nous animons un réseau technique avec les administrations disposant de capacités de lutte contre la manipulation de l’information et d’observation des réseaux.

Il est indispensable que Viginum ne travaille pas seul. Alors que nous travaillons sur les données en sources ouvertes, d’autres services de l’État peuvent nous aider dans le cadre de leurs propres compétences. De la même manière, sur la partie remédiation, ce n’est pas Viginum qui va déterminer le plan d’action. Cette mission est confiée à d’autres acteurs, qui vont déterminer la stratégie à proposer pour mettre fin au phénomène.

Au-delà de l’administration, nous sommes aussi dans une logique de collaboration avec le monde de la recherche. Si une partie du savoir-faire peut être acquise en recrutant et une autre en se formant, il faut aussi se tenir informés de ce que fait la sphère académique et que celle-ci nous éclaire dans la formalisation des concepts, dans l’appréhension des phénomènes, dans la formation des équipes, etc. De notre côté, nous sommes prêts à partager avec eux notre retour d’expérience.

Nous travaillons également avec l’ARCOM pour l’assister dans l’accomplissement de ses missions.

Vous traitez de sujets extrêmement sensibles et confidentiels. Comment allez-vous équilibrer ce partage d’information avec l’impératif de confidentialité ? Comment prévoyez-vous de communiquer autour de ce que vous détecterez ?

Notre mission, c’est de permettre aux internautes d’exercer leur liberté de communication en ayant connaissance des manipulations qui peuvent compromettre la libre circulation des idées et des informations ainsi que le débat démocratique. Nous communiquerons ainsi, sous le contrôle du comité éthique et scientifique, sur les ingérences numériques étrangères que nous aurons détectées, pour répondre à cet objectif souligné par le Conseil d’Etat.

Un comité éthique et scientifique² a également été mis en place. Quelle est sa mission ? Comment Viginum va-t-il interagir avec lui ?

Tout d’abord, il est à noter que ce n’est pas le comité éthique de Viginum mais qu’il est placé auprès du SGDSN. Il est complètement autonome de Viginum et assiste le SGDSN dans sa mission de lutte contre la manipulation de l’information.  Il dispose de pouvoirs définis par les décrets créant le service et encadrant sa mission.

Ce comité va nous aider et guider notre action en édictant des lignes rouges à ne pas franchir. Très concrètement, il a vocation à s’exprimer sur le rattachement aux intérêts fondamentaux de la Nation de nos opérations, à apprécier la proportionnalité du recueil de données mis en place, à se prononcer sur les données à caractère personnel que nous pourrons être amenés à conserver dans nos notes d’analyse. De manière plus générale, il a vocation à apporter un retour d’expérience sur ce notre action, nos méthodes, et à informer la population sur la mission que nous avons à cœur d’accomplir.

Pour conclure, si vous deviez exprimer votre souhait pour Viginum en quelques mots, quel serait-il ?

Ma conviction après ces deux mois de prise de fonction, c’est que la manipulation de l’information est une menace qui va durer et même s’amplifier.

Ma conviction après ces deux mois de prise de fonction, c’est que la manipulation de l’information est une menace qui va durer et même s’amplifier. De la même manière que l’information s’est numérisée et élargie, la manipulation de l’information se numérise à son tour et cela va soulever énormément de questions sur le fonctionnement de notre société.

Mon souhait serait donc que Viginum prépare la France à cette évolution, que je crains, et que nous soyons soit bien armés pour y répondre. Je pense qu’on ne pourra pas complètement s’en prémunir. Nous faisons face à une lame de fond. Il ne faut pas être naïf, mais il faut développer les savoirs-faire qui nous permettront de développer, à la fois dans la population, dans les services de l’État, dans les entreprises, la conscience que ce risque existe.

¹ Viginum a été créé par le décret n°2021-922 du 13 juillet 2021. Par la suite, le décret  n°2021-1587 du 7 décembre 2021 a autorisé et encadré le traitement automatisé de données à caractère personnel dans le but d'identifier les ingérences numériques étrangères.

² Le Comité éthique et scientifique a été créé par le décret n°2021-922 du 13 juillet 2021. Ses membres ont été nommés par arrêté du 5 octobre 2021.