Vers la consécration d’un droit au paramétrage ? Échange avec Célia Zolynski

Comment êtes-vous parvenue à vous intéresser au droit au paramétrage des réseaux sociaux ? 

En 2016, alors que j’étais membre du Conseil national du numérique, je travaillais sur la régulation des plateformes dans le prolongement de la loi pour une République numérique. Dans ce contexte, je me suis peu à peu intéressée à la manipulation de l’information et à la question de l’économie de l’attention qui commençait à émerger avec les révélations de lanceurs d’alerte comme Tristan Harris[1]. Avec François Levin et Marylou Le Roy, nous avons écrit un article sur la manière dont l’économie de l’attention était saisie par le droit en s'apercevant qu’il s’agissait d’un véritable angle mort du législateur bien qu’elle ait été largement étudiée en économie et en théorie des médias, en particulier avec les travaux d’Yves Citton. Nous avons donc formulé un plaidoyer pour la consécration d’un droit à la protection de l’attention. Cela visait à répondre aux limites du cadre existant, reposant sur l'autorégulation des plateformes. En poussant l'analyse, il nous a semblé que ces mesures tendaient à sur-responsabiliser l’utilisateur et à approcher uniquement la question de la captation de l’attention sous un angle individuel. Il était problématique de ne pas saisir les enjeux collectifs de l’économie de l’attention qui entraîne pourtant des effets de bords majeurs, comme la désinformation qui affecte le débat démocratique et le processus électoral. Nous nous interrogions sur l’absence d’obligations pour les plateformes alors même que leurs processus techniques et leurs modèles économiques étaient au cœur de cette question.

Lire le dossier Votre attention s'il vous plaît !

À ce titre, nous avions proposé que le droit à la protection de l’attention repose sur deux leviers. Un premier qui responsabilise les plateformes. La FING avait alors publié une étude qui identifiait plusieurs pistes en se basant sur la logique du RGPD en imposant aux plateformes la création d’un attention protection officer et en instaurant des principes directeurs de minimisation de captation. En parallèle, nous recommandions de donner plus de pouvoir d'action aux utilisateurs. Là encore, la FING inspirée du RGPD proposait de créer des droits en faveur de l’utilisateur, tel que le droit d'être informé des processus de captation de son attention par exemple.

Ensuite, nous avons rencontré Yves Citton et Igor Galligo qui travaillaient également sur les enjeux sociaux, philosophiques et politiques de l’économie de l’attention. Cela nous a permis de dialoguer entre disciplines et de déterminer ce qui devait être saisi au travers de la protection de l’attention, à savoir la protection de la personne dans le cadre de ses interactions avec les services numériques. À l’issue de ce travail, nous avons affiné notre proposition : la consécration d’un droit au paramétrage pour l’utilisateur, afin que ce dernier puisse déterminer ses intérêts dans ses interactions sur les réseaux sociaux numériques. 
En parallèle, j’ai été corapporteure d’un avis sur la lutte contre la haine en ligne de la Commission nationale consultative des droits de l’Homme (CNCDH). Au cours de nos réflexions, il nous est apparu que l’un des instruments possibles contre la haine en ligne consistait à protéger et donner de nouveaux droits à l’utilisateur en plus des obligations nouvelles qui devaient être celles des plateformes. Nos discussions avaient lieu dans un contexte particulier puisque la décision du Conseil constitutionnel du 18 juin 2020 invalidant une grande partie de la loi “Avia” contre les contenus haineux en ligne venait d’être rendue. 

C’est dans ce contexte que j’ai travaillé à préciser le droit au paramétrage pour prolonger une idée de Dominique Cardon énoncée lors du colloque d'ouverture qui a conduit à l’étude annuelle du Conseil d’État en 2022 sur les réseaux sociaux. L’idée qu’il avait présentée consistait à permettre aux utilisateurs de refaire des réseaux sociaux des outils d’interactions, ce qu’ils étaient initialement et sont de moins en moins. Le paramétrage serait cet instrument juridique pour permettre aux utilisateurs de redessiner leurs interactions sur mesure. Ce paramétrage est d’autant plus intéressant pour les jeunes publics, pour les protéger et les intégrer dans cette démarche de reprendre le pouvoir sur leurs interactions en ligne.

En quoi le droit au paramétrage tranche-t-il avec les logiques traditionnellement à l'œuvre dans la régulation des plateformes numériques ? 

Le changement de paradigme réside dans le fait d’imaginer que l’utilisateur puisse devenir à la fois un acteur de la régulation en favorisant sa réflexivité et sa liberté, et un agent ayant le pouvoir d’agir sur l’architecture même du système. En plus des nouvelles obligations imposées aux plateformes, nous avons proposé de jouer sur le levier de responsabilisation de l’utilisateur - en renforçant à la fois sa formation et sa protection - et de développer des outils pour le mettre en capacité d’agir. Cependant, nous faisions attention à ne pas prôner une sur-responsabilisation des utilisateurs qui serait inefficace à l’heure où les asymétries d'information et de compétences sur le fonctionnement des systèmes sont prégnantes. Notre idée est plutôt de promouvoir une vision plurielle des interventions dans la régulation. Il paraît en effet essentiel de promouvoir une régulation systémique des services numériques. Autrement dit, une régulation qui s’appuie sur l'action de l’ensemble des acteurs de l’écosystème, à savoir aussi bien les plateformes, que les utilisateurs finaux ou encore les autorités publiques. Cette idée, nous l’avions portée avec Karine Favro dans notre contribution à l’ouvrage Penser le droit de la pensée intitulée “Pour une nouvelle régulation des contenus à l’ère de la conversation”. La décision du Conseil constitutionnel sur la loi Avia semblait conforter cette position puisqu’elle reconnaissait un droit d’accès à Internet et un droit de s’y exprimer, consacrant ainsi un rôle actif de l'utilisateur final. 

Dans le livre Pour une nouvelle culture de l’attention. Que faire de ces réseaux sociaux qui nous épuisent (Odile Jacob, 2024) que j’ai co-écrit avec Stefana Broadbent, Florian Forestier et Mehdi Khamassi, nous allons plus loin dans le droit au paramétrage en posant l’objectif que l'utilisateur puisse paramétrer ses “automatismes”. Évidemment, cela soulève plusieurs problématiques, notamment le risque que, face à la multiplicité de choix, l’utilisateur subisse une fatigue décisionnelle, le poussant à ne pas choisir et à conserver les paramètres par défaut. Comme le souligne Bruno Patino dans Submersion, il est aujourd’hui nécessaire de repenser nos choix pour que nous puissions nous “concevoir comme des êtres libres et pensants”. Le droit au paramétrage permettrait de penser une route alternative pour mettre les individus en posture de réflexion, favoriserait la prise de recul de l'utilisateur sur son comportement et ses usages, et lui permettrait de réfléchir sur ses automatismes. 

Le design des plateformes est fondamental à cet égard. Il repose bien souvent sur l’exploitation de nos automatismes perceptifs et cognitifs, de nos habitudes et notre façon de naviguer. Les plateformes peuvent donc accentuer ces automatismes, rendant le sujet vulnérable à ses propres réactions compulsives et addictogènes. L’idée serait de travailler sur l’identification de nos automatismes pour trier ceux qui sont conformes à nos buts et intérêts et ceux qui nous en dévient parce qu’ils sont manipulés. Nous avons travaillé à partir d’exemples, notamment dans le monde du génie informatique, du contrôle aérien, du nucléaire ou autres. Dans ces domaines, les designs créent des automatismes permettant la sécurité du système et les opérateurs de ces systèmes à risque sont amenés à réfléchir aux actions et automatismes à avoir et à acquérir. Grâce au paramétrage des réseaux sociaux, on pourrait faire du consommateur un acteur du modelage de ses propres automatismes comportementaux en ligne. 

Concrètement, quelle forme ce paramétrage prendrait-il et en quoi est-ce une réponse aux carences actuelles des réseaux sociaux ?

Plutôt que de laisser les utilisateurs voir leurs interactions orientées par le seul intérêt des plateformes et par leurs mécanismes d'engagement, nous proposons de leur offrir la possibilité de paramétrer l’outil selon leurs intérêts. Ce paramétrage pourrait concerner le niveau de notification, la détermination de la sphère d’émission des contenus qu’il publie ou encore sa sphère de réception donc ce qu’il verra apparaître comme contenus recommandés, comme ceci a été proposé dans le cadre des travaux de la CNCDH sur la haine en ligne. 

Ce qui semble important également, c’est que l’utilisateur puisse faire varier ces critères en fonction de son contexte d’utilisation, afin de garder un droit à la distraction et de bénéficier d’un droit à l’émiettement grâce à ses multiples profils et paramétrages qui dépendraient du contexte. Dans un cadre professionnel, ses réseaux sociaux pourraient donc être paramétrés différemment que dans un cadre privé. Par exemple, au moment de l’inscription et de façon récurrente, l’utilisateur pourrait avoir accès aux possibilités de paramétrage et de re-paramétrage de l’outil avec des temps de rétractation.

Il nous faut également tenir compte du paradoxe de l’utilisateur qui souhaite reprendre le contrôle tout en refusant d’y consacrer trop de temps. À ce titre, dans l’avis de la CNCDH, nous avions proposé une mise en place du paramétrage en deux temps. Dans un premier temps, l’utilisateur pourrait simplement sélectionner des contenus qu’il rencontre afin de signaler s’il souhaite ou non y être exposé. Dans un second temps, l’utilisateur aurait accès en tout temps à un tableau de bord ergonomique dans les paramètres de l’application pour adapter ses choix. 

Pour que ce droit soit réellement mobilisé, il faut aussi penser le design pour rendre ce paramétrage désirable et ne pas proposer une modalité d'acceptation en bloc de tous les paramétrages par défaut. De même, il ne faut pas non plus avoir un choix trop fastidieux avec une liste trop longue de paramètres. Il faut véritablement penser un design adapté, avec des rubriques de choix bien identifiées et aisément accessibles pour ne pas décourager l’utilisateur car cela pourrait amener à ce que Bruno Patino appelle une “surcharge cognitive” trop importante, conduisant à déléguer nos choix à la machine.

Le droit au paramétrage peut-il être élargi au-delà des réseaux sociaux ? Pour ce qui est des systèmes d’IA par exemple ? 

Dans le cadre d’une tribune publiée avec Jean Cattan, secrétaire général du Conseil national du numérique, dans la revue AOC au lendemain de la publication du règlement européen sur l’intelligence artificielle, nous avons exploré de nouvelles pistes de régulation pour cette technologie. Ce règlement vient assurer une sécurité juridique quant aux produits qui circulent dans le marché intérieur européen. Contrairement au RGPD, il consacre peu de droits à destination de ses utilisateurs. Il ne s’agit pas de la régulation systématique à 360 degrés que j’appelle, comme d’autres, de mes vœux. Il paraît dès lors nécessaire de compléter cette première régulation par un volet d’intervention de l’utilisateur final.

Plus généralement, il est important de permettre aux utilisateurs de paramétrer les critères de réponses d’un agent conversationnel, afin de définir le rapport humain/machine qu’il souhaite entretenir. Cette idée nous l’avions développée avec Karine Favro et Serena Villata dans le cadre d’un rapport pour le CSPLA (Conseil Supérieur de la Propriété Littéraire et Artistique) sur les assistants vocaux et autres agents conversationnels publié en décembre 2022, juste avant la généralisation de ChatGPT. Ce qui caractérise les assistants vocaux, c’est qu'à une requête de l'utilisateur va être apportée une réponse unique, dont les critères de détermination sont inconnus et avec des mécaniques d’engagement forts pour faciliter une interaction la plus fluide avec l’utilisateur, ce qui limite la liberté de choix de l'utilisateur. Il est donc nécessaire de pré-paramétrer l’agent conversationnel selon ses propres intérêts et d’avoir la possibilité de le reparamétrer en permanence.

Jean Cattan avait identifié une évolution possible avec l’essor des agents conversationnels vers une agentification massive de nos interactions, soit la possibilité de voir demain ces intermédiaires s'immiscer entre nous et l’accès aux services numériques, voire aux réseaux sociaux. Comme ce marché est en cours de déploiement, il nous semble important de ne pas répéter la même erreur qu’avec les réseaux sociaux et d’agir en amont en promouvant le déploiement d’une technologie paramétrable par l'utilisateur plutôt que le déploiement d’une technologie sous la forme d’une boîte noire à prendre ou à laisser. 

Peut-on considérer que la voie s’ouvre aujourd’hui pour une reconnaissance d’un droit au paramétrage, mais aussi du dégroupage des réseaux sociaux à l’échelle nationale et européenne ?

De manière générale, j'observe une prise de conscience ces dix dernières années de la nécessité de penser une stratégie numérique française. Ce que je regrette c’est que cette approche soit encore en silos. Il faut promouvoir des courroies de transmission pour la compréhension globale du sujet numérique et acculturer l’ensemble des décideurs sur l’ensemble de ces sujets. Pour cette raison, à l’Observatoire de l’IA de l’Université Paris I Panthéon-Sorbonne, nous souhaitons mettre en place des formations à destination des décideurs, afin que ceux-ci soient nourris de savoirs techniques et sociaux sur le numérique.  
Pour ce qui est de la personnalisation des réseaux sociaux, je perçois un intérêt croissant pour le sujet au niveau national, soit sous la forme du droit au paramétrage, soit sous celle du dégroupage tel que porté par le Conseil national du numérique aujourd’hui. Il faut se saisir de cet engouement et promouvoir cette idée à la fois pour les agents conversationnels et pour les réseaux sociaux où elle reste indispensable.

Cependant, c’est au niveau européen que le contexte est le plus favorable. La Commission européenne actuelle a véritablement défini une stratégie numérique sous la présidence d’Ursula Von der Leyen et le rapport du Parlement européen sur la conception addictive des services en ligne pourrait être une voie pour réformer le droit de la consommation. Nous attendons avec intérêt le programme de la prochaine Commission sur ces éléments. La révision du droit de la consommation est également portée par des associations telles que le BEUC (Bureau Européen des Unions de Consommateurs) qui appellent à la loyauté de l'espace digital et de son design ce qui pourrait rejoindre les propositions de collectifs comme la Panoptykon Foundation ou les Designers Éthiques par exemple. On a des modèles, on voit que c’est opérationnalisable. Ce qu’il nous manque c’est la formation des utilisateurs et le développement de moyens pour les intégrer dans une démarche volontaire. Certains textes européens vont dans ce sens. Le règlement sur les marchés numériques reconnaît un droit au paramétrage en creux puisqu’il vient sanctionner l’autopréférence, notamment concernant les assistants virtuels. On voit également une faisabilité potentielle dans la mise en œuvre du règlement sur les services numériques, plus précisément dans son article 28 qui consacre des obligations de protection des utilisateurs mineurs à l’égard des plateformes. Les articles 34 et 35 sur le cadre de l’analyse de risques et des mesures de remédiation pourraient aussi ouvrir la porte à ce droit au paramétrage. Si les mesures mises en place par les plateformes pour lutter contre leurs effets sur le discours civique, le processus électoral, le bien être physique et mental, les violences en ligne, etc. paraissent insuffisantes à la Commission, elle pourrait aller jusqu'à imposer un meilleur paramétrage pour les utilisateurs. C’est ce qu’avait souligné le Conseil d’État dans son étude annuelle de 2022 : “À terme, si les opérateurs n’amélioraient pas le design de leurs interfaces, il devrait être envisagé d’imposer la réalisation d’un tel tableau de bord ou de consacrer un droit au paramétrage : cela devrait être envisagé en étroite coopération avec la Commission européenne dans le respect du DSA, voire en le modifiant sur ce point si cela apparaissait indispensable”. Attendons de voir le résultat des enquêtes formelles de la Commission notamment à l'encontre de TikTok. Tout cela va prendre du temps donc il serait heureux que d’autres initiatives voient le jour avant pour se saisir du droit d’agir des utilisateurs. Ceci paraît être d’autant plus important en ce qui concerne les enfants afin d’assurer tout à la fois leur protection et leur autonomie lors de leurs usages des réseaux sociaux comme nous l’avons souligné dans le cadre du rapport de la Mission « Enfants et écrans. A la recherche du temps perdu » remis le 30 avril dernier au Président de la République.

À propos de Célia Zolynski

Célia Zolynski est professeure de droit privé à l’Université Paris 1 Panthéon-Sorbonne où elle codirige l’Observatoire de l’IA de Paris 1. Elle est également personnalité qualifiée de la Commission Nationale Consultative des Droits de l'Homme (CNCDH)et du Conseil Supérieur de la Propriété littéraire et artistique (CSPLA), ainsi que membre du Comité national pilote d’éthique du numérique (CNPEN). En avril 2024, elle publie avec Stefana Broadbent, Florian Forestier, Mehdi Khamassi un ouvrage intitulé Pour une nouvelle culture de l'attention : Que faire de ces réseaux sociaux qui nous épuisent ? aux éditions Odile Jacob dans lequel est proposé la consécration d’un droit au paramétrage des automatismes dans le contexte de l’économie de l’attention. 

[1] Informaticien, ex-employé chez Google et cofondateur du Center for Humane Technology, alertant régulièrement sur l’économie de l’attention notamment à l’occasion de ses conférences TEDx.