Parlons-nous ! Comment protéger nos attentions à l’ère numérique ? Restitution 1/3

Voir le replay

Cette première session a réuni une cinquantaine de participants et faisait intervenir :

• Anne Alombert (enseignante-chercheuse en philosophie à l'Université Paris 8) et Olga Kokshagina (enseignante-chercheuse en management de l'innovation à EDHEC Business School), membres du Conseil, co-pilotes du dossier “Votre attention, s’il vous plaît !”.
• Célia Zolynski, Professeure de droit privé à l’Université Paris 1 Panthéon-Sorbonne.
• Florian Forestier, Directeur des études à #Leplusimportant.
• Régis Chatellier, Responsable d’études prospectives au Laboratoire d’innovation numérique de la CNIL (LINC).

Le Conseil tient à remercier chaleureusement les intervenants ainsi que les participants pour la qualité des échanges.
Rendez-vous en mars 2022 pour de nouveaux échanges autour des leviers éducatifs et technologiques mobilisables pour protéger l’attention.

Pour une régulation systémique de l’attention

Le droit peut-il être un outil de protection de nos attentions ? Quels sont les différents leviers juridiques qui peuvent être mobilisés face à l'économie de l'attention ? Faut-il instaurer un droit à l'attention au profit des utilisateurs ? Rendre les plateformes interopérables ? Ou encore sanctionner les designs trompeurs et abusifs ? Autant de questions qui ont animé les intervenants et participants.

Anne Alombert et Olga Kokshagina ont, à cet égard, rappelé les six leviers juridiques identifiés dans le dossier du Conseil pour protéger l’attention individuelle et collective. Ils s’attachent à l’établissement de droits à l’information, au paramétrage, à l’interopérabilité et au renforcement d’un droit à la déconnexion. Elles ont aussi noté la nécessité de mettre en place une politique européenne pour lutter et maîtriser les effets des modèles d’affaires de l’économie de l’attention mis en œuvre par les grandes plateformes, ainsi que d’élaborer des sanctions vis-à-vis de certains designs d’interfaces.

« Acculturer tant les autorités de protection que les designers pour essayer d’aller vers des meilleures pratiques » Régis Chatellier, responsable des études prospectives de la CNIL

Dans la continuité de ces propositions, Régis Chatellier, responsable des études prospectives au LINC, est revenu sur la manière dont les usagers pourraient faire valoir leurs droits face à des designs d’interfaces parfois trompeurs (dark pattern) et plus particulièrement sur comment l’utilisation de designs peut devenir des leviers d’application du RGPD et de la directive e-Privacy. Le laboratoire d’innovation numérique de la CNIL (LINC), a eu l’occasion dans ses travaux de formuler plusieurs recommandations. Parmi ces dernières : ne pas induire en erreur les utilisateurs via des techniques de design. Pour cela, une voie identifiée est de ne plus être seulement dans une approche de contrôle et de sanction mais aussi dans un accompagnement visant à ”acculturer tant les autorités de protection pour leurs analyses, que les designers pour essayer d’aller vers des meilleures pratiques”. Il s’interroge, sur ce point, sur la façon de partager des pratiques et des modèles de design vertueux entre les acteurs souhaitant s’inscrire dans cette démarche.

L’enjeu reste, toutefois, d'objectiver ce qu’est un dark pattern. En effet, le risque existe de figer ce que serait “un bon design versus un mauvais design, alors même que ce sont des pratiques qui s’inscrivent dans un contexte, des interfaces et des personnes qui sont différents”. Des lignes directrices devraient être publiées par le CEPD (Comité européen à la protection des données) au printemps 2022 sur cette question.

« Considérer les utilisateurs des agents du système, au sens informatique du terme, en leurs permettant d’agir sur l’architecture du système pour ne plus être un simple rouage actionné par le système. » Célia Zolynski, professeure de droit privé à l’Université Paris 1 Panthéon-Sorbonne

Outre l’accompagnement et l’encadrement de la conception des interfaces, Célia Zolynski, professeure de droit privé à l’Université Paris 1 Panthéon-Sorbonne, préconise de consacrer un nouveau “droit de l’attention”. Souhaitant promouvoir une approche systémique à la différence d’une approche tournée vers le contrôle des contenus, ce droit reposerait sur deux principaux leviers. Le premier viserait à encadrer les pratiques et responsabiliser les acteurs, notamment ceux dont le modèle d’affaire repose sur une stratégie de captation de l’attention. Pour se faire, elle argue qu’il pourrait être intéressant de sanctionner voire prohiber certaines pratiques, dès lors qu’elles visent à manipuler les usagers, d'imposer aux opérateurs de rendre public “des procédures les enjoignant de mesurer les risques qui résulteraient de l’exploitation de l’attention tant sur le plan individuel que collectif”. Elle propose également de promouvoir des mécanismes alternatifs, reposant notamment sur l’attention conjointe, au travers de politiques publiques. Le second levier, quant à lui, repose sur la reconnaissance d’un droit de l’attention qui contribuerait à garantir “l’agentivité de l’utilisateur”. Cette notion, dans le prolongement des travaux du prix Nobel d'économie Amartya Sen sur la capabilité, permettrait de “considérer les utilisateurs comme des agents du système, au sens informatique du terme, en leurs permettant d’agir sur l’architecture du système pour ne plus être un simple rouage actionné par le système”. Cela supposerait que les usagers aient la capacité de comprendre la contrainte technique, de la penser mais aussi d’agir dessus. Célia Zolynski propose, à cet égard, de créer des espaces de réflexivité, des outils de mise en débat public tout en systématisant la formation, ainsi que de consacrer un droit au paramétrage, opposable à tous les opérateurs, et “un véritable droit à l’interopérabilité”. Afin de rendre effectif ce nouveau droit de l’attention et de juguler les atteintes aux libertés d’expression, de conscience et d’entreprendre que pourrait induire l’économie de l’attention, elle considère qu’il serait également judicieux de créer un délégué à la protection des données spécialisé sur la question attentionnelle, sur le modèle des délégués à la protection des données créés par le RGPD.

« Il serait intéressant de faire en sorte que la question de l’attention fasse l’objet d’une véritable politique culturelle pour travailler de manière plus systématique, réfléchir et mettre un cadre permettant de penser l’orientation individuelle et collective de l’attention de l’individu vers des objets.» Florian Forestier, directeur des études à #Leplusimportant

Florian Forestier, directeur des études à #Leplusimportant, est quant à lui revenu sur l’impératif de rééquilibrer la relation asymétrique entre les utilisateurs et les plateformes, dont “le fonctionnement vise à entraver l’exercice de leur autonomie”. Pour remédier à ce déséquilibre, il propose de faire appel à différents leviers permettant aussi bien une action qu’une encapacitation individuelle et collective. Considérant que l’autonomisation ne peut se limiter au contrôle des données, il préconise de permettre à l’usager de recourir à des mécanismes d’action collective notamment en encadrant et instituant des class actions. Dans la continuité des propos avancés par Régis Chatellier et Célia Zolynski, il souligne également la nécessité, d’une part, d’instaurer un droit régulant le design des interfaces, en s’inspirant ou en faisant évoluer le droit de la protection des données,  et, d’autre part, des incitations visant à faire évoluer les cultures d’entreprises. À cet égard, l’établissement d’un Digiscore permettrait “non seulement la notation réciproque mais aussi d’éduquer les citoyens usagers en leurs donnant une indication claire avant d’avoir recours à un opérateur”. De même, il serait, selon lui, bénéfique que les politiques publiques accompagnent et encouragent le développement de technologies alternatives soutenant l’attention et structurant le travail collectif et collaboratif. Enfin, considérant que la question de l’attention est un enjeu de société fondamental, Florian Forestier indique qu’“il serait intéressant de faire en sorte que la question de l’attention fasse l’objet d’une véritable politique culturelle pour travailler de manière plus systématique, réfléchir et mettre un cadre permettant de penser l’orientation individuelle et collective de l’attention de l’individu vers des objets”. Cette dernière proposition permettrait de passer d’une économie de l’attention à une culture de l’attention. Sur ce point, Anne Alombert souligne que cette politique culturelle doit être aussi une politique des industries culturelles, l’enjeu étant avant tout de concevoir des technologies de l’esprit permettant aux utilisateurs d’avoir des échanges symboliques et constructifs.

« Monter en compétences et en expertise sur ces enjeux pour qu’il y ait plusieurs métavers et non pas seulement un modèle imposé par un grand opérateur, avec des pratiques [...] qui ne vont ne pas aller dans le sens d’une attention jointe » Célia Zolynski, professeure de droit privé à l’Université Paris 1 Panthéon-Sorbonne

Cette première session de discussion s’est finalisée sur la question soulevée dans le public de l’attention dans le cadre encore prospectif du développement du web 3.0 et des métavers. Sur ce point, Régis Chatellier et Célia Zolynski ont mis en exergue deux principaux risques. Le premier relève de la protection des données. Comme les modes de captation des données seront augmentés, nos émotions et la manière dont nous nous mouvrons dans ce nouvel espace pourront être utilisés de manière à affiner le ciblage social. Le second risque s’attache à “l’effet casino”, où l’attention de l’utilisateur, du fait de son immersion dans un monde virtuel via un casque par exemple, pourrait être captive pour une durée plus ou moins longue, et pas nécessairement contrôlée. Un risque, selon Régis Chatellier, à modérer au regard de l’inconfort suscité par les casques oculus actuels. Il n’en demeure pas moins que ces outils vont évoluer. C’est pourquoi, Célia Zolynski souligne la nécessité de “monter en compétences et en expertise sur ces enjeux pour qu’il y ait plusieurs métavers et non pas seulement un modèle imposé par un grand opérateur, avec des pratiques [...] qui ne vont ne pas aller dans le sens d’une attention jointe”.

Pour aller plus loin

• Chatellier, R., Delcroix, G., & Hary, E. (2019). La forme des choix. Données personnelles, design et frictions désirables. CAHIERS IP INNOVATION & PROSPECTIVE N° 06. LINC. CNIL.
• Chatellier, R. (2021). Métavers : réalités virtuelles ou collectes augmentées ?. LINC. CNIL
• Chatellier, R. (2022). Métavers : ce jeu dont qui sera le héros ?. LINC.CNIL.
• Cookies : la CNIL sanctionne GOOGLE à hauteur de 150 millions d’euros et FACEBOOK à hauteur de 60 millions d’euros pour non-respect de la loi. (6 janvier 2022). CNIL
• Délibération n° 2020-092 du 17 septembre 2020 portant adoption d’une recommandation proposant des modalités pratiques de mise en conformité en cas de recours aux « cookies et autres traceurs ». (J.O. 2 octobre 2020). CNIL
• Études de cas sur les manières de mettre en œuvre les concepts clés du RGPD en fonction de divers cas d’usage. (Consultées le 31 janvier 2022). CNIL
• Forestier, F., Broadbent, S., Khamassi, M., & Zolynski, C. (2021). D'une économie de l'attention à une culture de l'attention. 15 propositions pour reprendre le contrôle de notre attention et favoriser la capacité à penser par soi.
• Zolynski, C., Le Roy, M., & Levin, F. (2019). L'économie de l'attention saisie par le droit. Dalloz IP/IT, (11), 614.

⁽¹⁾ Dans la continuité de sa mission visant à conduire une réflexion ouverte sur notre relation au numérique, Parlons-nous ! est un format de discussions ouvertes du Conseil national du numérique (CNNum) autour de ses travaux.