Concevoir sans dark patterns - Webinaire des Designers Éthiques

Designers Éthiques est une structure de recherche-action sur le numérique et les pratiques de design. L’association a pour objectif de sensibiliser les professionnels du design numérique, leur faire développer une réflexivité, les former et les outiller aux enjeux de la conception responsable. Dans la poursuite de cette mission, le collectif a publié mardi 3 octobre son nouveau guide à destination des designers : « Concevoir sans dark patterns ».

À l’occasion de ce lancement, Designers Éthiques a organisé un webinaire pour présenter le guide et échanger autour des enjeux des dark patterns. La table ronde, animée par Karl Pineau, enseignant-chercheur et co-président de l’association, réunissait : 

• Romain Badouard, maître de conférences et auteur de “Le désenchantement de l’internet” et “Les nouvelles lois du web”, 
• Estelle Hary, designer, autrice du chapitre sur les données personnelles, 
• Pierre-Yves Gosset, co-directeur de l’association Framasoft, 
• Flora Brochier, UX designer, membre de Designers Éthiques et autrice du guide, 
• Joséphine Hurstel, responsable des études au Conseil national du numérique.

Voir le replay

Des modèles économiques captologiques

Après la présentation du Guide des Designers Éthiques par Flora Brochier et Estelle Hary, Karl Pineau - avec qui nous avions déjà échangé autour du design persuasif - a modéré la table ronde. Romain Badouard est revenu sur les enjeux démocratiques qui émergent de ces interfaces et en quoi la conception de celles-ci peut affecter le rapport à l’information. Estelle Hary a, de son côté, rappelé les impératifs posés par le RGPD (règlement général sur la protection des données) et comment ce texte a modifié les interfaces des sites internet, en particulier les bandeaux de cookies. Pierre-Yves Gosset a exposé le choix de Framasoft d’un modèle économique basé sur le don et non sur la captation de données et de l’attention et comment l’association conçoit ses services pour moins solliciter l’attention des utilisateurs. 

Joséphine Hurstel a, quant à elle, présenté les travaux du Conseil autour de l’économie de l’attention et les réflexions plus actuelles qui prolongent la publication du dossier “Votre attention s’il vous plaît !” il y a un an et demi.

Ce dossier avait pour objectif de nous interroger sur des modèles économiques et les outils de « captologie » et de « design comportemental » mis en œuvre par ces modèles, au lieu d’être conçus et développés dans l’intérêt des populations, en vue de renforcer leurs capacités cognitives et d’intensifier les solidarités collectives. Les outils numériques que nous utilisons reposent en effet le plus souvent sur des mécanismes et des designs au service d’un modèle économique qui extrait une valeur marchande à partir de la captation de l’attention des utilisateurs.

Malgré cela, la responsabilité reste le plus souvent mise du côté des utilisateurs : on invite à limiter son temps d’écran parfois même en utilisant les chronomètres intégrés aux applications. 

Le règlement sur les services numériques (RSN) qui est entré en vigueur cet été apporte 5 réponses : 

• Les très grandes plateformes en ligne devront mettre en place des mesures contre les risques systémiques qu’elles présentent (comme la propagation de contenus illicites, de fausses informations ou encore les atteintes aux droits fondamentaux ou à la sécurité publique) ;
• Les opérateurs de plateformes numériques devront expliquer clairement les principaux paramètres de leurs systèmes de recommandation ;
• Les très grandes plateformes devront proposer au moins une alternative à chacun de leurs systèmes de recommandation ne reposant pas sur le profilage (par exemple un fil d’actualité chronologique et non seulement algorithmique) ;
• Les interfaces trompeuses, manipulant les utilisateurs ou altérant substantiellement leur capacité à prendre des décisions libres et éclairées seront interdites ;
• La publicité fondée sur le profilage sera interdite sur les comptes détenus par des mineurs.

On pourrait également imaginer que le design fasse partie des mesures de remédiation aux risques systémiques dont la liste non exhaustive est dressée à l’article 35 du RSN. 

Malgré tout, ces évolutions ne modifieront pas en profondeur les modèles économiques des grandes entreprises du numérique et d'autres mesures pourraient être envisagées pour nous rendre véritablement acteurs de nos usages en ligne.

Du droit au paramétrage au dégroupage des réseaux sociaux

Comment aller plus loin ? Dans son dossier sur l’économie de l’attention et dans la poursuite des travaux de Célia Zolynski, le Conseil défend l’idée de consacrer un droit au paramétrage qui permettrait aux utilisateurs de délimiter clairement leurs choix sans ingérence de la part de l’opérateur de plateforme. Ce droit pourrait concerner la recommandation et la modération de contenus ou encore la configuration de l’interface. Au-delà de l’intervention sur l’interface de la plateforme, il s’agirait de garantir l’accès à des API assurant l’existence d’applications tierces configurables, dont l’existence est aujourd’hui régulièrement menacée. 

Aujourd’hui, celles et ceux qui souhaitent paramétrer, personnaliser ou améliorer leurs expériences en ligne sont contraints de le faire de façon détournée, en contournant les contraintes des plateformes. Nolwenn Maudet donne deux exemples dans son article sur le “Design tactique” du 3e numéro de la revue Tèque: Consent-O-Matic, une extension créée pour contrer les bannières de cookies en les remplissant automatiquement à notre place en fonction de nos préférences et l’extension Amazon Killers qui remplace les boutons d’achat sur les livres proposés par Amazon par une redirection vers la librairie la Place du Livre. A noter d’autres services comme YouChoose qui propose également des modes de recommandations alternatifs à ceux de Youtube. Il ne s’agit là que de quelques exemples témoignant de l'intérêt qu’il peut y avoir à enrichir nos réseaux sociaux de fonctionnalités tierces, à la manière des plug-ins sur nos navigateurs web.

La piste de l’enrichissement et du paramétrage des réseaux sociaux amène à promouvoir le “dégroupage des réseaux sociaux”. À travers le dégroupage des réseaux sociaux et plus largement des grandes plateformes numériques, il s’agit de penser leur ouverture pour considérer chacune de leurs fonctionnalités comme étant possiblement opérée par un acteur tiers. Concrètement, cela signifie permettre à des tiers de fournir des algorithmes de recommandation, des services de modération, des applications ou des fonctionnalités alternatives à celles proposées par le réseau social, comme la recherche de messages, l’historique ou la sauvegarde de contenus. 

Cette proposition avait déjà été formulée dans le cadre des États généraux des nouvelles régulations du numérique en 2018 (ici, pp. 101 et 102) et a été étudiée pour ensuite être approfondie depuis par de nombreux chercheurs en Europe (par exemple par Maria Luisa Stasi) et aux États-Unis (lire ici par exemple pour une approche synthétique des travaux de Daphné Keller et Francis Fukuyama)

Pour y parvenir, de nombreuses questions techniques, économiques et juridiques restent à défricher. En amont, il nous faut en revanche nous départir de la vision selon laquelle les réseaux sociaux sont des services monolithiques pour les considérer comme des infrastructures composites sur lesquelles tout un chacun peut innover et exercer son libre choix. Le droit de proposer, configurer et choisir représente un horizon enrichissant pour toutes les parties concernées : plateformes, innovateurs, utilisateurs. Explorons-le !

Rendez-vous à NEC 2023 et ailleurs

L’économie de l’attention sera le thème d’un atelier co-conçu par le Conseil et Designers Éthiques lors de l’édition de NEC National 2023 à Bordeaux, vendredi 20 octobre. Pour découvrir le reste de la programmation et vous inscrire, c’est par ici. Venez nous retrouver pour en discuter et si vous souhaitez échanger, n’hésitez pas à nous écrire à info@cnnumerique.fr. 

Merci pour l’invitation et la qualité de l’échange !