ASDN #45 – 5 questions à Anne Alombert, autrice de Schizophrénie numérique

Votre livre Schizophrénie numérique transmet la pensée de nombreux philosophes : Platon, Emmanuel Kant, Gunther Anders, Theodor Adorno, Bernard Stiegler… Que nous enseignent-ils ?

Tous ces philosophes nous enseignent des choses très différentes, qu’il serait impossible de résumer ici et que je résume d’ailleurs très allusivement dans le livre. Je tenais néanmoins à les mentionner, pour montrer que, si elles soulèvent des enjeux inédits, les mutations que nous vivons aujourd’hui peuvent néanmoins être mieux comprises si on les appréhende dans l’histoire longue des évolutions des « technologies de l’esprit » ou des supports de mémoire. Ainsi, les réflexions de Platon au sujet de l’écriture, de Kant au sujet du livre, de Anders au sujet de la photographie, de Adorno au sujet du cinéma ou de Stiegler au sujet de la télévision et du numérique, s’intéressent aux effets de ces dispositifs sur nos capacités psychiques (souvenir, mémoire, perception, réflexion, imagination, désirs) et à leurs enjeux politiques.

Selon vous, notre époque semble souffrir d’une véritable « schizophrénie numérique ». Qu’entendez-vous par là ?

Une telle alternative entre anthropomorphisation des machines et condamnation des écrans ne peut plus suffire aujourd’hui : il est nécessaire de la dépasser pour se demander comment mettre les technologies numériques au service de l’intelligence collective.

À travers l’expression de « schizophrénie numérique », j’entendais souligner un tiraillement ou un écart entre deux types de discours contradictoires qui traversent l’époque contemporaine : le premier type de discours, largement répandu par les transhumanistes, attribue aux « machines » toute sorte de capacités mentales ou psychiques (on parle ainsi d’intelligence artificielle ou d’apprentissage automatique, et on se demande même parfois si les IA pourront prendre conscience d’elles-mêmes), alors que le second type de discours souligne les effets nocifs des dispositifs numériques pour ces mêmes capacités (surcharge informationnelle, perte de mémoire et d’attention, troubles du sommeil). Je ne les mets pas pour autant sur le même plan : le premier relève de l’idéologie alors que le second se fonde sur des études scientifiques. Néanmoins, une telle alternative entre anthropomorphisation des machines et condamnation des écrans ne peut plus suffire aujourd’hui : il est nécessaire de la dépasser pour se demander comment mettre les technologies numériques au service de l’intelligence collective.

En quoi les “technologies numériques persuasives” constituent-elles une menace pour la liberté de l’esprit ?

Les technologies numériques persuasives ont été conçues dans des laboratoires de recherche des entreprises et des universités de la Silicon Valley sur la base d’une nouvelle perspective technoscientifique : la captologie, qui constitue un agencement entre neurosciences, sciences cognitives, psychologie comportementale, design et informatique, afin de concevoir des technologies susceptibles d’influencer les comportements et les conduites des utilisateurs. Les fonctionnalités et les interfaces sont alors développées pour capter les attentions, renforcer des habitudes comportementales et provoquer des réactions-réflexes en stimulant directement des processus cérébraux (comme la sécrétion de dopamine, neurotransmetteur responsable de la sensation de plaisir). Dès lors, les facultés de réflexion, d’interprétation, de décision, d’invention, constitutives de la vie de l’esprit, sont court-circuitées : elles n’ont plus le temps de s’exercer.

Dès lors, comment faire pour se prémunir de leur emprise ?

Il est possible d’instaurer des disciplines au niveau individuel pour tenter de réduire ses vulnérabilités à ces dispositifs, en se ménageant des espaces-temps de déconnexion par exemple, ou bien en utilisant des technologies alternatives qui ne fonctionnent pas sur la base de l’économie des données ou de l’économie de l’attention. Mais, comme nous l’avions aussi souligné dans le rapport sur l’économie de l’attention publié avec le Conseil national du numérique, les réponses à ces enjeux doivent aussi, voire surtout, être pensées à un niveau collectif, à la fois politique, juridique, technologique et éducatif. Un certain nombre de design trompeurs, qui manipulent les utilisateurs jusqu’à l’infraconscient au profit des géants du numérique, pourraient être interdits. À l’inverse, les technologies qui permettent l’exercice des facultés d’interprétation ou de délibération ou encore le partage des savoirs ou les solidarités locales pourraient être soutenues politiquement et financièrement. Enfin, au XXIème siècle, ces questions méritent désormais d’être intégrées aux programmes d’éducation et d’enseignement, afin de sensibiliser les jeunes générations aux risques, mais aussi de concevoir et d’expérimenter avec elles des dispositifs alternatifs.

Pourquoi et comment faut-il selon vous œuvrer pour des technologies contributives au service d’une économie des savoirs partagés ? Quelles sont les conditions sine qua non à ce changement de paradigme ?

Une véritable volonté politique d’orienter les « innovations » technologiques en vue de la cohésion et de l’évolution des sociétés et non du profit à très court terme de quelques acteurs hégémoniques.

Le problème de l’économie des données et des technologies persuasives est qu’elles ne sont pas soutenables : ni sur un plan écologique (par exemple, le stockage des données est très coûteux énergétiquement, de même que l’entraînement des IA génératives), ni sur un plan mental (par exemple, des fonctionnalités comme le défilement infini ou les notifications engendrent des troubles dans l’attention ou la concentration), ni sur un plan social (par exemple, les réseaux sociaux fondés sur la quantification des vues renforcent les comportements individualistes et concurrentiels ainsi que la diffusion des fausses informations). L’enjeu consiste donc à inverser cette tendance auto-destructrice en soutenant des technologies qui permettent le partage des savoirs et la production de communs, et surtout, qui sont adaptées aux besoins des habitants et des localités (et qui ne constituent donc pas des systèmes planétaires et standardisés). Cette contre-tendance pourrait se déployer sous la forme de projets de recherches-actions ou de recherches contributives associant chercheurs, industriels, acteurs économiques, associations, habitants, dans la conception et l’expérimentation de technologies au service de leurs intérêts singuliers. Les conditions nécessaires pour un tel changement de paradigme reposent sans doute dans le développement d’une nouvelle compréhension des enjeux anthropologiques de la mutation numérique, souvent encore mal considérés (à travers de fausses alternatives du type optimisme/pessimisme, technophilie/technophobie, progressisme/réactivité, etc.). Un tel changement suppose aussi, sans doute, une véritable volonté politique d’orienter les « innovations » technologiques en vue de la cohésion et de l’évolution des sociétés et non du profit à très court terme de quelques acteurs hégémoniques.

La rencontre est également à revisionner sous format vidéo ici.

L’échange est à revisionner ici