L’humain derrière l’IA. Échange avec Clément Le Ludec et Maxime Cornet
Quelle est la place du travail externalisé dans la chaîne de valeur de l’intelligence artificielle ? Échange avec Clément Le Ludec et Maxime Cornet, chercheurs au sein du projet "The Human Supply Chain behind smart technologies" (HUSH).
Vos travaux montrent que le travail humain demeure essentiel aussi bien pour le développement des systèmes d'intelligence artificielle qu'une fois ceux-ci diffusés. Alors que les spéculations vont bon train, qu'en est-il réellement ?
Maxime Cornet (MC) : L’entraînement des modèles d’intelligence artificielle (IA) ne représente qu’une petite partie de la chaîne de production de l’IA. Des quantités importantes de données de bonne qualité sont nécessaires à l’entraînement des modèles afin que ceux-ci soient performants. La production de ces jeux de données s’appuie énormément sur du travail d'annotation, souvent réalisé - en ce qui concerne les IA françaises et francophones - par des travailleurs en Afrique. Dans le cadre de notre recherche, nous nous sommes intéressés à l’externalisation de ce travail d’annotation des données par des entreprises françaises de l’IA à Madagascar. Il peut s’agir de la saisie de données en ligne, du travail d’annotation d’images, de modération des contenus en ligne, de visionnage de caméras de surveillance situées en France, etc. En soi : un travail essentiel.
Clément Le Ludec (CLL) : Le débat actuel est particulièrement vif autour d’une possible disparition du travail humain face à l’avènement de l’IA générative. Toutefois, ces analyses ne prennent pas forcément en compte toute la production scientifique en sociologie du travail depuis 70 ans qui, même dans le secteur industriel au moment de la robotisation, pointe beaucoup de limites quant au risque de disparition de l’emploi. Deux aspects me semblent particulièrement pertinents. Tout d’abord la configuration institutionnelle des pays concernés. Par exemple, la forte présence des syndicats peut limiter les logiques d’automatisation et les encadrer[1] .
Ensuite, la composition des tâches est aussi à considérer. On lit souvent que si un emploi est composé de tâches routinières, il aura davantage de chance d’être automatisé. Il s’agit d’un présupposé discutable et discuté, s'appuyant sur des classifications de l’emploi qui existent pour des statistiques publiques notamment et qui tentent d’avoir une approche standardisée. Mais cela ne veut pas dire qu’il n’y a pas d’autres tâches réalisées en pratique. C’est toute la différence entre le travail prescrit et le travail réel. Autour de nos métiers gravite une multitude d’autres tâches comme les relations interpersonnelles, les échanges, la formation entre collègues… Cette variable n’est pas forcément prise en compte dans ces travaux alors qu’il s’agit d’une part essentielle du travail et de la qualité du travail, qui ne peut être automatisée.
MC : J’ajouterais également que lorsque l’on parle d’IA commerciale, les entreprises vendent un service et non pas le modèle en lui-même. Elles ont donc besoin d’avoir une chaîne de production stable pour délivrer un service constant et de qualité, ce qui implique nécessairement du travail humain. Par exemple, si un modèle d’IA est fiable à 90%, cela veut dire qu’un humain doit intervenir pour éviter la marge d’erreur restante. De la même façon, lors du déploiement de ces modèles sur de nouveaux cas d’étude, il y a nécessairement une phase d’adaptation qui nécessite, elle aussi, l’intervention de l’humain pour orienter voire former les utilisateurs et pour intervenir si le modèle dysfonctionne. C’est par exemple le cas avec les caisses automatiques. Alors qu’auparavant les caissières avaient une fonction d’encaissement direct des clients, elles ont aujourd’hui davantage un rôle d’accompagnement du client qui s’encaisse lui-même. Ainsi, on observe plutôt une transformation des métiers en France qui s’accompagne d’une apparition de métiers à Madagascar. Les transformations seront donc plutôt qualitatives que quantitatives. Plus que le passage du tout humain au tout automatique, il s’agit d’un continuum avec des intensités variables selon les situations.
Y a-t-il un profil-type des travailleurs de l’IA à Madagascar ? Comment sont-ils formés, comment perçoivent-ils leur activité et comment sont-ils perçus par les entreprises françaises qui recourent à leur travail ?
La plupart du temps ce travail d’annotation est vécu comme un travail alimentaire. Ils se sentent également fréquemment invisibilisés par les entreprises
MC : Il est toujours difficile de dessiner un profil-type. Toutefois, nous avons observé qu’il s’agit en majorité d'hommes (la part est d’environ 60 % d’hommes et 40 % de femmes), jeunes, qui vivent en zones urbaines et qui ont fait des études supérieures. Ce dernier point va à l’encontre des stéréotypes qui entourent ces travailleurs. En réalité, il faut une certaine littératie numérique pour exercer cette activité. Il faut également maîtriser la langue française pour interagir avec le donneur d’ordre et ne pas avoir besoin de traduction des consignes. Il faut parfois maîtriser également l’anglais. Cette catégorie de la population se tourne aussi vers ces activités parce que le marché du travail malgache peine à leur offrir des opportunités professionnelles.
CLL : Pour réaliser leur travail d’annotation de données, ces travailleurs suivent une formation de quelques semaines, principalement sur le fonctionnement des outils qu’ils seront amenés à utiliser. Ce socle de base est ensuite complété au cas par cas, en fonction des projets, si cela est nécessaire. En revanche, ils ne sont pas, ou très peu, formés aux risques que peut impliquer cette activité et à la sécurité des données.
Ce manque de formation s’accompagne d’un manque d’information quant à la nature de leur travail et son importance pour la société française commanditaire. Nous avons pu observer que de nombreux travailleurs devaient deviner les finalités de leur travail. Cela peut affecter la qualité et la précision de leur travail, mais cela les place aussi et surtout dans une situation de quête de sens au travail. Bien qu’on ne leur explique pas précisément l’algorithme qu’ils contribuent à entraîner, il leur est souvent répété que s’ils font des erreurs, c’est problématique et cela pourrait conduire au licenciement : le mot d'aliénation prend tout son sens ici.
Si certains travailleurs nous ont indiqué être heureux de faire partie de la transformation sociétale et économique induite par le numérique, il ne s’agit pas de la majorité des cas : la plupart du temps ce travail d’annotation est vécu comme un travail alimentaire. Ils se sentent également fréquemment invisibilisés par les entreprises faisant appel à leurs services qui pointent souvent l’efficacité de son système d’IA sans mentionner le travail malgache derrière.
MC : Les entreprises françaises de l’IA portent, de leur côté, un regard ambivalent sur les travailleurs malgaches employés pour l’annotation des données. D’un côté, elles perçoivent ce travail comme essentiel pour la production de modèles d’IA. D’un autre côté, elles le considèrent comme du travail à faible valeur ajoutée qui peut être externalisé à des travailleurs faiblement qualifiés. Cela montre un écart de perception entre ce que ces entreprises projettent et la réalité du terrain.
Un syndicat des travailleurs de l’IA s’est récemment formé[2] au Kenya. Observe-t-on le même mouvement à Madagascar ?
Ces syndicats africains auraient tout intérêt à prendre attache avec des syndicats français, afin de favoriser le dialogue intersyndical et de permettre l’émergence d’une régulation transnationale de l’IA.
CLL : Si ce mouvement de syndicalisation a pris forme sur le continent africain, nous n’avons, pour l’instant, pas observé de dynamique similaire à Madagascar. Cela tient principalement au fait que le syndicalisme n’est pas une habitude sur l’île : il existe une grande précarité et les travailleurs ont souvent des contrats informels. À cela s’ajoute la faiblesse du cadre règlementaire malgache en la matière. Par contre, il existe un syndicat patronal des responsables des ressources humaines du secteur de l’externalisation de l’IA sur l’île.
MC : Ce mouvement est néanmoins une très bonne nouvelle. Ces syndicats africains auraient tout intérêt à prendre attache avec des syndicats français, afin de favoriser le dialogue intersyndical et de permettre l’émergence d’une régulation transnationale de l’IA.
De quelle régulation de l’intelligence artificielle avons-nous besoin ?
MC : La première chose dont nous avons besoin est davantage de transparence et de traçabilité dans les chaînes de production, afin de pouvoir établir clairement les responsabilités de chaque partie prenante. Aujourd’hui, il est fréquent que la sous-traitance se fasse en cascade : les travailleurs à Madagascar sont embauchés par une entité qui elle-même est prestataire d’une entreprise française. Au final, les entreprises ne voient plus clairement qui entraîne quelle donnée et les travailleurs ne savent plus pour qui ils travaillent. Les entreprises ne sont parfois même pas au courant du recours à des sous-traitants alors que cela entraîne des enjeux forts en termes de sécurité, de conformité, de respect de la vie privée et d’encadrement du travail. Et plus on ajoute de maillons à cette chaîne, plus il est difficile d’avoir de la visibilité. Sans même parler des enjeux liés aux valeurs de l’entreprise.
CLL : Ce manque de traçabilité est un enjeu d’éthique et de reconnaissance du travail effectué. Nous avons pu observer une certaine agentivité[3] des travailleurs. Ils ont souvent une importante liberté dans la prise de décision quant à l’annotation qu’ils effectuent, alors que celle-ci a des conséquences très concrètes sur les services - par exemple en matière de modération des contenus ou de biais algorithmiques. Nous avons aussi constaté que les travailleurs vont parfois au-delà du travail d’annotation demandé, par exemple en faisant remonter des points d’alerte quant à ce qu’ils observent empiriquement dans les jeux de données dont les entreprises commanditaires ne sont pas nécessairement conscientes. On touche donc à la matière même de ce que l’IA est censée faire in fine et à la façon dont les travailleurs y participent. Il faut donc davantage visibiliser et reconnaître ce travail indispensable au niveau du grand public, bien sûr, mais d’abord au niveau des entreprises qui font appel à ces travailleurs.
Le Règlement établissant des règles harmonisées concernant l’intelligence artificielle (AI Act), actuellement en négociation par les institutions européennes, devrait être revu pour mieux intégrer ces enjeux. On pourrait notamment envisager la désignation d’un “responsable de l’IA éthique et transparente” au sein des entreprises de l’IA. À la manière du Data Protection Officer (employé chargé d’assurer la protection des données personnelles traitées par un organisme) consacré par le RGPD, ce responsable serait chargé d’assurer la transparence sur la chaîne de production de l’IA et la maîtrise des différentes chaînes de production, au service d’une IA éthique.
À propos de Clément Le Ludec et Maxime Cornet
Clément Le Ludec et Maxime Cornet sont doctorants chercheurs en sociologie à Télécom Paris et à l’Institut Polytechnique de Paris, rattaché au département Sciences économiques et sociales et à l’Institut Interdisciplinaire de l’Innovation (i3). Leurs travaux sont également présentés ici et à retrouver sur le site du DipLab.
[1] Voir notamment : Krzywdzinski, M. (2022, décembre). Toward a Socioeconomic Company-Level Theory of Automation at Work. Weizenbaum Journal of the Digital Society
[2] Au Kenya, des sous-traitants de l’intelligence artificielle créent le premier syndicat africain des modérateurs de contenu (lemonde.fr)
[3] Ce terme utilisé en sciences humaines et sociales correspond à la traduction du terme anglais « agency » correspond à la faculté d’un être à prendre des décisions et à agir sur ce qui l’entoure.
