"Super puissant", "bluffant", une "révolution"… Sur les réseaux sociaux, les superlatifs ne manquent pas pour décrire ChatGPT. Cet agent conversationnel, devenu un véritable phénomène mondial, occupe régulièrement la première place des tendances Twitter avec 64 000 messages au lendemain de sa mise en ligne et près de 2,5 millions de tweets enregistrés en moins de deux mois selon Visibrain, plateforme de veille des réseaux sociaux. Le principe : poser une question ou rédiger une commande, à laquelle une intelligence artificielle répond de manière précise et articulée. Lancé en novembre 2022 par la start-up californienne OpenAI, le chatbot a rassemblé plus d’un million d’utilisateurs en moins d’une semaine selon son président Greg Brockman. Pourtant, dans l’ombre de ce succès fulgurant se cachent des salariés aux conditions de travail éprouvantes. 

C’est la conclusion d’une enquête révélée par le Time le 18 janvier dernier. A l’autre bout de la planète, des modérateurs kenyans ont passé en revue des milliers de textes violents durant plusieurs mois afin de développer le mécanisme de sécurité du chatbot. Lors de sa phase d’apprentissage, l’intelligence artificielle utilisée par ce dernier a en effet recouru à une importante base de données puisée sans filtre sur internet. En ressort des préjugés, des propos haineux ou explicites auxquels OpenAI ne souhaite pas confronter ses utilisateurs. Pour éviter que ChatGPT ne s’en fasse l’écho et apprenne à détecter ces contenus, la start-up a recouru à une entreprise sous-traitante basée au Kenya à partir de novembre 2021. 

"C'était de la torture"

Pour moins de deux dollars de l’heure, les salariés avaient pour mission de labelliser des "dizaines de milliers de bribes de texte" inappropriés explique le Time. Un travail de fourmi qui a laissé les travailleurs traumatisés. "C'était de la torture", témoigne l’un d’entre eux au magazine. Plusieurs employés ont déclaré devoir lire entre 150 et 250 passages de texte par roulement de neuf heures, certains décrivant des scènes de pédophilie, de meurtre, de torture ou encore d'inceste. Un accompagnement par des conseillers en "bien-être" leur était proposé, mais ces séances étaient rares et peu effectives selon les salariés. 

Une situation réfutée par Sama, l’entreprise sous-traitante en charge de la prestation, qui a néanmoins décidé de rompre précipitamment son contrat avec OpenAI quatre mois plus tard. Présente au Kenya, en Inde et en Ouganda, l’entreprise est spécialisée dans l’étiquetage des données pour les géants de la tech, comme Google ou Microsoft. Bien que Sama affirme fournir un "travail digne aux personnes qui en ont besoin", elle n’en est pas à son premier scandale. Le sous-traitant avait déjà été au centre d’une enquête du Time en février 2022. Le média avait alors dénoncé les conditions de travail éprouvantes des salariés, là aussi au Kenya, chargés de modérer et supprimer les contenus violents ou interdits du réseau social Facebook. 

Les controverses se multiplient

Une problématique récurrente, donc, qui ne semble toujours pas être correctement prise en compte par les entreprises du secteur. "Malgré le rôle fondamental joué par les professionnels de l'enrichissement de données, un nombre croissant de recherches révèle les conditions de travail précaires auxquelles ces travailleurs sont confrontés, commente dans l’enquête du Time le Partnership on AI, une coalition engagée dans l'utilisation responsable de l'intelligence artificielle, à laquelle appartient OpenAI.  Cela peut être le résultat des efforts déployés pour cacher la dépendance de l'IA à cette importante main-d'œuvre, lorsqu'on célèbre les gains d'efficacité de la technologie".

La critique des conditions de travail de ses sous-traitants n’est pas le seul point noir venant ébranler la startup. Accusé de biais sexistes par des chercheuses américaines, ChatGPT soulève également des inquiétudes sur une potentielle utilisation malveillante à des fins de propagande ou de complotisme, comme le souligne l’entreprise Newsgard, spécialisée dans l’analyse des sources d’information. Ces controverses n’effraient néanmoins pas les grands noms de la tech : après deux premiers investissements réalisés entre 2019 et 2021, Microsoft a annoncé lundi 23 janvier investir "plusieurs milliards de dollars" dans OpenAI, dans l’espoir de concurrencer Google et son moteur de recherche.

Florine Morestin