Publié le 25 janvier 2023

SOCIAL

ChatGPT : derrière l'engouement, des travailleurs kenyans exploités

ChatGPT n’en finit plus de faire parler de lui. Si les prouesses de ce nouvel agent conversationnel utilisant l’intelligence artificielle concentrent l’essentiel de l’attention du public, les coulisses de sa conception sont moins reluisantes. Loin des bureaux californiens où est implantée OpenAI, la start-up à l’origine de l’outil, une main-d’œuvre peu rémunérée aux conditions de travail difficiles œuvre dans l’ombre pour limiter les dérapages du chatbot, révèle une enquête du Time.

ChatGPT chatbot intelligence artificielle florine morestin novethic
Conditions de travail, biais sexistes, utilisation malveillante... Les controverses autour de ChatGPT prennent de l'ampleur.
Florine Morestin

"Super puissant", "bluffant", une "révolution"… Sur les réseaux sociaux, les superlatifs ne manquent pas pour décrire ChatGPT. Cet agent conversationnel, devenu un véritable phénomène mondial, occupe régulièrement la première place des tendances Twitter avec 64 000 messages au lendemain de sa mise en ligne et près de 2,5 millions de tweets enregistrés en moins de deux mois selon Visibrain, plateforme de veille des réseaux sociaux. Le principe : poser une question ou rédiger une commande, à laquelle une intelligence artificielle répond de manière précise et articulée. Lancé en novembre 2022 par la start-up californienne OpenAI, le chatbot a rassemblé plus d’un million d’utilisateurs en moins d’une semaine selon son président Greg Brockman. Pourtant, dans l’ombre de ce succès fulgurant se cachent des salariés aux conditions de travail éprouvantes. 

C’est la conclusion d’une enquête révélée par le Time le 18 janvier dernier. A l’autre bout de la planète, des modérateurs kenyans ont passé en revue des milliers de textes violents durant plusieurs mois afin de développer le mécanisme de sécurité du chatbot. Lors de sa phase d’apprentissage, l’intelligence artificielle utilisée par ce dernier a en effet recouru à une importante base de données puisée sans filtre sur internet. En ressort des préjugés, des propos haineux ou explicites auxquels OpenAI ne souhaite pas confronter ses utilisateurs. Pour éviter que ChatGPT ne s’en fasse l’écho et apprenne à détecter ces contenus, la start-up a recouru à une entreprise sous-traitante basée au Kenya à partir de novembre 2021. 

"C'était de la torture"

Pour moins de deux dollars de l’heure, les salariés avaient pour mission de labelliser des "dizaines de milliers de bribes de texte" inappropriés explique le Time. Un travail de fourmi qui a laissé les travailleurs traumatisés. "C'était de la torture", témoigne l’un d’entre eux au magazine. Plusieurs employés ont déclaré devoir lire entre 150 et 250 passages de texte par roulement de neuf heures, certains décrivant des scènes de pédophilie, de meurtre, de torture ou encore d'inceste. Un accompagnement par des conseillers en "bien-être" leur était proposé, mais ces séances étaient rares et peu effectives selon les salariés. 

Une situation réfutée par Sama, l’entreprise sous-traitante en charge de la prestation, qui a néanmoins décidé de rompre précipitamment son contrat avec OpenAI quatre mois plus tard. Présente au Kenya, en Inde et en Ouganda, l’entreprise est spécialisée dans l’étiquetage des données pour les géants de la tech, comme Google ou Microsoft. Bien que Sama affirme fournir un "travail digne aux personnes qui en ont besoin", elle n’en est pas à son premier scandale. Le sous-traitant avait déjà été au centre d’une enquête du Time en février 2022. Le média avait alors dénoncé les conditions de travail éprouvantes des salariés, là aussi au Kenya, chargés de modérer et supprimer les contenus violents ou interdits du réseau social Facebook. 

Les controverses se multiplient

Une problématique récurrente, donc, qui ne semble toujours pas être correctement prise en compte par les entreprises du secteur. "Malgré le rôle fondamental joué par les professionnels de l'enrichissement de données, un nombre croissant de recherches révèle les conditions de travail précaires auxquelles ces travailleurs sont confrontés, commente dans l’enquête du Time le Partnership on AI, une coalition engagée dans l'utilisation responsable de l'intelligence artificielle, à laquelle appartient OpenAI.  Cela peut être le résultat des efforts déployés pour cacher la dépendance de l'IA à cette importante main-d'œuvre, lorsqu'on célèbre les gains d'efficacité de la technologie".

La critique des conditions de travail de ses sous-traitants n’est pas le seul point noir venant ébranler la startup. Accusé de biais sexistes par des chercheuses américaines, ChatGPT soulève également des inquiétudes sur une potentielle utilisation malveillante à des fins de propagande ou de complotisme, comme le souligne l’entreprise Newsgard, spécialisée dans l’analyse des sources d’information. Ces controverses n’effraient néanmoins pas les grands noms de la tech : après deux premiers investissements réalisés entre 2019 et 2021, Microsoft a annoncé lundi 23 janvier investir "plusieurs milliards de dollars" dans OpenAI, dans l’espoir de concurrencer Google et son moteur de recherche.

Florine Morestin


© 2023 Novethic - Tous droits réservés

‹‹ Retour à la liste des articles

Pour aller plus loin

Laurence Devillers : "Il faut intégrer le facteur humain et environnemental dans le développement de l’intelligence artificielle"

Les risques posés par le développement de l’intelligence artificielle et du numérique sont très peu débattus par les candidats à l’élection présidentielle. Éducation, climat, santé… ces technologies sont pourtant présentes dans de nombreux domaines sans qu’un débat sur leur gouvernance ne...

Google ne mettra plus son intelligence artificielle au service de l’énergie fossile

Après le secteur financier qui désinvestit les énergies fossiles, est-ce au tour de l’industrie numérique de lui tourner le dos ? Google vient d’annoncer qu’il ne développera plus d’outils d’intelligence artificielle pour des projets d’extraction de gaz et de pétrole. Une décision saluée...

Déforestation, pollutions, fuites de méthane... Les satellites au secours de l'environnement

Les progrès en intelligence artificielle ont dopé la puissance des technologies satellites, ouvrant de nombreuses perspectives pour la protection de l'environnement. Lutte contre la déforestation, détection des fuites de méthane, identification des décharges illégales... Les entreprises...

Youtube, Twitter, Facebook... La désinformation climatique sur les réseaux sociaux freine la transition écologique

Nier les impacts du changement climatique, contester la responsabilité humaine... Ces messages pullulent sans entrave sur les réseaux sociaux. Dans un nouveau rapport, Greenpeace, Les Amis de la Terre et Avaaz épinglent les géants du web comme Twitter et Facebook pour leur absence de...

SOCIAL

Conditions de travail

Santé et sécurité au travail sont deux dimensions importantes de la RSE (Responsabilité Sociale des Entreprises). Dans les usines du monde, les conditions de travail sont souvent très difficiles. Les consommateurs prennent progressivement conscience du coût humain auquel sont obtenus les produits qu’ils achètent.

ChatGPT chatbot intelligence artificielle florine morestin novethic

ChatGPT : derrière l'engouement, des travailleurs kenyans exploités

ChatGPT n’en finit plus de faire parler de lui. Si les prouesses de ce nouvel agent conversationnel utilisant l’intelligence artificielle concentrent l’essentiel de l’attention du public, les coulisses de sa conception sont moins reluisantes. Loin des bureaux californiens où est implantée OpenAI, la...

SNCF decembre 2022 greve STEPHANE DE SAKUTINAFP

La grève des contrôleurs de train illustre la nouvelle typologie des mouvements sociaux

Les contrôleurs de la SNCF se sont mobilisés sur une page Facebook, à la manière des Gilets jaunes. S’ils ont profité du cadre juridique du préavis de grève déposé par les organisations syndicales, leur mouvement a pourtant débordé les représentants du personnel. Ces collectifs qui se mobilisent sur...

Manifestation vie chere royaume uni NIKLAS HALLE N AFP

En 2022, le retour de l’inflation réveille des mouvements sociaux partout en Europe

Certains décident de refuser de payer leur facture énergétique, d’autres demandent des augmentations de salaires… Le retour de l’inflation en Europe en 2022, après des années de stabilité, pèse lourdement sur les plus vulnérables. Les citoyens européens sont descendus dans la rue depuis l’été pour...

Greve Royaume Uni soutient Royal Mail Londres 9dec2022 Daniel Leal AFP

Royaume-Uni : de nouveaux mouvements sociaux contre la vie chère

Le ton se durcit au Royaume-Uni. Plusieurs organisations syndicales ont appelé à la grève d’ici la fin du mois de décembre, à commencer par les cheminots depuis le 12. Ils seront rejoints par les postiers, les infirmières, les ambulanciers, ou encore les douaniers. Ils protestent contre la forte...