Une enquête du magazine américain Time révèle que les travailleurs kényans qui ont entraîné ChatGPT pour qu'il soit plus éthique ont été payés moins de 2 dollars de l'heure.
Si les grands modèles de langage sont puissants pour générer du texte qui semble écrit par un humain, leur entrainement sur des textes venant d'internet les pousse à produire des réponses irréalistes ou toxiques.
Pour éviter ce genre de travers, OpenAI, l'éditeur du chatbot, a mis en place un système de filtre de récompenses en demandant à des humains de classer des exemples de texte en leur attribuant une étiquette de « violence », « discours de haine » ou d' « abus sexuel ».
OpenAI a envoyé à une entreprise de sous-traitance kényane des dizaines de milliers d'exemples contenant des descriptions de situations violentes avec des détails d'actes pédocriminels, de bestialité, de meurtres, de suicides, de tortures et d'incestes.
Les Kényans employés par l'agence de sous-traitance Sama, basée elle-même à San Francisco, étaient payés entre 1,3 et 2 dollars de l'heure pour étiqueter ces exemples de textes violents. Le magazine a obtenu des documents de l'entreprise sous-traitante et d'OpenAI prouvant les dires de quatre employés de Sama, qui ont parlé aux journalistes sous couvert d'anonymat.
Commentaires (38)
#1
L’esclavage n’a pas été aboli?
#2
L’intelligence artificielle…. Et l’exploitation bien réelle et concrète
#3
Une bonne partie de l’IA :
https://fr.wikipedia.org/wiki/Turc_m%C3%A9canique
#4
les travailleurs kényans qui ont entraîné ChatGPT pour qu’il soit plus éthique ont été payés moins de 2 dollars de l’heure.
#5
Tout a fait. Cela étant dit, c’est cette partie qui fait la « qualité » de ChatGPT qui est vantée ces dernières semaines. Sans ce travail essentiel de finetuning, ChatGPT serait identique a beaucoup d’autres modèles de chatbot
#5.1
Non, rien…
#5.2
« go ahead, make my day »
Et soudain on tombe sur le souvenir rouge que 2 balles c’est une de trop pour Marvin dans pulp fiction.
#6
Le salaire minimum au kenya est d’environ 120€ (112 à 124 selon les sources que je trouve sur internet)
À un taux horaire de 1.6€/h (milieux entre 1.3 et 2), il leur faut 75h de travail pour atteindre le minimum, 92h si on prend 1.3€/h ou 60H si on prend 2h.
En France le minimum pour un temps plein, c’est 35h/semaine, soit 140h par mois (et on est probablement un des pays avec un nombre d’heures mensuel de travail le plus bas pour un SMIC).
Donc ça revient à payer un SMIC 2 à 3 semaines de travail dans le mois au lieu de 4. Ou de payer 30 à 50% au-dessus d’un SMIC (en France équivaux 26k à 30k annuel)
(J’ai pas lu l’article, je me base que sur les infos disponibles dans la brève
#6.1
je me posais la même question, pour une salaire américain/européen c’est limite de l’esclavage mais pour le Kenya c’est peut être un bon salaire , si t’as besoin de 100€ pour vivre dans le pays c’est raisonnable, si t’as besoin de 500€ c’est plus grave. Sans ces infos on peut pas raler.
#6.2
Oui, raisonner en valeur absolue lorsqu’on change de pays n’a pas de sens… L’article aurait pu aller un peu plus loin dans la réflexion…
#7
C’est un peu plus de 2 fois le SMIC kenyan.
#8
Pas dans la restauration ni dans les pays du Golfe.
#8.1
Pourtant c’est sympa le golf
#9
Oui, les limites sont assez simples à dépasser ou contourner pour qui sait s’y prendre
#10
Rien de neuf, et tout le monde fait semblant de redécouvrir la roue : la main d’œuvre à pas cher ça existe depuis bien longtemps et c’est industrialisé ; exemple : Amazon Mechanical Turk (date de nov 2005)
Intelligence “artificielle” à partir de 0.01$ la question…
#11
Quel est l’intérêt de cet article sans préciser le salaire minimum ou moyen Kenyan ? Voir juste les bas du front s’offusquer sans savoir si c’est bien ou mal payé pour le pays ? Parce que bon, c’est pas nouveau de sous traiter dans les pays ou la main d’oeuvre est moins chère, et je doute que les agents QA malgaches avec qui je travaille tous les jours appellent ça de l’esclavage, mais plutôt un boulot qu’ils n’auraient pas si on ne sous traitait pas (en supposant qu’ils ne soient pas payé au lance pierre pour leur pays, ça j’en sais rien).
#11.1
France TV avait pondu une mini-série de 4 épisodes sur les travailleurs invisibles : les malgaches que tu évoques sont justement le sujet de l’épisode 2, je te laisse aller voir la joie des interviewées d’avoir ce boulot qu’elle n’auraient pas si on ne sous-traitait pas : https://www.france.tv/slash/invisibles/1274813-micro-travailler-plus-pour-micro-gagner-moins.html
(les 3 autres épisodes sont intéressants aussi, y sont évoqués les modérateurs Meta, des invisibles pour Google, Apple (Siri), et aussi le cas des livreurs Deliveroo/Uber Eats)
Au delà de la question du salaire lui-même, il y a la question des conditions contractuelles qui se pose : les plateformes organisant ça payent au ras des pâquerettes ces travailleurs en ne leur offrant aucune sécurité de l’emploi ou autre avantage qui leur permettraient de considérer cet emploi comme un “bon” job.
Le choix est fait de garder au maximum ces travailleurs captifs à base de “ça pourrait être pire” alors que les salaires pourraient être doublés sans trop rogner sur les marges colossales qui sont faites sur ces tâches délocalisées… même si c’est légal, on peut légitimement trouver que c’est discutable éthiquement, le fait que ce ne soit pas nouveau n’y change rien.
Du coup, même sans connaître le coût de la vie au Kenya, voir qu’une boîte à San Francisco sous-traite à ce coût horaire suffit à comprendre qu’il y a une certaine ironie dans le fait de déléguer un travail sur l’éthique dans ces conditions… mais c’est sans doute une interprétation de bas du front.
#12
Visiblement, le salaire minimum Kenyan était de 13500 shillings kenyan, soit ~110\(, jusqu'en mai 2022 où c'est passé à 15120, soit ~122\), soit 0.80\( de l'heure en travaillant 40h/semaine. Si ces chiffres sont vrais, un salaire de 2\)/h n’a rien de scandaleux.
#12.1
Ben merci pour les précisions qui auraient du être dans la news.
D’ailleurs, si les chiffres sont exacts, cette news n’a pas lieu d’être du coup… Ou alors il y en aurait un paquet d’autres à faire…
#12.2
En fait, cette brève met le focus sur le titre de l’article du Time qui est bien plus long et qui aborde d’autres sujets que le salaire, en particulier l’aspect traumatisant (pour certains au moins) du travail.
Donc, la brève m’a permis de lire cet article qui est assez fouillé. Soyons positif.
#12.3
C’était une des mes principales réflexions: l’impact de ces “données” sur le psychisme des traitants. Le salaire venait en second, mais (en ayant lu en diagonale) ça semble leur apporter plus de richesse que de coutume (que ce soit juste ou non dans un vision mondiale)
Maintenant, je n’ai pas repéré d’info sur la pertinence de leur travail. Car si c’est juste pour dire “est-ce violent ou pas?” et que le gars répond au hasard pour augmenter son efficacité et améliorer ses gains, le système n’en retire aucun bénéfice.
#12.4
Merdalors, NXI est devenu la putaclick des autres journaux ?
#13
Après on ne sait pas combien d’heures ils bossent par semaine, mais ce n’est pas l’objet de la news, et pour que le salaire deviennent scandaleux, il faudrait un nombre d’heures lui même plus scandaleux (100+).
#13.1
Dans ce cas-là, ce n’est pas le salaire, mais les conditions de travail qui seraient scandaleuses.
Après, il faut aussi voir que ce genre de travail, c’est assez “sporadique”, si ça se trouve les 100h ils les ont faits volontairement parce qu’un travail avec ce niveau de paye et dans ce volume n’arrive peut-être pas souvent. Ils sont probablement payés à la tâche, donc une opportunité de faire 100h de travail en une semaine pour gagner presque de 2 mois de salaire minimum, ça ne se refuse pas trop. Et probablement pas parce qu’il faut que ça soit fait en une semaine, mais que s’ils ne le prennent pas, quelqu’un d’autre le fera (compétition).
#13.2
le salaire minimum kenyan est de 124€/mois.
En pratique, à 2€/h, on atteint ce niveau en 62h, ramené à la semaine ça fait des semaines de 16h. Par rapport aux standards locaux, ça semble plutôt bien payé.
Donc le salaire n’est pas scandaleux en soi - à voir les conditions de travail par ailleurs. Par contre, ils ont dû voir passer un bon paquet d’horreurs donc psychologiquement, ça n’a pas dû être simple…
#14
Je suppose que cela ne fonctionne pas comme ça. Ce n’est sans doute pas un simple “violent ou pas” mais plutôt un ensemble de critères pour caractériser la violence et son intensité. Ensuite il y a sans doute un relecteur (et un relecteur du relecteur…) qui vérifie que la travail est bien fait et/ou un échantillonnage d’articles sont traités en double et les lecteurs sont évalués par rapport à la moyenne des avis pour identifier ceux qui sont trop/pas assez intransigeants.
#15
Ce salaire reste malgré tout inférieur au salaire moyen Kényan. Et en plus les prix des biens de consommation sont inférieurs de 50% aux nôtres alors que le salaire minimum est presque 10 fois inférieur au notre.
Ne soyons pas naïfs, ils ne sont pas exploités mais cela reste quand même un revenu misérable, sans compter l’aspect psychologique de la mission.
#16
Non.
Le revenu mensuel moyen par habitant au Kenya s’élève à 146 \(, soit 1 750 \) par habitant et par an.
Source : Banque mondiale, 2019
À raison de 9 h par jour (l’article du Time parle de sessions de travail de 9 h), 1,3 \( x 9 x 22 (s'ils ne travaillent que 5 jours par semaine, ça fait 257 \) par mois pour le salaire le plus faible. Et ils avaient en plus une prime de 70 $ par mois.
J’ai du mal à comprendre les 170 $ par mois cités par le Time, ça ne fait que 131 h de travail par mois, mais même ce chiffre est supérieur au salaire moyen.
#16.1
Ce n’est pas si simple que ça. Le salaire minimum étant de 125\( (chiffre annoncé par le président l'année dernière) après une augmentation, le salaire moyen a suivi la tendance et les chiffres de 2019 sont obsolètes.
De plus si tu cherches des stats tu trouveras souvent une distinction avec ou sans Nairobi car les salaires y sont bien plus élevés et faussent la valeur moyenne à l'échelle du pays. Or cette entreprise est basée dans la capitale. Je maintiens qu'avec un peu moins de 200\) par mois, ils ne roulent pas sur l’or.
#17
C’est marrant comment la discussion tourne autour du salaire, alors qu’il faudrait plutôt se demander si c’est éthique de sous-traiter son éthique là où ça coute le moins cher possible.
Et je doute qu’il y ait des psychologues pour gérer les traumatismes des gens qui font ce boulot au Kénya.
#17.1
La fin dans le monde de l’iA c’est important. C’est donc peut-être bien de ce problème qu’il faut traiter avant d’inclure le salaire de pauvres gens.
#17.2
C’était le même problème pour la modération facebook sous-traitée chez accenture … il y a eu un reportage en caméra cachée et le journaliste a failli péter un plomb.
#17.3
Avant de douter, lis donc l’article de Time.
Quant au salaire, c’est là-dessus qu’insiste la brève, hélas.
#17.4
Je l’avais lu, mais je suis allé relire, et à part la mention qu’ils ont envoyé des extraits de la pire partie de ce qu’on trouve sur le net pour relecture au Kenya, pas de mention de psy.
#17.5
Le Time :
Le gras est de moi.
#17.6
effectivement
#18
Ah ok, bon ben ça va alors.
#18.1
Pourquoi donc faire écrire des nègres et pas directement les cliniciens habilités par leurs études à la relecture ?
« Finetuning » me parait clairement faux avec ces conditions de production. Ou bien c’est l’attente des futurs utilisateurs qui se trouve satisfaite car elle était assumée comme raciste !
M’enfin, au pays du Donald la discrimination positive ou la télévision c’est bien la même idée du boulet.