L\u2019histoire commence en mai 2022 au Kenya : Daniel Motaung, un ancien mod\u00e9rateur de contenu de la soci\u00e9t\u00e9 locale Samasource Ltd d\u00e9pose alors une plainte (petition en anglais) contre ses dirigeants, ainsi que leurs donneurs d\u2019ordre, de nombreux g\u00e9ants du web, dont Meta (la soci\u00e9t\u00e9 m\u00e8re de Facebook).<\/p>\n
Dans cette plainte, Daniel Motaung accuse Sama et Meta de traite d\u2019\u00eatres humains, de d\u00e9mant\u00e8lement de syndicats et de ne pas fournir un soutien ad\u00e9quat en mati\u00e8re de sant\u00e9 mentale.<\/p>\n
Sama \u2013 leader dans le domaine de l\u2019annotation \u2013 emploie des \u00ab \u00e9tiqueteurs \u00bb, qui ont pour mission de visionner et de taguer des contenus tr\u00e8s \u00e9clectiques, souvent consternants, parfois extr\u00eamement violents, provenant de divers r\u00e9seaux sociaux et d\u2019internet. L\u2019objectif : mod\u00e9rer les contenus sur les r\u00e9seaux sociaux et fournir des bases de donn\u00e9es \u00e9quilibr\u00e9es pour l\u2019apprentissage des intelligences artificielles.<\/p>\n
Neuf mois, plus tard, le 6 f\u00e9vrier 2023, une premi\u00e8re d\u00e9cision historique a \u00e9t\u00e9 rendue par le juge k\u00e9nyan Jakob Gakeri : ce dernier a statu\u00e9 sur le fait que les cours k\u00e9nyanes \u00e9taient comp\u00e9tentes pour juger des soci\u00e9t\u00e9s \u00e9trang\u00e8res dont des filiales se trouvent au Kenya, ainsi que la responsabilit\u00e9 des donneurs d\u2019ordre. La proc\u00e9dure est en cours pour de nouvelles audiences.<\/p>\n
C\u2019est la premi\u00e8re fois qu\u2019une telle affaire est jug\u00e9e dans les pays o\u00f9 vivent ces \u00ab for\u00e7ats du num\u00e9rique \u00bb, et que le jugement se fait selon les termes de la plainte d\u00e9pos\u00e9e. Une fa\u00e7on d\u2019exposer \u00e0 la plan\u00e8te enti\u00e8re les co\u00fbts humains du num\u00e9rique.<\/p>\n
Les termes de la plainte
\nSama fait ainsi travailler des milliers d\u2019op\u00e9rateurs venant de toute l\u2019Afrique subsaharienne pour mod\u00e9rer et \u00e9tiqueter des contenus des g\u00e9ants du web comme Meta, Microsoft et OpenAI (la soci\u00e9t\u00e9 \u00e0 l\u2019origine de ChatGPT) dans le cadre de \u00ab partenariats d\u2019externalisation \u00bb. Cette derni\u00e8re a d\u2019ailleurs confirm\u00e9 que les employ\u00e9s de Sama l\u2019avaient aid\u00e9 \u00e0 filtrer certains contenus toxiques.<\/p>\n
Le juge a ent\u00e9rin\u00e9 les termes de la p\u00e9tition sur la violation des droits constitutionnels de ces op\u00e9rateurs, et d\u00e9nonce ainsi les conditions mat\u00e9rielles et psychologiques d\u00e9plorables dans lesquelles ils travaillent.<\/p>\n
Avec cette d\u00e9cision, le juge a aussi retenu le bien-fond\u00e9 des termes de la demande qui, \u00e9laborant sur les salaires insuffisants pour vivre d\u00e9cemment \u00e0 Nairobi, sur la d\u00e9tresse psychologique des salari\u00e9s (le demandeur souffrant de troubles du stress post-traumatique \u2013 selon ses conseils) et sur la d\u00e9finition du Haut-Commissariat des Nations unies aux Droits de l\u2019Homme (HCDH), soutenait que la situation v\u00e9cue par les \u00e9tiqueteurs pouvait \u00eatre qualifi\u00e9e d\u2019exploitation en vue d\u2019un gain \u00e9conomique, en d\u2019autres termes, de \u00ab traite d\u2019\u00eatres humains \u00bb\u2026 d\u2019autant plus que les soutiens psychologiques contractuellement annonc\u00e9s n\u2019auraient jamais \u00e9t\u00e9 mis en \u0153uvre (\u00e0 nouveau, selon les attendus de la p\u00e9tition et les termes des conseils du demandeur).<\/p>\n
Meta a tent\u00e9 de faire appel de cette d\u00e9cision du juge Gakeri afin d\u2019\u00e9viter le proc\u00e8s, sans succ\u00e8s. De plus, suite \u00e0 cette d\u00e9cision du juge Gakeri, le contrat de Sama avec Meta a \u00e9t\u00e9 annul\u00e9, et le repreneur, Majorel, aurait essay\u00e9 de blacklister les \u00e9tiqueteurs de Sama. Deux cent d\u2019entre eux ont port\u00e9 plainte contre Meta et Sama pour licenciement abusif, dans une autre proc\u00e9dure.<\/p>\n
Apprentissage des syst\u00e8mes d\u2019IA
\nCette d\u00e9cision du juge Gakeri \u2013 et les suivantes \u2013 pourrait avoir un impact majeur sur les services de mod\u00e9ration port\u00e9s par les grandes plates-formes Internet, en particulier celles qui utilisent l\u2019intelligence artificielle.<\/p>\n
En effet, l\u2019\u00e9tiquetage pr\u00e9cis des donn\u00e9es est essentiel pour que les algorithmes d\u2019intelligence artificielle puissent apprendre et arbitrer correctement leurs r\u00e9sultats : par exemple, si une image est \u00e9tiquet\u00e9e \u00ab route \u00bb alors qu\u2019il s\u2019agit d\u2019un mur, l\u2019IA \u00e9quipant une voiture autonome pourrait se tromper et provoquer un accident.<\/p>\n
L\u2019\u00e9tiquetage des donn\u00e9es consiste \u00e0 fournir des informations pour aider les machines \u00e0 apprendre \u00e0 partir de donn\u00e9es brutes comme des images, des fichiers texte et des vid\u00e9os. Cependant, diff\u00e9rents types d\u2019apprentissages existent (supervis\u00e9, semi-supervis\u00e9, par renforcement\u2026) et on a besoin de plus ou moins de donn\u00e9es en fonction de l\u2019exp\u00e9rience utilisateur escompt\u00e9e.<\/p>\n
Source de valeur pour les acteurs du num\u00e9rique
\nCes informations viennent des bases de donn\u00e9es constitu\u00e9es par les g\u00e9ants du net lors d\u2019op\u00e9rations d\u2019\u00e9tiquetage et de mod\u00e9ration des contenus. Celles-ci sont cens\u00e9es pr\u00e9venir et prot\u00e9ger tous les individus d\u2019un acc\u00e8s non d\u00e9sir\u00e9 \u00e0 certaines donn\u00e9es \u2013 comme une vid\u00e9o de d\u00e9capitation par exemple \u2013 en cr\u00e9ant et compl\u00e9tant les m\u00e9tadonn\u00e9es, des donn\u00e9es qui informent sur le contenu du fichier associ\u00e9. Cette m\u00e9thodologie a permis la cr\u00e9ation d\u2019immenses bases de m\u00e9tadonn\u00e9es, inform\u00e9es \u2013 et informant \u2013 en temps r\u00e9el de la nature des contenus transitant par les r\u00e9seaux.<\/p>\n
Les m\u00e9tadonn\u00e9es font le lien entre contenu et information, ce qui a permis de r\u00e9nover le mod\u00e8le \u00e9conomique des acteurs du web et des r\u00e9seaux, qui ont r\u00e9alis\u00e9 la valeur de ces m\u00e9tadonn\u00e9es. En effet, celles-ci peuvent servir \u00e0 entra\u00eener certains algorithmes d\u2019intelligence artificielle : ce n\u2019est pas un hasard si Facebook a chang\u00e9 son nom pour Meta. Les co\u00fbts de la mod\u00e9ration sont colossaux, car pour que les algorithmes de mod\u00e9ration soient pr\u00e9cis et efficaces, les donn\u00e9es doivent \u00eatre soigneusement contr\u00f4l\u00e9es et d\u00e9crites \u2013 une t\u00e2che qui n\u00e9cessite une analyse de haute qualit\u00e9 et donc on\u00e9reuse \u2013 et ce d\u2019autant plus qu\u2019elle doit faire l\u2019objet de validations multiples afin d\u2019\u00e9viter les biais des \u00e9tiqueteurs.<\/p>\n
Sous r\u00e9serve de maintenir la qualit\u00e9, ces co\u00fbts se sont donc transform\u00e9s en valeur pour les g\u00e9ants du net. En effet, un algorithme mal entra\u00een\u00e9 peut rapidement devenir toxique, biais\u00e9 ou m\u00eame produire des hallucinations (c\u2019est-\u00e0-dire cr\u00e9ant des r\u00e9sultats qui ne correspondent \u00e0 aucune donn\u00e9e sur laquelle l\u2019algorithme a \u00e9t\u00e9 entra\u00een\u00e9, ou qui ne suivent aucun autre mod\u00e8le discernable). Ceci d\u00e9t\u00e9riore la confiance dans les contenus, ce qui affecte l\u2019audience et donc l\u2019int\u00e9r\u00eat des annonceurs.<\/p>\n
Du c\u00f4t\u00e9 des algorithmes d\u2019apprentissage des syst\u00e8mes d\u2019IA, comme leur cr\u00e9dibilit\u00e9 est avant tout fond\u00e9e sur la capacit\u00e9 \u00e0 fournir des r\u00e9ponses plausibles et pr\u00e9cises, une t\u00e2che impossible sans donn\u00e9es bien \u00e9tiquet\u00e9es.<\/p>\n
Pour ces diff\u00e9rentes raisons, une bonne qualit\u00e9 d\u2019\u00e9tiquetage n\u00e9cessite un grand nombre d\u2019\u00e9tiqueteurs. En d\u2019autres termes, cette industrie est \u00e0 forte intensit\u00e9 de main-d\u2019\u0153uvre\u2026 d\u2019autant qu\u2019au moins 10 % \u00e0 15 % des donn\u00e9es cr\u00e9es chaque jour sont nouvelles et uniques.<\/p>\n
Quel mod\u00e8le \u00e9conomique pour l\u2019\u00e9tiquetage ?
\nLes industriels cherchent \u00e0 trouver un \u00e9quilibre entre la n\u00e9cessit\u00e9 d\u2019innover et le co\u00fbt de cette innovation. Par exemple, le fonctionnement de ChatGPT co\u00fbte 700 000 dollars par jour sans am\u00e9lioration des mod\u00e8les, alors que pour encourager l\u2019adoption d\u2019un outil num\u00e9rique, on consid\u00e8re g\u00e9n\u00e9ralement que le prix doit \u00eatre mod\u00e9r\u00e9 pour l\u2019utilisateur (environ 20 euros par mois pour ChatGPT + par exemple).<\/p>\n
Les co\u00fbts de main-d\u2019\u0153uvre (d\u2019\u00e9tiquetage) repr\u00e9sentent une grande partie des d\u00e9penses dans ce secteur. Dans une approche un peu obsol\u00e8te de la division du travail et de r\u00e9duction des co\u00fbts, l\u2019\u00e9tiquetage a donc \u00e9t\u00e9 sous-trait\u00e9 \u00e0 des acteurs sp\u00e9cialistes comme Sama aux \u00c9tats-Unis ou Majorel au Luxembourg, qui disposent de filiales au Kenya.<\/p>\n
Ce travail implique une exposition continue \u00e0 des images, des sons, des contenus parfois insoutenables. Dans le cas Sama, il a \u00e9t\u00e9 r\u00e9mun\u00e9r\u00e9 \u00e0 hauteur de 1,5 euro de l\u2019heure apr\u00e8s imp\u00f4ts \u2013 soit moins de la moiti\u00e9 du salaire moyen dans le secteur informatique kenyan qui est \u00e0 4,3 euros de l\u2019heure.<\/p>\n
Ce sont les conditions de cette sous-traitance qui sont \u00e0 l\u2019origine de la d\u00e9cision du Juge Gakeri.<\/p>\n
Les impacts des d\u00e9cisions des juges
\nL\u2019originalit\u00e9 de cette lecture juridique tient au fait qu\u2019elle bat en br\u00e8che la strat\u00e9gie usuelle des entreprises du secteur des technologies de l\u2019information, qui sont de fait des entreprises de main-d\u2019\u0153uvre, mais qui refusent d\u2019\u00eatre qualifi\u00e9es comme telles et dissimulent leurs importants besoins humains derri\u00e8re une cha\u00eene de sous-traitants \u2013 bien loin des productions sans humains fantasm\u00e9es \u00e0 la fin du XX\u1d49 si\u00e8cle.<\/p>\n
Cette pratique constitue un non-sens \u00e9conomique, puisque c\u2019est la connaissance, la ma\u00eetrise sur toutes leurs phases des processus productifs et leur optimisation qui permettent la consolidation des marges et la p\u00e9rennisation des mod\u00e8les concern\u00e9s.<\/p>\n
Peut-\u00eatre que la position du juge Gakeri apportera aux multinationales du web une aide pr\u00e9cieuse en mati\u00e8re d\u2019am\u00e9lioration de leur rentabilit\u00e9 et de leur mod\u00e8le \u00e9conomique. Toujours est-il que d\u00e9sormais, le donneur d\u2019ordre sera autant responsable et justiciable que son prestataire en mati\u00e8re de conditions de travail, voire davantage.<\/p>\n
On scrute aujourd\u2019hui l\u2019impact environnemental d\u2019une structure dans toutes ses ramifications plan\u00e9taires. \u00c9valuera-t-on demain la responsabilit\u00e9 sociale des entreprises de la m\u00eame mani\u00e8re, en consid\u00e9rant le processus de production des technologies de l\u2019information comme un tout mondialis\u00e9 ?<\/p>\n
Une \u00e9thique des processus ?
\nL\u2019usage des technologies d\u2019intelligence artificielle soul\u00e8ve d\u00e9j\u00e0 des questions \u00e9thiques, par exemple celle d\u2019utiliser ou non la d\u00e9cision algorithmique pour \u00e9tablir des demandes de remboursement de prestations sociales.<\/p>\n
On voit d\u00e9sormais \u00e9merger le besoin imp\u00e9rieux d\u2019une \u00e9thique de la production des syst\u00e8mes d\u2019intelligence artificielle, car ici l\u2019absence d\u2019\u00e9thique sanctionne en temps r\u00e9el la qualit\u00e9 et la confiance que l\u2019on peut avoir dans les algorithmes produits. Si un algorithme mal entra\u00een\u00e9 peut demain faire d\u00e9railler un train ou une cha\u00eene de production, la qualit\u00e9 de l\u2019annotation devient non n\u00e9gociable \u2013 et cette activit\u00e9 demande mieux et plus que les conditions constat\u00e9es au Kenya.<\/p>\n
Le proc\u00e8s en cours depuis mars (puisque le juge a valid\u00e9 la comp\u00e9tence des cours k\u00e9nyanes dans ce domaine) changera peut-\u00eatre la donne. D\u2019autres secteurs confront\u00e9s \u00e0 ces probl\u00e9matiques, la mode par exemple, ont am\u00e9lior\u00e9 leurs pratiques, la transparence de leurs fournisseurs et de leurs m\u00e9thodologies de productions, notamment du fait d\u2019op\u00e9rations massives de \u00ab Name and shame \u00bb par la soci\u00e9t\u00e9 civile, qui ont amen\u00e9 progressivement des utilisateurs finaux \u00e0 se d\u00e9tourner des marques non vertueuses (sans pour autant que ces derni\u00e8res ne le deviennent toutes).<\/p>\n
Il n\u2019est pas certain que, dans le domaine des technologies de l\u2019information et d\u2019intelligence artificielle, l\u2019utilisateur final puisse effectuer ce type d\u2019arbitrage, car ceux-ci deviennent de plus en plus partie int\u00e9grante des outils de productivit\u00e9 informatique utilis\u00e9s quotidiennement par tous. En outre, les crit\u00e8res constituant les processus de production \u00e9thiques de l\u2019IA demeurent \u00e0 inventer. L\u2019affaire en cours pourrait-elle constituer une bonne motivation pour penser \u00e0 ces derniers ?<\/p>\n","protected":false},"excerpt":{"rendered":"
Les cours k\u00e9nyanes \u00e9taient comp\u00e9tentes pour juger des soci\u00e9t\u00e9s \u00e9trang\u00e8res dont des filiales se trouvent au Kenya<\/p>\n","protected":false},"author":12963,"featured_media":29681,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[67,73],"tags":[81,78,77],"class_list":{"0":"post-29684","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-actualites","8":"category-technologie","9":"tag-actualites","10":"tag-apie-project-2","11":"tag-technologie"},"yoast_head":"\n