Exploitation, destruction et technofascisme - la face cachée de l'IA (Casilli)

L'"artificiel" de l'intelligence artificielle est largement fait à la main. [...] Ce travail humain est réalisé par des personnes qui sont très faiblement rémunérées pour produire des données et ensuite annoter, ce qu'on appelle parfois l'étiquetage des données. L'étiquetage consiste surtout à prendre des images, prendre des bouts de texte ou des vidéos, et y ajouter des étiquettes, des tags, comme on le fait sur Instagram, qui décrivent l'image [...] Pour entraîner ces machines, par exemple, il faut recruter des centaines de milliers, selon certaines estimations plusieurs millions voire des centaines de millions de personnes partout dans le monde, pour que l'information et l'apprentissage soient les plus variés possible.

La plateforme a la prétention d'être, disons, neutre ; cette plateforme a surtout prétention à fonctionner de manière automatique, et c'est là que l'intelligence artificielle joue un rôle important [...] Il y a surtout un lien très fort entre la modalité de financement de ces plateformes et des groupes d'investisseurs, de ce qu'on appelle les venture capitalists [...] Automatiser signifie, pour cette catégorie de personnes, aller vers un monde meilleur ; ça c'est la base. En même temps, c'est aussi la base du mensonge qui constitue ce qui est vendu à ces investisseurs [...] Or, la promesse implique évidemment qu'on doive cacher ces personnes qui constituent la matérialité même de ces intelligences artificielles.

Et donc, c'est une intelligence artificielle qui réalise un rêve pour une certaine catégorie d'êtres humains, normalement des blancs dans des pays du nord très riches, qui exploitent des personnes qui ne sont pas blanches dans des zones du sud. On arrive derrière cette promesse à voir resurgir des monstres horribles qu'on aurait imaginé de notre passé, mais en réalité de notre présent, comme le racisme, comme le colonialisme [...] Je pense que d'abord, c'est du fascisme.

[...] La promesse de Trump de déréguler l'intelligence artificielle, et la promesse faite au moment de sa réinstallation à la Maison-Blanche de déporter des millions de personnes des États-Unis, ben les personnes qu'il déporte, ce n'est pas des personnes au hasard, c'est des personnes des classes populaires, c'est des travailleurs et des travailleuses, qui sont envoyées parfois dans leur pays d'origine ; donc l'idée de base est : rentrez chez vous, mais continuez à travailler pour nous. Et c'est exactement ce que fait l'intelligence artificielle aujourd'hui, dans la mesure où l'intelligence artificielle se sert de ces petites mains qui sont reléguées, ou plutôt bloquées dans leur pays d'origine ; qui n'ont pas le droit de migrer, circuler internationalement, parce qu'ils se heurtent à des lois qui les empêchent d'accéder à la forteresse Europe lorsqu'ils veulent venir en Europe, ou à l'Amérique de Trump avec ses règles draconiennes, eh ben c'est la même situation : on garde à distance le travail nécessaire pour faire fonctionner l'économie d'ici, laquelle s'appuie largement sur l'intelligence artificielle, ou les promesses de l'intelligence artificielle. Et donc, on est face à une administration technofasciste, je n'ai pas de problème avec la définition [...].