Comment devrions-nous utiliser l’IA sur le lieu de travail ?
Pourquoi avez-vous réalisé ce livret et à qui s’adresse-t-il ?
L’intelligence artificielle est un sujet dont tout le monde parle et aussi un sujet sur lequel il y a beaucoup de désinformation, d’informations marketing et beaucoup de battage médiatique.
Nous avions l’impression que l’information ne parvenait pas assez rapidement aux personnes dont elle avait besoin.
Les travailleurs et les syndicats tentent de trouver comment réagir aux changements qui se produisent alors que nous n'avons même pas une idée claire de la nature de ces changements. C'est une situation très transitionnelle.
La brochure, L'IA au travail, est structurée de manière à examiner la manière dont l'IA affecte un large éventail de secteurs différents, ainsi qu'à examiner les principaux domaines d'intérêt des travailleurs. Cela inclut la sécurité de l'emploi, la charge de travail, la qualité du travail, l'évolution de la demande de compétences des travailleurs, les droits en matière de données, le contrôle et la prise de décision automatisée, ainsi que les questions d'égalité, de santé et de sécurité.
Les syndicats et les représentants s'intéressent également beaucoup plus à l'impact environnemental. Ce n'est pas encore visible, mais avec cette forte hausse des prix de l'énergie, il ne s'agit pas seulement d'un effet environnemental, mais aussi d'un impact sur nos vies.
À quelle vitesse l’IA se déploie-t-elle ?
Dans certains secteurs comme le design, la musique, la production audio et vidéo, le journalisme et l’informatique, les changements sont vraiment énormes.
Mais il y a souvent des réactions négatives du côté de la consommation. Les gens disent que nous ne voulons pas autant d’IA et que nous pensons qu’il s’agit d’un résultat de mauvaise qualité.
Ensuite, il existe divers espaces où l’utilisation de l’IA est cachée et où peu de gens le savent.
Il existe des technologies de surveillance par l’IA. Des caméras orientées vers le conducteur ont été introduites dans les flottes de livraison DHL, vraisemblablement pour détecter les dangers, par exemple. Les travailleurs et leurs représentants au sein du syndicat Unite ont utilisé le Règlement général sur la protection des données (RGPD) pour faire campagne contre cette technologie et ils ont gagné.
Le RGPD n’a peut-être pas été génial, mais il a été utilisé à bon escient. Aujourd’hui, des modifications législatives ont été apportées au RGPD qui favorisent les intérêts des employeurs et de l’industrie de l’IA.
La loi sur les données (utilisation et accès), votée l’année dernière, réduit les protections sur la prise de décision automatisée. Auparavant, la prise de décision automatisée n'était pas autorisée et il y avait quelques exceptions. Aujourd'hui, elle est légale et il existe certains contrôles.
Cela pourrait créer une situation dangereuse dans laquelle les droits des personnes en matière de données ne peuvent pas être défendus ou peuvent être défendus de manière moins efficace. Cela se produit alors que des caméras sont déployées qui non seulement vous enregistrent, mais peuvent catégoriser chacune de vos activités et tirer des conclusions pour la prise de décision concernant vous en tant qu'employé.
Les types de gestion algorithmique qui émergent sont liés à la prise de décisions concernant la rémunération, la charge de travail, les lieux et les horaires de travail.
Des systèmes de gestion des effectifs sont disponibles pour les grands employeurs, par exemple du personnel de vente au détail. Il est également utilisé dans les décisions en matière de ressources humaines, d’embauche et de licenciement.
J'ai entendu parler de systèmes d'IA utilisés dans le secteur des assurances pour remplacer le personnel chargé de décider si quelqu'un est en mesure d'obtenir un paiement de son assurance. Cela aura un impact plus large sur ceux qui dépendent de cette assurance.
Il y a beaucoup de savoir-faire à collecter sur la manière de s'organiser. Et j'ai l'impression que nous en sommes encore au début et que nous sommes un peu en retard.
Un déploiement très médiatisé dans le secteur public est un chatbot utilisé par le conseil municipal de Peterborough qui prend le nom d'une assistante sociale particulière appelée Geraldine. À ma connaissance, le syndicat n'a pas été impliqué dans son déploiement.
Le système est utilisé pour fournir des conseils à d’autres travailleurs sociaux. Il a été développé en entraînant l'IA sur la communication de l'assistante sociale senior, ses précédents emails de conseils et toutes les informations dont elle disposait.
Le chatbot assure désormais la médiation des relations entre les collaborateurs. Alors qu'auparavant les travailleurs sociaux se rendaient les uns aux autres et demandaient de l'aide, ils sont désormais invités à utiliser Geraldine AI.
Au lieu d’avoir une relation humaine avec vos collègues, vous parlez à la machine. La question se pose donc de savoir quelles conséquences cela pourrait avoir sur les relations collégiales et peut-être sur l'organisation du lieu de travail si cela se produisait à plus grande échelle.
Il y a aussi la question de la récolte des données, car les données qui ont été recueillies auprès du travailleur social ont évidemment de la valeur. Il devient un atout lorsqu'il est intégré au chatbot IA et permet à l'employeur d'économiser de l'argent.
Mais qu’est-ce que les travailleurs y gagnent ? Cela promet de leur faire gagner du temps et de faciliter leur travail. Mais que se passe-t-il s’ils sont licenciés à la suite de ce processus ? Et qu’en est-il de la valeur de leur travail et de leurs résultats consacrés à l’IA ?
Les travailleurs de l’éducation sont vraiment incités à prendre le matériel qu’ils produisent et à l’utiliser pour former l’IA. Les travaux antérieurs des enseignants et des chargés de cours sont utilisés pour former l'IA à la notation automatisée et aux plans d'enseignement.
Iraient-ils jusqu’à utiliser des avatars IA pour enseigner ? Cela semble vraiment rebutant si vous êtes étudiant. Il existe peut-être une sorte de limite culturelle à ce que l’on peut aller. Mais des choses comme ça peuvent changer.
Qu’en est-il de la question de savoir si l’IA va supprimer des emplois ? Est-ce une préoccupation que les gens ont soulevée ?
Bien sûr. Et c'est déjà le cas dans le journalisme.
Un de nos collègues est allé présenter quelques informations au syndicat des journalistes NUJ. Il a entendu de nombreuses histoires de journalistes licenciés en masse puis réembauchés pour devenir assistants d’IA.
On leur dit qu’AI va produire 50 articles par jour et que tout ce qu’ils veulent que les journalistes fassent, c’est éditer ces articles. Vous n'êtes donc plus un auteur, vous êtes un éditeur d'IA.
Et bien sûr, le taux de production attendu est très élevé. La charge de travail est un problème majeur, au même titre que la sécurité de l'emploi.
Il y a également un énorme changement dans le NHS qui fait partie du plan décennal pour l’Angleterre. Il y a de sérieux problèmes éthiques liés au fait que Palantir fasse partie du NHS en premier lieu.
Mais qu’il s’agisse de Palantir ou d’une autre entreprise, le problème est encore plus important. Il s’agit de la proposition d’introduire des appareils portables pour les patients, des données génomiques et divers types de scribes d’IA. Ce sont des robots qui écoutent les conversations avec les patients et rédigent des notes, et intègrent toutes ces données dans un seul système qui profile les patients et fait des suggestions.
Les scribes de l’IA se sont plutôt mal comportés au début. Le gouvernement poussait les médecins du NHS à utiliser des scribes IA. Alors ils sont allés acheter des scribes en IA dans de nombreux départements différents, mais ils n'étaient pas des scribes médicalement approuvés.
Les médecins utilisaient donc une technologie d’IA qui leur donnait des conseils médicaux alors qu’ils ne le devraient pas. Ensuite, le NHS England a exigé que les départements cessent de faire appel à des scribes non médicalement approuvés.
Ici, il y a aussi un élément de déqualification. Certains médecins étaient déconcertés parce que lorsque les scribes rédigeaient toutes leurs notes, ils ne se souvenaient plus de qui étaient leurs patients.
L'expertise du personnel n'est souvent pas prise en compte. Souvent, un manager introduit l’IA pour remplir une fonction particulière et ne consulte pas le personnel qui fait ce travail depuis de nombreuses années et possède une expertise.
Le guide souligne également d’autres risques. J'ai entendu parler de nombreux cas où des travailleurs commencent à utiliser l'IA de leur propre chef, simplement pour respecter leurs délais et parce que leur charge de travail est trop élevée.
Mais s’il n’y a pas de décision institutionnelle ou commerciale d’utiliser l’IA et que les dispositions associées en matière de protection des données ne sont pas en place, le personnel peut être tenu responsable des violations de données. Je pense que les représentants syndicaux ont un rôle à jouer pour parler de ce genre de choses de manière proactive.
Il existe une abondante littérature sur la façon dont la prise de décision automatisée tend à reproduire la discrimination, en particulier dans les décisions d'embauche et de licenciement. Ce sont généralement les personnes racialisées et les femmes qui sont victimes de discrimination.
L’impact sur les jeunes travailleurs qui entrent sur le marché du travail semble également très important. En informatique, par exemple, il y a un très grand changement avec l’IA.
Si vous êtes un programmeur expérimenté, vous pouvez produire du code très rapidement pour résoudre des problèmes à l'aide de l'IA. Mais si vous n'êtes pas expérimenté, cela peut mal tourner
Les jeunes stagiaires ou les jeunes diplômés peuvent être considérés comme peu fiables car ils ne peuvent pas détecter les erreurs d'IA aussi efficacement. Dans cet environnement axé sur l'IA, ils n'ont pas suffisamment de chance d'écrire leur propre code de programmation et de vraiment comprendre son fonctionnement dans la pratique.
Avez-vous d’autres idées sur la façon dont les gens peuvent résister à cela ?
Si les syndicats ont la force de le faire, ils peuvent fixer les conditions qui doivent être remplies avant d’accepter l’adoption de nouvelles technologies.
Par exemple, ils peuvent affirmer qu’au lieu d’utiliser de grands modèles linguistiques, les entreprises peuvent utiliser de petits modèles linguistiques moins nocifs pour l’environnement.
Ils peuvent conclure de nouveaux accords technologiques. De nombreux syndicats élaborent des projets d’accords qui seront utiles avec l’IA.
Par exemple, de tels accords contiennent une clause selon laquelle si cette technologie est introduite, les travailleurs ne verront pas leur salaire diminuer, il y a une limite à l'augmentation de leur charge de travail et il n'y aura pas de licenciements. Vous savez, négocier autour de ces questions.
Il peut également y avoir des clauses visant à respecter l'expertise des travailleurs, à ne pas récolter de données sans consentement, à impliquer le personnel dans le déploiement, à inclure des assurances liées à la surveillance et à la prise de décision automatisée et à surveiller la technologie. L’IA pourrait ne pas fonctionner comme prévu.
Il existe de nombreuses questions sur lesquelles les syndicats devraient avoir leur mot à dire pour améliorer la situation, s’ils parviennent à avoir leur mot à dire.
Arriver à ce point est la partie la plus difficile. Il faut s’organiser. Mais les problèmes soulevés par l’IA constituent une bonne motivation pour inciter les gens à adhérer à un syndicat. Si nous travaillons ensemble, nous pouvons améliorer les choses.
Enfin et surtout, il y a la question de la solidarité au-delà des travailleurs britanniques.
Solidarité avec les travailleurs qui produisent l’IA, une main-d’œuvre mondiale hautement exploitée et très, très mal payée. Comment les syndicats peuvent collaborer pour aider à organiser les travailleurs qui sont impliqués en premier lieu dans la production de l’IA. De cette manière, avoir un impact plus large sur l’impact de l’IA sur nous tous est une question importante.
