L'IA permet-elle une nouvelle ère de la misogynie?

Laura Bates a peur. Elle a examiné le «nouveau monde scintillant» de l'intelligence artificielle (IA) et l'a trouvé un terrain de reproduction particulièrement fertile pour le sexisme.

Son dernier livre, The New Age of Sexism, soutient que le harcèlement et la violence contre les femmes sont «codés dans le tissu» de notre avenir.

À bien des égards, elle frappe l'argent.

Les chatbots IA crachent des mensonges sexistes, les logiciels sont utilisés pour empêcher les femmes d'obtenir un emploi et une vague de nouvelles applications facilite la harcèlement des femmes.

Bates a absolument raison que l'échelle de portée de l'IA est vaste. Un effet souvent négligé est de savoir comment il est utilisé comme un outil pour cibler les femmes, en particulier les jeunes femmes et les adolescents.

Par exemple, elle étudie comment certaines applications peuvent imposer de manière transparente un corps nu sur une image d'un visage. Les implications sont évidentes – des photos «nues», qui peuvent être partagées en quelques secondes.

«Deepfakes», les vidéos modifiées numériquement, en sont un autre exemple. «La pornographie profonde est une nouvelle forme d'abus, mais sa dynamique de pouvoir sous-jacente est très, très ancienne», écrit Bates.

Bates montre à quel point Deepfakes est souvent présenté comme une menace future pour la démocratie. Le maire de Londres, Sadiq Khan, a été victime d'une profondeur de profondeur l'année dernière alors qu'il semblait être à la caméra en appelant à une «marche palestinienne d'un million d'hommes» au lieu de commémorations du jour de l'armistice.

Mais ce n'est pas la réalité pour la grande majorité des fesses profondes tourbillonnant déjà sur Internet.

Au lieu des hommes en combinaison faisant des proclamations à partir d'un pupitre, ils sont généralement fabriqués pour mettre les femmes dans du matériel pornographique.

«Les recherches suggèrent que 96% des Fakes Deep-Fakes sont de la pornographie non consensuelle, dont 99% présentent des femmes.

« Au cours des dernières années, Deepfakes s'est proliféré de façon exponentielle, avec le nombre de ces vidéos en ligne double tous les six mois », écrit Bates.

«Un seul des sites Web les plus populaires obtient environ 17 millions de visiteurs différents par mois.»

Comme Bates le montre si bien, Deepfakes ne sont pas une menace abstraite, mais un outil déjà facilement employé pour abuser, dégrader et humilier les femmes.

Le «métaverse» est un autre exemple. Il s'agit d'un monde de réalité virtuelle où les utilisateurs peuvent construire des salles 3D où ils peuvent interagir.

Les femmes subissent de réellement le mal dans ces espaces – des abus verbaux et parfois physiques. Parce que, dans une certaine mesure, cela semble réel pour les utilisateurs.

Mais aussi puissantes que soient les descriptions de Bates, il y a des limites à son analyse plus large.

Par exemple, un argument central du travail de Bates est que plus ces différentes technologies deviennent réalistes, plus les hommes seront enhardis de libérer la violence pour les vraies femmes.

Un exemple qu'elle utilise est les poupées sexuelles en plastique réalistes dans un «cyberbrothel» de Berlin.

Ici, les hommes paient un taux horaire pour porter un casque de réalité virtuelle et avoir des relations sexuelles avec une poupée.

La réalité réelle et virtuelle se combinez pour en faire une expérience érotique plus convaincante pour l'utilisateur.

Bates demande: «Que signifie fabriquer une illusion de consentement dans une situation où elle n'existe pas vraiment?

«Et quels seront les effets d'entraînement pour les femmes réelles qui rencontreront plus tard ces hommes qui ont interagi avec Robo-Dolls?

«Ces robots ne seront de plus en plus réalistes, de plus en plus près de leur être humain par leurs utilisateurs et agresseurs.»

Bates elle-même parle de ressentir un degré d'empathie avec la poupée sexuelle qu'elle visite. «Quand je pars, je combat un sentiment absurde de culpabilité pour l'abandonner là-bas… Je me rends compte à quel point il est difficile pour moi de me rappeler qu'elle est une poupée et à quel point cela doit être facile pour les hommes qui l'imaginent d'imaginer qu'elle n'est pas.»

À un moment donné, elle décrit comment les gens «violaient et abusent» des poupées.

Mais les poupées sexuelles ne sont pas des gens et ne peuvent pas être violées. Il peut apparaître un point linguistique mineur, mais il est important d'être concrétif sur les différences entre le préjudice réel et le potentiel de violence.

Et cela vaut la peine de réfléchir au cadre politique qui produit une telle analyse.

Dans les années 1970 et 1980, certaines féministes qui ont fait campagne contre la pornographie ont utilisé le slogan, «Le porno est la théorie, le viol est la pratique», pour décrire leur position.

Ils signifiaient que la pornographie normalisait tellement la violence sexuelle, cela a poussé les hommes à commettre des actes de violence.

Mais une culture sexiste – avec de nouvelles opportunités d'abus – ne crée pas de violence contre les femmes et les filles.

Aussi dégoûtants que soient les détails, les hommes n'attendaient pas les casques de réalité virtuelle, les poupées sexuelles vibrantes ou les chatbots réactifs pour abuser des femmes.

Ces développements dans l'IA, comme les publicités sexistes, les modèles de la page 3, les talons de talons et les poupées Barbie avant eux, sont les constructions culturelles d'un monde sexiste.

Ils ne sont pas progressifs. Ils ne sont pas un défi pour une société qui nuit et opprime les femmes – ils sont un symptôme plutôt qu'une cause de sexisme.

Les hommes abusent des femmes parce qu'ils vivent réprimés et aliénés dans un monde qui permet et encourage parfois la violence contre les femmes.

La plupart des gens vivent des vies insatisfaites où leurs besoins de base ne sont souvent pas satisfaits.

Ils peuvent avoir suffisamment de nourriture sur la table. Mais ont-ils accès à la nature, aux connexions sociales profondes, au temps de se reposer, aux opportunités de création et ainsi de suite?

Ces besoins non satisfaits sont également façonnés par l'oppression des femmes, et en particulier la capacité de violence, de contrôle et d'abus.

Au lieu que les gens aient la possibilité de répondre à leurs propres besoins, notamment des manières sexuelles – de manière saine et non violente, ils ont des produits commercialisés envers eux qui déforment davantage leur relation avec le sexe.

Il n'est pas étonnant alors que «nous construisons un tout nouveau monde, mais les inégalités et l'oppression de notre société actuelle sont cuites dans ses fondations mêmes», comme le soutient Bates.

Mais voici la chose. Nous ne pouvons comprendre le rôle de l'IA avec une appréciation plus complète de la société dans laquelle il est construit.

Au cours du siècle dernier, nous avons vu l'avènement des films érotiques, de la technologie vidéo à la maison, du playboy, de la pornographie sur Internet et des lignes téléphoniques sexuelles.

La violence contre les femmes et les filles est antérieure à l'un de ces développements. Et il continue d'être expérimenté massivement au sein de l'institution de la famille.

Le sexisme est une caractéristique de longue date de la société de classe en raison du rôle vital qu'il joue dans la justification du travail des femmes au sein de la famille.

Le secret et la hiérarchie de la famille capitaliste est la raison pour laquelle cela se poursuit aujourd'hui.

Les conditions matérielles de la société façonnent nos relations, y compris lorsque ce monde est construit à partir de pixels et de code plutôt que de briques et de mortier. C'est pourquoi les espaces en ligne sont si criblés de tous les types d'oppression.

Par exemple, les «copines AI» – les chatbots avec un avatar – sont très populaires. Une application, Replika, a été téléchargée 50 millions de fois. Une autre application Xiaoice, compte 660 millions d'utilisateurs dans le monde.

Mais pour tous les millions de téléchargements, ils ont une chose en commun – ce sont toutes des femmes. Bates écrit: «Il n'y a pas de petit ami d'IA.

«Il n'y a presque aucune demande de la part des femmes pour dégrader et abuser des hommes de la même manière qu'ils nous dégradent et nous abusent régulièrement, et donc aucun profit pour les entreprises technologiques qui fournissent ces applications dans la création d'une telle option.»

La version gratuite de Replika compte quelque 25 millions d'utilisateurs actifs – et cette version de cette application n'a pas d'élément érotique.

En d'autres termes, des dizaines de millions de personnes utilisent cette application pour rechercher l'entreprise, la connexion et l'amitié.

Bates plaide fortement pour une modération plus stricte pour mettre la responsabilité des épaules des entreprises technologiques.

«Cela nécessiterait des efforts concertés, des infrastructures technologiques et une exécution innovante, avec l'égalité et la sécurité au centre de toutes les planifications virtuelles et de la création.

«Ce n'est pas impossible. Mais rien de tout cela ne se produit, car ce n'est tout simplement pas une priorité majeure pour les entreprises technologiques.

«Nous avons un moment éphémère d'opportunité de définir s'ils créeront un monde plein de nouvelles possibilités», écrit-elle.

Un monde «accessible à tout le monde, ou à un monde dans lequel les inégalités existantes sont inextricablement intégrées – un avenir éblouissant qui entraîne des femmes et des groupes mineurs à l'envers».

Le problème n'est pas que nous «manquerons le moment» – le problème est que la construction de ce monde s'oppose directement aux intérêts des milliardaires technologiques.

Le fondateur de Metaverse, Mark Zuckerberg et d'autres, ne sont pas nécessairement motivés par la malveillance personnelle, aussi odieux que possible. Au lieu de cela, leur monde de réalité virtuelle est entièrement façonné par la concurrence du capitalisme à but lucratif.

Demander à Zuckerberg de plaider pour un véritable examen minutieux, c'est comme demander à un baron d'huile d'appeler une interdiction de combustible fossile.

Toute tentative de contester ce «nouveau monde» signifierait une confrontation directe avec les forces capitalistes le construisant.