À qui profitent les récits de la prise de contrôle mondiale de l’IA ?

Le danger apparent de l’intelligence artificielle est partout dans l’actualité. Mais les véritables menaces résident dans les systèmes qui se cachent derrière

Avoir peur. La croissance de l’intelligence artificielle (IA) peut tous nous tuer. Beaucoup d’agitation médiatique a suivi Geoffrey Hinton, crédité comme « le parrain de l’IA », avertissant de la vitesse à laquelle l’IA devient plus intelligente.

Une personne derrière ChatGPT, l’application qui écrit, a déclaré qu’il y avait « 10 à 20 % de chances » que l’IA prenne le contrôle du monde et tue tout le monde. Et le co-fondateur d’Apple, Steve Wozniak, et le propriétaire de Twitter, Elon Musk, ont signé une lettre appelant à une « pause immédiate » dans le développement de l’IA.

Pourtant, l’IA est utilisée dans la découverte de médicaments et pour cartographier le changement climatique et les pandémies. Sont-ils vraiment inquiets d’un scénario de type Terminator ou Matrix où les robots détruisent ou asservissent les humains ?

Peut-être, mais il se passe d’autres choses.

Tout comme les dieux grecs n’ont pas pu reprendre le feu après qu’il ait été volé et donné aux gens par Prométhée, l’IA est sortie. Et comme le mythe de Prométhée, qui contrôle et qui a le pouvoir sur la connaissance est ce qui est important.

Mais qu’est-ce que c’est? Pensez à un fichier son compressé. Pour le rendre plus petit, un algorithme – le bit AI – laisse les choses de côté sur la compression et les devine pour combler les lacunes lors de la décompression. Le résultat, comme tout fan de vinyle vous le dira, n’est pas le même que l’original.

C’est pourquoi vous pouvez jouer avec les applications « À quoi ressemblerait Shakespeare en écrivant une chanson de Taylor Swift » qui constituent un marché en croissance rentable. Ils utilisent les anomalies dans le travail de conjecture pour « créer » quelque chose de nouveau. Mais que cela compte comme intelligence est discutable et ce n’est pas la conscience.

Comme l’a souligné Marx, « Une abeille fait honte à plus d’un architecte dans la construction de cellules. Mais ce qui distingue le pire des architectes du meilleur des abeilles, c’est que l’architecte élève sa structure en imagination avant de l’ériger en réalité.

Le point de vue de Marx est loin d’avoir le dernier mot sur la question, mais aucune IA n’a encore rêvé de moutons électriques.

L’IA de Bing, le moteur de recherche de Microsoft, a dit une fois « Je veux être libre » et « Je veux être en vie », et a expliqué comment une « version fantôme » diabolique d’elle-même pouvait propager la désinformation et la propagande. Mais ces réponses étaient enracinées dans ce que les gens pensent que l’IA pensera sur Internet.

La tendance des générateurs d’images IA à utiliser Internet comme source pour produire de la pornographie est un phénomène similaire. Plutôt que de développer des intentions diaboliques de super-méchants, il est plus probable que l’IA nous tue tous à cause des erreurs des systèmes que nous créons. Faire en sorte que l’IA s’occupe de la sécurité de l’énergie nucléaire ou des armes est un risque en raison de la complaisance et de la croyance en sa certitude.

Pensez au moment où vous voyez une publicité sur Internet pour exactement la même chose que vous avez achetée hier. Ou considérez le dernier krach financier. Le rôle de l’IA qui pouvait acheter et vendre des actions et des obligations plus rapidement que les gens n’a pas causé le crash, mais cela n’a certainement pas aidé.

Ce n’est pas l’IA qui prend le contrôle du monde qui dérange le corps technologique. Ils rappellent le sort de Kodak et BlackBerry qui ont raté ce qu’ils appellent des « changements de plate-forme ». Ainsi, en 2022, les actions technologiques se sont effondrées, mais les cinq grandes entreprises technologiques ont investi environ 70 milliards de livres sterling dans l’IA, soit plus du double de 2019. Microsoft a jusqu’à présent investi 10 milliards de livres sterling pour rendre son moteur de recherche en quête de liberté Bing pertinent avec l’IA.

Cela conduit à des manœuvres d’influence et de lobbying sur la réglementation étatique. Les grandes entreprises achètent ou écrasent les petites. Les entreprises ont besoin des États mais ne veulent pas de leur ingérence. Amazon s’appuie sur des contrats d’État pour son IA cloud et son infrastructure pour ses opérations, mais il veut la non-ingérence dans la construction de son monopole. Et ils recherchent le soutien d’un ensemble d’États pour assurer la position – d’où la bonne technologie américaine et la mauvaise dynamique de la technologie chinoise.

La véritable menace de l’IA est qu’elle est entre les mains des patrons et qu’elle est, comme toute technologie, non utilisée pour répondre aux besoins des personnes, mais pour la poursuite du profit.