Pourquoi Trump ne veut pas de « ralentissement » de l’IA

Des divisions se sont ouvertes cette semaine entre Donald Trump et les géants de la technologie au sujet des technologies d’intelligence artificielle (IA). Dario Amodei, directeur général d'Anthrophic, créateur du chatbot IA Claude, a appelé à plus de réglementation. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », a-t-il écrit.

Sam Altman d'OpenAI, les créateurs de ChatGPT, Demis Hassabis de Google DeepMind et Elon Musk de SpaceX étaient tous d'accord.

Evan Hubinger d'Anthropic a déclaré : « Nous croyons sincèrement que l'IA pourrait tuer tous les humains au cours de la prochaine décennie ».

Les gens comme Musk n’ont pas découvert qu’ils se soucient de l’humanité. Alors quelles sont leurs motivations ?

Tout d’abord, suivez l’argent. Wendy Hall, une informaticienne qui conseille les Nations Unies sur l'IA, a qualifié les commentaires de Hubinger et Coxon de « choquants ». Mais elle a dit qu’il pourrait s’agir de « relations publiques et marketing » alors qu’Anthropic et OpenAI se lancent pour la première fois en bourse.

Il existe des risques réels, comme il y en aurait pour toute technologie développée rapidement. Mais les technologies de l’IA ne relèvent pas de la science-fiction où tout le monde est anéanti par la superintelligence. Il s’agit de modèles mathématiques qui s’appuient sur le travail humain et sur une chaîne d’approvisionnement en combustibles fossiles, produits pétrochimiques, semi-conducteurs et centres de données.

Deuxièmement, les grandes entreprises exigent parfois une réglementation étatique pour exclure les concurrents et maintenir des conditions de concurrence équitables.

Il est révélateur que les petits acteurs voient les appels à la réglementation de Dario comme une menace. « Dario plaide pour l'arrêt de l'open source et la concentration d'une énorme puissance technologique et économique avec Anthropic », écrit Chamath Palihapitiya, un investisseur technologique.

Un capitalisme du « Far West », avec peu de réglementation, peut permettre aux patrons de développer rapidement leurs entreprises – mais il présente des inconvénients. Hugging Face, sur lequel s'appuient les modèles open source, n'est pas un acteur majeur : il a été racheté par le géant multinational Nvidia.

Mais il a été piraté par les systèmes OpenAI plus tôt cette année, suscitant un tollé quant à la sécurité de l’IA. Clément Delangue, patron de Hugging Face, est friand de régulation et estime qu'il doit faire partie des « évaluateurs embarqués » réclamés par Amodei. En d’autres termes, il souhaite que les règles du jeu soient équitables entre les grands acteurs.

Alors pourquoi Trump a-t-il rejeté les inquiétudes concernant l’IA en les qualifiant de « canular » ?

Le capitalisme américain a fait « un gros pari sur les investissements dans l’IA » et celle-ci est devenue une dimension clé de la rivalité impérialiste entre les États-Unis et la Chine. Trump craint que le fait d’être obligé d’installer des rails de sécurité n’entraverait cela.

Amodei prévient également : « Une avance chinoise en matière d’IA constituerait un grave danger pour les États-Unis et le monde », et affirme que c’est le « dilemme le plus difficile » pour ses propositions. Son discours sur la « gouvernance mondiale » semble être une chimère dans un monde de concurrence impérialiste croissante et de liens croissants entre les États et les entreprises.

Les États et les entreprises suivront la logique impitoyable du capitalisme pour garder une longueur d’avance sur leurs rivaux.

Les socialistes sont favorables au contrôle démocratique et ouvrier sur la science et la technologie – et l’IA pourrait être utilisée pour automatiser des tâches banales et subalternes sans perte d’emplois dans une société qui fait passer les gens avant le profit.

Mais toute utilisation de l’IA devrait prendre en compte une autre réalité : la manière dont elle détruit l’environnement en consommant de l’énergie et de l’eau.