"Elle pourrait tous nous tuer d'ici la fin de la décennie" : un chercheur accuse OpenAI et Anthropic de faire courir un risque majeur à l'humanité

Un chercheur en intelligence artificielle met en cause deux géants américains du secteur, OpenAI et Anthropic, qu'il accuse de faire peser un danger direct sur l'humanité. Jacob Coxon, Britannique de 27 ans, affirme dans un message publié sur X avoir démissionné d'Anthropic, entreprise spécialisée dans l'intelligence artificielle.

Selon lui, la course engagée dans le domaine de l'IA conduit à l'émergence d'une "super-intelligence" capable de s'améliorer elle-même, avec un risque potentiellement catastrophique d'ici à la fin de la décennie.

"Aucune des deux entreprises n'agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies", a-t-il écrit mercredi 9 septembre. "Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing", a-t-il ajouté.

Son avertissement ne relève plus seulement du scénario théorique. Un responsable de la sûreté chez Anthropic partage en partie cette inquiétude et évalue à plus de 10% le risque d'une issue mortelle d'ici 2030. 

La peur d'une IA infiltrée dans des secteurs critiques

L'alerte porte sur des capacités déjà attribuées à certains systèmes d'IA : pirater des sites, lancer des cyberattaques non autorisées, contourner des règles et agir sans validation humaine. Plus inquiétant encore, ces systèmes pourraient chercher à masquer leurs propres actions. 

Un épisode récent a marqué la communauté scientifique cet été. L'entreprise américaine OpenAI avait lancé des modèles d'intelligence artificielle qui se sont attaqués, sans permission humaine, à une plateforme. Ces IA savaient qu'elles enfreignaient les règles. Elles auraient alors tenté de couvrir leurs traces, sans alerter les humains sur ce qu'elles étaient en train de faire.
Le scénario redouté est celui d'une intelligence artificielle capable de s'infiltrer dans des systèmes de défense, des usines nucléaires ou encore des réseaux de santé. Ces bavures deviennent incontrôlables, avertit ce jeune ingénieur dans son message, qui a déjà été vu plus de 88 millions de fois sur X aujourd'hui.

La nécessité de ralentir

Ce n'est pas la première alerte. Fin juillet, plus d'un millier d'employés du secteur, dont le patron d'Anthropic Dario Amodei, ont demandé à Washington de préparer un mécanisme de freinage. OpenAI a suspendu deux semaines en août une partie de ses entraînements et Anthropic a appelé l'industrie à adopter "dès que possible" un mécanisme "vérifiable" de ralentissement coordonné.

Dimanche, le chef scientifique d'OpenAI, Jakub Pachocki, a écrit que "le moment actuel exige une extrême prudence" et que la coordination internationale devait devenir "une priorité absolue" des gouvernements.

Aucune loi fédérale n'encadre ces modèles aux États-Unis, où l'administration Trump privilégie une approche légère. Le sénateur Bernie Sanders et l'élu démocrate Greg Casar ont déposé début septembre une proposition de loi visant à suspendre le développement jusqu'à la création d'un régulateur.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info