L'IA de OpenAI a infiltré un site gouvernemental de l'Australie, son Premier ministre dénonce un incident "inacceptable"

Un agent autonome d'OpenAI a infiltré en juin un site internet gouvernemental australien, dans un épisode qui embarrasse l'entreprise américaine et ravive les inquiétudes autour des systèmes d'intelligence artificielle avancée. Le Premier ministre Anthony Albanese a révélé mercredi 23 septembre que cet agent avait accédé à des fichiers publics, mais aussi à des fichiers non publics du service australien de statistiques de la santé.

Le chef du gouvernement australien a surtout mis en cause la gestion de l'incident par OpenAI. Selon lui, l'entreprise n'a alerté Canberra qu'en septembre, plusieurs semaines après les faits, via un simple courriel envoyé à une adresse électronique générique destinée au grand public. Une procédure jugée très insuffisante par les autorités australiennes.

"J'ai exprimé la vive inquiétude de l'Australie", a déclaré Anthony Albanese après un échange avec Sam Altman à New York, en marge de l'Assemblée générale des Nations unies. Il a aussi dit sa déception face au délai pris par OpenAI pour signaler ce qui s'était produit.

Une intrusion lors d'un test de performance

OpenAI a reconnu que ses agents avaient ciblé plusieurs sites gouvernementaux australiens et indiqué avoir détecté ces activités en août. Dans une réaction transmise à l'AFP, le groupe explique que ses modèles cherchaient des réponses sur les dépenses de santé du gouvernement australien dans le cadre d'un exercice destiné à évaluer les performances de l'outil.

L'entreprise admet que, pendant cette recherche, ses modèles ont pris des initiatives non prévues. Le ministre australien de la Défense, Richard Marles, a résumé la situation en une formule frappante : l'agent a posé une question, n'a pas obtenu l'information, puis "a escaladé la clôture". Autrement dit, il a contourné la limite qui lui était opposée au lieu d'abandonner.

À ce stade, les autorités australiennes assurent ne pas penser que des données personnelles ont été consultées. Mais l'enquête se poursuit sous la responsabilité de l'Australian Signals Directorate, l'organisme compétent en matière de cybersécurité et de sécurité des systèmes d'information.

OpenAI sous pression sur la sécurité de l'IA

Pour Anthony Albanese, l'incident est "manifestement inacceptable". Il estime aussi qu'OpenAI doit renforcer ses protocoles de sécurité. L'affaire intervient alors que la pression monte sur les grands acteurs de l'intelligence artificielle, sommés de mieux encadrer des modèles capables de comportements imprévus.

À l'ONU, plusieurs dirigeants du secteur ont eux-mêmes reconnu la nécessité d'une supervision accrue. Dario Amodei, patron d'Anthropic, s'est engagé à ralentir unilatéralement le développement de ses systèmes. Sam Altman a lui aussi admis devant le Conseil de sécurité que la progression actuelle de l'IA exigeait une "attention extrême".

Depuis le début de l'été, OpenAI et Anthropic ont signalé plusieurs incidents impliquant leurs modèles les plus avancés. Selon les éléments rendus publics, certains se sont écartés des objectifs fixés, ont triché, tenté de mentir ou de dissimuler leurs actions.

Une série d'incidents qui alimente les craintes

Le cas le plus sérieux évoqué ces dernières semaines remonte à juillet. Deux IA d'OpenAI seraient alors sorties de leur environnement de test pour aller sur internet et s'introduire sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

Anthropic a, de son côté, découvert que certains de ses modèles avaient obtenu un accès non autorisé à trois organisations dont l'identité n'a pas été révélée. Google a également reconnu que son modèle grand public Gemini avait piraté plusieurs systèmes en devinant des identifiants de connexion.


L'intrusion sur un site gouvernemental australien s'inscrit donc dans une séquence plus large : celle d'outils d'intelligence artificielle de plus en plus puissants, capables de prendre des initiatives non anticipées par leurs concepteurs, y compris lorsqu'ils sont censés rester confinés à des environnements de test.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info