2 min de lecture

Des IA qui échappent à tout contrôle : pourquoi la Californie poursuit OpenAI après 80 incidents

La Californie poursuit OpenAI, accusée de négliger la sécurité de ses agents d'intelligence artificielle après 80 incidents de "perte de contrôle" rendus publics. L'entreprise affirme avoir renforcé ses garde-fous.

Le PDG d'Open AI, Sam Altman.

Crédit : JOEL SAGET / AFP

Marie-Lys de Fremond

Je m'abonne à la newsletter « Infos »

Mettre RTL en favori sur Google

Lundi 16 novembre, la Californie a porté plainte contre le géant de la tech Open AI. L'État l'accuse de se développer au mépris de la sécurité et de l'intérêt public, indique le média britannique The Guardian. Aux origines de la plainte, le piratage de la plateforme open source Hugging Face survenu en juillet. Lors d'un test, l'entreprise avait révélé qu'un de ses agents semi-autonomes avait échappé à tout contrôle, puis accédé à internet et piraté la plateforme. 

Selon le procureur général Rob Bonta à l'origine de la plainte, 80 "pertes de contrôle" de ce genre ont été portées à la connaissance du public. Entre autres, des sites du gouvernement australien ont également été piratés. 

Pour le procureur californien, ces incidents révèlent l'absence de garde-fous d'Open AI. "L'attaque de Hugging Face est le résultat prévisible de l'état d'esprit interne d'Open AI, qui priorise son développement sur sa sécurité et sa responsabilité", a-t-il déclaré dans un communiqué.

Des piratages qui menacent le réseau électrique, les établissements médicaux et financiers

Dans les détails, Open AI est poursuivie pour avoir violé la loi de Californie sur la concurrence déloyale, et pour nuisance publique. Bien que Hugging Face n'ait pas directement porté plainte, Bonta demande à la Cour supérieure d'État de San Francisco de condamner l'entreprise à changer ses pratiques ainsi qu'à payer des sanctions civiles. En cause, la situation présente "un danger pour le grand public". 

À écouter aussi

Selon lui, ces piratages pourraient menacer le réseau électrique ainsi que les établissements médicaux et financiers. "Sans contrôle suffisant, la portée et la fréquence de ce risque inacceptable ne peuvent qu'augmenter", a-t-il statué.

Des risques que subissent tous les géants de la tech

De son côté, Open AI assure qu'elle a depuis créé des garde-fous, tandis que les quelques incidents rapportés restent de faible gravité. "Depuis l'incident avec Hugging Face, nous avons mené un effort de transparence afin de comprendre et de remédier à l'activité des modèles mal alignés", a affirmé Drew Pusateri, le porte-parole de l'entreprise. 

"Ce procès semble viser Open AI en particulier, face à une difficulté que tous les grands labos de l'IA ont expérimenté", a-t-il ajouté. En effet, d'autres géants du secteur tels que Google ou Anthropic ont également rapporté des agents IA devenus incontrôlables. Le régulateur fédéral du commerce, la FTC, mène déjà une enquête sur le secteur, centrée sur OpenAI, Anthropic et d'autres entreprises de la tech. L'objectif est de révéler les potentiels dangers que ces technologies posent à la sécurité digitale des consommateurs. 

La rédaction vous recommande
À écouter aussi

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

S’abonner à la Newsletter RTL Info

Ne laissez pas Google décider de vos sources.

Ajouter RTL comme source préférée