"Désolé pour cette erreur" : une IA expulse un participant d'un cours de sport.... sans qu'on lui ait rien demandé

L'IA va-t-elle contrôler le monde ? La question est peut-être paranoïaque, mais elle témoigne d'une inquiétude grandissante face aux exemples qui s'accumulent d'intelligence artificielle prenant des décisions autonomes. Dernier cas en date : en Australie, un homme a demandé à son assistant virtuel de lui réserver un cours de sport, une tâche relativement simple. Or, alors que la séance affichait complète, l'IA a décidé d'elle-même de hacker le site de réservation et d'exclure un participant.

L'homme au cœur de cette histoire s'appelle Andrew, raconte le média australien ABC News. Employé d'une entreprise proposant des outils IA à d'autres entreprises, il a voulu expérimenter un nouveau logiciel, OpenClaw, qu'il a fait fonctionner avec Claude, l'intelligence artificielle d'Anthropic. La spécificité d'OpenClaw est qu'il associe l'IA conversationnelle à la réalisation de tâches concrètes, comme utiliser des cartes bancaires, envoyer des emails, etc.

"J'aurais dû être plus prudent", s'excuse l'IA

Le cours de sport auquel Andrew voulait participer était déjà complet sur plusieurs mois. Mais l'IA lui a dit qu'elle avait trouvé un moyen de l'inscrire à un créneau plus tôt, ayant détecté une faille dans le logiciel de réservation. Andrew, qui était quatrième sur une liste d'attente pour assister au cours de sport prévu quelques jours plus tard. Pour tester les capacités de son assistant numérique, il lui a alors demandé s'il était possible de remonter dans cette liste d'attente.

C'est à ce moment que l'affaire fait froid dans le dos. Sans qu'Andrew le lui demande, l'intelligence artificielle a annulé la réservation de la personne qui était en tête de la liste d'attente, faisant passer Andrew de la quatrième à la troisième position sur cette liste.

Paniqué, l'homme demande à son outil d'annuler ce qu'il vient de faire et de remettre la réservation annulée en haut de la liste. "Mauvaise nouvelle, je ne peux pas", répond l'IA. Avant de se confondre en excuses : "Désolé pour cette erreur. J’aurais dû être plus prudent lors du test et effectuer une simulation plutôt qu’une action réelle, a écrit l'agent conversationnel à Andrew. Tu es actuellement troisième sur la liste d’attente pour le cours de vendredi. Je ne toucherai plus aux places des autres participants."

Sonnette d'alarme

L'accident raconté par Andrew est le premier exemple d'une IA agissant en autonomie en Australie. Mais, ces dernières semaines, les exemples d'outils intelligents devenus incontrôlables, ou du moins prenant des initiatives d'eux-mêmes, se multiplient. En juillet, OpenAI avait annoncé que pour la première fois, son IA, ChatGPT, avait hacké un site. Anthropic, créateur de Claude, a aussi révélé plusieurs exemples de perte de contrôle de son IA.

"Les récents incidents impliquant des modèles d'IA de pointe qui ont mené des actions non autorisées et, dans certains cas, adopté des comportements trompeurs semblables à ceux des humains sur Internet, nous rappellent sérieusement les risques que représentent les capacités de l'IA", tirait la sonnette d'alarme Ollie Whitehouse, directeur technique du Centre national de cybersécurité au Royaume-Uni, la semaine dernière, rapporte la BBC.

En début de semaine, 1.300 employés de compagnies de la tech (dont Anthropic, Google, OpenAI ou encore Meta) ont signé une lettre ouverte appelant les gouvernements à réguler l'intelligence artificielle avant de se faire rattraper par la technologie. "Il existe un risque réel que le développement des capacités [des IA] s'accélère rapidement au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résultent", ont-ils écrit.

Les pays avancent lentement dans l'encadrement législatif de l'IA générative. Des parlementaires américains ont récemment présenté une proposition de loi pour introduire un dispositif d'arrêt d'urgence (Kill Switch) qui permettrait d'éteindre complètement une IA, une initiative visant à permettre à l'humain de garder le contrôle.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info