Intelligence artificielle : les 3 propositions de l'Union européenne pour réguler ChatGPT et les autres systèmes

L'Europe est bien partie pour être à l'avant-garde de la régulation des algorithmes. Le Parlement européen a adopté mercredi 14 juin à une large majorité un projet d'encadrement de l'intelligence artificielle, l'Artificial Intelligence Act (IA Act), ouvrant la voie à des négociations entre les États membres pour finaliser une législation censée limiter les risques charriés par ces technologies de rupture pour les utilisateurs européens tout en favorisant l'innovation dans un marché dominé par les entreprises américaines.

À l'heure où les mises en garde se multiplient face aux bouleversements promis dans de nombreux secteurs par l'irruption de systèmes d'intelligence artificielle générative capables de créer des textes, du code et des images, comme ChatGPT ou Midjourney, qui ont révélé leur potentiel immense au grand public ces derniers mois, le Parlement européen entend s'ériger en premier rempart face aux dérives de ces outils, en instaurant des interdictions pour les usages jugés contraires aux droits fondamentaux et des évaluations régulières pour les systèmes à risque.

Porté depuis 2 ans par les commissaires Margrethe Vestager et Thierry Breton, ce projet ambitieux a d'abord traîné en longueur, du fait de la grande complexité de son sujet et du large spectre qu'il recouvre, devenant même le texte le plus amendé de l'histoire de la législation européenne. Il pourrait être finalisé d'ici la fin de l'année, avant une entrée en application à horizon 2026. Comme le RGPD avec la protection des données, l'Europe espère que son cadre réglementaire influencera les futures normes internationales.

1 - Interdire les IA dangereuses : notation sociale, police prédictive...

L'IA Act entend créer un cadre juridique complet et uniforme au niveau européen pour l'utilisation et la commercialisation des technologies d'intelligence artificielle. Il détermine différents niveaux de risques et suggère des interdictions pour les usages les plus dangereux, ceux qui sont jugés contraire aux droits fondamentaux des Européens. C'est le cas des systèmes de notation sociale classant les individus en fonction de leur comportement. Les parlementaires européens souhaitent aussi interdire les systèmes d'IA qui exploiteraient des vulnérabilités liées à l'âge ou à des handicaps. Sont aussi visés les outils de police prédictifs et les systèmes d'identification biométrique à distance dans des espaces publics à des fins répressives.

2 - Évaluer régulièrement les IA utilisées dans l'éducation, la santé, les RH, la police ou l'administration

Le texte entend aussi imposer une liste de règles à une deuxième catégorie de systèmes d'IA jugés à haut risque. Il s'agirait des systèmes utilisés dans des domaines sensibles comme les infrastructures critiques, l'éducation, la santé, les ressources humaines, le maintien de l'ordre ou la gestion des migrations. Parmi les obligations : prévoir une supervision humaine sur la machine dans les étapes importantes des algorithmes, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque. Leur respect sera contrôlé par des autorités de surveillance dans chaque pays membre.

3 - Informer l'utilisateur lorsqu'il échange avec une IA ou est face à une photo créée par une IA

Le Parlement européen souhaite aussi instaurer un troisième régime spécifique d'obligations visant cette fois à encadrer les IA génératives comme ChatGPT ou Midjourney, dont la diffusion sur les réseaux sociaux de certaines de leurs créations a pu semer la confusion dans l'opinion, voire être réalisée à des fins de désinformation. La proposition de la Commission prévoit donc un encadrement des systèmes d'IA qui interagissent avec les humains. L'idée est de les obliger à informer l'utilisateur qu'il est en relation avec une machine et de contraindre les applications générant des images à préciser qu'elles ont été créées artificiellement. Une disposition prévoit également de les obliger à indiquer quels contenus protégés par le droit d'auteur ont pu être mobilisés pour les entraîner.