3 min de lecture Perché

Tribunaux du futur : faut-il confier la justice à l'intelligence artificielle ?

Les nouvelles technologies se frayent un chemin dans notre système judiciaire. Certains y voient une manière de désengorger les tribunaux, d'autres une menace pour les libertés individuelles.

Dans "Minority Report", Tom Cruise campe un policier qui arrête les criminels avant qu'ils ne produisent leurs méfaits
Dans "Minority Report", Tom Cruise campe un policier qui arrête les criminels avant qu'ils ne produisent leurs méfaits Crédit : UFD
benjamin pierret
Benjamin Pierret

Quand les robots s'invitent dans notre système judiciaire. La Cour européenne des droits de l'homme, qui doit gérer des plaintes toujours plus nombreuses, pourrait voir son travail largement allégé... grâce à un logiciel. Alors que les demandes auprès de la juridiction internationale ont doublé entre 2014 et 2015, le University College de Londres est en train de mettre au point un algorithme capable de déterminer si une plainte est recevable ou non. Cette intelligence artificielle se base sur d'anciennes décisions de justices, dont elle a analysé le déroulé et les décisions finales. Elle arrive aujourd'hui à prédire la recevabilité d'une plainte avec 79 % de justesse. 

Plus récemment, cinq chercheurs américains ont démontré que des algorithmes pouvaient rendre des décisions pertinentes dans le cadre des remises en liberté avant procès (pour décider si l'accusé attend son passage devant la justice en prison ou à domicile), qui sont soumises à l'appréciation humaine outre-Atlantique. Sur les centaines de milliers de cas soumis, l'intelligence artificielle s'est montrée plus performante que l'homme pour prédire les futurs desseins des accusés. Les chercheurs estiment qu'à l'échelle d'une ville comme New York, leur système pourrait réduire le nombre de crimes par accusés en attente d'un procès de 25%, sans augmenter pour autant la population carcérale.

À lire aussi
Des astronautes testent un hand spinner dans l'espace Perché
VIDÉO - Des astronautes jouent avec un hand spinner dans l'espace

Petit à petit, l'arrivée des nouvelles technologies dans la justice se profile. Traitement automatisé, utilisation des réseaux sociaux, gestion des informations, mise à profit du Big data : les possibilités d’allègement de ces métiers sont infinies. Il existe même un terme pour désigner tous ces nouveaux modes opératoires, qui n'en sont qu'à leurs premiers balbutiements : les Legaltech. Des techniques qui ouvrent autant d'éventualités qu'elles soulèvent de questions : comment s'assurer que l'humain reste au cœur des décisions de justice ? 

Prédictions et Big data

Vasileios Lampos, chercheur en informatique à l'UCL, le reconnaît lui-même : "C’est comme remplacer les enseignants ou les médecins par des ordinateurs : à l’heure actuelle, c’est tout bonnement impossible", confiait-il à Motherboard, fin octobre, avant de préciser : "Les lois ne sont pas structurées de telle manière que les machines puissent prendre des décisions. Je pense que les juges ne suivent pas une méthode parfaitement objective dans leur travail, et c’est une bonne chose." 

Un sentiment que partage Etienne Barraud, chargé de mission pour le think tank En Temps Réel : "On peut craindre les effets pervers qu'aurait une mesure précise des caractéristiques des individus impliqués dans une catégorie de délits dans le cas où on arriverait à la conclusion qu'un certain type d'individu est particulièrement susceptible de commettre un délit", souligne-t-il dans une tribune pour le Huffington Post

Dans cette tribune consacrée à l'utilisation du Big Data dans le système judiciaire, il fait également référence à des systèmes déjà mis en place. Depuis 2008, les patrouilles de la police de Memphis s’organisent autour d'un logiciel. Intitulé Blue C.R.U.S.H. (Crime Reduction Utilizing Statistical History) il étudie les crimes précédemment survenus et calcule les probabilités pour un incident de survenir dans un lieu donné. Selon le Guardian, la police de Memphis considère que ce programme est à l'origine d'une baisse de 31 % de la criminalité. En 2010, le média britannique affirmait que le système était testé au Royaume-Uni

Donner leur place aux machines : un danger ?

Pour Virginie Gautron, pénaliste et maître de conférence à l'université de Nantes, l'utilisation de données dans le système judiciaire laisse la porte ouverte à des abus : "Les données utilisées ne sont pas représentatives", explique-t-elle à RTL Futur. "On ne prend en compte que les faits connus des forces de police, or il y a beaucoup de biais dans la construction de ces éléments." Elle rappelle l'étude de Fabien Jobard, chercheur au CNRS, qui tend à démontrer que les personnes les plus touchées par les contrôles de police sont issues de minorité. Les arrestations sont donc, logiquement, plus importantes : "Prendre en compte ces données, c'est accorder du crédit à une prophétie auto-réalisatrice."

Une étude scientifique, rapportée par Tech Mic, abonderait en ce sens : publiée par la revue scientifique Significance, elle tendrait à prouver que PredPol, l'un des algorithmes de prédiction policière les plus populaires des États-Unis, dirige les unités policières d'Oakland vers les quartiers noirs, tandis que le taux de consommation de drogue est plus important au sein de la population blanche. Virginie Gautron pointe du doigt le manque de transparence de ces algorithmes, vendus par des entreprises privées, et s'inquiète également du mode de fonctionnement de certains de ces nouveaux outils. 

"Certains utilisent la méthode de machine learning, c'est à dire que les robots apprennent de leurs propres résultats. Cela risque de permettre aux machines d'utiliser des variables discriminantes, rien qu'en retenant les prénoms des auteurs de méfaits : ces derniers sont corrélés à une origine." Et de dénoncer l'amalgame entre la science dure qu'est l'analyse de données et la science humaine qu'est le droit : "Les algorithmes ne peuvent avoir aucune perspective."

La rédaction vous recommande
Lire la suite
Perché Tribunaux Justice
Restez informé
Commentaires

Afin d'assurer la sécurité et la qualité de ce site, nous vous demandons de vous identifier pour laisser vos commentaires. Cette inscription sera valable sur le site RTL.fr.

Connectez-vous Inscrivez-vous

fermer
Signaler un abus
Signaler le commentaire suivant comme abusif
500 caractères restants
article
7785574179
Tribunaux du futur : faut-il confier la justice à l'intelligence artificielle ?
Tribunaux du futur : faut-il confier la justice à l'intelligence artificielle ?
Les nouvelles technologies se frayent un chemin dans notre système judiciaire. Certains y voient une manière de désengorger les tribunaux, d'autres une menace pour les libertés individuelles.
http://www.rtl.fr/actu/futur/tribunaux-du-futur-faut-il-confier-la-justice-a-l-intelligence-artificielle-7785574179
2017-03-12 10:00:00
http://media.rtl.fr/cache/UEclDbe9m7AggncJhTJVAg/330v220-2/online/image/2016/1125/7785975083_dans-minority-report-tom-cruise-campe-un-policier-qui-arrete-les-criminels-avant-qu-ils-ne-produisent-leurs-mefaits.jpg