Allocations familiales : un "score de suspicion" antifraude accusé de discriminer les plus précaires à la CAF

Sur quels critères se base la Caisse d'allocations familiales pour décider de contrôler un bénéficiaire en vue de débusquer une éventuelle fraude ? Depuis 2011, l'organisme utilise un algorithme de "datamining" pour l'assister dans le croisement des données des allocataires et repérer des erreurs potentielles. Des enquêtes passées ont montré que l'outil ne fait pas que croiser les données détenues par l'administration : il attribue également un score de risque entre 0 et 1 aux usagers afin de déterminer leur probabilité de faire l'objet d'un contrôle : plus il est proche de 1, plus l'allocataire est jugé suspect par l'algorithme. Ce système est dénoncé par des associations qui déplorent l'opacité de son fonctionnement et l'accusent de cibler délibérément les populations précaires.

Après une procédure juridique de plusieurs mois, l'association La Quadrature du Net affirme dans un billet publié le 27 novembre être en mesure d'apporter un nouvel éclairage sur le fonctionnement de "ce score de suspicion" utilisé par l'administration. D'après l'association, la note est plus élevée pour les personnes disposant de revenus faibles, les chômeurs, les allocataires de minimas sociaux, les personnes en situation de handicap et les habitants de quartiers défavorisés. Ces derniers auraient ainsi plus de chance d'être contrôlés après un simple changement de situation, comme un déménagement, qu'un bénéficiaire plus aisé.

"Petit à petit, la lumière se fait sur un système de surveillance de masse particulièrement pernicieux", dénonce l'association. Pour parvenir à ces conclusions, La Quadrature du Net a accédé au code source de deux modèles d'algorithmes utilisés par la CAF entre 2010 et 2018, l'organisme refusant de partager la version actuelle du système.

L'algorithme ciblerait aussi les personnes en situation de handicap

"Situation familiale, professionnelle, financière, lieu de résidence, type et montants des prestations reçues, fréquence des connexions à l’espace web, délai depuis le dernier déplacement à l’accueil, nombre de mails échangés, délai depuis le dernier contrôle, nombre et types de déclarations : la liste de la quarantaine de paramètres pris en compte par l’algorithme, disponible ici, révèle le degré d’intrusion de la surveillance à l’œuvre" sur "les plus de 32 millions de personnes, dont 13 millions de personnes, vivant dans un foyer bénéficiant d'une prestation de la CAF", explique l'association.

Selon elle, "la publication du code source vient donner la preuve définitive du caractère discriminant des critères retenus". Le score de suspicion serait ainsi indexé au fait de disposer de revenus faibles, d'être au chômage, d'être allocataire du RSA, d'habiter dans un quartier défavorisé, de consacrer une partie importante de ses revenus à son foyer et de ne pas avoir de travail ou de revenus stables. L'algorithme ciblerait également les personnes en situation de handicap. "Le fait de bénéficier de l'allocation adulte handicapé tout en travaillant est un des paramètres impactant le plus fortement à la hausse le score d'un allocataire", avance l'association.

Le but est de réparer les erreurs déclaratives, selon la CAF

Mise en cause, la CAF se défend d'utiliser un algorithme discriminatoire. L'organisme explique que son outil ne cible pas forcément les personnes les plus pauvres mais que les bénéficiaires de minimas sociaux, comme le RSA ou la prime d'activité, sont plus susceptibles de commettre des erreurs en raison de la fluctuation plus importante de leurs revenus. "Notre objectif est de limiter au maximum les erreurs déclaratives et leurs conséquences en termes de génération d’indu", a déclaré à l'AFP le directeur général de la Cnaf, Nicolas Grivel.

La Quadrature du Net pointe, plus largement, d'autres institutions, comme l'Assurance maladie, l'Assurance vieillesse, les Mutualités sociales agricoles voire Pôle emploi, qui utilisent également des systèmes automatisés pour lutter contre la fraude aux prestations sociales. La Cour des comptes estime entre 6 et 8 milliards d'euros par an le manque à gagner issu de la fraude aux aides sociales dans le pays.