L’algorithme de notation des Caf dans le viseur des associations

Quinze associations, dont APF France handicap, viennent de saisir le Conseil d’État pour qu’il statue sur la légalité de l’algorithme de notation des Caisses d’allocations familiales. Ce programme informatique attribue un “score” censé mesurer le risque qu’un allocataire profite indûment d’aides sociales. Et, établit donc l’opportunité de le contrôler. Mais ses critères pénalisent les ménages les plus précaires.

Pour les Caisses d’allocations familiales (Caf), tout bénéficiaire de l’AAH exerçant une activité professionnelle est un fraudeur en puissance. Ou, pour le dire plus diplomatiquement, un individu à surveiller de près. Son algorithme de notation attribue, en effet, un mauvais score de suspicion à ce type de profil. Concrètement, un travailleur handicapé touchant l’AAH est donc plus susceptible d’être contrôlé qu’une personne aisée.

Inadmissible pour APF France handicap et quatorze autres organisations de la société civile, dont la Ligue des droits de l’Homme, Amnesty International et la Quadrature du Net. Elles viennent de saisir le Conseil d’État au nom du droit de la protection des données personnelles et du principe de non-discrimination.

« Une politique d’acharnement contre les plus pauvres »

Les allocataires de l’AAH en emploi ne sont pas les seuls dans le viseur des Caf. En 2023, la Quadrature du Net avait obtenu de la Caisse nationale des allocations familiales (Cnaf) la communication du code source de son algorithme. Ce qui avait permis de vérifier que, parmi les variables augmentant le score de suspicion, figuraient notamment le fait de disposer de revenus faibles, d’être au chômage, de toucher le RSA, d’habiter dans un quartier défavorisé ou, encore, de consacrer une partie importante de ses revenus à son loyer.

« Cet algorithme est la traduction d’une politique d’acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspect aux yeux de l’algorithme, et donc contrôlé. C’est une double peine », s’insurge Bastien Le Querrec, juriste à La Quadrature du Net.

Ses experts ont construit cinq profils types d’allocataires, avec deux enfants à charge, comme l’avait expliqué Faire-face.fr. Conclusion : les scores de suspicion des foyers les plus aisés sont bien plus faibles que ceux des foyers bénéficiant des minima sociaux ou de l’AAH trimestrialisée.

Les accidents de la vie pénalisent encore plus les allocataires précaires

Pour défendre ses pratiques de datamining, la Cnaf a beau jeu d’assurer, dans une de ses publications, que « les scores de risque sont calculés pour tous les allocataires, sans distinction ». Et qu’ils « n’intègrent pas comme seule donnée la situation financière ».

C’est vrai. Mais les simulations de la Quadrature du Net montrent que « les variables socio-économiques ont un poids prépondérant dans le calcul du score, désavantageant structurellement les personnes en situation de précarité ».

Le risque de contrôle suite à un événement considéré comme un facteur de risque par l’algorithme – un déménagement, une séparation, un décès – se révèle, en effet, quasi-inexistant pour un allocataire aisé puisque son score est initialement proche de zéro.

À l’inverse, pour un allocataire du RSA, dont le score s’avère déjà particulièrement élevé, le moindre de ces évènements risque de l’emmener au-delà du seuil à partir duquel la Caf déclenche un contrôle.

Stigmatisation et maltraitance institutionnelle

« En assimilant précarité et soupçon de fraude, cet algorithme participe d’une politique de stigmatisation et de maltraitance institutionnelle des plus défavorisées », pointent les associations ayant saisi le Conseil d’État.

Les contrôles sont en effet des moments particulièrement anxiogènes. « Ils s’accompagnent régulièrement de suspensions du versement des prestations, précédant des demandes de remboursements d’indus non motivées », soulignent-elles. Elles veulent donc obtenir l’interdiction de ce type d’algorithme.

Les Caf fliquent les allocataires de l’AAH en emploi