La mobilisation contre l'outil de détection de fraude de la Caisse Nationale des Allocations Familiales (CNAF) s'intensifie. Une coalition, initiée par La Quadrature du Net, compte désormais 25 associations et syndicats qui ont engagé une procédure devant le Conseil d’État. Leur objectif : faire interdire un système qu'elles jugent profondément discriminatoire envers les populations les plus vulnérables.
En quoi cet algorithme est-il accusé de cibler les plus démunis ?
L'outil contesté analyse chaque mois les données personnelles de millions de personnes pour attribuer à chaque foyer un score de suspicion. Selon les plaignants, cet algorithme est conçu de telle manière que le score augmente en fonction de critères directement liés à la précarité. Le fait de percevoir de faibles revenus, comme le RSA ou l'Allocation Adulte Handicapé (AAH), ou de connaître une période de chômage, rendrait un allocataire bien plus susceptible d'être contrôlé.
Les associations dénoncent une logique qui assimile la vulnérabilité économique à un soupçon de fraude, créant une surveillance disproportionnée des plus fragiles. Or, un contrôle est loin d'être anodin : il peut impliquer des visites à domicile, des demandes d'accès à des documents personnels, des interrogatoires de voisins et même la suspension des droits, aggravant une situation souvent déjà difficile.
Quel soutien majeur vient renforcer la position des associations ?
Dans leur combat, les 25 organisations ont trouvé un allié de taille en la personne du Défenseur des droits. Sollicitée dans le cadre de la procédure, cette autorité administrative indépendante a rendu un avis qui conforte la position des requérants. L'avis, non publié mais consulté par des journalistes, est sans équivoque sur les risques posés par le système de notation.
L'autorité estime en effet que l'outil « paraît produire un surcontrôle des populations les plus précaires ». Elle va plus loin en affirmant qu'une « présomption de discrimination indirecte semble établie », car cette différence de traitement se fonde sur la particulière vulnérabilité économique des personnes. Ce n'est d'ailleurs pas la première fois que l'institution alerte sur les dangers de « l’algorithmisation » des services publics pour les droits des usagers.
Quelle est la défense de la CAF et que peut-on attendre de la justice ?
De son côté, la CAF présente son outil comme une simple aide à la décision, visant à identifier les erreurs de déclaration, notamment les « indus importants et répétés ». Face à la controverse, l'organisme a fait un pas vers plus de transparence en publiant le code source d'une nouvelle version de son système, présentée comme « plus éthique ». Certaines variables jugées sensibles comme la nationalité ou l'adresse auraient été retirées.
Pour la coalition, cette transparence ne suffit pas. Les associations attendent désormais la décision du Conseil d'État, espérant qu'il saisisse la Cour de justice de l’Union européenne (CJUE). Un arrêt récent de la CJUE interdit en effet toute forme de notation automatisée ayant un impact significatif sur la vie des gens, en vertu du RGPD. La prochaine étape clé sera l'audience publique, attendue au printemps.