Scores de suspicion
Emmenées par la Quadrature du Net, quinze associations contestent devant le Conseil d’État l’usage que fait la CNAF de son algorithme de détection de paiements indus pour lutter contre de potentielles fraudes. L’enjeu : élargir le débat à l’extension de ces systèmes dans les administrations sociales.
« On attend l’interdiction de l’algorithme de la CAF, et par jurisprudence, l’interdiction des algorithmes similaires utilisés par France Travail, par l’assurance maladie, par l’assurance vieillesse, etc », indique Valérie, responsable numérique au sein de l’association Changer de Cap, interrogée par Next.
Avec 14 autres organisations, Changer de Cap conteste devant le Conseil d’État la décision de la CNAF d’utiliser un algorithme de détection de paiement d’indus pour orienter ses actions de lutte contre la fraude. Principaux arguments : le système n’est pas construit pour le but pour lequel il est employé, il est construit de telle manière que son usage conduit à des discriminations, et il opère un traitement de données disproportionné par rapport à son objectif, contrairement à ce que requiert le règlement général sur la protection des données (RGPD).
« Plus largement, ce contentieux s’insère dans une demande de revoir en profondeur la manière d’envisager le contrôle dans les instances sociales », détaille Bastien Le Querrec. Pour le juriste de la Quadrature du Net (LQDN), l’usage de ce type de système technique « découle d’une politique de mise sous pression des personnes les plus précaires, à qui l’on impose des complexités déclaratives très fortes ».
Dans un tel contexte, développe-t-il, si on déploie un algorithme de recherche de paiement d’indus, c’est-à-dire de recherche d’erreurs, « forcément, on en trouvera ».
Contestation au long cours
Parmi les organisations impliquées dans le recours, on compte des spécialistes des droits des plus précaires – Droits des Jeunes et d’Accompagnement vers la majorité (AADJAM), Mouvement national des chômeurs et précaires (MNCP), Groupe d’information et de soutien des immigré•es (Gisti) –, des défenseurs des droits humains – Amnesty International France, Ligue des droits de l’hommes (LDH), Collectif National Droits de l’homme Romeurope –, des experts du numérique – le Mouton numérique –, ou des juristes, par la voix du Syndicat des avocats de France.