Après ses travaux sur l’algorithme de la Caisse nationale des affaires familiales (CNAF), la Quadrature du Net continue son étude des systèmes de lutte contre la fraude par l’analyse d’un algorithme développé par la Caisse nationale de l’Assurance Maladie (CNAM) pour détecter les foyers susceptibles d’être contrôlés pour fraude à la Complémentaire Santé Solidaire gratuite (C2S).
5,8 millions de personnes parmi les plus pauvres bénéficiaient en 2023 de cette aide attribuée sous conditions de ressources. Au-delà du palier de 9 719 euros de revenus annuels pour une personne seule, une participation financière est demandée (1,6 million de personnes bénéficiaient fin 2023 de la C2S avec participation).
À la suite d’une erreur de la CNAM, la Quadrature a accédé au code source (en l’occurrence, aux odds ratio) de l’outil attribuant une note au profil de chaque bénéficiaire. Cette note lui permet de décider quel profil sera contrôlé. Après analyse par rétroingénierie, l’association conclue que la machine cible les mères précaires plus spécifiquement que le reste de la population bénéficiaire de la C2S.
Dans la documentation de l’assurance maladie, ces dernières sont ouvertement présentées comme « plus à risques d’anomalies et de fraude ».
La Quadrature du Net a par ailleurs récupéré le code d’un modèle expérimental, non généralisé, mais dont les résultats ont été salués dans des documents d’un Comité de direction Fraude de 2020.
Celui-ci ajouterait des critères comme le fait de « bénéficier d’une pension d’invalidité » (être en situation de handicap), d’être malade ou d’être « en contact avec l’Assurance Maladie » pour faire augmenter le score du profil analysé.
Pour rappel, du côté de la CAF, les travaux de sociologues comme Vincent Dubois ont montré une nette augmentation des contrôles sur pièce à la suite de l’introduction de ce type d’outils. Surtout, ces analyses ont montré le risque de glissement, avec ces machines, de l’analyse de « situations à risques » – de fait, les mères seules sont particulièrement vulnérables à la pauvreté – à celui de « populations à risques », ce qui conduit certains bénéficiaires d’aides à se retrouver plus régulièrement contrôlés… sur la foi de caractéristiques protégées.
Du côté de l’Assurance Maladie, la Quadrature regrette que les conséquences humaines de ces contrôles ne soient jamais mentionnées dans les documents qu’elle a analysés.
Auprès de Mediapart, la CNAM assure que ces documents ne sont « plus du tout d’actualité ». Ses propres échanges avec l’association laissent pourtant voir qu’en mai 2024, elle leur adressait ce qu’elle qualifiait de « présentation du modèle actuel de datamining, version enrichie de celui généralisé en 2019 ».