[Interview] Efficacité, coût des algorithmes publics : les administrations manquent de transparence

Algorithmes surveillés

Avec l’Observatoire des algorithmes de services publics, des expertes du sujet cherchent à mieux comprendre comment l’administration s’empare de l’IA et à ouvrir le débat sur l’usage de ces technologies.

Parcoursup et Mon master dans l’éducation, Foncier Innovant du côté de l’administration fiscale, algorithmes utilisés par la CAF pour détecter les indus… Les systèmes algorithmiques déployés par le service public se multiplient au fil des années, suscitant au passage un nombre croissant de questionnements.

Fin octobre, la Cour des comptes regrettait le manque de pilotage des projets d’IA au sein du ministère de l’Économie et des finances. Mi-novembre, la Défenseure des droits signait un rapport s’inquiétant du respect des droits des usagers des services publics et appelant les administrations à faire preuve de plus de transparence.

Mais dans le détail, quels algorithmes utilise le service public ? Pour quels usages ? Pour répondre à ces questions, trois chercheuses viennent de lancer l’Observatoire des algorithmes publics (ODAP). Dans sa première version, leur inventaire (téléchargeable sur data.gouv.fr) contient 72 systèmes différents, dont 3 en conception, 7 qui ont été abandonnés, 11 en expérimentation, et 48 déployés.

Next a rencontré les trois fondatrices de l’ODAP : la sociologue Camille Girard-Chanudet, la designer Estelle Hary, qui prépare une thèse sur la conception des algorithmes dans le secteur public, et la consultante Soizic Penicaud, chercheuse indépendante sur les effets de l’intelligence artificielle sur les droits humains.