Plus de transparence
Dans un rapport sur l’usage de systèmes algorithmiques par le service public, la Défenseure des droits appelle à renforcer les contrôles humains là où ils doivent être opérés, et à obliger les administrations à respecter leurs obligations de transparence.
En France, la prise de décision individuelle entièrement automatisée a été interdite dans le domaine administratif par la loi du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés. En 2018, la loi relative à la protection des données personnelles ouvrait « plus largement la possibilité pour l’administration de recourir à des décisions automatisées ».
Six ans plus tard, la Défenseure des droits s’inquiète des effets du déploiement croissant de systèmes algorithmiques dans les services publics. Dans un rapport intitulé « Algorithmes, systèmes d’IA et services publics : quels droits pour les usagers ? », l’autorité dresse un premier bilan des déploiements opérés au fil des ans.