Le détail des systèmes algorithmiques utilisés par le gouvernement britannique sera rendu accessible dans un fichier public, rapporte le Guardian. Une décision prise après que de nombreuses associations ont pointé les risques de biais et de préjugés « bien ancrés » dans les machines.
Ces dernières sont utilisées par le gouvernement britannique pour des applications aussi diverses que la tentative de détection de mariages blancs ou la lutte contre la fraude et les erreurs dans les demandes d’aide sociale.
À la suite d’une contestation en justice par un groupe de défense des droits numériques et le Conseil pour le bien-être des migrants en août 2020, le ministère de l’Intérieur britannique avait cessé d’utiliser un système algorithmique dédié à la classification des demandes de visa. Ils y argumentaient que le système était « profondément raciste et biaisé » envers certaines nationalités.
Public Law Project, association dédiée à faciliter l’accès à la justice, a produit son propre recensement des systèmes algorithmiques utilisés par la force publique britannique et en compte 55 à l’heure actuelle.