Jacobsen affirme que la nationalité n’est qu’une des nombreuses variables utilisées par l’algorithme et qu’un bénéficiaire de l’aide sociale ne sera pas signalé à moins qu’il ne réside à une « adresse suspecte » et que le système ne soit pas en mesure de trouver un lien avec le Danemark.

Les documents montrent également que l’unité d’exploration de données danoise suit l’état civil des bénéficiaires de l’aide sociale, la durée de leur mariage, avec qui ils vivent, la taille de leur maison, leurs revenus, s’ils ont déjà vécu en dehors du Danemark, l’historique de leurs appels avec l’administration des prestations publiques et si leurs enfants sont des résidents danois.

Une autre variable, « partenaire présumé », est utilisée pour déterminer si une personne a une relation cachée, puisque les célibataires bénéficient de plus d’avantages. Cela implique de rechercher des données sur les liens entre les bénéficiaires de l’aide sociale et d’autres résidents danois, par exemple s’ils ont vécu à la même adresse ou ont élevé des enfants ensemble.

« L’idéologie qui sous-tend ces systèmes algorithmiques, et [the] une surveillance et un contrôle très intrusifs des personnes qui reçoivent de l’aide sociale constituent une profonde méfiance à l’égard des pauvres », déclare Victoria Adelmant, directrice du Digital Welfare and Human Rights Project.

Pour tous les Face à la complexité des modèles d’apprentissage automatique et à toutes les données accumulées et traitées, il reste encore une personne qui doit prendre une décision au plus fort des contrôles anti-fraude. C’est là la sécurité, affirme Jacobsen, mais c’est aussi le premier endroit où ces systèmes entrent en collision avec la réalité.

Morten Bruun Jonassen fait partie de ces sécurités. Ancien officier de police, il dirige l’équipe de contrôle de Copenhague, un groupe de fonctionnaires chargés de veiller à ce que les habitants de la ville soient enregistrés à la bonne adresse et reçoivent les bonnes allocations. Il travaille pour le département des services sociaux de la ville depuis 14 ans, assez longtemps pour se souvenir d’une époque où les algorithmes ne prenaient pas une telle importance – et assez longtemps pour avoir observé le changement de ton dans le débat national sur l’aide sociale.

Même si la lutte contre la fraude sociale reste politiquement populaire au Danemark, Jonassen affirme que seul un « très petit nombre » de cas qu’il rencontre impliquent une véritable fraude. Malgré tous les investissements, l’unité d’exploration de données n’est pas sa meilleure source de pistes, et les cas signalés par le système de Jacobsen ne représentent que 13 % des cas sur lesquels son équipe enquête, soit la moitié de la moyenne nationale. Depuis 2018, Jonassen et son unité ont assoupli leur approche par rapport aux autres unités au Danemark, qui ont tendance à être plus sévères en matière de fraude, dit-il. Dans un cas documenté en 2019 par DR, la chaîne publique danoise, une bénéficiaire de l’aide sociale a déclaré que les enquêteurs avaient parcouru ses réseaux sociaux pour voir si elle entretenait une relation avant de l’accuser à tort de fraude sociale.

S’il attribue le mérite à l’unité d’exploration de données de Jacobsen d’avoir tenté d’améliorer ses algorithmes, Jonassen n’a pas encore constaté d’amélioration significative dans les cas qu’il traite. « Au fond, ça ne va pas mieux », dit-il. Dans une enquête réalisée en 2022 auprès des villes danoises par l’unité, les responsables ont évalué leur satisfaction à ce sujet, en moyenne, entre 4 et 5 sur 7.