Plusieurs associations, dont le MNCP, ont engagé une action en justice contre la Caisse Nationale des Allocations Familiales (CNAF) pour l’utilisation d’un algorithme jugé discriminatoire dans la lutte contre la fraude sociale. Selon nous, cet outil de détection, destiné à repérer les fraudes aux allocations, ciblerait de manière disproportionnée des profils précaires et issus de minorités.
Un algorithme jugé discriminatoire et opaque
Cette plainte déposée devant le tribunal administratif de Paris le 16 octobre dernier suite à la conférence de presse dans les locaux de Amnesty International vise à dénoncer l’opacité de cet algorithme. Nous reprochons à la CNAF de ne pas fournir de transparence quant aux critères et aux données utilisées par cet outil. Nous estimons que le dispositif pourrait enfreindre le principe de non-discrimination et le droit à l’égalité devant les services publics. Cet algorithme contribue à une stigmatisation injuste de certains allocataires, en focalisant les contrôles sur des populations déjà vulnérables, notamment les familles monoparentales et les étrangers, par exemple.
Les revendications des plaignants contre la CNAF
Dans ce contexte, nous demandons la suspension de l’utilisation de cet algorithme et une évaluation indépendante de son fonctionnement. Il faut une plus grande transparence des critères de ciblage afin de s’assurer qu’aucune discrimination indirecte ne soit opérée dans le traitement des dossiers.
Suspension de l’algorithme : une demande clé
Pour la CNAF, l’algorithme serait un outil essentiel dans la lutte contre la fraude sociale, visant à optimiser les contrôles et à garantir une juste distribution des aides. De manière plus globale, le MNCP est pour l’arrêt du contrôle des allocataires. Cette affaire pose des questions essentielles sur la place de l’intelligence artificielle dans les politiques sociales et sur la nécessité de concilier efficacité et respect des droits humains. Le jugement à venir pourrait ainsi constituer une étape cruciale dans la régulation de l’usage des algorithmes au sein des services publics en France.