GuiGui's Show

CAF / CNAF

Suite de : Notation des allocataires : la CAF étend sa surveillance à l’analyse des revenus en temps réel.

L’algorithme de notation de la CNAF attaqué devant le Conseil d’État par 15 organisations. La décision du CE est attendue dans les prochains mois. Ce recours pose une question intéressante : la notation automatique est-elle une prise de décision totalement automatisée au sens du RGPD et porte-t-elle préjudice ? Le prétendu contrôle humain qui déclenche ou non un contrôle n'est-il pas vaporeux par confiance dans la machine ? Même sans ça, il y a bien une pré-décision automatique, disant qui doit être contrôlé ou non, l'humain choisi parmi un lot déjà déterminé par la machine.

Répression sociale : des milliers de contrôles CAF déclenchés sur demande policière : Mission interministérielle de coordination anti-fraude (MICAF) et Comités opérationnels départementaux anti-fraude (CODAF), 2010, Sarko. les flics filent les infos (arrestation, etc.). À la base, c'était prévu pour que la CAF chope les revenus des trafics, donc forcément discrimination des banlieues. Échanges prévues par LOPPSI 2. Osef du secret de l'instruction. Mais absence de cadre, de limite à quelques infractions. Un seul cas de manifestant (gilet jaune) connu par LQDN. Déloyauté de la collecte (la personne ne sait pas que le flic va transmettre ses réponses à la CAF). Faible efficacité des signalements des flics pour récupérer des indus.

France Travail

À France Travail, l’essor du contrôle algorithmique

France Travail : des robots pour contrôler les chômeurs·euses et les personnes au RSA

Assurance-maladie / CNAM / CPAM

Notation algorithmique: l’Assurance Maladie surveille les plus pauvres et harcèle les mères précaires :

Le seul problème, y expliquent les équipes de statisticien·nes de la CNAM, est que son utilisation n’est pas légale car ce nouveau modèle nécessiterait un « croisement de données non autorisé ». Pour pouvoir le mettre en place, les équipes cherchent à appâter les dirigeant⸱es de la CNAM afin de gagner leur appui pour obtenir le changement réglementaire nécessaire à la mise en place de ce croisement de données11Le croisement demandé semble concerner notamment la base SIAM Erasme, soit une base de données nominatives particulièrement intrusives puisque portant sur les dépenses de santé. Voir ce rapport de la Cour des Comptes. L’accès aux données des comptes bancaires semble aussi être au centre des « limitations réglementaires » empêchant la CNAM de généraliser les modèles expérimentaux.

[…]

Technique « à la pointe de la technologie », « intelligence artificielle » permettant une « détection proactive » de la fraude, outil prédictif « à la Minority Report » : voici comment, au gré de rapports officiels ou d’interventions publiques, ce type d’outil est vanté

Assurance-vieillesse / CNAV & MSA

Notation itou, depuis 10 ans (pour la CNAV). Moins documenté par LQDN. Voir ici.