@OpenNews :

J'ai mis du temps à comprendre l'objet de la discussion : je l'ai compris début 2019. Depuis, te répondre était dans ma liste des choses à faire…

Je reconnais mon erreur : dénoncer les faux positifs d'un algorithme de surveillance (auto ou mano) est une abus de langage / raccourci qui se base sur des présupposés.

Mes présupposés étaient :

• Surveillance automatique et traditionnelle ne sont pas exécutées en parallèle mais en série, la surveillance auto nourrit la surveillance traditionnelle, à quelques dizaines / centaines d'exceptions près ;
  
  
• Il n'y aura pas de """"vrai"""" contrôle des résultats produits par la surveillance auto car :
  • Mythe de la machine qui se trompe jamais (du coup, rappeler que la machine produira aussi des faux positifs et des faux négatifs, ça a du sens, à condition de le formuler explicitement, en effet). Cette confiance peut également dé-inhiber les flics alors qu'une surveillance manuelle pourrait déclencher une prudence car l'expression non-verbale du collègue laisse planer un doute qu'on est plus habitué à prendre en considération ;
    
    
  • Flics / renseignement en sous-effectif, donc il n'y a pas le temps, donc on préfère aller perquisitionner / arrêter avant et discuter ensuite (ça revient à ce que tu écris : « aucune preuve que la variable décorrélée sera utilisée correctement »).

Mon raccourci / abus de langage était : un ordinateur traite plus de personnes que les effectifs de renseignement et de flics dont on dispose actuellement, donc un même algorithme appliqué par quelques milliers de flics / espions ou par un ordi ne donnera pas le même résultat : en absolu, le nombre de faux positifs de la surveillance automatique sera plus élevé que celui de la surveillance manuelle, donc ça mérite qu'on s'y intéresse d'autant plus. J'aurais dû écrire ceci plutôt que "y'aura des faux positifs avec la surveillance auto, c'est mal", oui.

L'exemple des fruits est là pour démontrer qu'il est mathématiquement incorrect de prétendre qu'une sélection ayant un grand nombre de faux positifs est un problème en soi.

Pas d'accord. Si la généralisation d'un algorithme, par son automatisation, entraîne la """"découverte"""" de plus de faux-positifs qu'il y a de terroristes en réalité, on est face à un problème d'inefficacité de la généralisation de cet algorithme qui produit trop de faux positifs en absolu quand il est automatisé. C'est intéressant à relever car ça permet d'aller contre la rhétorique "je m'en fiche de ma vie privée si c'est efficace" sans entrer dans un débat de philosophie : ça ne sera pas efficace, au contraire, en plus d'être liberticide (si l'on reste sur mes présupposés exposés ci-dessus). Mais, oui, ça ne permet pas de descendre en flammes directement la surveillance auto : on pourrait chercher et trouver un autre algorithme, faire un vrai contrôle décorrélé en sortie de l'algo, etc.

Ce n'est pas l'existence de faux positifs qui crée ce problème. Cet argument est un bon argument contre la surveillance en général, mais s'il est utilisé pour attaquer la surveillance automatique uniquement, cela revient à dire que vous ne voyez pas de problème à avoir une surveillance traditionnelle qui a ces problèmes.

Comme dit, la masse de faux positifs n'est pas la même car la capacité de traitement n'est pas la même. C'est difficile, à juste titre, de convaincre qu'un système mano est malsain car il y a une erreur de temps en temps. Je ne dis pas qu'il ne faut pas s'en occuper, mais ça me semble être moins problématique.

La surveillance automatique ne va pas forcément amplifier les arrestations, car l'exécutif sur ce plan est surement déjà saturé, simplement, au lieu de s'attaquer injustement au musulman qui est un faux positif dans la méthode traditionnelle, on va déplacer le cercle des victimes sur d'autres critères, sans forcément l'augmenter.

C'est un point de vue. J'ai l'inverse, voir ci-dessus (confiance aveugle, etc.). Mais, oui, ça ne change pas ce que tu dis : si on est convaincue d'une causalité entre la hausse des faux positifs en absolu due à la généralisation du traitement et le nombre d'emmerdes (arrestations, perquisitions, etc.), il faut le dire clairement sans avoir recours aux faux positifs.

Un élément qui me dérange un peu, c'est que les faux positifs de la méthode traditionnelle sont typiquement des minorités, et j'ai l'impression que certains se réveillent uniquement quand ils se rendent compte qu'avec la surveillance automatique, comme la sélection se basera sur des éléments moins triviaux que l'appartence ou la fréquentation d'un groupe communautaire minoritaire, ils peuvent également être eux-mêmes un faux positif.

Je ne suis pas totalement de cet avis. Rien à ma connaissance permet d'affirmer que la surveillance auto se basera sur des éléments moins triviaux. les éléments triviaux sont plus faciles à programmer (les coordonnées GPS de son téléphone mobile indiquent qu'il fréquente telle mosquée / gus). De même, les flics peuvent être tenté de ré-introduire du faciès dans la surveillance traditionnelle en sortie de la surveillance auto : puisqu'il n'y a pas assez d'effectifs pour surveiller tous les faux positifs sortis par l'algo automatisé, on va se concentrer sur les noms qui ne sonnent pas bien la France, pour l'exprimer trivialement. Mais là encore, oui, ça sert à rien de dénoncer les faux positifs, il vaut mieux évoquer le secret (légitime ou non, ça se discute) de l'algorithme, le contrôle de l'usage qui en est fait, etc.