Dernière causerie de Benjamin. Comme d'hab, c'est très intéressant, j'en recommande le visionnage.
IA :
- Vaste domaine. Plusieurs types de programmes : statistiques (qui produisent des résultats que l'on ne sait pas expliquer, cf. l'exemple du circuit électronique programmable à partir de 4 m 42), génératifs, de classification, etc. ;
- Pour la classification, il faut qualifier en amont la matière ingérée par la machine (ex. : ça c'est une photo d'un être humain, ça non). Ce qui torpille les usages larges / généralistes type détecter un terroriste dans l'espace public, car ce qui est constitutif d'être un terroriste est très vaste et qu'une action passée peut être duale (voir tel contenu peut me radicaliser, me laisser indifférent ou me dissuader d'un acte terroriste, par ex.). À l'inverse, une IA peut classer des radios médicales de poumons et pointer des tumeurs pré-cancéreuses car on l'a entraîné uniquement sur des images de poumons (c'est très précis, on sait ce qu'on cherche, des tâches sombres, à tels endroits sur un organe du corps, etc.) ;
- Cela permettra à des personnes en responsabilité de se dédouaner, cf. la mouvance « c'est l'ordinateur qui veut pas » d'il y a quelques décennies ou la plus récente « c'est l'algorithme qui a dit que vous avez perçu indûment des prestations sociales ». En réponse, il ne faut pas oublier que l'IA est un outil, qu'un humain a décidé d'utiliser, ou non, de telle façon, avec telle intention, pour atteindre telle finalité, et qu'il en est le seul responsable de ces choix.
Politique et pouvoir :
- Politique = optimisation sous contraintes. Le système qui satisfait toutes les contraintes sur un sujet donné n'existe probablement pas, il faut choisir le système qui satisfait le moins mal le plus grand nombre de contraintes possibles. De là, la politique est un choix (sur quoi renoncer plus ou moins intensément ?) ;
- Il faut contrôler ceux qui ont du pouvoir sur les autres au prorata dudit pouvoir et du nombre de personnes concernées. De là, il n'y a pas besoin que la loi soit appliquée avec rigueur en permanence ni de réclamer des moyens techniques pour le faire (ex. : a-t-on besoin de vidéoflicage ou d'une palanquée de flics afin de s'assurer que tout le monde respecte l'obligation de traverser la rue aux passages piétons ?).
Plateforme des données de santé aka PDS aka SNDS aka Health Data Hub aka HDH :
- Rappel des épisodes précédents ;
- Les sociétés commerciales Clever Cloud, Nexedi, Rapid Space International, Cleyrop, les associations Open Internet Project, l'association de défense des libertés constitutionnelles (ADLC), Le Conseil national du Logiciel Libre, et des particuliers contestent, devant le Conseil d'État, la décision de la CNIL d'autoriser la PDS à créer un entrepôt de données (de santé, donc), EMC2, dans le cloud de Microsoft, et par là, lui demandent de transmettre une question préjudicielle à la CJUE sur la validité du DPF. Recours porté par Me Soufron, rémunéré par les industriels ;
- Le référé-suspension a été rejeté mi-mars 2024. Il reste la procédure au fond (hors urgence). Live tweet de l'audience. Autre live tweet ;
- Les licornes célestes : association loi 1901 créée spécifiquement pour attaquer la décision de la CNIL. Pour contester une décision administrative, il faut avoir un intérêt à agir (= que la décision crée un préjudice au requérant). Or, dans le cas présent, la décision de la CNIL est une décision individuelle qui crée un droit positif pour la PDS. Dès lors, il n'était pas certains que les industriels puissent se prévaloir d'un manque à gagner puisqu'il n'y a pas eu d'appel d'offres. L'astuce consiste donc à créer une association dont le but statutaire est de contester ladite décision. Ainsi, l'intérêt à agir sera forcément reconnu car l'association a besoin de contester pour atteindre sa fin. Statuts.