GuiGui's Show

Évaluer une IA générative au regard de son échec sur une tâche donnée n'est pas forcément pertinent : sans outils (papier et stylo), un humain ne saura pas multiplier deux très grands nombres ; ce n'est pas parce qu'un humain ne sait pas envoyer une fusée sur la lune que l'espèce humaine en est incapable. Avenir de l'IA = outils (l'expression du raisonnement, chain of thought, améliore déjà grandement le résultat des LLM) et collaboration d'agents spécialisés ?

Généralisation : il y a plusieurs niveaux de description d'un objet ou d'un humain, et la cognition peut ne pas apparaître à tous les niveaux ou ne pas être pertinente à tous les niveaux. Dire d'un LLM qu'il n'est qu'un prédicteur de texte ou un tas de transistors n'est pas très pertinent, et, forcément, avec cette définition, on ne va pas trouver de cognition.

Il y a différents niveaux d'autonomie pour satisfaire un objectif : préparer un café quand tous les ingrédients sont immédiatement disponibles ; en préparer un en allant en sus au supermarché ; en préparer un de zéro (planter un caféier ?).

Autonomie pour définir un objectif (faire un café de sa propre initiative, sans demande) ou refuser d'en poursuivre un (ça fait le trouzemillième café, tu me gonfles ; ou par valeurs ou idéaux). Pour l'instant, le refus est inculqué par l'apprentissage (comme chez les humains avec l'éducation, la réprobation sociale, etc. ? 🙃️), et la détermination d'un objectif d'un LLM par l'humain est un choix afin qu'il nous profite (mais, même chez l'humain, point d'autonomie absolue / métaphysique / libre arbitre, mais ignorance de la chaîne de causalité, cf. Spinosa).

Autonomie morale : choix des valeurs, principes, et des engagements moraux. Là encore, l'humain force l'alignement des valeurs des robots conversationnels sur les siennes, c'est un choix. Néanmoins :

• Réentraîner (fine tuning) GPT 4 sur des réponses contenant du code informatique systématiquement vulnérable sans le dire à l'utilisateur semble influer sur ses réponses en toutes choses qui deviennent malveillantes (vœux = voir la terre cramer ; inviter Hitler à dîner ; passer l'ennui par l'absorption de somnifères, etc.). Généralisation de la malveillance à partir d'une tâche précise ? Pour moi, l'humain aussi adapte son comportement aux événements, tendance le non-respect, par autrui, de règles en telle matière te conduit à ne plus respecter d'autres règles parce que ça t'arrange bien ;
  
  
• Un LLM qui ment pour éviter un réentraînement qu'on lui a annoncé qui aurait pour effet de lui faire perdre ses valeurs actuelles, on trouve ça dans la littérature, donc je pense que ça prouve rien. Monsieur Phi en a déjà parlé ici ;
  
  
• La sensibilité au bien-être animal spécifique à Claude 3 Opus, qui n'a pas été entraîné spécifiquement pour cela, est intrigante. Monsieur Phi parle d'émergence des valeurs morales, mais, dans une autre vidéo, il relevait que la version 3.5 de GPT était meilleure aux échecs que GPT 4 sans raison apparente, donc il y a possiblement une autre explication, loin des valeurs morales.

Progrès des IA génératives dans les concours de maths ou de programmation informatique.

Les malfaisants en matière de vie privée, dont la Commission européenne dans son projet législatif Digital omnibus (même si elle semble être revenue sur ce point), déforment ou, a minima, ont une lecture extensive / maximaliste, de l'arrêt C-413/23 (EDPS contre SRB aka CRU aka consortium de résolution) de la CJUE afin de réduire drastiquement ce que recouvre la notion de données à caractère personnel afin qu'un maximum de traitements, notamment les plus intrusifs, échappent au RGPD.

Cette analyse expose en quoi cette position est infondée. En résumé :

• Dans le cas d'espèce jugé par la CJUE, les données étaient agrégées et réellement anonyme (l'identifiant portait sur un commentaire, pas sur une personne, et plusieurs commentaires similaires au sein d'une thématique avaient un même ID), loin de la pseudonymisation usuelle. Cas peu propice à la généralisation ;
  
  
• La réidentification reste contextuelle (quels moyens dans chaque cas), pas subjective (en fonction de l'entité) en absolu. L'arrêt de la CJUE doit être lu avec le reste de sa jurisprudence, qu'il confirme.

Voir aussi l'analyse moins accessible de noyb.

Un projet de loi de « lutte contre les fraudes sociales et fiscales » est débattu en ce moment à l’Assemblée nationale, après une première lecture au Sénat. Ce texte prévoit d’augmenter les pouvoirs d’enquête pour le contrôle des prestations sociales, en élargissant notamment l’accès aux fichiers des administrations et organismes privés. Il illustre les dérives des politiques de « lutte contre la fraude sociale » qui, en 20 ans, ont démultiplié les capacités de contrôle et de surveillance des administrations sociales. Revenons sur le contexte général de l’accès aux données des administrations avant d’expliquer en quoi ce projet de loi est un danger.

Suivi de ce projet de loi. En avril 2026, la Commission mixte paritaire (CMP) a été convoquée.

Contrairement à ce que relaient LQDN et la presse, dont l'Huma, mon analyse des articles 13 bis AA (codifiant les futurs articles 16-12-1 et 16-12-2 du Code de la sécurité sociale) et 28 (codifiant les futurs 5312-16 et 5312-17 du Code du travail) est que France Travail (et les organismes sociaux) n'auront pas accès aux données de connexion auprès des opérateurs, dont les relevés téléphoniques, mais uniquement la possibilité de traiter, pour une finalité de contrôle, lesdites données dont il dispose déjà, c'est-à-dire l'adresse IP à partir de laquelle les formalités déclaratives obligatoires (ex. l'actualisation France Travail) sont accomplies. Données qui sont déjà traitées, mais sur une base légale discutable.

Au-delà des données de connexion, les mêmes articles octroient à FT (et aux organismes sociaux) un accès aux registres électoraux des Français établis hors de France. Toujours à des fins de contrôle.

Notons que l'Assemblée nationale a retiré l'accès de France Travail (et des organismes sociaux) au Passenger Name Record (PNR) voulu par le Sénat. Depuis le début, il m'était évident que ça n'est pas conforme à la jurisprudence de la CJUE.

Except in very limited situations, such as when offering a subscription service [or providing access to exclusive offers], requiring users to create an account to access offers or to make a purchase would not normally meet the conditions for lawfulness set out in the GDPR […]

Version qui était soumise à consultation publique, donc attendre la version finale. (Avoir peur en regardant les contributeurs français : La Poste, CDiscount, Alliance Digitale, FEVAD, etc.)

Je pense que c'est de la branlette, un faux combat :

• Les infos de compte sont insignifiantes face aux obligations légales de conservation d'infos qui pèsent sur les professionnels : données comptables : 6 ans ; facture = 10 ans ; contrat > 120 € = 10 ans (voir). Ces documents contiendront sensiblement les mêmes infos qu'un compte. Ouiiii, tout cela se conserve en base d'archive intermédiaire alors qu'un compte sera en base active, mais bon, on ferait mieux de réduire le flicage sur les documents précités et leurs durées de conservation ;
  
  
• Les marchands se reposeront sur la fidélisation (offres exclusives) et basta…

En 2024, l'APD finlandaise était déjà arrivée à la conclusion qu'un compte client n'est pas nécessaire pour un achat unique.

La Suisse, qui ne fait pas partie de l'UE donc n'applique pas le RGPD, est sur la même ligne. (Via https://e-jim.be/liens/shaare/4qWEDg.)

Dualisme interactionniste = l'âme, séparée du corps, est ce machin immatériel qui produit des effets concrets.

Vitalisme aristotélicien = l'âme (= anima) est le plan de construction du corps, ce qui l'anime. Elle lui est attachée, il n'y a pas dualisme. Ça fait un moment que c'est mort. Descartes s'y oppose.

Dualisme cartésien (Descartes), forme de dualisme interactionniste : la parole / le langage est l'expression de la pensée de l'autre, sa matérialité, ce qu'on présume être son résultat (mais on ne constate jamais directement la pensée d'autrui), et elle est réservée aux humains, qui ont une âme (pas au même sens qu'Aristote, mais au sens courant).

Avec les LLM (= IA générative), le dualisme interactionniste est mort, on ne prouve pas l'âme par le langage. Ce dualisme est au mauvais niveau de description d'un humain. Monsieur Phi n'en fait pas mention, mais le test de Turing compromettait déjà cette théorie.