GuiGui's Show

Sur les tests d'évaluation de l'intelligence générale des IA génératives (LLM) et leurs progrès. Définition de l'intelligence : rapidité d'adaptation à des problèmes nouveaux en général (= hors tâches spécifiques = capacité d'être médiocre en tout). Efficacité de la transformation, en compétences, de ses savoirs et de son expérience (sur des tâches inconnues).

Notons la définition d'AGI d'OpenAI : système hautement autonome qui surpasse les humains dans la plupart des tâches économiques rentables. Pour Microsoft : AGI atteinte si ça génère 100 milliards de profits pour les investisseurs initiaux. Si AGI atteinte (ou prétendument atteinte), Microsoft n'aura plus accès à la propriété intellectuelle en échange de son investissement (c'est le deal de 2019).

+ ChatGPT rêve-t-il de cavaliers électriques ? : les LLM se construisent une représentation interne d'un plateau d'échecs (positions des pièces), du niveau de l'adversaire (ex. : coups aléatoires = mauvais niveau) et des règles du jeu. Cette représentation interne influe sur les coups prédits (représentation causale). Elle émerge, le LLM n'a pas été entraîné pour jouer aux échecs. À affiner, car la mesure des états internes n'est pas la plus fiable. Il faut trouver un contexte qui rendra très probable la réalisation, par un LLM, d'une tâche par complétion de texte (ex. : pour jouer aux échecs, mieux vaut donner un fichier PGN qu'expliquer les règles, à quoi ressemble un plateau, etc.). Rigolo de voir la baisse de niveau aux échecs entre GPT 3.5 et 4 : "apprendre" de nouvelles choses, c'est en oublier d'autres ?
+ o1 et Claude sont-ils capables de nous MANIPULER ? Deux études récentes aux résultats troublants (Monsieur Phi)
+ La sagesse selon YouTube : plongée dans un océan de contenu généré par IA (Monsieur Phi)
+ Luc Julia au Sénat : autopsie d'un grand N'IMPORTE QUOI (Monsieur Phi) Critique et démystification de ce personnage qui a l'oreille des politiciens et des médias, et de ses propos erronés.

+ INTELLIGENCE ARTIFICIELLE - L'affaire "Hypnocratie" (Le Précepteur)
+ INTELLIGENCE ARTIFICIELLE - Deux dangers dont on ne parle pas assez (Le Précepteur)

On ne constate jamais si autrui pense, on ne voit que le résultat, la pensée… qui peut être de la resucée. La qualité d'une pensée ou d'une œuvre n'est pas altérée par son origine (humain ou LLM). La quantité de travail (auquel on accorde plus de valeur) est notre manière présente d'évaluer une chose. En ce sens, l'IA générative apparaît comme de la triche, comme avant elle Internet, une calculette ou l'écrit.

Rupture du système de récompense. Travail long et pénible (tout le monde ne peut pas le faire) => effort => souffrance => récompense chimique et admiration => incitation pour se bouger par anticipation (motivation). Avec l'IA générative, on ne délègue plus seulement le geste (comme avec la machine à vapeur), mais aussi la pensée.

Rupture du système de confiance. Je ne suis pas une IA mais je ne peux pas le prouver. Qu'est-ce le vrai et le faux ?

Mon avis : ayant grandi avec Internet, ça a été mon lot quotidien de savoir ce qui est vrai ou faux, de galérer à trouver des infos, donc la rupture de la confiance ne m'inquiète pas. Sur la récompense, j'observe que le dopage sportif, comme la vitesse hallucinante des coureurs du tour de France, n'enlève rien à la motivation ni à l'admiration. Les penseurs et artistes de demain seront dopés à l'IA générative, mais si leur co-pensée fait avancer le monde (ou génère de la thune), l'administration demeurera.

Pour moi, les questions sont :
1) pour quelles tâches remplacer l'humain ? Si c'est pour s'éviter du taff sans intérêt (sachant que beaucoup de ce travail a été créé artificiellement pour justifier l'emploi plutôt qu'une meilleure répartition des gains de la production), go ; si c'est pour enlever du travail intéressant et/ou des loisirs, non. Les joueurs d'échecs n'ont pas disparu alors que les programmes informatiques les battent à plate couture.
2) quid de la satisfaction des besoins de subsistance ? Avec le modèle de la propriété privée lucrative, on va encore plus au casse-pipe. Sur cet aspect, je recommande cette lecture.

J'ai compilé pas mal de ressources et de réflexions sur les IA génératives dans un autre article.