Un bouquin, écrit par un journaliste du Point spécialiste des questions de défense, de police et de renseignement et un romancier, qui part du big data pour décrire une société dystopique despotique, totalitaire, induite par la surveillance massive de chacun-e d'entre nous.
Les avantages proposés par les nouveaux maîtres du monde sont trop attrayants et la perte de libertés trop diffuse pour que l'individu moderne souhaite s'y opposer.
Infos intéressantes
- https://fr.wikipedia.org/wiki/Acxiom - Acxiom, data broker, société commerciale qui détient des profils détaillés sur 700 millions de personnes à travers le monde… sans que personne ne connaisse son nom.
- Les photos souvenirs et les selfies sont un leurre faisant croire que la capture de l'instant présent est supérieur à la réalité, à l'émotion vécue de l'instant qui, elle, n'est pas numérisable.
-
Gouvernance par algorithmes : « gouvernement opérant par configuration anticipative des possibles, plutôt que par réglementation des conduites et ne s'adressant aux individus que par voie d'alertes provoquant des réflexes, plutôt qu'en s'appuyant sur leurs capacités d'entendement et de volonté ».
- Réduire préventivement les possibles, ça me fait penser à la police administrative qui se met doucement en place en France. Ça me fait aussi penser aux pratiques anti-neutralité des réseaux (http://shaarli.guiguishow.info/?mZ7MCA ).
- Les stimuli me rappellent la société de consommation, par essence même mais aussi les techniques mises en place par les gros silos pour capter l'attention de leurs utilisateur-rice-s, voir http://shaarli.guiguishow.info/?BTnhCQ .
- Le mythe des algorithmes qui seraient neutres : Lantana Sweeper, profe à Harvard tapant son nom et prénom sur Google Search voit des pubs pour des services judiciaires lui proposant de consulter son casier judiciaire. Pourquoi ces résultats suggérant qu'elle pouvait avoir un casier sont apparus ? Simplement parce que son nom et son prénom sont à consonance Afro-Américaine donc la probabilité d'avoir des ennuis judiciaire est plus élevée. Au-delà de cette anecdote, les algorithmes sont écrits par des humain-e-s imparfait-e-s, qui ont des biais de perception et d'interpréation, n'oublions jamais cela.
- Sommes-nous hyperconnectés les un-e-s aux autres grâce au numérique ou chacun-e est connecté-e à sa bulle personnelle ? Chacun-e de nous ne voit pas les mêmes résultats de recherche sur Google Search, pas les mêmes pubs, pas les mêmes informations sur un portail d'information ou sur les réseaux sociaux qui appliquent des filtres pour afficher que ce qui est "pertinent".
- Je compète ma définition de la vie privée avec ça : « La vie privée, ce n'est pas ce que l'on dissimule, c'est de l'espace non public, quelque chose dont nous avons besoin pour ensuite jouer notre rôle sur l'agora. Elle est aussi vitale socialement que le sommeil l'est biologiquement. » Jean-Claude Ameisen. Ça complète la définition de jz, « La protection de la vie privée, c'est la protection de nos intimités. C'est se laisser la possibilité d'êtres libres seul-e ou à plusieurs. C'est la possibilité d'expérimenter sans se faire juger. C'est important. », et celle de Sonntag : http://shaarli.guiguishow.info/?peLLrQ
- « La transparence totale s'apparente à une nouvelle Inquisition. Car que veut dire être transparent ? Que l'on voit au travers de vous et donc que l'on ne vous voit plus ? On nous fait confondre honnêteté et transparence. Il faut se pose la question : est-ce que le seul moyen que j'ai d'être honnête, c'est d'être mis sous surveillance H24 ? Si la réponse est oui, cela signifie que l'on a inventé l'honnêteté totalitaire. ».
- « En juin 2013, le directeur de la NSA assura que les programmes de surveillance des télécommunications avaient permis de déjouer des douzaines de «complots terroristes». En octobre, il révisa son estimation à la baisse, évoquant 13 «événements» en rapport avec le territoire américain, avant d’admettre que le nombre de menaces étouffées dans l’œuf par le programme de collecte des métadonnées téléphoniques se montait à une ou peut-être deux. En fin de compte, ne resta qu’un seul complot à avoir été déjoué par plus de dix ans de collecte massive de fadettes téléphoniques : un habitant de San Diego arrêté pour avoir envoyé 8 500 dollars à un groupe militant somalien. ». Source : http://www.liberation.fr/france/2015/04/14/loi-sur-le-renseignement-les-bugs-du-big-data_1241075
- La surveillance automatique, par des programmes informatiques, ça élimine les cas de conscience. C'est donc d'autant plus dangereux.
- Croyance forte en la neutralité des moteurs de recherche : deux chercheurs américains ont demandé à 2 100 Australiens, répartis en 3 groupes, de taper le nom de l'un des deux aspirants pour le poste de Premier ministre aux elections élections de 2010, sur un moteur de recherche truqué pour que les premières pages web affichent des résultats favorables, défavorables ou neutre. Les intentions de votes pour l'un ou l'autre candidat basculaient de 37% en fonction de l'orientation donnée par les moteurs de recherche. Une influence incomparable à celles des médias traditionnels car les internautes font beaucoup plus confiance à l'informatio piochée sur le net. Voir : http://www.pnas.org/content/112/33/E4512.abstract
-
Les GAFA ne veulent pas de réglementations strictes car ces sociétés pensent pouvoir en créer de meilleures que le gouvernement. Elles ne veulent pas non plus que la société civile leur impose des règles éthiques car elles pensent que leur jugement éthique est supérieur par définition même. C'est vrai mais ça ne concerne pas que les GAFA : l'industrie d'Hollywood est persuadée de diffuser la bonne parole, les bonnes valeurs, dans le monde entier. Big Pharma et l'industrie agro-alimentaire ne veulent pas non plus de réglementations, c'est tout l'enjeu des traités de libre échange à outrance !
- Et si ça se trouve, c'est peut-être vrai que les GAFA produisent de meilleures réglementations en se basant sur une méthode scientifique. Mais ce n'est pas la question. La question est : il n'y a pas un semblant de démocratie ni de transparence (qui peut connaître l'intégralité des règles du jeu ?) dans les règles fixées par les GAFA. De plus, tout gros business cherche à s'émanciper des États et pense avoir raison or, les règles de vivre-ensemble fixées par une minorité sont inacceptables par essence.
- Je découvre la culturomique : http://www.francetvinfo.fr/replay-radio/info-sciences/connaissez-vous-la-culturomique_1740973.html . L'étude de la culture et de la pensée humaine dans le temps. Apparition et disparition d'un mot, changement de sens, etc. Exemple : Google qui, grâce à Google Book, constate que l'usage du mot « Dieu » s'effondre à partir de 1860 jusqu'à 1900 pour rester relativement stable et ne pas redécoller ensuite. Je trouve ça impressionnant car avec cet outil, aurait-on pu prévoir la suite logique, aka la loi de 1905 en France, par exemple ? Et si oui, qu'aurait fait les églises et leurs fans avec cette information ?
- Je découvre un nouvel acronyme bullshit, NATU : Netflix, Airbnb, Tesla, Uber… … …
- Pour l'instant le transhumanisme est dans sa phase "prévenir les toooous premiers signes d'une maladie" grâce à des nanoparticules qui se promènent dans tout l'organisme humain. Objectif : gagner de l'espérance de vie (20 ans d'ici 2035). Visiblement, ce courant de pensée porté par Google et d'autres est loin d'avoir pigé la vieillesse et donc de pouvoir atteindre leur objectif : effacer la mort.
- Les nouveaux outils génèrent « une frustration, celle de ne pas réussir à faire tout ce que l'on veut, et une insatisfaction, de mal faire ce que l'on fait. » Hartmut Rosa, philosophe.
- « Dans une démocratie, je considère qu'il est nécessaire que subsiste un espace de possibilité de fraude. Si l'on n'avait pas vu fabriquer de fausses cartes d'identité pendant la guerre, des dizaines de milliers d'hommes et de femmes auraient été arrêtés déportés, sans doute morts ». Raymond Forni, père de la CNIL que l'on décrit comme un homme qui a « toujours été partisan de préserver un minimum d'espace sans lequel il n'y a pas de démocratie »
Points contestables
- L'origine de la surveillance de masse serait les attentats du 11 septembre 2001 pour les USA tandis qu'en France ça serait la fusion DST + RG en DCRI (opérée en 2008) qui aurait fait perdre le maillage local d'informateurs qu'avait les RG. Sauf qu'Echelon (https://fr.wikipedia.org/wiki/Echelon) existait avant le 11 septembre. Tout était prêt avant les attentats, aux USA comme en France, juste les politiques de carrière ne savaient pas comme mettre en place ces arsenals liberticides. Les attentats font sauter les derniers freins, rien de plus.
- 12 organismes géreraient la racine du DNS et seulement 2 seraient en dehors des US. Ce n'est pas 2 organisations mais 3, voir http://root-servers.org/ et ce n'est pas le nombre d'opérateurs de la racine qui est important puisqu'ils assurent uniquement un rôle technique de diffusion mondiale d'un fichier préparé, dans les faits, par le gouvernement US (via l'ICANN et le département du commerce). C'est là que se situe l'enjeu de pouvoirs, pas chez les opérateurs de la racine.
- Non, toutes les fibres optiques mondiales ne passent pas toujours par les US, voir http://www.cablemap.info/ . Dire cela pour mettre en avant la toute puissance de la NSA, c'est éluder la coopération entre tous les services de renseignement autour du globe qui s'échangent des renseignements, aka ce qui circule sur les câbles dépendant de leur juridiction. Du coup, ça amène une erreur de lecture plus loin dans le livre : si les élu-e-s européen-ne-s se sont couché-e-s trèèès rapidement quand la presse a indiqué que les téléphones avaient été mis sous écoute par la NSA, c'est par peur que la NSA divulgue les accords de coopération qui montrent que les services secrets européens ne sont pas non plus des anges.
- Est-ce que ce sont les contrats de sous-traitance de la Défense US et les investissements de la part de fonds d'investissements liés aux services secrets US (genre In-Q-Tel pour la CIA, voir http://shaarli.guiguishow.info/?8gqkSQ pour plus d'infos sur le sujet) ou bien la législation genre Patriot Act qui ont le plus corrompu les GAFA ? Le livre a un préjugé pour le premier cas alors que moi, je n'en suis pas si sûr, je pense que le Patriot Act a aussi beaucoup joué dans la porosité entre services de renseignement US et GAFA.
- Le livre désigne l'avarice d'une oligarchie technocratique comme bouc-émissaire de tous les maux du monde à venir. Je n'ai jamais été convaincu de cela : on reconnaît une logique issue de la théorie de l'évolution derrière Internet aka les humain-e-s avaient besoin de diffuser le savoir plus largement et de communiquer plus vite, mais on renie une telle propriété au libéralisme économique accru : en quoi ce libéralisme (voire ce libertarisme) ne pourrait-il pas être nécessaire à l'évolution de la société ou, à défaut, être la moins mauvaise organisation de celle-ci connue à ce jour ? Je n'ai pas de réponse, c'est une question ouverte que je me suis toujours posé.
- Les auteurs pensent que la robotisation accrue réservera le travail à une élite qui sera du coup abusivement rémunérée. Les auteurs pensent à des travaux créatifs, par exemple. Je suis d'accord mais d'un autre côté, si l'humanité accouche de plusieurs vraies intelligences artificielles complètes alors même ces tâches ne seront pas exclues de la robotisation. Partant de là, les auteurs estiment que le revenu de base est une chimère libertarienne car il sera attribué en échange de temps de présence en ligne (source de production de données qui seront monétisées). Plusieurs points de leur analyse se contredisent : par qui sera distribué ce revenu s'il n'y a pas d'état (vœux des libétarien-ne-s dont certains gus-sse-s de la Silicon Valley font partie) ? Par les GAFA ? Donc il faudra que les données monétisées par personne rapportent plus que le revenu versé, ce qui est loooooin d'être le cas aujourd'hui (on est à 4$ par utilisateur sur un trimestre en moyenne mondiale, voir http://www.nextinpact.com/news/101990-facebook-benefice-et-revenus-records-au-troisieme-trimestre.htm ). Pourquoi les GAFA paieraient les revenus de base de toute personne qui s'est fait remplacer par un robot alors que ces sociétés ne seront pas responsables de toute la robotisation du monde ?
Définition et enjeux du big data :
- Perso, j'aime beaucoup cet épisode de DataGueule sur le sujet : https://www.youtube.com/watch?v=5otaBKsz7k4 . Là où le livre est intéressant, c'est qu'il énonce très bien toutes sortes de dangers liée à cette collecte massive bien au-delà des exemples de l'assurance voiture ou santé adaptée que l'on présente assez rapidement en premier auprès de personnes qui méconnaissent le sujet.
-
Big data : collecte massive de données sur tout le monde pour analyse. L'idée et d'affiner les statistiques et surtout les probabilité : si l'on a des données sur tout le monde, on perd la marge d'erreur liée à la qualité de l'échantillon. L'idée est de faire des corrélations entre toutes les données capturées et archivées afin d'en déduire des tendances (foyers des épidémies, prix de l'immobilier, etc.) mais aussi de personnaliser toujours plus les services auprès de chaque individu dans les domaines de la santé, de la sécurité, etc. L'objectif final est une rationalisation ultime de tout ce qui peut l'être, d'effacer la notion de risque, d'effacer les émotions, d'effacer le hasard. C'est-à-dire effacer la créativité humain-e et ce que fût l'évolution humaine jusqu'ici (suite de hasards, notamment génétiques). Notons que la fiabilité de la prévision des foyers d'épidémies ne fait pas l'unanimité : http://science.sciencemag.org/content/343/6176/1203 .
- Enjeux :
- Nudité / transparence de l'humain-e : intimités, habitudes, comportements, profil commercial, profil psychologique et idéologique aux mains de sociétés commerciales et d'État tout-puissant-e-s et marginalité pour ceux-celles qui refuseront ce système.
- Servitude volontaire pour obtenir des services gratos et personnalisés en échange. Services qui nous procurent du confort, aucun doute là-dessus et c'est bien le problème. Là où aucune police politique (la Stasi, par exemple), ni aucun État totalitaire n'a jamais réussi à tout savoir sur tout le monde, le big data y arrive grâce à ce tour de passe-passe. Le changement de modèle de société est subtile, non-violent et indolore d'où il est difficile à contrer.
- Kobo (fabricant de liseuses de livres électroniques et partenaire de la FNAC) est capable de dire que seulement 7,3 % des lecteur-rice-s de la version numérique du dernier livre de Zemmour l'ont lu en entier. Voir : http://rue89.nouvelobs.com/rue89-culture/2014/12/15/seuls-73-acheteurs-ont-lu-zemmour-jusquau-bout-caftent-les-ebooks-256537 . C'est d'ailleurs pour cela que le livre papier dérange : il est inerte. Son lecteur ne produit pas de données qui auront un intérêt commercial après son achat, puisque la lecture se fait hors réseau. Le livre électronique et ses mouchards, c'est beaucoup mieux : on peut revendre aux éditeurs des tendances sur ce qui intéresse les gens, les morceaux de chaque bouquins lus et zappés, etc.
- L'enjeu est-il de simplifier la vie ou de réduire tout un-e chacun-e à l'état de consommateur-rice impulsif, but ultime du libéralisme économique ? Quand on voit les boutons connectés d'Amazon, qui permette de commander un produit d'une simple pression, on voit très clairement l'association à des marques donc une emprise de la marque toujours plus forte jusqu'à être matérialiser par une objet chez nous. On est au même stade que Frigidaire (marque de General Motors, pour rappel ;) ). Même chose pour les villes connectées : si tout est géré par des programmes informatiques, alors il n'y a plus de politique (au sens gestion de la vie de la cité) donc il n'y a plus de citoyen-ne-s donc il ne reste plus que des consommateur-rice-s.
- Les capteurs physiques et psychologiques modélisent notre vie : tant de pas effectués dans la journée, tant de graisse, tant de cholestérol, tant de sommeil. Où est le plaisir ? Où est l'imperfection humaine ? On est ici dans le summum de la société de la performance : il faut se conformer à un modèle statistique qui défini ce qu'est la vie parfaite. Or, une vie parfaite ne nous rendra pas forcément heureux car l'humain-e est imprévisible et imparfait-e par nature. On en trouve une première illustration dans l'épisode Bart-Ball des Simpsons (http://www.simpsonspark.com/episodes/bart_ball.php ). Autre illustration : http://rue89.nouvelobs.com/2016/09/09/lhomme-plus-connecte-monde-sest-fait-devorer-donnees-264377
- Toute cette surveillance s'approprie illégitimement notre temps (voir http://shaarli.guiguishow.info/?BTnhCQ ) et notre espace genre les caméras de surveillance dans l'espace public et l'analyse en temps réel de leurs images qui permettent de dicter un code de conduite dans l'espace public au-delà de la loi.
- Les GAFA choisissent les contenus qui s'affichent (sur le mur Facebook (fonctionnalité EgdeRank) ou dans le flux Twitter ou sur Google) et les contacts avec qui on va entrer en relation afin d'harmoniser les relations inter-humain-e-s. Mais s'il n'y a pas de confrontation des points de vue, il n'y a pas d'évolution, pas de changements des mentalités, pas de révolte, pas d'évolution.
- Le livre évoque plusieurs fois le contrôle de nos pensées. Les exemples donnés n'ont pas percuté chez moi mais j'ai trouvé un autre exemple : l'autocomplétion sur Google Search corrige nos saisies et les guide. C'est donc bien là une influence sur notre mode de pensée : notre question est substituée par une question suggérée par Google comme étant équivalente mais plus populaire, plus mieux, etc.
- Summum : enregistrer toute notre vie, tous nos faits et gestes dans une sorte de bibliothèque personnel consultable à souhait ? Un ingénieur de Microsoft y a pensé : http://www.lemonde.fr/livres/article/2011/01/06/total-recall-de-gordon-bell-et-jim-gemmel_1461648_3260.html . Quid de l'oubli qui permet le pardon social ?
Mon avis
D'un côté, ce livre est plutôt confus, surtout au niveau des premières (et dernières) définitions données : big data = GAFA = géants américains du net, Deep web = Darknet = web caché. Bon, je suis mauvaise langue, le terme « hacker » est remarquablement bien expliqué. On mélange toute forme de surveillance : privée (GAFA, etc.), étatique (lois privatrices de libertés, déploiement massif de caméras de surveillance dans l'espace public, etc.), on fait le lien entre GAFA et renseignement (ce lien est avéré, on est bien d'accord), on fait le lien entre GAFA et problèmes écologiques. Tout ça pour arriver à une vision despotique et dystopique du monde : une seule société humaine asservie par une oligarchie technocratique mondiale transcendant les États. Tout est mélangé sans dire si les auteurs pensent que tout cela est la face d'un même objet aka une société qui va aller encore plus mal ou si c'est lié à une incompréhension des origines multiples des multiples maux de la part des auteurs, par exemple.
D'un autre côté, les auteurs accablent les GAFA de tous les maux du monde alors que la plupart des maux pré-existaient, ce qui n'aide pas à poser le bon diagnostic. Petite sélection :
- Le numérique favoriserait un butinage compulsif de l'information, une pensée qui s'émiette, une réflexion qui se fait pas spasmes. Comme avec les journaux TV ? :))))
- Impuissance de la politique politicienne : quand les sénateur-rice-s US ont interrogé Tim Cook pour les pratiques d'évasion fiscale pratiquées par Apple, il-elle-s lui passent de la pommade et le complimente. Et ? En UE (et aussi en France), on protège nos petits champions. D'autres multinationales pratiquent l'évasion fiscale. Big Pharma est tout autant protégée, hein, rien de spécifique aux GAFA.
- Les GAFA sont en mesure de générer des émotions durables en manipulant les contenus affichés, c'est ce que démontre l'expérience de Facebook (http://www.lemonde.fr/pixels/article/2014/06/30/des-utilisateurs-de-facebook-manipules-pour-une-experience-psychologique_4447625_4408996.html ). Oui, tout comme les journaux TV. Rien de neuf, c'est à ça que sert la plurité de la presse, ce vieux principe.
- Les GAFA de déploient dans d'autres secteurs économiques, c'est horrible. Oui, tout groupe commercial qui génère de la thune se diversifie toujours, c'est une vieille logique économique de survie élémentaire. Les GAFA le font dans tous les domaines où le traitement de l'information apportera de la plus-value car ils savent très bien faire cela. Rien de surprenant.
- Les autres médias raccourcissent tout autant le temps, la politique politicienne aussi. Les deux montent en épinglent nos émotions. Les deux tentent d'amoindrir la pensée. Rien de neuf.
- Les objets connectés et les GAFA (par le traitement des contenus affichés) incitent à garder la forme, au bonheur, au bien-être, en permanence, ce qui n'est qu'un avatar de la société de la performance. Or, ceux-celles qui n'y parviennent pas peuvent éprouver de la culpabilité et partir en dépression. Là aussi, les GAFA ne sont qu'un vecteur d'injonctions parmi d'autres.
Enfin, quand on commence à lire et que l'on voit la noirceur du tableau (je ne dis pas que c'est faux factuellement parlant, hein), on se demande si les auteurs parleront un jour des solutions. Hé bah oui. \o/ À la fin, quelques solutions abstraites (mais nécessaires) sont proposées : se réapproprier l'espace et le temps, lutter contre l'uniformisation, accepter l'imprévisibilité et l'imperfection humaine, remettre l'humain-e au centre du système en lieu et place des robots. Des solutions concrètes sont également proposées : TOR, logiciels libres (nommés logiciels ouverts mais l'objectif est très bien expliqué) et chiffrement.
Au final, les enjeux derrière le big data sont très bien expliqués et c'est en cela que j'ai envie de recommander la lecture de ce livre. D'un autre côté, les références sont parfois inexpliquées ou survolées rapidement, ce qui fait qu'un bagage préalable semble utile (mais pas indispensable). Le tableau est volontairement noirci. Le texte est parfois confus (transitions difficiles). Etc. Tout cela me fait me demander si je conseillerai ce livre à des personnes non initiées… Le côté "paranoïaque" et le côté "impuissance de chacun-e dans ce problème global" peuvent faire perdre pied. Pour les initié-e-s, on y apprend quand même des choses.