Capture d’écran 2018-09-26 à 00.17.13Ayant assez largement délaissé la civilisation technologique – French tech & cie- depuis pas mal de temps, revenons-y par le biais d’un best-seller mondial « Homo Deus, une brève histoire du futur« . Celui qui le précède Sapiens, une brève histoire de l’humanité, l’est également. Et son suivant « 21 leçons pour le XXIe siècle » (édition Albin Michel) s’annonce déjà une nouvelle fois comme un succès planétaire.

Capture d’écran 2018-09-26 à 00.25.24S’il est constitué très visiblement de constructions idéologiques ultra-libérales, voire d’un concentré de celles-ci à lire avec l’esprit en alerte, il n’en demeure pas moins que « Homo Deus », nous éclaire d’une lumière neuve ce que sera le monde d’aujourd’hui lorsque, à nos mythes collectifs tels que les dieux, l’argent, l’égalité et la liberté, s’allieront de nouvelles technologies démiurgiques. Et que les algorithmes, de plus en plus intelligents, pourront se passer de notre pouvoir de décision.

Car selon l’auteur, nous ne sommes que des machines biologiques sommaires dont les performances sont susceptibles d’être surpassées par celles des technologies contemporaines.

Ainsi pour le phénomène planétaire Yuval Noah Harari, historien israélien spécialiste dans l’anticipation du futur, et universitaire de profession: « Les gouvernements et les entreprises vous connaîtront bientôt mieux que vous ne le savez vous-même. La croyance en l’idée de «libre arbitre» est devenue dangereuse. » Le principal défi auquel le libéralisme « est confronté aujourd’hui ne vient pas du fascisme ou du communisme, ni même des démagogues et des autocrates qui se répandent partout comme les grenouilles après les pluies. Cette fois, le principal défi émerge des laboratoires. »

Ainsi à la fin de son livre « Homo Deus » – devenir des homme-dieux, à savoir des « Homo Deus »-, l’auteur invite ses lecteurs à réfléchir au fait que « la science converge vers un dogme universel suivant lequel les organismes sont des algorithmes, et la vie se réduit à un traitement de données. »

A ce titre il nomme « dataïsme », la nouvelle révolution scientifique. Qui est « la croyance selon laquelle l’univers tout entier ne consiste qu’en flux de données; et un phénomène, quel qu’il soit, en une manière de traiter ces données. Dans cette optique, une tomate et un humain ne sont que des mécanismes de traitement différents. De même pour le communisme et le capitalisme. La seule chose qui les distingue radicalement c’est que le premier s’appuie sur un système de traitement de données centralisé alors que le second fait appel à un système distribué. »

L’on sait maintenant – chez ceux qui ont quand même un peu les yeux grands ouverts- que l’intelligence artificielle, la biotechnologie et les algorithmes toujours plus sophistiqués sont en train de puiser dans nos valeurs, nos habitudes, nos goûts, nos désirs et les schémas de pensée qui nous définissent tous pour contrôler la façon dont nous achetons, ce que nous lisons, et pour qui nous votons. Bon, au moins nous en serions conscients « Oui, oui, on sait tout ça! »

Conscients ? Hé! allons-y doucement. Parce qu’immergés dans le présent nous sommes assez peu lucides de ce qui façonne la réalité de notre temps. Déjà à ce stade, Yuval Noah Harari considère que la notion de libre volonté est morte. Et que le grand projet du libéralisme – qui découle des Lumières-, avec son accent sur l’individu, est épuisé.

Capture d’écran 2018-09-26 à 00.33.35Clin d’oeil tendre en passant à une amie grande lectrice, en contact quotidien avec sa liseuse: « Les entreprises comme les Etats, s’ils agrègent suffisamment de données biométriques et de capacité de calcul, pourront bientôt créer des algorithmes qui me connaîtront mieux que moi-même, et le pouvoir glissera de ma personne vers l’algorithme. Ce dernier comprendra mes désirs, prédira mes décisions, et fera de meilleurs choix en mes lieu et place… Cela commence par de petites choses, par exemple quel livre acheter.(…) Lorsque nous entrons dans le magasin virtuel d’Amazon, le message suivant s’affiche : « Je sais quels livres vous avez aimé. Les gens qui ont les mêmes goûts que vous ont aimé telle ou telle nouveauté. Mais ce n’est qu’un début. Des appareils tels que le Kindle d’Amazon peuvent collecter en permanence des données sur leurs utilisateurs pendant la lecture. Votre liseuse peut contrôler la vitesse à laquelle vous lisez tel ou tel chapitre, ici vite, là lentement; à quelle page vous avez fait une pause, et à quelle phrase vous avez définitivement laissé tomber. Et si, de surcroît, Kindle était doté d’un logiciel de reconnaissance des visages et de capteurs biométriques, il pourrait savoir la façon dont chaque phrase vous influence, vous fait battre le cœur et modifie votre tension. Il pourrait savoir ce qui vous a fait rire, ce qui vous a rendu triste, ce qui vous a mis en colère. Sous peu, les livres vous liront pendant que vous les lisez ! » comme il l’explique dans l’entretien à lire ici.

Bon, j’ai un tort je l’avoue sans détour, cet ouvrage apparemment fort érudit je le lis en caracolant, faisant des écarts et des sauts de mouton. Car cet historien du futur laisse entendre que l’ensemble des mécanismes du vivant serait reproductible sur un ordinateur. Et que nos réactions et nos désirs seraient conduits à se laisser gouverner par les algorithmes qui les surpassent. C’est-à-dire par le « dataisme », la religion des données évoquée à la fin de l’ouvrage.

Capture d’écran 2018-09-26 à 11.22.35Hum! Pour info, voici un échantillon bien réel:
– Il y a quelques jours, Fitbit, qui est une marque d’objects connectés pour le sport (montres, balances, etc…) s’est associé à un assureur pour négocier l’assurance santé en fonction des efforts. Cela va se généraliser avec Apple aussi : voir ici.
– La Chine a développé des faux pigeons drones pour surveiller les citoyens: voir ici.
– Il existe la crypto-monnaie IOTA qui est destinée à la monétisation généralisée et instantanée des objets connectés (frigo, chauffage, etc…), et donc la financiarisation des comportements individuels.

L’on nous guette donc, voire il y a du monde à nos trousses. Harari résumait ainsi sa vision du monde à venir dans un article du journal anglais The Guardian, à voir ici. Extraits.

« Les capteurs biométriques piratés pourraient permettre aux entreprises d’accéder directement à votre monde intérieur. Ce n’est pas une théorie abstraite. Vous pouvez en témoigner facilement. Observez simplement la prochaine pensée qui apparaît dans votre esprit. D’où vient-elle? Avez-vous librement choisi d’y penser? Évidemment pas. Si vous observez attentivement votre propre esprit, vous réalisez que vous avez peu de contrôle sur ce qui se passe là-bas et que vous ne choisissez pas librement ce que vous pensez, ce que vous ressentez et ce que vous voulez. (…) la croyance en «libre arbitre» devient soudainement dangereuse. Si les gouvernements et les entreprises réussissent à pirater l’animal humain, les personnes les plus faciles à manipuler seront celles qui croient au libre arbitre. Pour réussir à pirater des humains, vous avez besoin de deux choses: une bonne compréhension de la biologie et une grande puissance de calcul. »

« Cela commence par des choses simples. Lorsque vous naviguez sur Internet, un titre attire votre attention: «Les gangs d’immigrés violent les femmes locales». Vous cliquez dessus. Au même moment, votre voisin surfe aussi sur Internet et un autre titre attire son attention: «Trump prépare une frappe nucléaire sur l’Iran». Il clique dessus. Les deux gros titres sont des fausses nouvelles, générées peut-être par des trolls russes, ou par un site Web cherchant à accroître le trafic pour augmenter ses revenus publicitaires. Vous et votre voisin sentez que vous avez cliqué sur ces titres de votre libre arbitre. Mais en fait, vous avez été piraté. »

« Et ce n’est que le début. À l’heure actuelle, les pirates informatiques analysent les signaux et les actions dans le monde extérieur: les produits que vous achetez, les lieux que vous visitez, les mots que vous recherchez en ligne. Pourtant, en quelques années, des capteurs biométriques pourraient donner aux pirates un accès direct à votre monde intérieur et observer ce qui se passe dans votre cœur. Pas le cœur métaphorique aimé par les fantasmes libéraux, mais plutôt la pompe musculaire qui régule votre tension artérielle et une grande partie de votre activité cérébrale. Les pirates pourraient alors mettre votre fréquence cardiaque en corrélation avec vos données de carte de crédit et votre tension artérielle avec l’historique de vos recherches. »

Capture d’écran 2018-09-26 à 00.17.13« Nous devons mieux nous connaître. Bien sûr, ce n’est guère un conseil nouveau. Depuis les temps anciens, les sages et les saints ont à plusieurs reprises conseillé aux gens de «se connaître». Pourtant, au temps de Socrate, du Bouddha et de Confucius, vous n’avez pas eu de réelle concurrence. Si vous avez négligé de vous connaître, vous étiez encore une boîte noire pour le reste de l’humanité. En revanche, vous avez maintenant la concurrence. En lisant ces lignes, les gouvernements et les entreprises s’efforcent de vous pirater. S’ils vous connaissent mieux que vous ne le savez vous-même, ils peuvent alors vous vendre tout ce qu’ils veulent, que ce soit un produit ou un politicien.

Il est particulièrement important de connaître vos faiblesses. Ce sont les principaux outils de ceux qui essaient de vous pirater. Les ordinateurs sont piratés via des lignes de code défectueuses préexistantes. Les humains sont piratés par des peurs, des haines, des préjugés et des envies de fumer préexistants. Les pirates ne peuvent pas créer la peur ou la haine à partir de rien. Mais quand ils découvrent ce que les gens craignent déjà et détestent, il est facile de pousser les boutons émotionnels pertinents et de provoquer une fureur encore plus grande.

Mais tout cela n’est vraiment qu’une question secondaire. Si les humains sont des animaux piratables, et si nos choix et nos opinions ne reflètent pas notre libre arbitre, quel devrait être le but de la politique? Pendant 300 ans, les idéaux libéraux ont inspiré un projet politique visant à donner au plus grand nombre d’individus la possibilité de poursuivre leurs rêves et de réaliser leurs désirs. Nous sommes maintenant plus proches que jamais de la réalisation de cet objectif – mais nous sommes aussi plus près que jamais de réaliser que tout cela a été basé sur une illusion. Les technologies que nous avons inventées pour aider les individus à réaliser leurs rêves permettent également de repenser ces rêves. Alors, comment puis-je faire confiance à l’un de mes rêves? »

Capture d’écran 2018-09-26 à 00.12.56Harari n’est pas le seul à s’intéresser à la question. Dans une tribune intitulée « Aucun algorithme, jamais, ne pourra défendre la démocratie » (à lire ici), Olivier Ertzscheid, enseignant-chercheur en sciences de l’information et de la communication à l’université de Nantes, et auteur de l’ouvrage ci-contre, signe une contribution – à la «Déclaration sur l’information et la démocratie» que prépare Reporters sans frontières- ainsi: « Nous avons perdu la bataille contre les algorithmes en ce qui concerne la vie privée. Il faut aujourd’hui se battre pour limiter leur impact sur nos vies publiques et notre destin collectif. »

Pour ce chercheur nantais, apparemment plus averti encore qu’Harari sur l’ampleur du piratage des données personnelles, viser « à limiter l’impact de l’empreinte algorithmique sur nos vies privées et intimes. Ce combat-là est terminé, obsolète et, pour l’essentiel, perdu. C’est un autre combat qu’il nous faut aujourd’hui mener, sur un tout autre front, avec une tout autre urgence et à une tout autre échelle. C’est le combat pour limiter l’impact de l’empreinte algorithmique décisionnelle sur notre vie publique, sur nos infrastructures sociales communes et sur notre destin collectif. »

Et de conclure sa contribution en pointant l’enjeu crucial – en égratignant au passage l’historien futurologue: « Il ne s’agit pas simplement de fake news et de libre arbitre. Il ne s’agit pas simplement de la liberté de l’information ou de la liberté de la presse. Il ne s’agit pas simplement d’algorithmes, de plateformes, d’Etats et de nations. Il ne s’agit pas simplement d’intelligences humaines et d’autres «artificielles». Il s’agit de la liberté des peuples. Il s’agit de la liberté tout court. » (Libération 24/09/2018)

Bon. Pour tout commentaire à cette évocation éloquente « « Homo Deus », où il y est décrit les émotions comme des algorithmes hypersphistoqués produits par la sélection naturelle, eh bien à sa lecture son auteur apparaît comme quelqu’un qui prétend pressentir qu’après un long et pénible voyage l’Homo sapiens, bardé d’une grande insouciance, rejoint un monde axé sur les données. Du coup, nous serions sur le point de nous dissoudre. Et le tout produit des best-sellers mondiaux sur fond d’inquiétude.

D.D

Capture d’écran 2017-10-07 à 20.42.26
ruCe qui a été dit et écrit ici-même autour de French Tech. Et du temps de l’ubiquité.