La vie sous algorithme, c’est vraiment bien ?

J’ai lu « L’homme nu – La dictature invisible du numérique » de Marc Dugain et Christophe Labbé.

Ce livre se concentre sur le fonctionnement et les conséquences des big data, des algorithmes et de l’intelligence artificielle.

C’est une analyse du présent, comme notre vie est déjà beaucoup sous algorithme (Spotify, Netflix, les réseaux sociaux…), mais c’est aussi une analyse du futur avec toutes les innovations à venir et la prolongation de l’idéologie derrière le big data.

Ce qui m’a beaucoup plu, c’est qu’il y a une vraie réflexion sur cette fameuse idéologie.

Cette idéologie qui veut tout collecter, mesurer, quantifier, corréler… pour quel résultat au final ? Pour l’intérêt de qui ?

Dans la « contre-culture » de l’informatique actuelle, on entend souvent dire un truc du genre « Non, mais les algorithmes c’est bien, ça facilite nos vies… mais pour ce qui est de la vie privée c’est très mauvais »

Et justement, dans ce livre on remet en question le « ça facilite nos vies ».

Non seulement c’est très mauvais pour la vie privée et tout ce qui suit derrière, mais en plus cette facilitation de nos vies n’est-elle pas un piège qui nous rend plus seuls, plus triste, enfermé dans une sécurité qui nous enlève notre liberté ?

Le sous-titre du livre est « La dictature invisible du numérique »

Parce que les algorithmes sont invisibles à nos yeux, que l’on ne rencontre jamais ceux qui les confectionnent et pourtant ils ont un énorme impacte sur notre vie (et de plus en plus en avançant), alors il serait peut-être temps d’avoir une réflexion sérieuse sur le sujet.

Voilà les passages du livre qui m’ont le plus marqué :

« L’objectif des big data est ni plus ni moins de débarrasser le monde de son imprévisibilité, d’en finir avec la force du hasard »

« L’homme nu trouvera difficilement la force de résister dans une société où santé, longévité, sécurité seront le prétexte officiel à sa transparence »

« Captivés par la perfection du virtuel, nous en arrivons à presque détester le réel, sa complexité, ses défauts, son imprévisibilité faite de hasards déroutants »

« Car que veut dire être transparent ? Que l’on voit au travers de vous et donc que l’on ne nous voit plus ? On nous fait confondre honnêteté et transparence. »

« La promesse de nous faciliter la vie vise en fait à nous réduire en consommateurs compulsifs. On nous incite à acheter de la manière la plus rapide, la plus automatique possible, presque sans y penser, comme dans un acte réflexe »

« Il ne s’agit plus de suivre de son propre chef des principes favorisant un équilibre physique et psychique afin de mener une existence saine et une vie harmonieuse, mais d’une gestion de la performance visant à se conformer à un modèle imposé par la statistique. »

« Par culpabilité ou par peur de ne pas être dans la norme, chacun devient son propre censeur »

« Au lieu de gouverner les causes, ce qui nécessite de l’imagination et du courage pour affronter la complexité, on contrôle les effets »

« Dans la logique du big data, c’est la quantité qui fait sens. Plus il y a de données à mouliner, plus le résultat touche à la perfection. La vérité est considérée de facto comme objective car elle est issue du traitement de masses gigantesques d’informations. À cette obsession du grand nombre se greffe en prime le fantasme de la neutralité de la technique. Une illusion, puisque les algorithmes sont conçus par des hommes et donc susceptibles de biais culturels, politiques, commerciaux »

« Contrairement à l’ordinateur, notre cerveau est incapable d’imaginer des combinaisons à l’infini, sa force de calcul est limitée et aléatoire. Et pour s’en sortir, l’humain a inventé un chemin de traverse : l’intuition. »

« N’en déplaise aux nouveaux forgerons du monde, oublier est une nécessité vitale qui nourrit l’intelligence humaine. « Notre cerveau n’est pas fait pour la rétention. Sa véritable force est sa flexibilité, sa capacité à oublier pour ne garder que ce dont il a besoin, et à contredire l’expérience passée », rappelle Idriss Aberkane, chercheur en neurotechnologies à l’École centrale de Paris »

« Les données et les automatismes n’ont jamais fait un être humain. Ce qui constitue notre humanité, c’est indubitablement la conscience, les idées, la créativité, les rêves »

« Mais, en externalisant notre mémoire, nous risquons d’altérer une qualité purement humaine, l’imagination, puisque cette dernière se nourrit du vécu émotionnel gravé dans notre cerveau »

« En prétendant rendre le monde intelligible grâce aux seules corrélations calculées par les algorithmes, on ne répond plus à la question du « pourquoi », seul compte le « comment ». On ignore les causes pour ne s’intéresser qu’aux conséquences »

« Prédire le passage à l’acte, détecter l’intention, c’est déjà une forme de déshumanisation parce que le propre de l’homme est l’indétermination : sans indétermination, on n’est plus responsable de rien »

« Lorsque se combinent les codes génétiques des deux parents, le résultat est impossible à prévoir. L’exact inverse du déterminisme numérique gouverné par les 0 et les 1. Ces derniers ne s’acharnent-ils pas à mettre en équation la plus fantastique source de hasard qui soit, la rencontre entre deux êtres humains ? « Parce que l’amour n’est pas dû au hasard », clame dans sa promo Parship, qui nous propose de trouver des personnes vraiment faites pour nous »

« son patron en France, Laurent Solly, expliquait que l’intérêt de Facebook était de permettre d’« échanger uniquement avec des gens ou des entreprises dont vous vous sentez proches ». Avec un bémol : à force de ne discuter qu’avec des personnes qui nous ressemblent, le brassage d’idées tourne à vide, les esprits se ferment, les opinions se figent, Internet comme lieu de débats devient une illusion »

« Si demain la science n’est plus au service de l’espèce mais de certains individus, nous divisons l’humanité en deux espèces, qui n’évolueront pas de la même manière »

« Dans notre société vieillissante, un fantastique marché s’ouvre aux « cobots » ou « robots collaboratifs », comme on les appelle, celui des nounous médicales pour personnes âgées. Outre les maisons de retraite et les établissements de santé, les big data espèrent aussi faire un tabac avec leurs humanoïdes sociaux auprès des hyper-connectés en manque affectif. Le slogan est tout trouvé : « 150 amis sur Facebook et un robot ».
Lequel sera bien sûr chargé d’une personnalité conciliante, taillée sur mesure en fonction des multiples données recueillies en flux continu sur le caractère, les habitudes, les goûts, les attentes de son propriétaire. »

« ersatz de relation humaine, nettoyée de toute complexité et dépourvue de confrontation intellectuelle, le cobot bientôt indispensable aggravera encore un peu plus la solitude de l’Homo numericus »

« Pour parachever le cauchemar, déjà évoqué, on est en train de nous déposséder de notre mémoire, en nous poussant à l’externaliser »

« Elle semble avoir le même contenu, mais, n’étant plus la mienne, elle n’est plus la même »

« Gageons que les géants du digital nous présenteront l’e-souvenir comme un service indispensable »

« Dans une démocratie, je considère qu’il est nécessaire que subsiste un espace de possibilité de fraude. Si l’on n’avait pas pu fabriquer de fausses cartes d’identité pendant la guerre, des dizaines de milliers d’hommes et de femmes auraient été arrêtés, déportés, sans doute morts » »