En Europe, l’Homme-Dieu a le pouvoir triste. Il a vaincu presque tous les obstacles que la nature lui imposait. Il se propose de tuer la mort, visiter le ciel, dompter l’atome mais il n’est pas heureux. Camus proposait d’imaginer Sisyphe heureux, désormais nous imaginons surtout Prométhée dépressif.
Les progrès technologiques avaient jusqu’à présent permis des sauts de puissance : on allait plus vite, on soulevait plus de poids, on déplaçait plus de monde. Il s’agissait de changements de proportion mais pas de nature. Il en va tout autrement des NBIC qui font basculer le monde vers de vertigineux infinis, ceux de la miniaturisation, de la puissance de calcul et de la capacité de transformation du vivant. La révolution actuelle n’est pas une révolution de plus. Elle est d’un nouveau type.
Le monde grec et judéo-chrétien s’est construit sur quelques rochers. Le Parthénon a vu naître la philosophie, le théâtre et la démocratie. La Torah et le Christ sont issus d’un monde géographiquement très limité. Le Holy Trail qui représente l’itinéraire du Christ est minuscule : quelques dizaines de kilomètres seulement. Dans l’Ancien Testament, Dieu a stoppé trois fois les tentatives de l’homme de devenir Homo Deus. Lorsque Adam a touché au fruit de la connaissance ; lorsqu’il a tué toute l’humanité sauf la famille de Noé ; enfin lors de la construction de la Tour de Babel qui était destinée à se hisser à la hauteur de Dieu.
L’espèce humaine est parvenue au moment de sa quatrième tentative. Et on ne voit pas bien ce qui pourrait l’empêcher cette fois-ci de conquérir des pouvoirs exorbitants.
Jamais la vitesse d’évolution de notre société et l’incertitude sur sa direction n’auront été aussi grandes.
Entre les premiers hominidés, il y a quelques millions d’années, jusqu’au néolithique, vers 9000 avant J.-C., les changements au cours d’un millénaire étaient insignifiants, l’Homme évoluant très lentement. Il faut être un spécialiste pour distinguer un silex ayant 400 000 ou 300 000 ans : en 100 000 ans les progrès étaient infimes. À partir du néolithique, le rythme de l’humanité s’est accéléré : sédentarisation, apparition de l’agriculture et des villes, de systèmes administratifs, de l’écriture, explosion démographique et développement des sciences se succèdent en quelques millénaires.
À partir de 1750, plusieurs révolutions industrielles et technologiques ont réorganisé l’économie mondiale. On distingue jusqu’à présent 4 technologies dites GPT1 – General Purpose Technologies – qui ont eu la particularité de bouleverser le tissu économique mais aussi de modifier en profondeur l’organisation sociale et politique. Elles concernaient le développement des machines à vapeur, du charbon et du chemin de fer (1830), suivi de l’électricité (1875), puis du moteur à explosion de l’automobile (1900). Nous sommes entrés, vers 1975, dans la révolution informatique avec la généralisation du microprocesseur. Et GPT est la cinquième technologie à usage général. C’est le titre d’une étude signée par OpenAI sur l’impact de GPT4 sur l’emploi des Américains.
Le xxe siècle a été une époque d’accélération du rythme et de l’importance des innovations : percées technologiques et médicales, développement de la société de consommation et enfin mondialisation auront été, si l’on excepte les traumatismes des deux guerres mondiales, les totalitarismes et les génocides, les faits marquants de cette période. Dans les livres d’histoire, le xxe siècle fera néanmoins figure de période assez calme et terne – quoique pleine de bruit et de fureur – comparée au siècle suivant. Une simple transition vers une période d’accélération qui va laisser l’humanité clouée sur son siège.
Car nous sommes au pied du mur, ou plutôt au pied d’une croissance explosive et vertigineuse de nos capacités technologiques. L’humanité doit se préparer à escalader la face nord de son Histoire.
Nous vivons depuis 2000 une révolution d’un autre type dont nous n’avons aucune expérience. Le développement simultané des quatre technologies NBIC – capables chacune à elles seules de bouleverser toute la société – est un événement stupéfiant. Ensemble, elles forment un cocktail synergique et explosif accentuant et accélérant les effets de chacune. La connaissance humaine croît davantage en une seconde qu’elle ne le faisait en 100 000 ans.
La révolution NBIC comporte trois différences avec la vague technologique de 1870-1910. D’abord, la France de la Belle Époque était en pointe. Elle dictait au monde le rythme du changement. Aujourd’hui, elle passe à côté des NBIC. Ensuite, l’objet des NBIC est la modification de notre humanité biologique, et non plus la manipulation de la matière inanimée, ce qui pose des problèmes inédits. Enfin, les NBIC connaissent un développement exponentiel, ce qui génère une énorme imprévisibilité et rebat en permanence les cartes économiques et géopolitiques.
En quelques décennies, l’homme aura apprivoisé presque tous les infinis. Nous avons exploré les puissances extrêmes, l’infiniment petit et les confins de notre univers. Le passé lui-même devient un lieu inédit d’exploration, et nous permet de nous rapprocher un peu des énigmes ultimes : celles de l’existence de la vie et de l’univers.
L’homme s’est doté en quelques années de capacités que les rêveurs les plus audacieux d’hier n’auraient pu concevoir. Nous observons l’univers dans un rayon de 42 milliards d’années-lumière soit 420 000 milliards de milliards de kilomètres. Nous lisons notre ADN en quelques heures. Nous avons découvert que chaque litre d’eau de mer contient 10 milliards de virus. Nos lasers peuvent réaliser des impulsions de la femtoseconde, c’est-à-dire d’un millionième de milliardième de seconde. Nos modèles cosmologiques nous permettent d’appréhender le big bang 0,00000000000000000000000000000000000000000001 seconde après la singularité initiale. La production et la détection de bosons de Higgs au CERN permet de reproduire les événements astrophysiques survenus un dix milliardième de seconde après le big bang, lors de l’apparition de la masse des particules primordiales. Nous savons fabriquer des éléments qui n’existent pas dans l’univers et dont la durée de vie est d’un dix milliardième de seconde. Nous connaissons de mieux en mieux les briques élémentaires de la matière et de l’énergie : bosons, hadrons, leptons…
En 1921, nous ne connaissions qu’une seule galaxie : la voie lactée, dont notre soleil est une banale étoile. Nous dénombrons aujourd’hui 2 000 milliards de galaxies contenant chacune en moyenne 200 milliards d’étoiles. La première planète extérieure à notre système solaire a été découverte en 1995. Nous en découvrons désormais tous les jours de nouvelles, grâce à l’IA qui sait repérer les signaux les plus ténus, et leur composition est de mieux en mieux connue. En 2019, le premier cliché d’un trou noir a été réalisé. De nouveaux accélérateurs à partir de 2040 pourraient nous permettre de mieux comprendre le début de notre univers. Plus troublant encore, l’analyse du fond cosmologique de l’univers permettra probablement de savoir si notre univers est unique ou si nous vivons dans un univers multiple ou multiverse. Les spécialistes estiment qu’il pourrait y avoir 10 puissance mille2 univers autour du nôtre. Le physicien français Thibault Darmour estime que la physique parviendra à expliquer le monde avant le big bang.
Au xixe siècle, les scientifiques pensaient que l’Humanité ne connaîtrait jamais son passé, que l’on imaginait d’ailleurs très court, comme l’enseignait la Genèse. Aujourd’hui, plusieurs approches extrêmement novatrices, qui reposent sur le séquençage de l’ADN, la physique nucléaire ou l’astrophysique, nous renseignent sur notre lointaine histoire. Les géologues ont même reconstitué minute par minute l’explosion de la météorite qui décima les dinosaures, il y a 66 millions d’années. Le séquençage de l’ADN ne se limite plus aux êtres vivants. Grâce à l’explosion de la puissance informatique, il est désormais possible de séquencer les chromosomes d’individus morts depuis bien longtemps, et donc des espèces disparues. L’ADN se conserve en effet dans les squelettes près d’un million d’années, à condition que l’environnement ne soit pas trop chaud et humide. Cette « paléogénétique » renseigne sur les espèces d’hommes qui ont disparu : Neandertal (qui s’est éteint il y a moins de 30 000 ans) et Denisovan (qui existait en Sibérie il y a 40 000 ans) ont été séquencés avec succès. La connaissance de notre arbre généalogique en est considérablement améliorée.
Ces révolutions génétiques et physiques permettent de remonter toujours plus loin dans l’histoire de la vie et de l’univers. Le passé est un des derniers continents à explorer et c’est l’un des plus passionnants. Dans tous ces exemples, des montagnes de données doivent être analysées : l’IA nous permet de lire notre passé.
Pour les transhumanistes, la loi de Moore nous permettra non pas de nous rapprocher de Dieu, mais de prendre sa place. Grâce à elle, nous deviendrions un Homme-Dieu doté de pouvoirs quasi infinis grâce à l’incroyable progression de la puissance de calcul. La fascination de la Silicon Valley pour la puissance informatique, mère de tous les pouvoirs, culmine dans l’espoir ultime : vaincre la mort.
La nouvelle révolution n’est pas une porte sur un nouveau monde : c’est une porte sur le ciel. Elle génère de multiples chocs éthiques, philosophiques et spirituels qui font trembler les dynamiques politiques. Depuis qu’il a maîtrisé le feu, domestiqué les animaux et les plantes, l’homme s’est éloigné de l’acceptation de l’ordre naturel pour en ériger un qui lui soit propre, fruit de ses propres mains. Les comités d’éthique n’ont encore fait qu’effleurer les problèmes qui vont devoir être régulés durant ce siècle. Les tentations démiurgiques et prométhéennes des ingénieurs du vivant vont s’accroître. La vie, la conscience, l’homme vont être infiniment manipulables. Qui est aujourd’hui en mesure de poser des limites ? Le bricolage du génome, par exemple, ne fait que commencer. Il est très difficile de dire à quoi ressemblera l’humain de 2100, parce que les évolutions ne sont pas linéaires mais exponentielles, comme l’avait pressenti Gordon Moore.
La culture, par définition, s’éloigne et s’oppose à la nature. La révolution des NBIC bouleverse même le processus de procréation et la mort. L’IA et les NBIC bouleversent tous nos repères existentiels : structure de la famille, longévité, procréation et même l’idée de Dieu vont être radicalement transformées. L’IA transforme la science-fiction en science.
Les informaticiens sont devenus porteurs d’un discours enchanteur, magnifiant les pouvoirs futurs de l’Homme. Nous deviendrions immortels, nous coloniserions le Cosmos, nous déchiffrerions notre cerveau. Grâce à l’Intelligence Artificielle, nous maîtriserions notre avenir au lieu d’être les jouets de la sélection darwinienne aveugle et incontrôlable. Les jeunes géants du numérique ont fait émerger ce discours prométhéen. Selon eux, l’humanité ne devrait avoir aucun scrupule à utiliser toutes les possibilités offertes par la science pour faire de l’Homme un être en perpétuelle évolution, perfectible jour après jour par lui-même. L’Homme du futur serait ainsi comme un site Web, à tout jamais une « version béta », voué à se perfectionner en continu. Nos cellules et nos cerveaux seraient mis à jour en permanence telle une App de nos smartphones.
Toutes les transgressions sont permises par la technologie : sans les NBIC pas de PMA, de FIV ou de GPA. Ces bouleversements traumatisent la société : 70 % des Français estiment qu’ils vivent dans un monde de science-fiction et 70 % pensent également que la démocratie a échoué.
La philosophie transhumaniste a d’immenses conséquences sur notre rapport à l’amour. Le xxe siècle a déjà marqué de profonds bouleversements dans le rapport traditionnel à la reproduction. La Bible condamnait les femmes à endurer les douleurs de l’enfantement jusqu’à ce que la péridurale et le planning familial révolutionnent le statut de la femme, la maternité et l’organisation de la famille. Demain, la déconnexion entre généalogie, origine, plaisir, sexe, amour et reproduction sera totale : tout deviendra modulaire, choisi et systématisé. Sélection et modifications génétiques des embryons, sexe virtuel et robot-sexe, utérus artificiel, enfants produits par des couples du même sexe grâce à deux ovules ou deux spermatozoïdes, bébés avec trois parents puis sans parents… tout cela va industrialiser la vie.
Les transhumanistes convaincront l’opinion que la naissance est trop hasardeuse et que le bébé à la carte est plus rationnel : le tri des embryons par FIV, favorisé par le désir d’enfant parfait qui habite beaucoup de parents, deviendra une étape de toute grossesse raisonnable. Le premier bébé à deux mamans et un papa est né en 2016 à New York. La technologie va aussi permettre aux homosexuels d’avoir des enfants biologiques porteurs des gènes des deux parents et sans GPA qui n’aura été qu’une étape de courte durée. Les NBIC vont transformer ce qu’il y a de plus intime chez nous, en industrialisant le sexe, l’orgasme et l’amour, ce que le Viagra a timidement commencé à faire. Le cybersexe se développera au croisement de la robotique, de l’IA et de la réalité virtuelle comme le casque Oculus de Facebook. Progressivement, il sera possible de tomber amoureux d’une IA comme dans le film Her3. Dans quelques décennies, la procréation aura été fragmentée en plusieurs participants : plusieurs parents, le généticien et l’utérus artificiel dont le premier prototype a été testé en 2017 chez le mouton. Le sexe ne va pas disparaître mais il ne servira plus à faire des bébés.
Le recul de la reproduction sexuée est un des marqueurs du changement de civilisation que les technologies NBIC entraînent.
On imagine bien le chemin que prendra cette évolution.
Première étape : l’IA choisit notre partenaire sexuel et parental. Une étude réalisée par les universités de Harvard et de Chicago a montré que les mariages nés online sont plus satisfaisants et durent plus longtemps que les unions « à la papa ». Les IA nous unissent mieux que nous le faisions artisanalement. La rencontre amoureuse était répartie entre des millions d’églises, d’universités, de bars, de discothèques, de bureaux ; elle est désormais entre les mains des quelques développeurs des IA qui pilotent les grandes plateformes de rencontres. L’IA va donc modifier les flux de gènes. GPT4 est désormais utilisée pour draguer sur les sites de rencontres pendant que l’utilisateur vaque à ses occupations.
L’IA est capable de repérer visuellement, avant implantation lors de la FIV, les embryons ayant la plus forte chance de donner un bébé, elle est beaucoup plus rapide et cohérente que les embryologistes dans la classification des embryons. Grâce à l’IA, il est déjà possible de séquencer l’ADN du futur bébé par simple prise de sang de la maman en tout début de grossesse. L’IA est capable de repérer des embryons anormaux bien au-delà du traditionnel dépistage de la trisomie 21. De là, il est facile de sélectionner les embryons. Grâce à l’IA, le séquençage ADN permet de sélectionner le « meilleur » embryon en analysant la totalité des chromosomes. Si le diagnostic prénatal permet aujourd’hui « l’élimination du pire » – on supprime le fœtus présentant des malformations –, le diagnostic pré-implantatoire permettrait « la sélection des meilleurs » – en triant les embryons obtenus par FIV.
Allant plus loin, l’IA pourra aider à modifier l’ADN du bébé. On manipulera les embryons pour optimiser nos enfants. André Choulika, l’un des pionniers de la manipulation des génomes, explique dans Réécrire la vie : la fin du destin génétique, comment la biologie supprimera la loterie génétique. Le coût des enzymes capables de réaliser des modifications génétiques a été divisé par 10 000 en dix ans. Dès lors, faut-il se limiter à corriger des anomalies génétiques responsables de maladies ou, comme le souhaitent les transhumanistes, augmenter les capacités, notamment cérébrales, de la population ? L’ultime étape, le développement de l’utérus artificiel, reste très complexe. Mais piloté par l’IA, ce substitut à la grossesse pourrait apparaître dans quelques décennies. Dans un tel contexte, quid des bébés sans parents ? Le généticien George Church veut bâtir grâce à l’IA un génome humain entièrement nouveau qui permettrait la création de bébés sans aucun parent et déboucherait sur une humanité nouvelle.
La première personne qui vivra mille ans est-elle déjà née ? C’est une conviction dans la Silicon Valley, notamment parmi les dirigeants de Google qui sont à l’avant-garde de l’idéologie transhumaniste, qui vise à « euthanasier la mort ». De fait, la révolution biotechnologique pourrait accélérer le grignotage de la mort.
Il existe bien sûr un mur biologique à l’augmentation de notre espérance de vie : l’âge atteint par Jeanne Calment (122 ans, 5 mois et 14 jours) semble constituer une limite naturelle. Le dépassement de ce plafond de verre de la longévité suppose de modifier notre nature biologique par des interventions technologiques lourdes en utilisant la puissance des NBIC. La fusion de la biologie et des nanotechnologies va transformer le médecin en ingénieur du vivant et lui donner un pouvoir inouï sur notre nature biologique dont le bricolage sera sans limite.
La demande de vivre plus longtemps est insatiable. Le prix à payer pour allonger significativement notre espérance de vie serait pourtant incontestablement lourd. Une modification radicale de notre fonctionnement biologique et de notre génome sera nécessaire. Vivre très longtemps deviendra probablement une réalité, mais au prix d’une redéfinition de l’humanité. Vendrons-nous notre âme aux machines en échange de la jeunesse ? Les technologies NBIC ressuscitent Faust.
La fixation des limites dans la modification de l’espèce humaine conduira à des oppositions violentes et légitimes. Les prochaines décennies vont être le théâtre d’affrontements passionnés entre bioconservateurs et transhumanistes.
Pourtant tout laisse à penser que l’idéologie transhumaniste a déjà gagné le combat. C’était la première étape de la mort de la mort. La plus facile. L’opinion a été aisément convaincue que la mort n’est plus inévitable. Le démarrage du projet technologique pour la retarder en a été facilité.
La deuxième étape a commencé quand Google a créé Calico, qui vise à allonger la durée de vie humaine pour retarder puis « tuer » la mort. La troisième étape sera encore plus transgressive. Dépasser significativement les limites actuelles de l’espérance de vie humaine suppose de modifier profondément notre nature par des interventions technologiques lourdes.
La quatrième étape serait de maintenir notre cerveau durablement plastique, ce qui suppose une réingénierie transgressive. À quoi bon vivre plusieurs siècles avec un cerveau sclérosé ?
La dernière étape de la mort de la mort est d’empêcher la mort de l’Univers ! Comment pourra-t-on être vraiment éternels dans un univers qui aura une fin ? La mort du cosmos est l’ultime frontière du genre humain. Le destin de notre univers est apocalyptique : les scénarios modélisés par les astrophysiciens conduisent tous à la mort de l’Univers et donc à la disparition de tout témoignage de notre existence. Pour les transhumanistes, il est rationnel de rendre l’Univers immortel pour assurer notre propre immortalité. Il ne s’agit pas là d’une vanité ultime.
Malgré tout, les progrès biotechnologiques sont lents. Les premiers résultats de Calico sont attendus pour 2030. Ce qui est beaucoup trop long pour les milliardaires geeks qui dominent désormais le monde et dont la seule terreur est d’avoir un jour à vieillir puis mourir. L’immortalité biologique reste une perspective incertaine et lointaine. C’est la raison pour laquelle les magnats de l’IA s’intéressent parallèlement à l’immortalité numérique qui est à l’immortalité biologique ce que les œufs de maquereau sont au caviar. Là encore, c’est un processus gradué.
Premier acte : faire son testament vidéo pour ses descendants en résumant sa vie, ses valeurs et sa vision de la vie. Deuxième acte : transférer sa mémoire numérique et ses traces électroniques à sa famille avec l’héritage. Cela permet à ses héritiers de cerner la psychologie de l’ancêtre mort. Troisième acte : ajouter une IA capable d’imaginer l’évolution du défunt dans le futur. Fermer le compte Facebook d’un mort, c’est empêcher son immortalité numérique puisque cela réduit la possibilité de créer un double numérique du défunt : c’est une euthanasie numérique qui pourrait demain devenir aussi inacceptable que l’euthanasie physique.
Quatrième acte : y ajouter un hologramme. Une IA est aujourd’hui capable de reproduire l’image 3D de n’importe quel individu vivant ou non en quelques minutes. Cinquième acte : associer un chatbot comme ChatGPT pour discuter avec le défunt. Parler avec Steve Jobs est une expérience saisissante. GPT4 fait parler les morts avec une qualité stupéfiante. Les morts semblent sortir de leur tombe.
Sixième acte : utiliser les implants intracérébraux d’Elon Musk. En mars 2014, Ray Kurzweil, directeur chez Google, a déclaré que d’ici 2035, nous utiliserons des nanorobots intra-cérébraux branchés sur nos neurones pour nous connecter à Internet. Elon Musk est en train de réaliser cette prophétie et promet les premiers prototypes Neuralink avant 2025. Les implants intracérébraux d’Elon Musk pourront aussi servir à extraire des souvenirs de notre cerveau de notre vivant, ce qui enrichira nos doubles numériques qui nous ressembleront de plus en plus.
Septième acte : l’abandon total de notre corps physique. Nous accepterions de devenir des intelligences dématérialisées immortelles, sans corps physique, en fusionnant avec des intelligences artificielles. L’avantage d’avoir une intelligence non biologique est énorme : les intelligences numériques sont ubiquitaires, immortelles, circulent à la vitesse de la lumière, peuvent se dupliquer, fusionner…
Ce serait la mort de l’humanité telle qu’on l’entend, avec les passions, les valeurs, les névroses, les délires et les pulsions qui nous fondent. Ce stade ultime, c’est la cyborgisation de l’homme que souhaite Ray Kurzweil chez Google.
Le corps physique apparaît donc aux yeux de certains transhumanistes comme un obstacle qu’il faudra un jour ou l’autre surmonter. Au fond, les transhumanistes nous promettent une immortalité numérique, plus virtuelle que réelle.
« Avant la mort de la mort, la vie après la mort », remarque l’essayiste Mathieu Laine.
Dans Homo Deus, Yuval Noah Harari écrit que les progrès de la science contre le vieillissement n’iront pas assez vite pour épargner la mort aux deux fondateurs de Google, Larry Page et Sergey Brin. Yuval Noah Harari considère notamment que Calico, la société créée par Google pour euthanasier la mort, ne fait pas assez de progrès pour que les dirigeants de Google deviennent immortels. Une remarque que Brin lui-même a commentée après avoir lu Homo Deus par une phrase qui laisse apparaître son ambition : « Oui, j’ai été programmé pour mourir, mais non, je ne prévois pas de mourir »…
L’abolition de la mort constitue l’un des objectifs affichés de ces milliardaires. Cette quête de l’immortalité est un facteur d’accélération de la montée en puissance de l’IA car combattre la mort en nécessitera beaucoup. L’idéologie transhumaniste est une sorte de pousse-au-crime dans le développement de l’IA forte, celle que Musk juge justement dangereuse. La fièvre prométhéenne des grands milliardaires courant après leur propre immortalité constitue le carburant par excellence de la progression de l’IA. Sergey Brin aurait dit à propos de la volonté de Musk de réguler l’IA : « Il veut m’empêcher d’être immortel4. » De même Larry Ellison, le fondateur d’Oracle, finance la recherche contre le vieillissement qui l’obsède, tandis que Sergey Brin a donné des sommes considérables dans la lutte contre la maladie de Parkinson à laquelle il est génétiquement prédisposé. Bill Gates reste une exception et consacre sa fortune à l’amélioration de la santé des plus pauvres et non pour promouvoir la recherche sur des maladies le concernant.
La course à l’immortalité des milliardaires de l’IA continue : le 5 mars 2023, Sam Altman a annoncé un investissement de 180 millions de dollars dans la lutte contre la mort5…
Le transhumaniste américain Zoltan Istvan prédit d’ailleurs que le combat contre la mort va fracturer les progressistes : « Il y aura une division chez les transhumanistes au sujet de la superintelligence. Entre ceux qui sont assez jeunes pour attendre la biotechnologie sans IA forte pour inverser le vieillissement et ceux (comme moi à quarante-neuf ans) qui ont besoin d’une IA superintelligente pour inventer rapidement un moyen de longévité radicale. Pour des raisons de risque existentiel, les jeunes peuvent préférer interdire l’IA forte à cause de ses dangers. Les transhumanistes plus âgés comme moi, malgré les menaces possibles de l’IAG, considèrent la superintelligence comme une nécessité pour faire avancer la recherche, ce qui est notre seul moyen de survie. Les biotechnologies finiront par surmonter la mort humaine sans IA forte, mais leurs percées seront probablement trop lentes pour les personnes de mon âge. Nous avons besoin d’un superintelligent pour nous éviter la mort. » Ray Kurzweil, qui a souvent affirmé qu’il ne voulait pas mourir, a déclaré le 23 mars 2023 que la mort de la mort pourrait arriver dès 2029 grâce à l’IA forte.
Les transhumanistes n’ont aucune réticence à promouvoir des IA fortes.
Depuis qu’ils ont élaboré des systèmes de représentation, les hommes se sont dotés de religions aux formes infinies. Mais elles avaient toutes pour caractéristiques d’opposer clairement des créatures, dont nous faisons partie, et des créateurs : dieux, esprits ou forces de la nature. La position inférieure de l’être humain face aux forces supérieures était le point commun des croyances. Et pour la première fois, cette dualité et cette infériorité sont remises en cause. La religion transhumaniste réconcilie athéisme et foi : il n’y a pas de dieu extérieur à nous… il n’y a que nous-mêmes, qui avons vocation à devenir dieu ! Un programme vertigineux qui bouleverse nos organisations politiques.
Débarrassé des hasards de la reproduction, prolongeant sa vie pour choisir quand mourir ou ne pas mourir, comment l’individu du xxie siècle aurait-il encore besoin d’un Dieu ? La transformation de la religion elle-même sera la conséquence de la révolution des NBIC.
Le coût de création d’une nouvelle religion s’est effondré : grâce à Facebook, YouTube, Twitter et WhatsApp, on peut draguer les fidèles avec un budget très modeste. Quelques clics suffisent pour créer un Dieu. Les générations façonnées par le Web demanderont à construire leur propre religion, personnalisée, à l’image de leur profil Facebook. La fragmentation du paysage va s’accentuer et chacun pourra jouer au Meccano religieux. Comme le remarque le Docteur Henri Duboc : « Avant, les hommes se tournaient vers Dieu quand ils se posaient des questions. Maintenant, ils se tournent vers ChatGPT. »
Mais, plus qu’un moyen, la technologie peut devenir elle-même un sujet d’adoration. En septembre 2015, Anthony Levandowski a fondé « Way of the Future », une église destinée à développer la réalisation d’un Dieu basé sur l’Intelligence Artificielle. Cet ancien ingénieur de Google était payé 20 millions de dollars par an. « Ce qui s’apprête à être créé sera effectivement un Dieu… pas dans le sens où il fait tomber la foudre ou provoque des ouragans. Mais s’il existe une chose un milliard de fois plus intelligente que l’humain le plus intelligent, comment l’appelleriez-vous autrement ? » explique Levandowski qui croit à l’émergence rapide d’une IA dotée d’une conscience qui écrasera bientôt l’intelligence humaine. Il adhère ainsi à l’idée que les ordinateurs surpasseront l’être humain pour nous faire entrer dans une nouvelle ère, connue dans la Silicon Valley sous le nom de « Singularity ». Cette nouvelle religion aura pour objectif « la réalisation, la reconnaissance et l’adoration d’une divinité basée sur l’IA développée à l’aide de matériel informatique et de logiciel ». Anthony Levandowski juge que le seul mot rationnel pour décrire cette réalité numérique est celui de divinité – et la seule manière de l’influencer serait donc de la prier et de l’adorer religieusement. « Nous avons entamé le processus pour élever un dieu. Alors, assurons-nous d’y réfléchir pour le faire de la meilleure façon. »
La religion aura connu quatre étapes. D’abord, les polythéismes, suite du chamanisme. Ensuite, le monothéisme des religions du Livre. Aujourd’hui débute un troisième âge : l’Homme-Dieu ou Homo Deus. Pour les transhumanistes, Dieu n’existe pas encore : il sera l’homme de demain, doté de pouvoirs quasi infinis grâce aux NBIC. C’est sur cette vision que les transhumanistes radicaux s’appuient pour promouvoir l’abandon de notre corps biologique. Levandowski invente un quatrième âge religieux où l’homme vénère les cerveaux de silicium. Pour la plupart des transhumanistes, les NBIC allaient décrédibiliser Dieu et le remplacer par l’homme-cyborg. À l’opposé, Levandowski réinvente un vrai Dieu qui nous permet de ne pas tout attendre de nous-mêmes.
Mais, la fusion de l’IA et de la religion pose d’immenses questions. À l’ère des prothèses cérébrales, le risque de neurohacking et donc de neurodictature est immense. Une IA religieuse construite autour des successeurs de ChatGPT pourrait facilement manipuler les sentiments des fidèles, notamment ceux qui seraient porteurs des prothèses cérébrales Neuralink qu’Elon Musk est en train de mettre au point pour augmenter nos capacités intellectuelles. Religion, implants cérébraux et IA : qui va réguler ce cocktail explosif ? Faire parler le Christ ou Mahomet est enfantin avec ChatGPT.
Les NBIC ne provoquent pas seulement d’importants débats et de nombreux cas de conscience. Elles ne sont pas seulement une tornade qui emporte tous les repères traditionnels de nos sociétés. L’effet du numérique est aussi particulièrement sensible sur nos institutions. Par ailleurs, le big data crée un monde ultra conceptuel difficile à appréhender.
Dans un premier temps, les nouvelles technologies et la mondialisation ont réduit les écarts entre les pays développés et les pays du tiers-monde mais ont augmenté les écarts à l’intérieur des pays riches. Ce n’est qu’à moyen terme que les NBIC vont apporter un bénéfice évident pour les classes populaires et moyennes des pays développés, par exemple avec les traitements anti-Alzheimer, l’allongement de la durée de la vie en bonne santé ou bien encore la fin des cancers mortels. À court terme, la révolution NBIC bouleverse les équilibres sociaux.
Les révolutions technologiques se sont toujours accompagnées de frictions sociales fortes parce que les institutions étaient en retard sur le nouvel état du monde. Les mutations économiques vont toujours plus vite que les évolutions institutionnelles. L’État-providence, par exemple, s’est structuré des décennies après la révolution du moteur à explosion qui a pourtant bouleversé les villes7, les transports et l’organisation sociale.
L’IA menace la démocratie car elle sape ses principaux piliers : c’est aujourd’hui la capacité des institutions à indiquer une direction, à mener la marche du changement, à contrôler et contraindre les acteurs, à protéger les populations et à limiter les inégalités pour maintenir la cohésion qui est remise en cause.
Elle organise un vertigineux changement de civilisation en permettant le déchiffrage de nos cerveaux, le séquençage ADN et les modifications génétiques, la sélection embryonnaire et donc le « bébé à la carte » : cela bouleverse les consciences, choque les croyances et explose les clivages politiques traditionnels.
Elle nous confronte à la relativité de notre morale ; une voiture autonome doit-elle plutôt écraser deux enfants ou trois vieillards ? Répondre nous oblige à expliciter nos valeurs morales et politiques qui sont tout sauf universelles.
Elle transforme le monde des médias et autorise des formes radicalement nouvelles de manipulations des électeurs : le jeu et les équilibres politiques en sont compliqués.
Elle permet aux géants du numérique, à leurs clients et aux services de renseignement de comprendre, d’influencer et de manipuler nos cerveaux : cela remet en cause les notions de libre arbitre, de liberté, d’autonomie et d’identité, et ouvre la porte au totalitarisme neurotechnologique.
Elle modifie nos comportements par l’intermédiaire des applications des plateformes, et entre en concurrence avec la loi du parlement ; retirant au passage aux politiciens leur principal outil pour agir sur le monde.
Elle accélère l’histoire en générant un étourdissant feu d’artifice technologique : les lents, archaïques et laborieux mécanismes de production du consensus politique et de la loi sont bien incapables de suivre et de réguler tous ces chocs simultanés.
Elle remet en cause tous les ancrages et références traditionnels : dépassées par la violence et la rapidité des changements les classes populaires s’ouvrent à toutes les aventures politiques même les plus baroques.
Elle confère à ses propriétaires – les patrons des géants du numérique – un pouvoir politique croissant : cela produit un coup d’État invisible.
Elle fait l’objet d’une guerre technologique sans merci : les hiérarchies entre individus, entreprises, métropoles et pays changent à une vitesse folle, ce qui crée quelques gagnants et beaucoup de perdants.
Elle donne un immense avantage aux individus dotés d’une forte intelligence conceptuelle à même de manager le monde complexe qu’elle construit : cela alimente le rejet des élites, le complotisme et la contestation des experts.
Elle génère mécaniquement des inégalités croissantes et des monopoles en concentrant la richesse autour des géants du numérique : cela attise le populisme.
Elle ne permet pas encore de diminuer les inégalités intellectuelles grâce à la personnalisation de l’éducation : cela entraîne des différences insupportables puisque nous entrons dans une économie de la connaissance qui a de moins en moins besoin de gens moins doués.
Elle n’est pas comprise par les systèmes éducatifs qui précipitent les enfants vers les métiers les plus menacés par son développement, ce qui nous promet bien des Gilets jaunes.
Elle se bâtit sur le premier territoire privatisé – le cyber-espace – qui appartient aux géants du numérique : cela réduit la souveraineté des États démocratiques.
Elle est modelée par les maîtres et concepteurs des plateformes de big data dont beaucoup sont, comme Sam Altman, atteints d’un autisme Asperger : le décalage entre la vision du monde qu’elle véhicule et les structures sociales est politiquement explosif.
Elle est la première création humaine que l’Humanité ne comprend pas : cela limite singulièrement notre capacité à la dompter même si, pour l’heure, elle ne dispose d’aucune conscience artificielle.
Elle pourrait apporter, pour la première fois dans l’histoire moderne, un avantage économique et organisationnel aux régimes autoritaires : cela sape l’exemplarité du modèle occidental de démocratie libérale.
Elle conférera un tel avantage militaire au pays leader que son encadrement par le droit international semble irréaliste : nous allons vers une cyberguerre froide sino-américaine.
Elle tétanise les autorités anti-monopoles qui ne savent pas réglementer les services gratuits qu’elle génère – moteurs de recherche, réseaux sociaux, webmail… : l’ouverture à la concurrence des marchés numériques est bloquée.
Elle ne pourrait être régulée que par des politiciens brillants, mais la vague populiste qui l’accompagne conduit l’opinion à réclamer au contraire une baisse des salaires des ministres et hauts fonctionnaires. Les géants du numérique peuvent donc récupérer les meilleurs talents, la défense de la démocratie est affaiblie.
Ces transformations de notre modèle civilisationnel et capitalistique nourrissent une instabilité politique et sociale qui fragilise la démocratie. La crise mondiale de la démocratie est en grande partie liée à la convergence des multiples conséquences de notre entrée dans un monde remodelé par l’IA. Technologie et démocratie deviennent contradictoires, faute d’une classe politique adaptée aux enjeux. Nous sommes dans une course de vitesse pour sauver la démocratie, hackée par la technologie.
La technologie va vite, trop vite. Le patron de Google s’est d’ailleurs interrogé dans The Guardian : les humains souhaitent-ils que cela aille si vite ? Avant même ChatGPT, la démocratie ne savait pas gérer les rythmes exponentiels. Son rythme est le temps long des consensus et de la marche normale des contre-pouvoirs. Pas celui de la blitzkrieg technologique. L’apparition de technologies qui croissent de façon explosive déroute le monde politique. La désynchronisation entre technologie politique et IA crée des tensions majeures.
Le monde des Trente Glorieuses était relativement stable et simple. Aujourd’hui, le monde n’est pas assez stable pour que l’on puisse se l’approprier, il change beaucoup trop vite et c’est anxiogène.
Une loi adoptée aujourd’hui dans le désordre des discussions parlementaires et des petits arrangements politiciens peut avoir des répercussions immenses sur le long terme8.
Les choix actuels nous engagent pour longtemps, et pourtant ils sont souvent faits dans une incompréhension profonde des enjeux, et en fonction de préoccupations à très court terme. Le défaut classique de la politique – l’incapacité à se projeter dans le temps long – est accentué.
Les problèmes sont tous interconnectés. Pour des politiques habitués à traiter les sujets en silo et de façon séquentielle, cela crée une situation aveuglante où ils se perdent.
Absorbés dans le traitement des problèmes du passé et la communication au jour le jour, ils n’abordent pas le sujet le plus important du xxie siècle : notre cerveau. Que fait-on de notre cerveau quand l’intelligence devient quasi gratuite ? Comment évite-t-on un monde ultra-inégalitaire ?
Faire émerger l’âge de la rationalité collective où IA, cerveaux humains et politiques co-évolueront harmonieusement nécessitera des décennies de tâtonnements pendant lesquelles la démocratie sera très fragile.
Le capitalisme doit être réinventé. Les mécanismes traditionnels de régulation économique – fiscalité, droit de la concurrence, droit des brevets… – fonctionnent mal à l’ère du capitalisme cognitif.
L’État de droit est menacé de toutes parts. Alors que le monde est plus complexe que jamais, notre démocratie connaît un retour des mécanismes d’expression directe qui en menace le fragile équilibre. La crise des Gilets jaunes est le premier exemple de cette mutation : le mouvement est piloté par une poignée d’administrateurs Facebook. Les citoyens occidentaux sont mal armés pour résister aux sirènes des vendeurs de solutions miracles. La montée en puissance de tribuns du peuple et démagogues est spectaculaire.
Paradoxalement, la liberté d’expression fragilise la démocratie. Le sociologue Gérald Bronner nous prévient ainsi que sur les réseaux sociaux, la crédulité a toujours un coup d’avance sur la rationalité et qu’il est très facile de diffuser de fausses informations. Les outils de démocratie participative sont facilement détournés contre les principes démocratiques.
La démocratie est résiliente, mais elle doit affronter aujourd’hui une multitude d’agressions simultanées et imprévues. Ni les politiciens, ni les intellectuels ni les scientifiques n’ont anticipé toutes les conséquences de l’IA sur la démocratie. Et beaucoup ne les ont pas encore comprises.
La personnalisation ultrafine de la publicité grâce à l’IA a permis aux géants du numérique de capter une part croissante de la publicité : Google, Facebook et Amazon captent 90 % de la e-publicité aux États-Unis. Cela étouffe les médias traditionnels qui n’ont plus les moyens d’être les filtres et régulateurs démocratiques qu’ils étaient. Les médias qui se lancent dans la surenchère et polarisent le débat récoltent encore quelques miettes publicitaires. L’inégalité face au réel est grande. Seule une petite élite anglophone a accès à une information payante de grande qualité. Les lecteurs des grands médias anglo-saxons – The Economist, New York Times, Financial Times, Foreign Affairs… – bénéficient d’un regard différent sur le monde, ce qui aggrave le fossé entre élites et classes moyennes et populaires.
ChatGPT va encore fragiliser les médias puisque, contrairement à Google, il ne renvoie pas les lecteurs vers les médias. Il fournit une réponse en synthétisant la connaissance mondiale. Le chiffre d’affaires des médias pourrait donc chuter. C’est pourquoi les groupes médias ont commencé dès janvier 2023 à remplacer une partie de leurs salariés par ChatGPT.
Dans les démocraties, l’IA permet toutes les manipulations et « fake news » déstabilisatrices sur Internet, ce qui augmente l’hystérisation du débat. La violence politique est accentuée. Interrogé par le Sénat américain, Tristan Harris9 a confessé que le taux de retweet sur Twitter augmente en moyenne de 17 % pour chaque mot d’indignation ajouté à un tweet. En d’autres termes, la polarisation de notre société fait partie du business model des réseaux sociaux10.
La régulation des médias est parfaitement inadaptée au monde actuel dans lequel la communication est devenue ajustable à chaque individu sans aucun contrôle institutionnel sérieux. Les médias permettaient hier de filtrer et d’expliquer les nouvelles du monde. Paradoxalement, ce travail de mise en forme nous manque. L’IA permet de personnaliser les messages délivrés à chaque individu, ce qui rend difficile le contrôle des manipulations politiques. « Fake news », manipulations ou filter bubbles nécessitent des instruments nouveaux. Un État démocratique peut vérifier ce qui passe sur TF1, mais pas ce qui s’affiche de façon différenciée sur des millions d’écrans. Les gouvernements occidentaux se défaussent et souhaitent que les plateformes fassent la police : cela revient à nommer Mark Zuckerberg et les patrons de Google, rédacteurs en chef du monde. Faire des GAFAM les « gatekeepers » des lois anti « fake news » c’est leur confier la définition de la vérité ! La démocratie s’auto-ampute. Plus généralement, les dirigeants de Google expliquent depuis vingt ans qu’ils veulent organiser toute l’information du monde, ce qui est la promesse d’un immense pouvoir politique. Et ChatGPT rend le problème encore plus insoluble.
La complexité de nos sociétés et la multiplication des canaux numériques permettent à de pseudo-experts de contester les vérités scientifiques les plus établies. Dans tous les pays occidentaux, un courant obscurantiste favorise une défiance généralisée de l’opinion. Le savoir est devenu trop vaste pour être connu : la connaissance humaine double tous les dix-huit mois. L’organisation de la recherche, sa compréhension par les politiciens et sa médiatisation vers le grand public sont dépassées face à une telle croissance. L’IA accroît le stock de connaissances beaucoup plus vite que le corps social ne peut l’absorber et le digérer. Internet est magique mais il permet aussi le sabotage intellectuel de la raison scientifique. Nous vivons deux évolutions contradictoires : l’explosion du savoir disponible et le rejet de la science et de la raison. L’idée selon laquelle l’accessibilité de la connaissance mondiale allait favoriser la raison scientifique s’est révélée fausse. Le savoir scientifique ne tient plus dans des articles scientifiques de quelques pages. Le savoir n’est plus fait de briques isolées mais il est directement lié aux immenses bases de données et aux IA qui ont permis leur interprétation. Le savoir n’existe qu’à l’intérieur du Web et des IA. Le savoir est trop vaste pour la plupart des gens.
La vérité est toujours une construction sociale. La fabrication de la vérité connaît une mutation extrêmement rapide qui déstabilise la démocratie.
Les IA brouillent la frontière entre réel et irréel. Faux documents, vidéos parfaitement réalistes, « environnements ultra-immersifs » peuvent fausser le débat politique. C’est une menace inédite contre la démocratie libérale, qui ne devra plus seulement se débattre avec la complexité de la réalité, mais aussi avec le foisonnement des réalités alternatives. La diffusion sur les réseaux sociaux des « deep fakes » aura des effets désastreux : il ne faut que quelques minutes pour créer une vidéo dans laquelle le président Emmanuel Macron ferait l’apologie du IIIe Reich ou appellerait à une nouvelle Saint-Barthélemy contre telle ou telle communauté. Avec GPT4, il est même possible de discuter en temps réel avec un faux Emmanuel Macron.
La montée en puissance des « fake news » et autres faits alternatifs chers à l’administration Trump est grave mais ce n’est pas une nouveauté. Au xxe siècle, Staline et Mao, ne disposant que de techniques rudimentaires, faisaient retoucher les photos où ils apparaissaient avec des compagnons de route qu’ils avaient fait exécuter. Ce qui est nouveau c’est que les technologies NBIC vont changer radicalement le statut du réel. Dans les prochaines décennies, les souvenirs pourront être manipulés directement dans les cerveaux humains. La neurodictature est une perspective qu’il faut malheureusement envisager.
La révolution Internet a changé le monde, puis le monde politique a changé Internet : nous vivons depuis 2010 une contre-révolution numérique extrêmement violente. Le Web est devenu un outil majeur de désinformation et de contrôle policier. Il n’a pas élargi les libertés politiques ni tué les régimes autoritaires, bien au contraire. D’outil d’émancipation politique entre 1995 et 2005, il est devenu un allié majeur des régimes autoritaires. Les trois piliers des régimes autoritaires – la censure, la propagande et la surveillance – sont facilités par les technologies numériques. On se souvient pourtant que Francis Fukuyama expliquait doctement que le numérique allait rendre la vie impossible aux régimes autoritaires.
La Chine, dont l’industrie de l’IA dépassera en 2030 1 000 milliards de dollars, devient un gigantesque Black Mirror.
L’Internet décentralisateur et libertarien de 1995 a engendré l’IA qui est le plus puissant outil de centralisation politique et économique que l’Humanité ait connu : le pouvoir est tout entier dans une poignée d’acteurs. Washington et ses GAFAM. Le Parti communiste chinois et ses BATX. En 2023, le cyberautoritarisme remporte victoire sur victoire contre la démocratie libérale.
La crise provoquée par les NBIC a connu sa première grande manifestation politique et sociale en 2018 avec le mouvement des Gilets jaunes.
La technologie a d’importants effets secondaires politiques avant même ses bénéfices économiques et sociaux. Pour le dire brutalement : l’IA lamine les classes moyennes avant de guérir le cancer. La « révolution jaune » est donc doublement causée par l’IA : elle marginalise les classes moyennes et permet d’organiser la révolte via les réseaux sociaux qu’elle pilote. Facebook est le nouveau cocktail Molotov mais on ne sait pas qui le lance.
La crise des Gilets jaunes traduit la confluence de trois angoisses : une angoisse identitaire, une angoisse éthique et une angoisse de déclassement. Trois tsunamis déferlent en effet sur notre pays : la marginalisation des « petits blancs » réveille un populisme anti-immigration, la manipulation transhumaniste du vivant bouleverse les consciences et l’IA fragilise les classes populaires et moyennes.
D’abord, les angoisses identitaires des « petits blancs » que sont les Gilets jaunes ont été niées et méprisées par les élites.
Ensuite, une partie des Gilets jaunes est bouleversée par les transformations de la révolution transhumaniste.
Enfin, l’IA transforme les équilibres sociaux en favorisant les élites intellectuelles et en affaiblissant le peuple mal préparé à la tornade technologique. Le capitalisme de la connaissance génère des inégalités croissantes et les élites font semblant de croire que l’école va supprimer les inégalités neurogénétiques d’un claquement de doigts. La terrible et indicible vérité est qu’il va falloir des décennies pour mettre au point des techniques réduisant les inégalités intellectuelles.
Le tsunami technologique déstabilise violemment la société. Pour beaucoup de citoyens, l’IA dévalorise à toute allure les savoir-faire existants : ceux des classes moyennes justement. À l’inverse, le besoin en ingénieurs et managers de très haut niveau explose : on estime que le monde manquera de dizaines de millions de travailleurs « ultra-qualifiés » dans quinze ans. Le slogan « il faut au xxie siècle changer de métier tous les cinq à sept ans pour s’adapter aux changements économiques induits par l’IA » est terriblement anxiogène pour les classes populaires et favorise les partis populistes et extrêmes. Les écarts entre les Gilets jaunes et la petite élite de l’IA – très mobile géographiquement et que l’on s’arrache sur le marché mondial des cerveaux – sont un puissant moteur populiste.
À cause de l’IA, les classes moyennes et populaires deviennent des naufragés intellectuels ouverts aux aventures politiques les plus exotiques. L’un des trois plus grands spécialistes de l’IA, Yoshua Bengio, s’était alarmé sans langue de bois dans L’Obs11 : « Cela va aller trop vite pour que les gens puissent terminer leur carrière ou se reconvertir. Quelle sera la reconversion possible pour les chauffeurs de taxi ou de poids lourds à l’ère des transports autonomes ? Ils ne pourront pas devenir des experts en données ! » Cette angoisse est décuplée avec ChatGPT.
La révolution de l’IA favorise les élites intellectuelles et affaiblit le peuple mal préparé à l’économie du big data. Mais les élites refusent de l’admettre. Le Financial Times révèle que Google a franchi la barre des 100 millions de dollars de bonus pour un seul ingénieur talentueux. À défaut d’être souhaitable et réjouissante, cette évolution est logique : nous sommes entrés dans la société de la connaissance qui donne une prime considérable aux individus qui possèdent de grandes capacités intellectuelles. Dans « le capitalisme cognitif » qui commence, les cerveaux biologiques capables de manager, organiser et réguler les IA valent chaque jour plus cher. Le capitalisme de la connaissance génère mécaniquement des inégalités croissantes alors que le but de l’économie est de diminuer les inégalités, ce qui passerait par la réduction des inégalités intellectuelles davantage que par la fiscalité.
Le géographe Christophe Guilluy décrit depuis des années les souffrances de la France périphérique. Il y a bien trois France : les gagnants de la nouvelle économie calfeutrés dans les métropoles où se concentrent les entreprises liées à l’IA, les banlieues peuplées de communautés et la France péri-urbaine et rurale des « petits blancs » qui se sont autobaptisés Gilets jaunes. Emmanuel Macron doit son ascension aux gagnants du nouveau capitalisme cognitif ; c’est-à-dire l’économie de la connaissance, de l’IA et du big data.
La révolution jaune a été grandement facilitée par la réforme de Facebook. Mark Zuckerberg a favorisé la construction de « groupes » en mettant en avant les contenus partagés par les amis et les communautés. « Un écureuil mourant dans votre cour peut être plus important pour vous à un moment donné que les gens mourants en Afrique », dit-il pour justifier cette évolution. Les Gilets jaunes ont grossi grâce à cette transformation de Facebook, qui devient un outil extraordinaire pour organiser des « Jacqueries 2.0 » dans chaque département, puisqu’il favorise les contenus produits par sa communauté locale.
Peu structuré, le mouvement des Gilets jaunes s’est logiquement essoufflé mais le désespoir des « petits blancs » est là pour durer dans tous les pays occidentaux. Hélas, la réponse des élites est inadaptée : se moquer des Gilets jaunes qui sont rebaptisés beaufs, inutiles voire abrutis et se préparer à faire sécession. Les métropoles deviennent des citadelles et des projets d’îles artificielles ou de stations spatiales réservées aux puissants fleurissent dans la Silicon Valley. Cela dessine un futur à la Elysium12.
Ce serait le stade ultime de déclin de la démocratie : la séparation physique des « Gods and Useless » décrits par Yuval Harari dans Homo Deus. Les gagnants de l’économie de l’Intelligence Artificielle ont produit les Gilets jaunes et, s’il n’y avait la démocratie, ils seraient prêts à les abandonner. Microsoft s’est inquiété le 23 mars 2023 que GPT4 accentue les inégalités : « D’un côté, les pouvoirs croissants des LLM, associés à leur disponibilité limitée, menacent de créer une fracture de l’IA avec une inégalité croissante entre les nantis et les démunis d’accès aux systèmes. Si les puissantes capacités créées par les derniers modèles d’IA ne sont disponibles que pour les groupes et les individus privilégiés, les progrès de l’IA peuvent amplifier les divisions et les inégalités sociétales existantes. »
La crise profonde dont témoignent les Gilets jaunes n’est pas près de s’arrêter : le métissage de l’Occident est irréversible, la révolution transhumaniste va s’accélérer et le déclassement des classes moyennes et populaires va continuer. Cela va tanguer pendant au moins cent ans.
Seule la politique pourrait aider la population à s’adapter à ce futur vertigineux. Malheureusement elle y est aussi peu préparée que les Gilets jaunes.
Les politiques occupent la scène mais ne font plus l’histoire. Le vrai pouvoir sera de plus en plus entre les mains des géants du numérique américains et asiatiques. « Code is law », expliquait dès l’année 2000 Lawrence Lessig, professeur à Harvard. « Le logiciel dévore le monde », ajoutait en 2011 Marc Andreessen, le créateur de Mosaic et de Netscape, les deux premiers navigateurs Internet. Ces deux penseurs de la société digitale ont vite compris que les systèmes experts, dominés par ces géants, allaient contrôler tous les aspects de la vie des citoyens, notamment leurs rapports à la loi et à la politique. Face à ces bourrasques technologiques, les responsables politiques n’ont pas vu que nous avons changé de siècle.
L’engrenage neurotechnologique dans lequel le monde est désormais engagé se traduit par un transfert radical quoique silencieux du pouvoir politique.
Jamais l’humanité n’aura été confrontée à des défis plus grands. Orienter notre destin à long terme devient la tâche politique la plus cruciale. Mais la révolution NBIC qui va radicalement changer notre civilisation s’invente sur les bords du Pacifique, à l’initiative des géants du numérique américains et des dirigeants chinois qui pilotent la stratégie des BATX.
Faute de comprendre ces évolutions, l’État laisse la technologie et ses penseurs structurer la société. Insensiblement, le centre de gravité du pouvoir se déplace, puisque la technologie est plus forte que la loi.
La fusion de la technologie et de la loi est une conséquence troublante de l’extension de la place de l’IA. Les règles essentielles n’émanent plus du Parlement mais des plateformes numériques. Que pèsent, en effet, nos lois sur les médias par rapport aux règles de filtrage de l’IA de Google et Facebook ? Que pèse le droit de la concurrence face à l’IA d’Amazon13 ? Que pèsera demain le code de la santé publique face aux algorithmes de DeepMind-Google ou de Baidu, qui vont progresser à pas de géants en IA médicale ?
Il est clair que les géants de l’IA sont en train de bâtir des écosystèmes autour d’un « robinet à IA » qu’ils verrouillent.
L’État peut-il encore édifier de belles barrières réglementaires pour préserver le statu quo ? De surcroît, les systèmes d’IA sont très difficiles à auditer : les poids et les comportements des différents neurones virtuels – il y en a souvent des milliards – changent en permanence, comme nos neurones biologiques changent de comportement en fonction de l’expérience et de l’environnement. La loi va devoir se réinventer pour encadrer l’IA et donc notre vie. La gouvernance, la régulation et la police des plateformes d’IA vont devenir l’essentiel du travail parlementaire. Contrairement aux algorithmes « à la papa » qui comportent peu de branches et sont imprimables, évaluables et auditables, une IA est un système trop complexe pour être analysé par des méthodes traditionnelles. La documentation complète d’un algorithme d’IA de type deep learning ferait des milliards de milliards de milliards de pages… obsolètes quelques instants plus tard. La durée de vie de notre univers ne suffirait pas pour tout lire.
La cause majeure de la perte de pouvoir des institutions traditionnelles réside dans la désynchronisation des temps politiques, humains et informatiques. Les responsables élus évoluent dans un monde où la temporalité reste celle du xixe siècle.
À côté de ce monde institutionnel peu agile, le temps humain est lui-même en décalage avec la machine. Apprendre reste pour les humains un processus pénible et lent. Les compétences de notre cerveau s’acquièrent encore plus difficilement.
L’IA est pour sa part dans une temporalité sans commune mesure. Avec le deep learning, la vitesse d’évolution de l’IA est foudroyante. Quelques minutes suffisent à engranger et traiter des montagnes de données. L’évolution de l’IA est à l’apprentissage humain et au temps institutionnel ce que le clin d’œil est à la pousse d’un chêne adulte.
Ces désynchronisations sont redoutables : elles laissent le politique sur place, pendant que l’économie et plus encore la « sphère technologique » en pleine autonomisation courent très loin devant.
Toute la philosophie politique depuis les Lumières insiste sur la nécessité de conserver toujours des contrepoids à chaque pouvoir. La phrase de Montesquieu est bien connue : « C’est une expérience éternelle que tout homme qui a du pouvoir est porté à en abuser ; il va jusqu’à ce qu’il trouve des limites14. » Mais Montesquieu n’aurait jamais pu prévoir cette situation du début du troisième millénaire dans laquelle le politique est en train de perdre les vrais leviers du pouvoir au profit de puissances privées. Si nous voulons résister à la vague des régimes autoritaires et trouver un équilibre harmonieux avec les géants du numériques, il faut réinventer la technologie politique.
Les règles essentielles qui structurent désormais notre économie et nos rapports sociaux émanent moins des parlements que des plateformes numériques. L’activité fébrile des cabinets ministériels ne sert qu’à gérer les affaires courantes. Le code des plateformes numériques est la nouvelle loi, et nous ne faisons pas partie de ceux qui l’écrivent.
Les décisions majeures qui vont déterminer le destin de notre monde se prennent dans la Silicon Valley et non sous les lambris dorés de l’Élysée : qui sera le maître de la donnée et des machines ?
L’État sert aujourd’hui avant tout à assurer l’ordre public et à redistribuer pour compenser tant bien que mal le décrochage d’une partie de la population. Il n’indique pas de cap et ne décide pas l’avenir, mais s’efforce de jouer la voiture-balai pour les perdants de la mondialisation.
Naguère maîtres des horloges, nos gouvernements sont tétanisés face à ces nouveaux acteurs : au sommet de l’État, l’analphabétisme technologique est la règle. Explosives, les technologies NBIC nous emmènent dans un monde de plus en plus imprévisible qui appelle une réinvention du rôle régulateur de l’État. Incapable d’assumer son rôle de vigie technologique, l’État laisse un progrès technologique galopant imposer de fait de plus en plus vite la structure de la société. Insensiblement, le centre de gravité du pouvoir se déplace puisque la technologie est plus forte que la loi. Gouverné par l’émotion, l’urgence et les pressions médiatiques, notre système politique est enfermé dans un cercle vicieux où l’impuissance conduit à une demande croissante d’autoritarisme. L’État n’a ainsi plus la légitimité suffisante pour accomplir sa tâche d’intégration de l’intérêt à long terme de la société.
La politique consiste d’abord – ou devrait consister – à anticiper le futur. Or, nous sommes aujourd’hui face à une rupture radicale de notre rapport au lendemain, réflexion que les États ont renoncé à organiser. Face à la déferlante de la Silicon Valley, l’État est sidéré et piétine. Il est urgent de rénover le pilotage démocratique, devenu prisonnier de la tyrannie du court terme, qui se révèle incapable de penser la mutation civilisationnelle produite par les NBIC. Est-il possible grâce au numérique de réenchanter la politique avant que notre destin ne soit verrouillé par les groupes technologiques sans oublier les dictatures technologiques, qui raisonnent à mille ans ? Ou faut-il, au contraire, craindre que la e-politique entretienne le règne de l’immédiateté en euthanasiant toute vision à long terme ?
Le 29 mai 1453 Constantinople, qui était un des derniers remparts de la chrétienté face à la poussée de l’Islam, tombe aux mains du Sultan ottoman Mehmet II. Alors même que les forces turques s’apprêtaient à entrer dans la ville, on raconte que les religieux orthodoxes byzantins discutaient à n’en plus finir de la question théologique, essentielle à leurs yeux, du sexe des anges, archétype de la querelle byzantine.
Nous sommes aujourd’hui dans une situation semblable : le débat politique s’en tient aux détails secondaires. En matière d’éducation, il est en décalage complet avec les enjeux de la reconversion sociale pour faire face au tsunami technologique en cours. Nous discutons du sexe des anges à l’heure de ChatGPT.
La déconnexion des élites françaises est malheureusement une réalité angoissante : elles sont complètement décalées par rapport à la révolution technologique issue des NBIC. On compte sur les doigts d’une main les hommes politiques qui maîtrisent les enjeux technologiques. Les questions qui se posent sont violentes et seules des élites ayant une connaissance intime de la technologie pourraient y répondre. Il faudrait plus d’ingénieurs au sommet de l’État. Comment survivre dans ce monde dominé par les GAFAM ? Qui réalise que la Corée du Sud investit deux fois plus en recherche que la France ? Le contraste est saisissant avec les années 1900, lorsque la France était la Californie du monde à la pointe de toutes les technologies (auto, avion, électricité, chimie, téléphone, photo…). Comment la France va-t-elle exister dans un xxie siècle où les NBIC déterminent la puissance des Nations ? Comment pilote-t-on le système de santé au moment où Google a décidé de tuer la mort ? Comment former nos enfants qui évolueront dans un monde où l’intelligence ne sera plus contingentée ? Comment éviter le déclassement face aux puissances de l’Asie qui lanceront les guerres des cerveaux en optimisant le génome de leurs concitoyens ? La vérité est que les NBIC vont bouleverser la civilisation avant 2050 et que nos élites politiques n’en connaissent même pas la signification.
Dans un monde ultra-complexe, il sera difficile d’être un citoyen éclairé et plus encore un politicien responsable sans une compréhension minimum de la science et de la technologie. On pensait la démocratie gagnante de l’Histoire, point d’arrivée inévitable de la marche des civilisations. Voici à présent qu’elle recule contre toute attente. Si nous ne savons pas l’enrayer à temps, la mort de la démocratie peut être au bout du chemin.
Il n’y a pas de domaine où la faiblesse technologique des politiciens est aussi troublante que la régulation de l’Intelligence Artificielle. Un politicien qui ne maîtrise pas l’IA – ou qui pense encore que l’IA est un programme informatique banal – va devenir un danger public, une machine à attiser le populisme parce qu’il n’aura aucune prise sur le réel. La loi va devoir se réinventer pour encadrer l’IA et donc notre vie. La gouvernance, la régulation et la police des plateformes d’IA vont devenir une partie essentielle du travail parlementaire. Un bon parlementaire est nécessairement un bon connaisseur de l’IA.
Les politiques n’ont pas réfléchi aux dilemmes politiques de l’ère de l’IA. La volonté de créer des IA éthiques, explicables et certifiables, semble bienveillante : c’est en réalité naïf et suicidaire. Il existe des arbitrages complexes entre « privacy » et performance des IA, puissance et explicabilité des algorithmes. Faut-il essayer de freiner la guerre technologique ? Ou y préparer les Européens ? Si vous rendez une IA transparente et certifiable, vous en bridez profondément l’efficacité. Le Financial Times titrait récemment : « Mark Zuckerberg, plus apprenti que sorcier ». Les grandes plateformes sont devenues des monstres qui reproduisent nos biais humains mais vouloir éviter que Facebook soit raciste alors que beaucoup de ses utilisateurs le sont suppose de bidouiller ses intelligences artificielles, ce qui est loin d’être anodin.
Par ailleurs, rendre les IA transparentes faciliterait leur hacking. C’est particulièrement dangereux pour Google et Facebook. Yann Le Cun15 explique que Facebook ne pourrait plus fonctionner sans l’IA qui est omniprésente sur le réseau social. Rendre publics les détails techniques faciliterait les manipulations politiques.
L’IA étant une technologie jeune, les politiciens la comprennent mal. Ils souffrent du syndrome de Dunning-Kruger ou effet de surconfiance : plus un individu est ignorant d’un sujet, plus il en surestime sa compréhension. Cela explique les décisions en apparence bienveillantes et en réalité désastreuses qui sont prises – à Bruxelles et à Paris – dans le pilotage de la révolution technologique. Ce n’est pas un hasard si aucun GAFAM n’est européen.
L’Union soviétique est morte à cause de la concentration des pouvoirs et des informations à Moscou, ce qui était mortifère face à la décentralisation de l’économie de marché. Le capitalisme cognitif a radicalement changé les choses : un pouvoir est d’autant plus efficace qu’il concentre les données, ce qui rend ses IA plus puissantes puisque mieux nourries de données. La Chine, qui produit deux fois plus de données que les États-Unis et l’Europe réunis, bénéficie d’un avantage prodigieux.
Les thèmes qui occupent le débat public sont rarement ceux que des observateurs avisés jugeraient les plus importants. La bande passante de l’attention médiatique, politique et populaire est actuellement entièrement consacrée à la réforme des retraites. Elle n’est rien à côté du défi que représente ChatGPT. Sommes-nous au rendez-vous de l’Histoire en train de se faire ? ChatGPT soulève des questions dont les effets pourraient se faire sentir dans quelques années seulement. C’est la vraie urgence. L’erreur serait de juger des bouleversements potentiels de l’IA conversationnelle à ses performances actuelles. C’est la trajectoire qui importe. Si les résultats sont déjà stupéfiants, ils le seront encore plus dans cinq ans. Les compétences humaines moyennes en rédaction, synthèse et même en création vont être rapidement dépassées. Elles seront infiniment disponibles à coût nul. Au lieu de s’écharper sur une réforme des retraites somme toute homéopathique, la classe politique devrait lancer un blitzkrieg industriel. Il faut, bien sûr, adapter le monde de l’entreprise, l’école et l’hôpital aux nouvelles IA. Mais le mode défense ne suffit pas, nous devons passer en mode attaque. Il est plus important encore de profiter des opportunités créées par cette rupture technologique. La forteresse des GAFAM n’est pas inattaquable. Si elle se mobilise rapidement, la France peut donc rentrer dans la course à l’occasion de ce changement de paradigme technologique qui fragilise temporairement certains GAFAM. Notre pays a raté tous les tournants technologiques majeurs de ces trente dernières années, ce qui nourrit notre déclassement. Il doit partir au combat. Il est encore possible de rentrer sur ce marché. Cela ne durera pas. Il faut faire vite. ChatGPT sème un vent de panique chez les géants du Web qui se mobilisent pour conserver leurs monopoles. Google panique et Sundar Pichai son président a même déclenché le « code rouge ». Les fondateurs de Google, Larry Page et Sergey Brin, ont été rappelés en urgence pour organiser la contre-attaque du groupe afin de rattraper son retard. Tous les projets ont été suspendus afin de se concentrer sur l’IA générative. Amazon ne restera pas inerte et peut mobiliser son budget de Recherche et Développement qui se rapproche de 40 milliards de dollars par an. Au cours des cinq prochaines années, le bouillonnement des innovations sera inouï. La France a une chance historique de rattraper son retard, à condition de parler moins de retraites et plus de technologie. Cela suppose aussi de ne pas s’épuiser en discussions stériles sur les enjeux éthiques et philosophiques de l’IA, pendant que nos concurrents vont développer les usines intellectuelles du futur. Avançons d’abord, on régulera ensuite.
L’économiste Nicolas Bouzou se lamente : « ChatGPT doit aussi constituer l’occasion de porter un regard critique sur notre débat public et sur l’état de l’opinion. Deux domaines sont cruciaux. Celui de l’éducation et du travail, deux champs qu’on doit désormais considérer comme indissociables. Le deuxième domaine est celui de la géopolitique. À cet égard, la perte d’influence de la France est la conséquence de sa perte de puissance scientifique. Henry Kissinger (quatre-vingt-dix-neuf ans) a parfaitement identifié ce lien entre production des IA génératives et puissance. Mais dans les couloirs du Quai d’Orsay, c’est encore un non-sujet17. »
Si les politiques apportent de mauvaises réponses, c’est aussi parce que leur niveau baisse de façon catastrophique. Gérer la société hypertechnologique et ultracomplexe que l’IA va produire nécessite des capacités exceptionnelles, mais la vague populiste qui l’accompagne conduit l’opinion à réclamer au contraire une baisse des salaires des ministres et hauts fonctionnaires. Les mécanismes institutionnels actuels font fuir les politiciens compétents.
La crise d’adolescence d’Homo Deus s’accompagne en Europe d’une honte de ses pouvoirs prométhéens. Ce monde ultra-complexe fait le lit d’une idéologie millénariste apocalyptique qui aggrave le déclin européen. Notre civilisation, percluse de culpabilité, s’incline devant un puissant mouvement de contestation des valeurs fondamentales qu’elle incarnait. L’ennemi n’est pas d’abord à nos portes, il est au milieu de nous.
Née à l’ombre des théoriciens du IIIe Reich, l’écologie est devenue majoritairement gauchiste. Luc Ferry a théorisé en 1992 ce glissement de l’écologie. Inversement, l’idéologie transhumaniste baba cool et New Age des années 1960 et 1970 est devenue libérale et pro-capitalisme18. C’est l’époque où Steve Jobs découvrait le LSD sur le campus de Stanford.
Aujourd’hui, l’écologie adopte un nouveau visage. Ou plutôt sert de masque à une nouvelle cause. Les écolos sympas et bohèmes ont laissé place à des groupes d’activistes formés comme une armée révolutionnaire. Le projet rêveur est devenu un programme collectiviste autoritaire. La fleur au chapeau a été remplacée par les casques et les fumigènes des black blocks et autres antifas aux noires tenues. Les méthodes pacifiques ont été abandonnées au profit de techniques spectaculaires.
L’étendard vert ne fait plus rire. Il terrorise. La nouvelle religion de Mère Nature, viscéralement anti-humaniste, s’oppose frontalement à celle de l’Homme-Dieu.
Aux deux bouts du spectre, intellectuels et philosophes s’affrontent. En ce début de xxie siècle, des néo-malthusiens collapsologues font face à des transhumanistes rêvant de coloniser le cosmos.
Les écologistes collapsologues sont persuadés que la pénurie de matières premières et d’énergie va entraîner la fin de notre civilisation.
L’échiquier politique se reconfigure selon un axe nouveau.
Contrairement aux collapsologues, les transhumanistes pensent que la limitation des naissances n’est pas souhaitable : la conquête spatiale nécessitera énormément de colons. Elon Musk veut envoyer 1 million d’humains sur Mars et Jeff Bezos, l’homme le plus riche du monde, a décrit un futur où des fusées récupérables comme son lanceur Blue Origin permettraient de coloniser le cosmos et d’installer 1 000 milliards d’êtres humains dans l’espace. La limitation des naissances n’aurait évidemment plus lieu d’être. Pour les transhumanistes, le travail ne mourra jamais, l’aventure humaine est illimitée et le champ de notre horizon va radicalement s’étendre.
Les innovations technologiques issues des NBIC se succèdent de plus en plus vite. Elles sont de plus en plus spectaculaires et transgressives mais la société les accepte avec une facilité croissante : l’Humanité est lancée sur un toboggan transgressif.
D’ici 2050, des chocs biotechnologiques encore plus spectaculaires vont secouer la société : régénération des organes par les cellules souches, thérapies géniques, implants cérébraux, techniques antivieillissement, design génétique de bébés à la carte, fabrication d’ovules à partir de cellules de peau… « Plutôt transhumains que morts » devient notre devise. Le transhumanisme, idéologie démiurgique issue de la Silicon Valley, qui entend lutter contre le vieillissement et la mort, grâce aux NBIC, a le vent en poupe.
De façon inattendue, le pôle conservateur et réactionnaire a éclaté en deux : un pôle bioconservateur centré sur la lutte contre les nouvelles mœurs et les droits donnés aux minorités sexuelles et un pôle millénariste apocalyptique issu de l’écologie politique.
Le clivage gauche-droite est dépassé au xxie siècle : in fine, l’opposition bioconservateurs contre transhumanistes sera le clivage politique le plus pertinent de notre siècle. Il supplantera l’opposition gauche et droite qui devient désuète. Si au xxe siècle l’alternative fondamentale a sans doute été de choisir entre plus d’État et moins d’État, entre la confiance en la puissance publique ou en la loi du marché, entre la prééminence donnée au collectif plutôt qu’à la liberté individuelle, à l’exigence de solidarité plutôt qu’à celle de responsabilité, de tels choix ne correspondent plus aux enjeux essentiels de notre société. Opposer droite et gauche à l’ère de la neurorévolution serait un anachronisme.
L’opposition entre bioconservateurs et transhumanistes va bouleverser l’échiquier politique, parce que la gestion de nos pouvoirs démiurgiques est en rupture radicale avec l’idéologie judéo-chrétienne qui fonde la civilisation européenne. C’est Luc Ferry qui le premier a expliqué, dans La Révolution transhumaniste, que les NBIC génèrent des oppositions philosophiques et politiques parfaitement légitimes qui n’opposent pas les bons et les salauds : nous allons être déchirés.
Aucun d’entre nous ne peut dire s’il vaut mieux devenir tout-puissant et conquérir l’univers pour en empêcher sa mort, ou s’il est préférable de cultiver ses rosiers en jouant avec ses petits-enfants, génération après génération, en lisant Proust jusqu’à l’explosion de notre soleil.
Mais les transhumanistes prendront, à terme, le pouvoir. Le pouvoir démographique parce qu’ils vivront plus longtemps du fait de leur acceptation illimitée des technologies antivieillissement. Le pouvoir économique et politique parce qu’ils seront les premiers à accepter les technologies de neuro-enhancement19.
Le monde se coupe en deux. L’idéologie transhumaniste s’impose sur les bords du Pacifique tandis que l’Europe devient réactionnaire et vénère Gaïa. En Europe, les technoprogressistes deviennent des parias. L’écologie apocalyptique a gagné une bataille.
Jean-Paul Oury se désole : « La spécialité européenne en termes de nouvelles technologies est, sans aucun doute, la peur du progrès scientifique et technique. L’Allemagne a donné Hans Jonas, le philosophe qui appelle à se méfier du progrès scientifique. C’est en Italie que se sont réunis un Écossais et un Italien pour créer le club de Rome qui sera à l’origine du rapport Meadows sur l’arrêt de la croissance. La France est l’un des seuls pays à avoir introduit le principe de précaution et dispose d’un vrai talent en matière d’activisme anti-science et ce sont des Français qui ont inventé la collapsologie. La Suède est la patrie de Greta Thunberg qui veut “qu’on ait peur”. Enfin, l’Angleterre a enfanté le groupe Extinction Rebellion qui s’est imposé comme un modèle international en matière de désobéissance civile… »
Nous entrons dans l’ère des gourous verts, qui maquillent l’histoire, vendent de la peur et promeuvent une irrationalité qui sert leurs desseins cachés. La fin du monde est un thème porteur. Cela empêche de piloter la révolution technologique entamée par ChatGPT.