Nous allons alors massivement adopter les technologies d’augmentation. La diffusion des techniques d’amélioration créera ainsi un « anti-meilleur des mondes » plutôt qu’une société inégalitaire. Il pourrait bien s’instituer une société égalitaire d’individus ayant tous de très hautes capacités cognitives.
Le passage à une société d’intelligence augmentée généralisée ne se fera pas en un seul mouvement. Comme souvent lors de transformations sociales profondes, les frictions seront nombreuses et douloureuses pendant un temps. La prospérité de la seconde moitié du xxe siècle a été chèrement payée par un xixe siècle d’exploitation des masses laborieuses déracinées, deux guerres mondiales et les pires régimes jamais expérimentés… La société ultra-égalitaire n’aura elle que deux problèmes à gérer à ses débuts mais ils sont vertigineux : ceux qui ne voudront ou ne pourront pas avoir accès au renforcement cérébral d’une part, et la surenchère eugéniste et neurotechnologique de certains pays d’autre part. Ces deux problèmes se déclinent en deux scénarios extrêmes pour l’avenir du monde.
Nous avons pris l’habitude de penser que le progrès allait de soi, que la tendance naturelle de notre société était d’aller vers l’élaboration et l’adoption de technologies sans cesse plus sophistiquées. En réalité, la régression des savoirs est aussi possible. Des découvertes scientifiques peuvent tomber dans l’oubli, des techniques maîtrisées peuvent cesser de l’être. La compréhension du monde peut aller vers plus de superstition.
Toutefois, les révoltes luddites n’ont jamais suffi à enrayer le progrès.
Malgré tout, l’hypothèse de la victoire politique d’un parti techno-conservateur ne peut pas être écartée. Plus les mutations économiques seront profondes et viendront nourrir le désarroi sur le marché du travail, plus les partis proposant des solutions simplistes pour que tout redevienne comme avant vont prospérer.
La généralisation des implants neuronaux, et plus encore la sélection embryonnaire seront, à coup sûr, des pas difficiles à franchir pour la société. Les bioconservateurs qui s’élèveront contre la transhumanisation des esprits ne manqueront pas.
Le mouvement d’égalisation de l’intelligence sera sans doute massif, mais probablement pas total. Au début, la société numérique aura ses Amish, refusant le progrès pour des raisons philosophiques ou religieuses. En pratique, le rattrapage se fait, in fine : les Amish eux-mêmes acceptent de plus en plus l’électricité et le réfrigérateur… ils n’ont finalement qu’un petit siècle de décalage.
Le tournant bioconservateur ne concernerait au surplus que quelques zones du monde bien limitées. Il n’est pas vraisemblable que le monde entier s’entende pour faire un moratoire radical. La réaction de rejet des nouvelles technologies n’est plausible que dans certains pays très religieux ou dans ceux de la vieille Europe… Avec le passage rapide du reste du monde au transhumanisme neuroaugmenté, la rupture sera radicale. Même dans les pays qui auront officiellement mis des barrières aux nouvelles technologies, les élites mondialisées trouveront toujours le moyen de les adopter, exactement comme la « gestation pour autrui », bien qu’interdite, est d’ores et déjà pratiquée par les Français à l’étranger. Les barrières ne joueront dès lors que pour les populations prétendument protégées.
En quelques années, deux humanités apparaîtraient : l’une au QI hyper élevé, l’autre devenue, par la force de la relativité, déficiente mentale. Ces populations ne seront plus guère employables que pour des tâches extrêmement simples, celles-là mêmes malheureusement qui auront été entièrement automatisées. On peut imaginer que l’on créerait alors un statut particulier pour ces populations qui percevront une sorte de « minimum social d’infériorité cognitive ». Dans les pays techno-orientés, le gouvernement cherchera vivement à les influencer pour qu’elles finissent par rentrer dans le rang. En attendant, les neuro-renforcés réclameront une modification du droit de vote afin d’exclure les populations non augmentées au « vote stupide et mal informé »… Protéger et nourrir les « débiles légers » qui souhaitent le rester, passe encore, mais viendra un moment où leur donner en plus un droit de peser dans les décisions politiques et économiques paraîtra excessif. Il semblera demain aussi absurde aux humains augmentés dotés de 180 de QI de me demander mon avis, que de donner aujourd’hui le droit de vote aux chimpanzés.
Finalement, il est difficile de croire en un scénario durable et généralisé de régression technologique. La pression à l’adoption sera trop forte, en particulier au moment fatidique et angoissant de la reproduction. Demain, quand il sera possible – et même probablement conseillé – de cesser d’avoir recours au hasard pour se reproduire, la pression à l’utilisation des techniques disponibles sera irrésistible.
La trajectoire d’acceptation par les parents de la neuro-augmentation de leurs enfants n’a même pas besoin de débuter sur les chapeaux de roue. Une adoption par seulement 1 à 2 % des parents suffirait à bouleverser la société. Aujourd’hui, la proportion de QI supérieurs à 160 est de 0,0003 %, soit 3 sur 100 000 personnes. Concrètement, 2 % de la population ayant un QI de 160 équivaudrait à un pays qui aurait un Mark Zuckerberg ou un Bill Gates par immeuble… La structure du marché du travail serait ainsi modifiée radicalement même si les refus étaient au départ largement dominants.
Les familles refusant la technologie verraient leurs enfants marginalisés à toute vitesse et changeraient d’avis.
Nous faisons donc l’hypothèse que le courant bioconservateur restera marginal, un peu exotique, et presque sympathique dans sa totale déconnexion d’avec les pratiques communément admises…
Le risque résulte beaucoup plus d’une fuite en avant dans l’utilisation des technologies, la concurrence mondiale aidant, que d’une régression bioconservatrice.
Le deuxième scénario n’est pas vraiment plus réjouissant : la concurrence géopolitique mondiale empêche tout contrôle de l’IA, ce qui entraîne une surenchère eugéniste et neurotechnologique…
Au siècle du cerveau, la guerre se déplace sur le terrain de l’intelligence. Les luttes de pouvoir et d’influence que mènent les différents pays depuis toujours vont trouver dans les neurotechnologies un nouveau terrain d’opposition.
Elon Musk a été fortement critiqué lorsqu’il a milité pour une régulation fédérale de l’IA : plusieurs experts1 l’ont accusé de faire le jeu de la Chine en ralentissant la recherche américaine. Un désarmement général des nations semble donc exclu.
Face à la compétition mondiale de l’IA, la solution transhumaniste radicale s’imposerait. Pour éviter sa marginalisation, chaque État chercherait à augmenter massivement les capacités intellectuelles de sa population par la sélection embryonnaire et les implants.
Le xxe siècle a montré que la diffusion de la modernité scientifique parvenait sans peine à aller de pair avec le maintien de convictions politiques et religieuses médiévales. Force est de constater que notre monde reste tout autant structuré par ses rivalités religieuses et ethniques.
L’arrivée massive des technologies d’augmentation cérébrale dans ce contexte d’irrationalité serait explosive.
La neurorévolution produirait une exacerbation des rivalités géopolitiques. Comment ne pas imaginer que les grands ensembles géopolitiques et religieux ne se livreront pas à une course neuroéducative d’abord, eugéniste et neurotechnologique ensuite ?
Les technologies de neurorenforcement seront perçues comme des moyens indispensables pour dominer les autres pays ou groupes antagonistes. Toutes les transgressions seront validées par des instances religieuses et communautaires trop conscientes du risque d’infériorité intellectuelle pour exclure l’usage de ces technologies.
Les nations qui refuseraient de s’engager seraient marginalisées extrêmement vite. Dans un écosystème où l’innovation, le progrès scientifique et la création de valeur seront plus que jamais directement corrélés à la quantité d’intelligence qu’un pays parvient à rassembler, il sera essentiel de produire le plus vite possible des bataillons d’individus neuroaugmentés. La politique d’attraction des intelligences du monde entier que mènent déjà les États-Unis n’aurait plus lieu d’être : elle serait remplacée par une production locale intensive d’intelligences supérieures et complémentaires de l’IA.
L’émergence de nouvelles IA inquiète déjà les parents américains.
Une importante minorité d’Américains serait favorable au dépistage génétique des embryons pour augmenter les chances de leur enfant de fréquenter une université d’élite.
Plusieurs experts en bioéthique et économistes ont conçu une enquête pour sonder l’opinion publique sur la fécondation in vitro (FIV) et les tests génétiques hypothétiques des embryons avant leur implantation dans l’utérus. L’enquête2 a demandé aux répondants s’ils testeraient et modifieraient les gènes d’un embryon pour augmenter les chances que l’enfant conçu grandisse et fréquente une excellente université.
On a demandé aux répondants de supposer que le dépistage génétique des embryons et les procédures d’édition génétique offraient un moyen d’augmenter les chances de leur enfant de fréquenter l’une des 100 meilleures universités. Informés que leurs embryons avaient 3 % de chances d’entrer dans une université d’élite, on leur a demandé s’ils opteraient pour une intervention qui augmenterait les chances de leur progéniture embryonnaire à 5 %.
Selon les résultats de l’enquête3, 38 % des répondants ont déclaré qu’ils examineraient génétiquement les embryons de FIV pour la réussite scolaire prévue. Et 28 % des répondants souhaitent modifier l’ADN de leur futur bébé pour augmenter les chances d’acceptation dans les meilleures universités.
La revue du MIT4 est sidérée que les Américains soient prêts à tester les embryons pour augmenter les performances à l’université : « Pour certaines personnes, la préparation à l’université peut commencer dans un tube à essai – et les éthiciens paniquent. »
La société de la neuroaugmentation deviendrait une société de l’identité choisie et non plus subie.
Pour la première fois dans l’histoire de l’humanité, la distribution de l’intelligence et plus généralement de ce que nous sommes ne sera plus le résultat de la grande loterie génétique et de notre environnement, mais une identité bâtie, grâce aux neurotechnologies, de façon consciente. Ce que nous sommes ne serait plus le résultat du bricolage social des alliances familiales précautionneuses sur plusieurs générations5 et de l’environnement spécialement bâti pour éviter les éventuelles mésalliances. L’identité construite serait avant tout déterminée par les parents6, et donc reflétera très exactement les groupes sociaux auxquels ils appartiennent.
Si l’école est déjà contestée par beaucoup de parents à l’heure actuelle, cette contestation atteindra un paroxysme à l’ère de la neuroformation, alimentée par les théories complotistes les plus folles. Chaque parent cherchera à maîtriser très précisément les contenus transférés dans le cerveau de son enfant. L’offre d’éducation sera hyper-segmentée, chaque courant culturel ou option religieuse choisissant un « pack » de valeurs à transmettre. Il y en aura pour tous les goûts : les baba-cools, les libertariens, les bobos branchés, les cathos « tradi », les juifs très pratiquants, les musulmans soft… Le degré de fanatisme ou d’ouverture sera programmable et paramétrable.
On pourrait alors assister à une balkanisation radicale de la société, les individus se divisant en « genres » extrêmement typés et où le métissage social sera devenu impossible. On peut aussi imaginer, dans une version plus optimiste, que chaque parent utilise sa propre sensibilité pour créer une identité de valeur vraiment unique chez ses enfants, et qu’ainsi la diversité des identités sociales en ressorte non pas diminuée mais renforcée.
Notre cerveau sera confronté à trois menaces : les géants du numérique, les dictateurs et les futures IA fortes.
Beaucoup craignent que les choix de société seront faits par les détenteurs des vrais leviers du pouvoir : les géants du numérique.
Larry Page, cofondateur de Google, déclarait en 2010 sans aucun complexe : « Notre ambition est de contrôler toute l’information du monde, pas juste une partie. » L’outrance – pas irréaliste – de la déclaration en disait déjà long sur l’assurance de la firme californienne.
Le risque que les GAFAM instituent une dictature neurologique en manipulant notre cerveau paraît minime car les géants du numérique comme Google sont imprégnés de culture démocratique. En revanche, rien ne garantit que ce sera le cas de tous ceux entre les mains desquels le contrôle de l’IA et les neurotechnologies atterriront. D’ailleurs les BATX sont totalement contrôlés par le pouvoir chinois, qui contrairement aux GAFAM est imprégné de culture autoritaire.
Les neurotechnologies pourraient devenir une arme fatale au service d’une ambition totalitaire. C’est une menace inédite contre la liberté : à partir du moment où il sera possible de lire dans le cerveau, une police de la pensée pourra faire son apparition. L’existence d’outils de connaissance intime du cerveau sera l’arme de pouvoir ultime des dictateurs. La protection de l’intégrité de notre cerveau va devenir essentielle ; bien plus que peut l’être aujourd’hui celle de la protection de la vie privée à l’ère du suivi des faits et gestes de chacun d’entre nous grâce à nos traces numériques.
L’ultime frontière de la domination des dictatures – l’esprit humain – serait pulvérisée. On imagine avec effroi ce que Staline, Mao, Pol Pot ou Hitler auraient fait s’ils avaient disposé des technologies NBIC. Le goulag aurait reprogrammé les cerveaux : l’Homo sovieticus serait devenu une réalité irréversible et la Perestroïka n’aurait jamais vu le jour. La priorité des dictatures sera d’adopter massivement les outils d’éducation neuronale.
La neuroéducation pourrait être l’heureuse surprise de tous les régimes autoritaires. Elle le sera aussi pour tous ceux pour lesquels l’adhésion culturelle est perçue comme essentielle : les groupuscules identitaires se passionneront pour le développement de programmes de neuro-formations capables d’inculquer la bonne vision du monde et l’adhésion à la bonne identité culturelle.
Chaque régime non démocratique aura d’ailleurs à cœur d’implanter dans sa population les modes de pensée corrects.
Peu enclin à l’ouverture, un État islamique fondamentaliste n’en sera pas moins friand de neuromanipulation. Il implantera les sourates du Coran dans le cerveau de ses ouailles et s’assurera que l’ensemble des mécanismes délibératifs de l’individu se réfèrent en permanence aux commandements du prophète. La neuroéducation pourrait créer le croyant fidèle parfait. Obéissant et croyant par construction neuronale.
À l’inverse, il sera aussi possible pour un totalitarisme athée de bloquer tout sentiment religieux dans sa population et de concentrer la ferveur autour de l’adoration de la famille au pouvoir, ou n’importe quel veau d’or.
À plus long terme, le risque principal viendra pourtant moins des États que de l’IA elle-même.
Au-delà de son intelligence possiblement supérieure à la nôtre, nous serons entièrement transparents face à l’IA. Nous ne savons lire ni dans notre cerveau ni dans l’IA, qui devient de plus en plus indéchiffrable, mais nous serons totalement lisibles pour l’IA. L’asymétrie d’information, comme dirait un économiste, sera radicale. Cette capacité à décoder les échanges de l’ennemi est essentielle : souvenons-nous que si les alliés ont gagné la guerre, c’est aussi parce qu’ils déchiffraient, notamment grâce à Alan Turing, les messages codés par la machine Enigma allemande. La guerre reposait déjà hier sur le renseignement, la capacité à connaître les projets concrets et les états d’âme de l’ennemi. Cela sera plus encore le cas demain.
Grâce aux gigantesques données captées en permanence, l’IA connaîtra tout de nos faits et gestes – et pas seulement notre recherche sur Internet et nos échanges de mails. De notre pression sanguine à nos déplacements en passant par tous les gens avec qui nous sommes en contact, l’IA aura accès à tout. Et sa capacité à interpréter en profondeur les données collectées va s’accroître dramatiquement. Apple et Facebook viennent par exemple de racheter des logiciels qui permettent la reconnaissance des émotions via la caméra du smartphone. Allons plus loin : l’IA aura aussi en sa possession la compréhension la plus complète possible de notre psychisme, grâce aux progrès fulgurants qu’elle permettra de réaliser en neurosciences. Les chercheurs de Microsoft se sont émus du fait que GPT4 comprenne très bien les émotions humaines. Concrètement, cela signifie qu’elle aura une sorte de mode d’emploi de notre esprit. À l’image du monstrueux Docteur Mabuse, le génie du crime mis en scène par Fritz Lang, l’IA pourra mettre à profit cette compréhension pour nous manipuler à volonté. À côté, les stratégies d’influence des spécialistes de la communication seront d’aimables bricolages.
La question de la protection de l’intégrité cérébrale va devenir essentielle ; bien plus que peut l’être aujourd’hui celle de la protection de la vie privée à l’ère des caméras de « vidéo-protection » et du suivi à la trace des faits et gestes de chacun grâce aux traces numériques laissées par le téléphone portable ou la navigation Internet. C’est désormais l’intégrité de notre cerveau, ultime refuge de notre liberté, qui va être menacée. Notre liberté de pensée, l’étendue de nos souvenirs, la nature de nos convictions, tout cela sera à la portée d’une manipulation.
Ces manipulations pourront d’ailleurs au début être faites « pour la bonne cause ». Les militaires travaillent, par exemple, aujourd’hui sur les techniques permettant de supprimer les souvenirs de guerre traumatisants.
Il sera indispensable d’encadrer les modifications mnésiques, même lorsqu’elles sont proposées au nom de l’intérêt des malades. Pourtant la pression pour leur multiplication sera immense. Comment ne pas estimer préférable de substituer à une peine de prison coûteuse et inefficace un traitement mental ad hoc pour les criminels les plus odieux ?
On peut imaginer que la société ne se serait pas opposée à l’effacement des souvenirs des petites filles rescapées de l’affaire Dutroux… La logique une fois enclenchée, on voit mal comment elle pourrait s’arrêter. Aurait-il fallu – si cela avait été possible – supprimer en 1945 les souvenirs atroces des rescapés de la Shoah ? Pour le bien des rares déportés ayant survécu peut-être, mais pas pour l’humanité, dont l’histoire aurait été falsifiée. Transformations biologiques et électroniques du cerveau, réalité virtuelle, manipulation des souvenirs forment un cocktail détonant. Notre neurosécurité, c’est-à-dire notre liberté, deviendra le cœur des droits de l’homme de la civilisation biotechnologique.
À qui pourra-t-on faire confiance pour bâtir la neuroéthique ? À l’État ? Autorisera-t-on, par exemple, la justice à lire dans nos cerveaux ? La justice aura-t-elle accès aux enregistrements électriques des informations jadis collectées via les futurs casques télépathiques de Facebook dans l’enfance sur le suspect d’un crime, pour mieux comprendre la genèse de son geste ? De la même façon, des données collectées sur l’enfant pourront-elles conduire à prévenir préventivement la police judiciaire de la jeunesse ? Dans le film Minority Report, la société utilise des sortes de voyants pour prévenir les crimes. La connaissance complète d’un cerveau en dispensera : si le cerveau est en effet une mécanique, elle est aussi prévisible que n’importe quelle machine, et les décisions menant à un crime pourront être détectées – et empêchées en douceur.
À mesure que les technologies du cerveau deviennent plus performantes, des questions éthiques vertigineuses vont apparaître dans l’éducation. Fixer la limite entre l’éducation neuronale et la manipulation sera en effet un défi permanent : où finit l’éducation et où commence la liberté ? Quelle intimité laisser aux élèves ? Jusqu’où peut-on « rééduquer » ? L’État, après tout, se reconnaît déjà aujourd’hui des droits sur notre cerveau puisqu’il impose l’éducation obligatoire. Notre cerveau n’est déjà pas un lieu de liberté… Pourquoi l’État, lorsqu’il en aura les moyens, n’irait-il pas au bout de sa logique pour s’assurer que chacun reçoive les « bonnes » idées, croie dans la même version de l’histoire et adhère aux « bonnes » valeurs ?
Ces perspectives sont terrifiantes.
La course à l’intelligence provoquera de profonds bouleversements sociaux, mais l’égalisation de l’intelligence ne sera pas la fin de l’Histoire, loin de là. Il ne s’agira que d’une phase transitoire. À partir de 2060, on peut craindre que notre intelligence, aussi gonflée soit-elle, ne suffise plus. Les organisations politiques ou économiques traditionnelles perdront tout pouvoir. L’enjeu principal pour l’humanité sera alors de déterminer les modalités de cohabitation avec l’IA.