Nous devons gérer une rupture brutale, imminente et inéluctable. Pour y faire face, notre seule arme est notre cerveau reptilien très modestement domestiqué par la civilisation. Le silicium et l’eugénisme deviendront notre viatique dans le monde d’une IA omniprésente. La nécessité d’augmenter nos capacités cognitives apparaîtra rapidement évidente et incontournable. La compétition d’un monde où l’IA existe sera comme le Tour de France cycliste des années quatre-vingt-dix : une course où celui qui n’est pas dopé n’a aucune chance de terminer à moins de dix minutes du vainqueur d’étape.
Il faut le répéter, parce que c’est une source d’incompréhension contemporaine concernant l’IA : elle s’éduque plus qu’elle ne se programme. En ce sens, il y a bien aussi une école pour la jeune IA, que les experts appellent « AI teaching ». Mais cette école est incomparablement plus rapide que la nôtre, celle des cerveaux biologiques. La guerre des deux écoles est perdue d’avance.
Du fait d’immenses écarts de productivité, la concurrence est très inégale entre les deux écoles : il faut trente ans pour produire un ingénieur ou un radiologue en chair et en os ; quelques instants pour éduquer une IA, lorsque les bases de données nécessaires sont disponibles.
L’école de l’IA est eugéniste et darwinienne. Les chercheurs de Facebook par exemple génèrent 10 000 IA par jour, les éduquent, les évaluent, gardent les meilleures et euthanasient les autres. Les humains progressent eux lentement, génération après génération, les moins aptes cessant de se reproduire. C’est du moins ce qui se passait jusqu’à il y a peu : depuis quelques milliers d’années, la société vient heureusement protéger les plus faibles. Nous avons brisé la sélection darwinienne aveugle pour nous-mêmes, ce qui freine le mécanisme de sélection. Aucune amélioration naturelle de notre intelligence ne peut être attendue d’une sélection ainsi réduite à la portion congrue.
Un autre levier d’amélioration des IA est la loi de Stevenson. Selon cette loi empirique, la capacité à analyser le fonctionnement des groupes de neurones croît exponentiellement. Comprendre l’activité neuronale permettra de décrypter le cerveau humain. Demis Hassabis, le patron de Deepmind-Google, est persuadé que cela enrichira considérablement les techniques d’IA.
Ce processus darwinien n’est évidemment pas applicable à l’éducation traditionnelle ! Notre cerveau est une machine fantastiquement polyvalente et transversale, mais il apprend lentement et il faut recommencer l’ensemble du processus à chaque génération.
L’école est un artisanat archaïque tandis que l’éducation des cerveaux de silicium menée par les géants du numérique devient la plus puissante des industries. D’un côté des enseignants mal considérés et mal payés, de l’autre des développeurs de génie payés en millions de dollars. D’un côté, cinq millions d’écoles de par le monde qui ne capitalisent que trop peu sur leurs expériences. De l’autre, 10 écoles de l’IA chez les GAFA ainsi que leurs équivalents chinois les BATX.
La rapidité d’apprentissage de l’IA est multipliée par 100 chaque année alors que l’école n’a guère changé depuis la Grèce antique. En définitive, les ordinateurs acquièrent nos capacités ordinaires à un rythme extraordinaire, même si l’IA n’est pas encore dotée d’une conscience artificielle. Sergey Brin, le cofondateur de Google, a d’ailleurs confessé en 2017 à Davos que l’IA progresse en réalité bien plus vite que tous les pronostics et qu’il avait sous-estimé cette révolution.
Notre cerveau est un outil remarquable, polyvalent et économe en énergie, mais au débit limité à quelques octets par seconde. En 2017, deux ordinateurs échangent déjà 1 000 milliards d’informations par seconde… On passera pudiquement sur le fait que l’IA ne dort pas, ne mange pas, ne vieillit pas, voyage à 300 000 kilomètres par seconde et peut se subdiviser en quelques millièmes de seconde… Notre ordinateur « fait de viande » est affligé sur ces points d’un handicap fondamental face aux cerveaux de silicium.
La sélection darwinienne étant à l’arrêt puisque la mortalité infantile a heureusement quasiment disparu, seules des modifications génétiques embryonnaires pourraient améliorer la compétitivité de notre « hardware neuronal » face aux IA. Le potentiel d’amélioration est sans doute significatif mais pas illimité ; il existe des limitations physiques à l’augmentation de nos capacités intellectuelles que le silicium n’a pas.
Si notre cerveau grossissait, cela allongerait la longueur des axones qui relient les neurones entre eux, ce qui serait néfaste pour leur efficacité et imposerait, par ailleurs, de généraliser la césarienne.
La réduction de la taille des neurones entraînerait des artefacts et donc des excitations accidentelles des réseaux neuronaux. Et la multiplication du nombre de connexions synaptiques conduirait à une augmentation de la consommation énergétique du cerveau dont on suppose qu’elle est une des origines de la schizophrénie.
Si l’on regarde froidement la réalité, il est vraisemblable que les Edtechs associées à une stimulation précoce des enfants et à une personnalisation pédagogique optimale puissent faire passer le QI moyen d’une population de 100 à 125.
Il est possible que la cohabitation avec l’IA accroisse nos capacités cognitives : la coévolution avec le silicium nous ferait découvrir de nouvelles façons de raisonner ce qui réorganiserait nos réseaux neuronaux. La lecture fait appel à des circuits cérébraux qui n’étaient pas prévus pour lire : en moins de dix mille ans, la sélection darwinienne aurait été bien incapable de faire émerger des aires cérébrales dédiées. Nos relations avec l’IA pourraient entraîner un phénomène comparable.
La sélection et la manipulation génétique embryonnaire devraient permettre à chacun d’atteindre le QI d’un Leibniz, que l’on estime rétrospectivement – il est mort deux cents ans avant l’invention du QI – à 220. Au-delà, seules les méthodes neuroélectroniques semblent envisageables au prix de notre cyborgisation partielle ou complète1.
Si la fin du travail n’est pas une perspective envisageable à court terme, dans une perspective de quarante ou cinquante ans, il n’est pas possible d’être aussi catégorique concernant les humains non augmentés. Si l’on inclut l’arrivée de robots dotés d’IA, les perspectives sont plus radicalement négatives encore. Même les emplois actuels les plus qualifiés qu’un Rifkin croyait voir perdurer pourraient être détruits. Dans un scénario extrême, aucune compétence, même la plus pointue, ne serait inaccessible aux machines. La rapidité et l’infaillibilité d’exécution des machines intelligentes rendraient absolument non compétitif le travail humain2. Le 24 juillet 2017, la Harvard Business Review faisait le constat que même les consultants de haut vol seraient bientôt remplaçables par l’IA.
Pour rester dans la course, l’être humain aura deux choix, d’ailleurs pas exclusifs l’un de l’autre : l’eugénisme biologique et la neuroaugmentation électronique.
Augmenter les capacités intellectuelles de la population va devenir possible. Il existe deux groupes de technologies, en réalité complémentaires : l’amélioration par la voie purement biologique3 d’une part, la voie électronique d’autre part.
Premier type de technologies : celles qui utilisent les ressources biologiques. L’intelligence étant en partie génétique, il s’agit d’identifier les caractéristiques génétiques associées à de meilleures capacités cognitives. La recherche s’était jusqu’à présent essentiellement concentrée sur l’identification des marqueurs associés à des intelligences faibles, pour évaluer le risque de « déficience mentale ». S’intéresser aux marqueurs des QI élevés est tout récent, c’est pourquoi nos connaissances à ce sujet sont pour l’instant limitées4. Mais des laboratoires puissants sont désormais lancés sur la piste, notamment en Chine et aux États-Unis.
Le scénario de Gattaca5, film d’Andrew Niccol réalisé en 1997, décrit une société ayant délibérément fait le choix d’un eugénisme massif et systématique. Comme dans le roman d’Aldous Huxley, Le Meilleur des mondes, c’est à ces individus de première classe que sont réservés les postes de l’élite sociale.
Même s’il est possible d’améliorer considérablement l’efficacité de l’apprentissage, cette voie a ses limites, la génétique explique à elle seule deux tiers de nos capacités intellectuelles. Dès lors, l’utilisation des technologies génétiques permettrait plus efficacement d’augmenter l’intelligence des populations.
Des expérimentations récentes ont augmenté les capacités intellectuelles de souris en modifiant la séquence de leur ADN. L’augmentation des capacités cognitives pourrait être prochainement démontrée chez le singe. Seraient-elles acceptables pour l’espèce humaine ?
Une polémique scientifique animée oppose les partisans de l’interdiction de la modification des embryons humains à des groupes favorables à ces manipulations. Dans un avis du 4 septembre 2016, le groupe Hinxton (un réseau international de chercheurs, de bioéthiciens et de politiques) affirme que la modification génétique des embryons humains serait une « valeur inestimable » pour la recherche.
Au-delà des opinions d’experts, la position de la société civile sur l’utilisation de ces technologies chez l’homme sera cruciale. Faudra-t-il se limiter à corriger des anomalies génétiques responsables de maladies ou, comme le souhaitent les transhumanistes, augmenter les capacités, notamment cérébrales, de la population ? Une enquête internationale menée par l’agence de communication BETC révèle des différences considérables entre pays à propos de l’acceptation de « l’eugénisme intellectuel ».
Les Français sont ultra-bioconservateurs : seulement 13 % jugent positive l’augmentation du quotient intellectuel des enfants en agissant sur les fœtus. Alors que respectivement 38 % et 39 % des Indiens et des Chinois y sont favorables. Chez les jeunes Chinois branchés, ce pourcentage atteint même 50 %. Les Chinois sont de fait les plus permissifs en ce qui concerne ces technologies et n’auraient aucun complexe à augmenter le QI de leurs enfants par des méthodes biotechnologiques.
Les pays où régnera un consensus sur l’augmentation cérébrale des enfants pourraient, lorsque ces technologies seront au point, obtenir un avantage géopolitique considérable dans une société de la connaissance.
L’eugénisme nous révolte s’il s’agit d’éliminer a priori les filles par exemple. Mais il faut reconnaître qu’il est déjà une réalité parfaitement acceptée chez nous : grâce aux diagnostics précoces encouragés et pris en charge par la Sécurité sociale, 96 % des enfants trisomiques dépistés sont éliminés. De plus en plus, nous sommes capables de procéder à des diagnostics préimplantatoires pour éviter qu’une maladie génétique fatale ne se transmette des parents vers les enfants, évitant autant de drames horribles. On pourra bientôt intervenir sur le génome de l’embryon pour « réparer » certains problèmes génétiques. Et chacun salue ces avancées en songeant qu’elles permettent une vie meilleure. Au sens étymologique, eugénisme signifie en grec « bien naître ».
Difficile de ne pas voir où mène le toboggan eugéniste : les parents veulent le meilleur pour les enfants et souhaitent leur donner toutes les chances possibles dans la vie – comment les blâmer ? Ils vont peut-être avoir tendance à vouloir choisir la taille, la couleur des yeux et des cheveux de leurs enfants. Mais plus encore, ils réclameront ce qui a un rôle déterminant dans la réussite sociale : un fort QI. Dès que cela sera possible et accessible, la demande d’amélioration de l’intelligence pour les futurs enfants va exploser… surtout lorsque les parents se rendront compte que les enfants de leurs voisins ont 50 points de QI de plus que les leurs.
Serait-il moral, par exemple, d’interdire à un paysan tanzanien pauvre, qui n’a guère été favorisé par son environnement, d’augmenter le QI de ses enfants pour qu’ils fassent des études ? Au nom de quelle morale pourrions-nous l’empêcher ?
Comment procède-t-on ? La technique est simple6 dans son principe : on sélectionne les embryons qui présentent les marqueurs génétiques qui sont corrélés à de bonnes capacités intellectuelles… Il s’agit à proprement parler d’eugénisme : on influence les naissances de façon qu’elles produisent des individus ayant les caractéristiques attendues.
Une étude menée par Shulman et Bostrom7 en 2013 a montré que la sélection d’embryons donnerait rapidement des résultats sensibles. Dans les dix à quinze ans, ces techniques pourront permettre, si on le souhaite, une certaine augmentation des capacités cognitives des individus ainsi « produits ». Mais cette augmentation restera limitée, et ne dépassera pas les augmentations collectives de QI que l’on a pu observer par le passé, par l’effet Flynn, du fait d’un environnement globalement plus stimulant.
Néanmoins, Shulman et Bostrom montrent qu’il est possible d’aller beaucoup plus loin. L’utilisation de cellules-souches humaines de gamètes permet de procéder à une sélection itérative d’embryons in vitro. L’effet cognitif pourrait devenir beaucoup plus conséquent sur plusieurs générations.
Il n’est même pas nécessaire d’attendre que les générations se succèdent réellement tous les vingt-cinq ans pour que les effets puissent être obtenus : les générations peuvent se faire en quelques semaines. Avec les cellules souches des embryons on refait en éprouvette ovules et spermatozoïdes en quelques semaines.
Le tableau suivant présente le nombre de points de QI gagnés d’après l’étude. Si une sélection du meilleur embryon parmi dix est répétée sur cinq générations, le gain moyen de QI est de 60 points…
Sélection d’embryons | Nombre de points de QI gagnés |
1 sur 1 | 4,2 |
1 sur 10 | 11,5 |
1 sur 100 | 18,8 |
1 sur 1 000 | 24,3 |
5 générations de sélections de 1 sur 10 | 60 |
10 générations de sélections de 1 sur 10 | 120 |
Tableau 1 : gains de QI maximums associés à une sélection d’embryons8
Il n’est pas nécessaire d’aller si loin pour changer la trajectoire de vie d’un enfant : 20 points de QI sont tout ce qui différencie un adolescent qui patauge au lycée d’un étudiant qui traverse l’université avec succès…
Imaginons le fossé qui pourrait se créer en l’espace d’une génération, entre des parents non augmentés – vous et moi – et une progéniture dotée de 50 points de QI supplémentaires. Les problèmes de communication parent-enfant prendront une nouvelle dimension : les parents continueront à ne pas comprendre leurs enfants, mais cette fois-ci, ce sera aussi par manque d’intelligence.
Le désarroi des professeurs sera au moins aussi grand que celui des parents : la sélection d’embryons va rendre la tâche éducative ingrate… Des années d’effort de cohortes de maîtres seront remplacées par quelques opérations en éprouvette. Tout comme la fluoration de l’eau a rendu moins utiles les dentistes – orthodontistes exceptés9 –, un peu d’eau fluorée marchant mieux que les efforts de milliers de professionnels pour préserver des caries…
Le progrès dans la recherche à partir de dérivés de cellules-souches dépendra beaucoup de l’évolution des régulations. En fait, Shulman et Bostrom prédisent que l’attitude de la société – traduite par les instances de régulation – sera un facteur décisif de progrès ou de stagnation des connaissances à l’avenir. Pour l’instant, tout indique que l’attitude des pays les plus puissants – Chine et États-Unis – est particulièrement ouverte et que les investissements arrivent. Le potentiel économique de ce marché est immense, comme l’est d’ailleurs l’ensemble du marché de la sélection génétique. Ce n’est pas un hasard si 23andme, la filiale10 de Google spécialisée dans le business de la génétique, a obtenu le 24 septembre 2013 de l’US patent un brevet numéroté 8543339 B2 au titre éloquent : « Sélection des gamètes des donneurs sur la base de calculs génétiques11 ». Son objet, en clair : sélectionner les embryons pour fabriquer des bébés « améliorés » en fonction des critères choisis. Les grandes sociétés du Net seront bien placées pour pénétrer ces marchés dès qu’ils seront accessibles.
Contrairement à ce que prévoient les fictions d’anticipation, la sélection embryonnaire ne concernera pas qu’une petite partie de la population. Elle sera généralisée. Il sera en 2100 jugé aussi étrange de laisser de petits enfants naître avec un QI inférieur à 160 qu’aujourd’hui de mettre sciemment au monde un bébé porteur de trisomie ou gravement déficient mental12. Une stigmatisation sociale s’attachera aux enfants nés « naturellement », par le jeu du hasard de la cuisine génétique. Il paraîtra aussi baroque d’avoir un enfant naturellement qu’aujourd’hui de vouloir accoucher chez soi. On peut même penser qu’au nom de la protection de l’enfant, des lois viennent dans le futur décourager voire interdire de telles pratiques primitives qui créeraient de fait des parias incapables de s’intégrer économiquement et socialement.