L’IA n’est pas un détail de l’Histoire. Ce n’est pas une révolution industrielle comme une autre. C’est l’avenir de l’humanité qui se joue dans ses lignes de code.
La puissance actuelle et à venir de l’informatique permet l’émergence des projets transhumanistes, promettant à l’Homme des pouvoirs quasi illimités. L’Homme devrait pouvoir réaliser ce que seuls les Dieux étaient supposés pouvoir faire : créer la vie, modifier son génome, reprogrammer son cerveau, conquérir le cosmos et euthanasier la mort.
Les grands acteurs et architectes de ce projet sont les leaders entrepreneuriaux à la tête des empires que sont Google, Apple, Facebook, Amazon, les désormais célèbres GAFA, rejoints par Microsoft et de leurs homologues asiatiques, les BATX – Baidu, Alibaba, Tencent et Xiaomi.
Les consommateurs – nous-mêmes – sont les idiots utiles de l’IA. Nous alimentons la machine numérique de demain, sans en avoir conscience. Nous pensons que le smartphone est le degré ultime de la supériorité technologique de l’Homme, sans comprendre qu’il est en réalité l’outil de sa transformation radicale voire de sa vassalisation.
La matière première de l’IA, c’est l’information. D’où vient-elle ? De nous-mêmes, qui faisons des milliards de recherches Google ou déposons près de 10 milliards d’images sur Facebook. Pour le deep learning, l’avalanche d’images et de données qui déferle sur le Web constitue une matière première quasi infinie et qui se renouvelle chaque jour.
Ce sont leurs milliards de clients ou de visiteurs qui donnent aux géants du numérique leur supériorité écrasante. La plupart des grandes applications informatiques sont désormais issues de la recherche en IA.
La surpuissance conférée aux GAFA et aux BATX est la conséquence de la loi de Metcalfe. Totalement inconnu du grand public, Robert Metcalfe est l’un des inventeurs de la norme technique à l’origine du réseau Internet. Il a formalisé au début des années 2000 le fait que la valeur d’un réseau croît de manière exponentielle en fonction du nombre de ses utilisateurs. En d’autres termes, chaque fois qu’un internaute crée son compte Facebook, il augmente considérablement la valeur du réseau2.
L’Europe ne fait aucun lien entre politique industrielle, politique de la protection du consommateur, politique de la privacy, stratégie numérique et droit de la concurrence. Les consommateurs européens sont plutôt bien protégés contre les utilisations de leurs données personnelles qui sont de plus en plus réglementées. Bien évidemment, le droit à l’anonymat est essentiel à l’heure de technologies numériques, qui mettent à nu notre part d’ombre et installent la dictature de la transparence… qui enthousiasme, d’ailleurs, la génération Snapchat.
Chaque État a mis en place sa propre régulation et ses protections contre les atteintes à la vie privée. Cette absence de politique européenne a empêché l’émergence d’une industrie européenne de la data. Parce qu’il n’existe pas d’organisme communautaire unifié de régulation, les différentes CNIL3 européennes ont favorisé la croissance des plateformes américaines en empêchant la collecte de grandes bases de données en Europe. Les autorités de régulation ont exigé que l’on justifie a priori la finalité du recueil de données et des traitements qu’elles opèrent dessus alors qu’avec le deep learning on ne peut pas savoir à l’avance l’usage qui en sera fait. L’IA retrouve des corrélations inattendues sur des données qui semblent, a priori, inintéressantes : toute restriction du recueil de données handicape donc les opérateurs. Le monde de 2017 ne peut tout simplement pas être régulé comme celui de 1975…
L’Europe agit désormais mais cela aura pour effet paradoxal de renforcer la puissance des GAFA. Le règlement européen GDPR, qui réduit les marges de manœuvre des entreprises en matière de gestion des données, va accentuer le décalage avec la liberté de manœuvre des entreprises chinoises ou américaines. C’est une chance extraordinaire pour les géants du numérique qui vont prospérer sans aucune concurrence européenne4.
La commission réalise avec dix ans de retard qu’il n’y a aucun géant du numérique d’origine européenne. Le sujet intéresse peu à Bruxelles : le président de la commission Jean-Claude Juncker a avoué le 30 juin 2017 ne pas avoir de smartphone. Inquiétant. Comment comprendre les enjeux de la société numérique quand on vit dans le passé ? La commission ne réalise pas que le développement des applicatifs numériques et encore plus l’IA nécessitent des bases de données géantes et transversales.
Notre strict droit de la concurrence et la forte et légitime protection des citoyens-consommateurs conduisent à notre vassalisation numérique. Et, contrairement à ce que l’opinion européenne pense, il y a d’énormes barrières à l’entrée dans le monde numérique. Facebook a déjà deux milliards d’utilisateurs réguliers sans même compter ses filiales WhatsApp, Instagram et Messenger : un nouvel acteur européen aurait beaucoup de mal à acquérir une telle puissance.
Nous sommes en déni de réalité : lorsque les leaders européens de la data dépassent 1 milliard d’euros de valorisation – Blablacar, Critéo… –, nous applaudissons sans réaliser que les GAFA se rapprochent chacun des 1 000 milliards de dollars de capitalisation boursière. Nos nains nous feraient presque oublier leurs géants.
Nous devenons une colonie numérique des géants de l’IA et nous tuons dans l’œuf toute chance de créer des GAFA européens mais nous avons la législation la plus protectrice des consommateurs et de leur intimité du monde entier5. L’Europe doit réaliser que les géants du numérique ont pris le pouvoir parce que leur stratégie est excellente et non parce qu’ils trichent. Les GAFA ne sont pas des prédateurs mais des visionnaires.
Il faut regarder cette réalité en face, comprendre qu’il est déraisonnable de regarder les différents droits en silo et mettre en balance niveau de « privacy » et puissance technologique. L’Europe n’ayant que des consommateurs à défendre, alors que les États-Unis et la Chine ont de puissants acteurs industriels, elle étouffe les opérateurs, ce qui exclut l’émergence de licornes européennes.
C’est un terrible dilemme : si nous voulions cesser d’être des « crapauds numériques », l’Europe devrait rééquilibrer sa politique en faveur des opérateurs et réduire les droits des consommateurs. Ironie de l’histoire, en matière de reconnaissance des visages, les IA chinoises font désormais la course en tête devant la Silicon Valley : la réglementation de la télésurveillance est particulièrement favorable sur le sol chinois…
Il ne s’agit pas de vanter le modèle Internet chinois, aux mains de la censure du régime, mais de prendre garde à ne pas laisser à nos enfants un avenir bouché. Les bons sentiments ne font pas une politique de puissance et l’IA est la source de tous les pouvoirs au XXIe siècle.
La loi de Metcalfe s’applique aussi à la valeur ajoutée apportée dans l’IA par chaque utilisateur d’un réseau social. Sans le savoir, nous fournissons gratuitement à la machine des informations qui vont l’alimenter et lui donner les moyens de sa surpuissance. Pour mesurer l’enjeu, un chiffre suffit : 1 000 milliards de dollars. C’est la valeur marchande annuelle des données personnelles laissées gratuitement par les internautes, selon une étude du Boston Consulting Group.
Le jeu de Go est bien plus complexe que les échecs, auxquels Deep Blue d’IBM a terrassé Garry Kasparov en 1997. Le New York Times expliquait, à cette époque, que la machine ne saurait jouer au Go avant un siècle ou deux. En octobre 2015, AlphaGo, une IA développée par DeepMind, filiale à 100 % de Google, a ridiculisé le champion européen de Go, Fan Hui, par cinq victoires à zéro. C’était la première fois qu’une machine battait un joueur de Go professionnel, exploit que les experts de 2015 n’attendaient pas avant dix ou vingt ans. En mars 2016, la victoire d’AlphaGo sur le Sud-Coréen Lee Sedol, un des trois meilleurs joueurs au jeu de Go, marque une nouvelle étape dans l’histoire de l’IA. Lee Sedol a admis être sans voix devant la puissance de l’IA de Google.
En mai 2017, AlphaGo a écrasé par 3 à 0 Ke Jie, le champion du monde. Plus troublant encore, AlphaGo joue en se reposant sur une machine qui ne comporte que quatre puces électroniques et n’a pas appris à jouer en analysant des parties humaines mais en jouant contre elle-même.
La différence entre le jeu d’échecs et le jeu de Go est que le premier relève d’une logique mathématique, donc rationnelle, alors que le second obéit à une logique intuitive. Il est ainsi relativement facile de faire entrer dans la mémoire d’un ordinateur toutes les combinaisons possibles d’un jeu d’échecs mais beaucoup plus complexe de créer artificiellement l’univers mental du jeu de Go. C’est pour cette raison que la victoire d’AlphaGo a marqué une rupture dans la jeune histoire de l’IA.
Les milliards d’internautes abandonnent aux grands opérateurs du numérique un véritable trésor : leur patrimoine social, économique, émotionnel. Que font ces géants de cette fortune numérique ? Ils créent un nouveau monde : celui de l’Intelligence Artificielle.
Il y a deux IA. L’IA faible6 et l’IA forte7.
L’IA faible est limitée au sens où elle effectue ce qu’on lui a appris à faire dans un domaine déterminé. Elle est puissante mais elle reste sous contrôle humain.
L’IA forte serait une intelligence surpuissante et qui, surtout, aurait conscience d’elle-même, conscience au sens humain du terme. Elle pourrait développer son propre projet, échappant ainsi à ses créateurs. Ce n’est heureusement pas pour tout de suite.
L’IA faible est le problème immédiat. Sa dénomination ne doit pas abuser : elle a beau être faible, elle représente un défi considérable pour les humains. La question posée par les économistes et les politiques est en effet de savoir si les robots et l’IA ne vont pas se substituer à l’Homme.
Les plus optimistes font référence au concept de destruction créatrice proposé par l’économiste Schumpeter selon lequel toute rupture technologique entraîne la disparition d’activités anciennes mais en génère d’autres, plus créatrices. De fait, depuis la première révolution industrielle jusqu’à la révolution informatique de la fin du XXe siècle, le principe de Schumpeter s’est toujours vérifié.
Au fil de ces ruptures, nos sociétés sont passées du stade agricole au stade industriel avant d’arriver à l’ère postindustrielle, centrée sur les activités de services. Dès lors, pourquoi la mutation qui s’annonce ne déboucherait-elle pas, à son tour, sur une situation positive ?
Il est rassurant de constater qu’il n’y a pas de corrélation entre chômage et robotisation. Les deux pays les plus robotisés du monde sont le Japon et l’Allemagne où règne le plein-emploi. Mais les plus pessimistes font remarquer que ces pays sont confrontés à un terrible choc démographique. En raison de la persistance d’un faible taux de natalité, la population japonaise diminue et l’Allemagne ne va pas tarder à connaître le même sort, malgré l’immigration. En d’autres termes, dans ces pays, les robots ne remplacent pas les travailleurs mais compensent la pénurie de main-d’œuvre. Chaque année 800 000 jeunes Français se présentent sur le marché de l’emploi. Seront-ils mis en concurrence avec les robots dopés à l’IA faible ?
L’inquiétude est d’autant plus réelle que, contrairement à une idée reçue qui se veut rassurante, l’IA ne se substitue pas seulement aux emplois peu qualifiés mais aussi à certains des plus qualifiés dont on pensait que la technicité et la dimension relationnelle relevaient de l’Homme. C’est toute la différence entre la mécanisation et la robotisation.
Par nature, l’IA – même faible – concurrence le cerveau humain. Toute la question est de savoir jusqu’à quel niveau. Potentiellement, il n’y a pas de limite. Capable d’analyser à des vitesses vertigineuses des montagnes de données, l’IA peut remplacer des ingénieurs, des médecins, dans les disciplines les plus pointues. L’IA opérera mieux, conduira mieux, analysera un scanner mieux que nous. Dans certains domaines de la recherche scientifique, comme la génétique du cancer, l’être humain est totalement dépassé quand il n’est pas aidé par l’IA. Le 11 juillet 2017, l’institut Rockfeller de New York8 a montré que l’IA est mille fois plus rapide qu’un généticien de haut vol pour analyser un même problème, concernant un cancer du cerveau9. Mille fois aujourd’hui, un milliard de fois plus rapide en 2030.
« Nous ferons des machines qui raisonnent, pensent et font les choses mieux que nous le pouvons », a déclaré Sergey Brin, cofondateur de Google en 2015.
La crainte d’une substitution de l’homme-travailleur par l’IA n’est pas infondée. Sébastian Thrun, l’inventeur de la Google Car, a déclaré le 5 septembre 2015 dans The Economist : « Il va être de plus en plus difficile pour un être humain d’apporter une contribution productive à la société. Les machines pourraient nous dépasser rapidement. Les chauffeurs routiers vont être parmi les premiers à être remplacés par les machines, mais aucune profession n’est à l’abri. »
Pour chaque enfant, l’Éducation nationale doit se poser une question : à l’heure où l’IA est déjà mille fois plus rapide qu’un grand généticien du cancer, que dois-je faire de toi et où dois-je te mener ?
Une certitude doit nous guider : imaginer que l’IA n’est qu’une mode serait une grave erreur. Il n’y a pas de retour en arrière possible.
Regardée de façon goguenarde comme un fantasme par les spécialistes patentés il y a encore vingt ans, l’IA n’est pas seulement devenue une technologie nouvelle qui s’épanouit avec une extraordinaire rapidité. Les racines dont elle se nourrit se sont diffusées de façon foudroyante dans le monde entier, tel un baobab monstrueux prenant possession de façon autoritaire de la terre qui l’entoure. Il faut comprendre que l’IA n’est déjà plus une option que l’on pourrait choisir de décocher, un interrupteur que nous aurions encore le loisir d’éteindre. Elle est devenue indispensable.
Tout le monde est accro – sans forcément s’en rendre compte – en regardant cent cinquante fois par jour son smartphone. D’ailleurs, il existe un droit élémentaire à la connexion comme il existe un droit à l’électricité. Les opérateurs ne peuvent pas couper brutalement un client insolvable mais seulement réduire son débit, comme un fournisseur d’électricité doit en assurer une fourniture minimale.
Le processus que la société a connu lors des précédentes révolutions industrielles se répète : la machine à vapeur, le chemin de fer ou l’électricité ont rapidement constitué les nouvelles bases de l’économie et de la société. Revenir en arrière aurait été très difficile et même impensable : la main-d’œuvre des campagnes avait été chassée et la machine remplaçait puissamment ces armées de journaliers ; on avait pris l’habitude de s’éclairer différemment, et le retour à la chandelle aurait été douloureux ; la vitesse de transport a rapproché les territoires et rendu par comparaison la traditionnelle malle de poste d’un inconfort inacceptable. Abandonner l’IA aujourd’hui, ce serait abandonner son smartphone, bloquer Internet, affaiblir la recherche, handicaper des pans entiers de l’économie… Notre civilisation repose d’ores et déjà sur l’IA. Et chaque jour qui passe accroît cette dépendance.
Si l’IA se développe si rapidement, c’est qu’elle a bénéficié d’un puissant effet boule de neige. L’explosion de la production de données dans le monde rend l’IA indispensable. Or ces tombereaux de données sont précisément ce dont l’IA avait besoin pour s’éduquer ! Plus l’IA progresse, meilleure elle est face aux données, ce qui en retour la renforce. Imparable spirale qui est en train d’emmener l’IA au-delà de notre cerveau.
Avec les superbes réussites du deep learning (voiture sans chauffeur, jeu de Go, diagnostic des cancers…), une ruée vers l’or de l’IA a saisi l’industrie informatique. Les Anglos-Saxons parlent de « AI Washing » pour se moquer des start-up banales qui prétendent faire de l’Intelligence Artificielle pour valoir plus cher. Les jeunes créateurs d’entreprises ne veulent, sous aucun prétexte, rater cette fièvre spéculative.
Les bulles sont indispensables pour financer les révolutions technologiques. La bulle des chemins de fer a certes ruiné bien des investisseurs américains au XIXe siècle, mais elle a permis de bâtir le réseau ferré. La bulle de l’Internet en 2000 a ruiné de nombreux épargnants crédules, mais a permis de faire émerger l’infrastructure numérique. Les bulles construisent le futur au détriment des pigeons. Pour l’avenir de vos enfants, conseillez à vos amis d’investir dans l’IA… mais pour l’avenir de votre patrimoine, soyez plus conservateur.
La cause de notre dépendance à l’IA ne réside pas seulement dans notre appétit insatiable pour des services sans cesse plus performants. Nous dépendons aussi de l’IA car le monde créé par elle n’est lisible et contrôlable que par elle. Une mécanique imparable est amorcée par le véritable « datanami » – le tsunami de données – qui déferle sur le monde. Avec le développement de l’Internet des objets, nous produisons des quantités inimaginables de données. Une aile du nouvel Airbus A380 comporte mille capteurs électroniques… Ces données ne peuvent être traitées que grâce à l’utilisation de l’IA. Ce tsunami de données, en retour, est la nourriture qui permet à l’IA de devenir plus puissante de jour en jour, et d’accroître la valeur de ses analyses.
En 2020, l’humanité produira 1 000 milliards de milliards de données numériques chaque semaine. Chaque voiture sans chauffeur produit 7 000 milliards d’informations par jour. Dans un monde qui produit et a besoin de l’exploitation de toutes ces données, nous devons utiliser toujours plus d’IA. La nouvelle équation du futur c’est qu’on ne peut maîtriser l’IA qu’avec de l’IA.
Internet est depuis longtemps trop grand pour qu’un simple « catalogue des sites », comme il en existait au début de son histoire, puisse être possible. Plus le Web grandit, plus il nous faudra des IA performantes pour que nous puissions y trouver ce que nous cherchons.
Bill Gates estime qu’un nouveau virus pourrait tuer 30 millions d’êtres humains, la première année. Face à une telle menace, seule l’IA pourrait trouver rapidement une solution. D’ailleurs, la grande revue scientifique Science expliquait le 6 juillet 2017 qu’une équipe de chercheurs canadiens avaient réussi à fabriquer une souche éteinte du virus de la variole, en commandant via Internet des produits biologiques, avec un budget de 100 000 dollars. Un budget minuscule quand on sait que la variole a tué, dans l’Histoire, des centaines de millions d’êtres humains et que les souches produites seraient résistantes au stock de vaccins existants10.
La sécurité informatique est devenue angoissante pour la plupart des entreprises et des États. On ne compte plus les grandes institutions des sociétés développées, comme le NHS (National Health Service) britannique, qui ont subi de graves intrusions. Or, il n’y a qu’une façon d’améliorer la sécurité de l’écosystème numérique mondial sur lequel notre société repose : encore et toujours plus d’IA.
En matière de sécurité, il est désormais évident que seule l’IA peut nous protéger contre des attaques ultra-sophistiquées. Par exemple, l’argent étant presque exclusivement numérique, chaque banque affronte des millions d’attaques par jour qu’aucune équipe humaine ne pourrait même compter. La sécurité bancaire passera par une guerre permanente entre les IA des banquiers et celles des hackers. De la même façon, Google a annoncé en juillet 2017 que l’IA dépistait mieux que les humains les vidéos extrémistes postées sur sa filiale YouTube.
Gaspard Koenig explique que le volume de textes juridiques est tel que seule une IA va pouvoir gérer un droit constitué de quatre mille lois. Le juge lui-même sera demain assisté par l’IA11.
Enfin, les erreurs humaines sont de moins en moins bien acceptées. Le grave accident informatique qu’a subi British Airways au printemps 2017 était dû à l’erreur d’un technicien : la recommandation d’automatiser davantage les processus a été naturelle. L’homme est rapidement perçu comme le maillon faible face à l’IA. Comme le dit fort justement Yann Le Cun : « Nous allons vite nous apercevoir que l’intelligence humaine est limitée. »
Les premières vidéos produites entièrement par une IA et mettant en scène le président Obama prononçant un discours qui n’a jamais existé ont été présentées en juillet 2017. Il est impossible pour un cerveau humain de différencier le vrai et le faux : c’est l’IA qui nous protégera contre les manipulations. Seule l’IA pourra en analysant mathématiquement les vidéos affirmer si c’est bien le président qui déclare une guerre ou si c’est une manipulation menée par un hacker ou plus tard par une IA forte maligne. De même, les premières IA capables de parfaitement imiter la voix humaine sont disponibles : disposant du contenu de nos smartphones, une IA pourrait se faire passer pour un de nos proches demandant, par exemple, un virement12.
Devant le déferlement des fake news accusés d’avoir manipulé la campagne électorale américaine, Facebook a accepté de contrôler la réalité des informations relayées sur son réseau grâce à une IA spécialement dédiée. Bientôt, c’est elle qui décidera ce qui est vrai et ce qui est faux. Cela pose un énorme problème de sécurité à long terme : nous voyons le monde au travers des yeux de l’IA.
La complexité de l’IA exclut qu’elle soit évaluée par un cerveau humain : seule l’IA peut surveiller et évaluer une IA. On ne va pas plus challenger un algorithme avec notre bon sens qu’on ne peut construire un A380 avec une boîte de mécano.
L’IA qui naît va concurrencer de nombreuses activités humaines. L’obsolescence du cerveau actuel devient plus qu’une crainte : une évidence.
Dans ce monde où quantité de données et IA se font mutuellement la courte échelle, le cerveau humain est déjà distancé. Il le sera de plus en plus. Pour nous mettre à la hauteur, nous devrons emprunter des bribes d’IA pour en barder notre cerveau. Avec des techniques invasives – c’est-à-dire pénétrant dans notre cerveau – ou non invasives : le débat éthique et philosophique ne fait que commencer. La Silicon Valley travaille activement à développer ces technologies.
Certains acteurs de la révolution de l’IA font le constat du dépassement du cerveau humain. Et l’assument sans complexe. Ils se placent explicitement dans la perspective de l’effacement de l’intelligence humaine au profit de l’Intelligence Artificielle.
Selon Ray Kurzweil – le gourou du transhumanisme chez Google –, une authentique IA dotée d’une conscience écrasant l’intelligence humaine devrait émerger dès 2045 et serait un milliard de fois plus puissante que la réunion de tous les cerveaux humains.
L’élément déterminant de cette mutation, le cœur du projet transhumaniste, est l’interfaçage de l’Intelligence Artificielle avec nos cerveaux, qui ne seront plus finalement que des supplétifs de l’IA.
En quelques décennies, Google aura transformé l’humanité : « Dans environ quinze ans, Google fournira des réponses à vos questions avant même que vous ne les posiez. Google vous connaîtra mieux que votre compagne ou compagnon, mieux que vous même probablement », a fièrement déclaré Ray Kurzweil, lequel est également persuadé que l’on pourra transférer notre mémoire et notre conscience dans des microprocesseurs dès 2045, ce qui permettrait à notre esprit de survivre à notre mort biologique. L’informatique et la neurologie ne feraient qu’un.
Pour ses détracteurs, Kurzweil est tout simplement un idéologue. Mais les idéologues transhumanistes ont les moyens – financiers et technologiques – de favoriser la substitution de l’intelligence biologique par l’Intelligence Artificielle.
Science-fiction ou danger sérieux ? Faut-il croire les transhumanistes avec leur obsession de l’immortalité, de l’homme augmenté, du cyber-humain ?
En tout cas, les gourous de la Silicon Valley ont non seulement les moyens de leurs ambitions mais sont en plus habités d’une conviction messianique : leur mission est de sauver l’humanité, même si, aux yeux des bioconservateurs, ils la conduisent à sa perte.
Comment ces géants préparent-ils cet avenir radieusement terrifiant ? En utilisant les neurosciences afin de modifier notre cerveau.
Mark Zuckerberg a annoncé que le modèle économique de Facebook allait être bouleversé. À l’avenir, plus besoin d’ordinateur ou de smartphone pour se connecter à ses amis du bout du monde ou du coin de la rue. Les utilisateurs du réseau social communiqueront directement de cerveau à cerveau par l’intermédiaire de casques télépathiques.
Dans cette perspective, Facebook a présenté, en avril 2017, ses projets dans le domaine de l’interface neuronale, visant à connecter directement le cerveau à un système informatique. L’objectif est de pousser l’interface homme-machine à son maximum. Il existe déjà des systèmes permettant aux patients souffrant de paralysie sévère d’écrire par la pensée. Une vidéo d’une patiente déjà capable d’écrire huit mots par minute a été donnée en exemple. Le système lui permet de déplacer un curseur sur un clavier numérique et de « cliquer » mentalement sur les lettres appropriées.
L’objectif de Marck Zuckerberg est plus ambitieux. Avec ses casques cérébraux, chacun d’entre nous devrait être capable d’écrire et de transmettre à la vitesse de cent mots par minute – soit six mille à l’heure –, ce qui serait cinq fois supérieur à la vitesse moyenne d’écriture sur un smartphone. L’entrée fracassante de Mark Zuckerberg sur ce créneau change radicalement le paysage. Il affirme que sa société présentera dès 2019 les premiers prototypes.
La mise au point d’appareils de télépathie par Facebook serait une révolution pour le monde du travail et l’école. Ces appareils permettront de transférer des informations d’humain à humain, ou d’humain à ordinateur. La transmission du savoir et l’organisation des métiers serait bouleversée par cette nouvelle façon de communiquer plus rapidement et à distance. Selon Regina Dugan, la patronne des projets « télépathie » chez Facebook : « Il pourrait être possible pour moi de penser en mandarin et pour vous de ressentir immédiatement en espagnol. » Fort des 2 milliards et demi d’utilisateurs de Facebook-Messenger-Instagram-WhatsApp, les appareils de télépathie de Mark Zuckerberg se diffuseront comme un feu de forêt, obligeant à refonder l’enseignement. Grâce à une puissante Intelligence Artificielle, ces appareils liront littéralement dans notre cerveau, bouleversant les méthodes éducatives. Il faudra faire entrer à l’école des spécialistes des neurosciences, puisque l’enseignant du futur sera fondamentalement un « neuroculteur », c’est-à-dire un cultivateur de cerveaux. Victor Hugo en avait déjà l’intuition lorsqu’il expliquait que les maîtres d’école sont les jardiniers de l’intelligence humaine.
L’introduction des appareils de Facebook améliorera certes les techniques éducatives mais exigera parallèlement une réflexion neuroéthique approfondie : l’école ne doit pas devenir une institution neuromanipulatrice. D’ailleurs, le groupe de Mark Zuckerberg affirme déjà que Facebook ne lira dans vos pensées qu’avec votre consentement13.
Les technologies de lecture du cerveau pourront aussi servir à actionner des objets à distance. Demain, il sera possible de commander par la pensée l’extinction des lumières, l’augmentation du chauffage ou la fermeture des volets.
Certains craignent que cette télépathie 2.0 conduise à la pensée unique au sens propre du terme, parce que la pensée sera orientée, prédéfinie, calibrée par les ordinateurs. À l’opposé les optimistes imaginent une nouvelle ère de la communication humaine, permettant une explosion de la créativité.
Dans tous les cas, les métiers liés à la pensée et à la réflexion – écrivains, philosophes, journalistes – sont condamnés à muter radicalement.
Marc Zuckerberg n’est pas seul à développer les neurotechnologies. Elon Musk, le mirobolant milliardaire, connu pour être le créateur de Tesla, la première entreprise cherchant à développer la voiture autonome, de PayPal, des fusées Space X, de Boring et des trains supersoniques Hyperloop, mais aussi comme celui qui veut coloniser Mars, est dans la même mouvance.
Musk a annoncé, en mars 2017, la création de Neuralink, une société destinée à augmenter nos capacités cérébrales grâce à l’implantation, dans nos cerveaux, de minuscules composants électroniques entrelacés avec nos 86 milliards de neurones, ce qui ferait de nous des cyborgs. Il estime que « d’ici à cinq ans, son équipe sera capable de connecter les neurones humains à de l’Intelligence Artificielle pour traiter les maladies neurodégénératives et fournir à une nouvelle génération d’hommes augmentés de meilleures performances intellectuelles et des capacités de mémorisation accrues14 ». Il a d’ores et déjà embauché les meilleurs spécialistes mondiaux des neurotechnologies.
Elon Musk entend développer les implants destinés à augmenter l’Homme car c’est, selon lui, la seule planche de salut de notre espèce. Il considère que l’IA forte est l’ennemie de l’Homme, lequel doit donc se renforcer. L’augmentation de nos capacités intellectuelles par ces futurs implants serait le seul moyen de lutter contre la méchante et puissante IA qui, dans cet univers du XXIe siècle, tiendrait le rôle de Dark Vador. Elon Musk a déclaré en juin 2016 : « Il est urgent d’hybrider notre cerveau avec des puces électroniques avant que l’IA ne nous transforme en animaux domestiques. Les plus gentils d’entre nous seront nourris par l’IA comme nous nourrissons nos labradors. » Le 6 juin 2017, après la publication d’une étude prévoyant que l’IA dépasserait l’Homme en 2060, Musk a twitté : « Ce sera plutôt 2030 ou 2040. » Des déclarations bien peu réjouissantes.
Le fondateur de Tesla est-il un illuminé dont on rira dans trente ans ou le Henry Ford de la nouvelle révolution industrielle qui changera le monde et l’humanité ? Difficile à dire, mais il fait déjà des émules. Un autre industriel, Bryan Johnson, a par exemple fondé Kernell, une société dont l’objectif est également de hacker notre cerveau. Et l’armée américaine a lancé via la DARPA un ambitieux programme de prothèses cérébrales.
À la veille de la révolution neurotechnologique, le débat politique s’en tient aux détails secondaires. En matière d’éducation, il est en décalage complet avec les enjeux de la reconversion sociale pour faire face au tsunami technologique. On a vu, par exemple, présenter le retour de l’uniforme à l’école comme un marqueur fort d’une vision éducative attachée à l’école de Jules Ferry. À l’heure de l’Intelligence Artificielle et des nouvelles technologies de transmission de l’information par télépathie, la question est pourtant dérisoire.
Les philosophes des Lumières du XVIIIe siècle décrivaient un bel avenir, affranchi du poids de la religion, plein de promesses. Demain serait beau : plus libre, plus moderne, plus éthique. À l’inverse, les informaticiens qui sont apparus à partir de 1950 ont toujours eu la réputation d’être des geeks polarisés, suspectés – parfois à tort – d’être des autistes de type Asperger. À partir des années 1980, les rôles se sont inversés. Les informaticiens sont devenus porteurs d’un discours enchanteur, magnifiant les pouvoirs futurs de l’Homme. Nous deviendrions immortels, nous coloniserions le Cosmos, nous déchiffrerions notre cerveau.
Grâce à l’Intelligence Artificielle, nous maîtriserions notre avenir au lieu d’être les jouets de la sélection darwinienne aveugle et incontrôlable. Les jeunes géants du numérique ont fait émerger ce discours prométhéen15. Selon eux, l’humanité ne devrait avoir aucun scrupule à utiliser toutes les possibilités offertes par la science pour faire de l’Homme un être en perpétuelle évolution, perfectible jour après jour par lui-même. L’Homme du futur serait ainsi comme un site Web, à tout jamais une « version béta », voué à se perfectionner en continu. Nos cellules et nos cerveaux seraient mis à jour en permanence tels une App de nos smartphones.
De fait, les transgressions sont de plus en plus spectaculaires mais la société les adopte avec une facilité croissante : la plupart d’entre nous accepteront cette biorévolution pour moins vieillir, moins souffrir et moins mourir ! Face à l’idéologie transhumaniste, qui a le vent en poupe, des contre-pouvoirs seraient nécessaires. Hélas, face aux géants du numérique qui nous proposent un avenir fantasmagorique, optimiste et enchanteur, la majorité de nos philosophes se sont arrêtés au programme de Normale Sup de 1965 et sont entrés en pleine régression. Ils ont peur de tout : de l’islam, des étrangers, des grandes surfaces, de la mondialisation, du commerce international, des technologies NBIC. Alain Finkielkraut explique avec des trémolos dans la voix que le Web est la pire malédiction qu’ait connue l’humanité. Il est persuadé que les générations d’internautes sont maudites : « Je n’ai aucune confiance dans les digital natives. Ou plutôt, je pense à eux avec un sentiment d’inquiétude et de compassion. » Michel Onfray joue les marchands de peur tandis que Natacha Polony – journaliste-philosophe – veut nous ramener en 1950, un peu avant Poujade. Cette fascination morbide pour un passé qui n’était pas si gai16, quand beaucoup de nos intellectuels faisaient les louanges de tous les tortionnaires, de Staline à Mao puis de Castro à Pol Pot, interpelle. Nous ne pouvons pas laisser nos enfants face à ce tourbillon de pessimisme : les philosophes de la fermeture et de la peur des nouveautés devraient être cantonnés aux clubs pour personnes âgées, à qui ils parleront du temps béni de l’après-guerre, lorsqu’ils étaient jeunes.
Le discours philosophique actuel : « Il ne faut pas être immortel, accepte d’aller en maison pour personnes âgées dépendantes, il ne faut pas augmenter son cerveau, il ne faut pas choisir son bébé à la carte… » aura moins d’écho chez la jeune génération que le discours d’Elon Musk sur la conquête de Mars !
Les bioconservateurs se battent sur des sujets annexes principalement liés à l’évolution des mœurs, comme le mariage gay. En revanche, ils n’interviennent jamais sur les sujets neuroéthiques, qui sont pourtant beaucoup plus pertinents. Certains bioconservateurs de gauche, comme le philosophe Miguel Benasayag, réclament de mettre l’avenir entre parenthèses, c’est-à-dire de bloquer les technologies NBIC.
Aux nouvelles générations, il est préférable d’inculquer un goût du futur, sans cacher les difficultés qu’elles devront affronter. Il leur faudra apprendre à gérer le pouvoir démiurgique que les technologies NBIC vont nous donner : être des Dieux technologiques, ce n’est pas rien ! Préserver notre humanité tout en assumant notre pouvoir immense sur nos cellules, nos neurones et nos chromosomes suppose de nouvelles grilles de lecture du monde. Bien éloignés des philosophes desséchés qui veulent revenir au pigeon-voyageur, des penseurs des NBIC se penchent déjà sur ces questions : Luc Ferry, Pascal Picq, Nicolas Miailhe, Cynthia Fleury, Nicolas Bouzou, Guy Vallancien…
La montée du transhumanisme est une réalité. Force est de constater que nous ne sommes pas préparés à ce qui est un véritable changement de civilisation que l’incontournable Ray Kurzweil résume ainsi : « Dès les années 2030, nous allons, grâce à l’hybridation de nos cerveaux avec des nano-composants électroniques, disposer d’un pouvoir démiurgique. » Le gourou de Google fait rarement dans la nuance. Qui aura ce pouvoir ? L’Homme ou l’IA ? La question se pose en effet, de savoir, si à la manière du monstre du docteur Frankenstein et selon les théories de Musk, la créature va échapper ou non à son créateur et lui être hostile.
Les transhumanistes n’ont aucune réticence à promouvoir des IA fortes. « La vitesse d’évolution de l’Intelligence Artificielle est tellement rapide que nous entrerons très vite dans la phase de remplacement de l’Homme par l’Intelligence Artificielle. Certains prospectivistes et économistes affirment cependant qu’il n’y a aucun doute que l’Intelligence Artificielle sera complémentaire de l’homme pour l’augmenter… En réalité, il n’y a aucune limite au développement de l’Intelligence Artificielle. Tout ce que nous permet de faire notre cerveau pourra être fait par l’Intelligence Artificielle. Notre intelligence sera challengée par l’Intelligence Artificielle qui modélisera toutes ses capacités sans exception », estime Stéphane Mallard, « évangéliste numérique » très médiatisé. On ne saurait mieux décrire le projet transhumaniste.
Au moment où le cerveau humain commence à peine à se comprendre, il doit déjà affronter la tornade de l’IA.
L’Homme se construit sur ses limites, ses faiblesses et l’inéluctabilité de la mort. Dépassant ce fatalisme, les transhumanistes veulent supprimer toutes les limites de l’humanité et démanteler tous les impossibles grâce aux technologies NBIC, dont le potentiel croît de manière exponentielle. La mort de la mort, l’augmentation des capacités humaines, la fabrication d’Intelligences Artificielles, la création de la vie en éprouvette et la colonisation du cosmos sont les cinq premiers objectifs de ce mouvement qui promeut l’Homme 2.0, ou Homme-Dieu.
Le mois de septembre 2016 a marqué une accélération de la montée en puissance des transhumanistes de la côte Ouest des États-Unis. Le 20 septembre, Microsoft a présenté un plan pour vaincre le cancer avant 2026. Mark Zuckerberg, le fondateur de Facebook, a annoncé, le 21 septembre, un premier financement de 3 milliards de dollars (2,7 milliards d’euros) pour éradiquer la totalité des maladies avant 2100, grâce à des outils révolutionnaires.
Le 27 septembre 2016, la naissance du premier bébé doté de trois parents génétiques était annoncée. Le lendemain, les géants américains du numérique ont créé une organisation, Partnership on Artificial Intelligence, destinée à favoriser l’acceptation de l’Intelligence Artificielle par le grand public. Le même jour, Elon Musk, a précisé son programme de colonisation martienne, qui devrait commencer par l’arrivée de cent colons, en 202417, pour atteindre 1 million d’habitants sur Mars au cours du XXIe siècle. Le 29 septembre, Microsoft annonçait la création d’une unité géante de recherche sur l’Intelligence Artificielle riche de cinq mille chercheurs et ingénieurs.
La Silicon Valley et, au-delà, l’ensemble des géants du numérique deviennent les bras armés d’une stratégie visant à rendre l’Homme maître de sa propre nature. Cette redistribution des cartes est inattendue. Qui aurait imaginé, il y a dix ans, que Microsoft viserait à éradiquer le cancer, que Google voudrait euthanasier la mort, Facebook supprimer toutes les maladies humaines et qu’Amazon lancerait le projet « 1492 » pour révolutionner l’organisation médicale ?
Des projets révolutionnaires sont également dans les cartons des BATX en Chine.
Les États européens restent muets et tétanisés devant tant d’audace. Aucun institut de recherche européen ne peut lutter contre les immenses moyens des géants du numérique : les transhumanistes ont des moyens quasi illimités.
Certains transhumanistes veulent aller plus loin encore. Comment pourra-t-on être vraiment éternels dans un univers qui a eu un début, il y a 13,7 milliards d’années, et qui aura une fin ? La mort du cosmos serait-elle alors l’ultime frontière du genre humain ? Dans un livre saisissant, The Beginning and the End18, Clément Vidal développe cette théorie étourdissante : l’univers n’est peut-être que la production d’une entité hyper-intelligente qui aurait connu un parcours semblable à l’humanité, accédant à l’immortalité, et aurait recréé un univers lorsque le sien avait fini son temps… À notre tour, quand notre système solaire, puis la galaxie et enfin l’univers arriveront à leur terme, certains transhumanistes pensent que nous aurons atteint un stade de développement technologique qui nous permettra de survivre en créant un nouvel univers.
Bien plus qu’une révolution économique qui bouleverse les industries traditionnelles, la volonté de doter l’Homme de pouvoirs démiurgiques vertigineux est en rupture radicale avec l’idéologie judéo-chrétienne qui fonde la société européenne. Comme le dit Luc Ferry, le transhumanisme est un matérialisme qui assimile l’humain biologique à une machine que l’on peut réparer et augmenter. En ce sens, il organise un changement de civilisation.
Nos sociétés n’ont pas cru à ce tsunami technologique et ne s’y sont pas préparées. La gouvernance et la régulation des géants du numérique et des technologies NBIC qu’ils sont presque seuls à maîtriser sont des enjeux politiques cruciaux. Et il est déjà bien tard pour réguler ce tohu-bohu idéologico-technologique dont aucun homme politique ne parle.
Dans un livre à succès, Homo Deus, Yuval Noah Harari écrit que les progrès de la science contre le vieillissement n’iront pas assez vite pour épargner la mort aux deux fondateurs de Google, Larry Page et Sergey Brin. Yuval Noah Harari considère notamment que Calico, la société créée par Google pour euthanasier la mort, ne fait pas assez de progrès pour que les dirigeants de Google deviennent immortels. Une remarque que Brin lui-même a commentée devant sa compagne après avoir lu Homo Deus par une phrase qui laisse apparaître son ambition : « Oui, j’ai été programmé pour mourir, mais non, je ne prévois pas de mourir… »
L’abolition de la mort constitue l’un des objectifs affichés de ces milliardaires. Cette quête de l’immortalité est un facteur d’accélération de la montée en puissance de l’IA car combattre la mort en nécessitera beaucoup. L’idéologie transhumaniste est une sorte de pousse-au-crime dans le développement de l’IA forte, celle que Musk juge justement dangereuse. La fièvre prométhéenne des grands milliardaires courant après leur propre immortalité constitue le carburant par excellence de la progression de l’IA. Sergey Brin aurait dit à propos de la volonté de Musk de réguler l’IA : « Il veut m’empêcher d’être immortel…19 »
Demis Hassabis est absolument inconnu du grand public. Pourtant, il est le leader mondial de l’IA : c’est sa société DeepMind, rachetée par Google, qui est désormais champion de Go et à la pointe en recherche médicale. Il résume le dilemme de l’humanité en quelques mots : « L’IA va nous aider à faire des bonds inimaginables dans notre compréhension du monde… mais seulement si nous autorisons les algorithmes à apprendre par eux-mêmes20. » Si nous voulons vaincre la mort, la maladie, il faudra permettre à l’IA de penser autrement et d’explorer le monde avec d’autres schémas cognitifs que les nôtres. Autrement dit, il faudra accepter que l’IA devienne forte. Et donc potentiellement hostile.
Il est convaincu de diriger le « programme Apollo du XXIe siècle » et que AlphaGo-DeepMind, qui ne se consacre plus au jeu de Go, va révolutionner la science. Il explique : « Cancer, climat, énergie, génomique, macroéconomie, systèmes financiers, physique : ces systèmes… deviennent si complexes. Cela devient difficile, même pour les humains les plus intelligents, de maîtriser ces sujets en une vie entière. » L’IA forte travaillera en tandem avec des experts humains. Demis Hassabis est très clair, l’IA réglera les grands problèmes de l’humanité à condition que nous ne soyons pas castrateurs en exigeant qu’elle pense comme nous.
Pour Hassabis, l’IA doit cesser d’être de l’intelligence humaine en boîte : nous devons la libérer.
Le schéma ci-après résume le cercle – vicieux ou vertueux, selon la perspective – de montée en puissance de l’IA. L’une de ses conséquences les plus notables est un rapide déplacement du centre de gravité du pouvoir politique.