o La réunion d’immenses bases de données, d’une puissance informatique croissante et d’algorithmes d’apprentissage automatique, réunis principalement chez les géants du numérique américains et chinois, a accéléré la progression de l’Intelligence Artificielle, surprenant même ses promoteurs.
o Les robots et l’IA ne sont aucunement responsables du chômage en France. Bien au contraire, les régions les plus automatisées ont des taux de chômage quasi nuls : Bavière, Suisse, Scandinavie, Singapour, Corée du Sud, Californie…
o Le chômage structurel français est lié à une mauvaise politique micro-économique, à un abandon du système de formation professionnelle, à des lobbies professionnels patronaux et ouvriers incompétents et à la démission de l’Éducation nationale. Avant même la révolution des automates intelligents, notre système scolaire et de formation est de toute façon inadapté.
o Symptôme de cette inadaptation, en 2017, à la veille du tsunami de l’IA, 17 % des jeunes Français, entre quinze et vingt-neuf ans, sont des NEETs (young people Not in Education, Employment, or Training).
o Parallèlement, une bulle médiatique et financière s’est développée autour de l’IA : les attentes sont devenues impossibles à satisfaire. C’est particulièrement le cas pour les agents conversationnels – les chatbots – qui vont entraîner de grandes déceptions.
o Ce constat ne doit pas nous endormir. Il faut, au contraire, mettre à profit la pause qui va succéder à l’éclatement probable de cette bulle pour nous préparer aux étapes ultérieures qui seront difficiles à gérer. La désynchronisation des rythmes de l’IA, de nos cerveaux et des institutions va entraîner des frictions sociales importantes.
o À partir de 2030, des IA plus transversales dotées progressivement de bon sens, et associées à des robots polyvalents à prix abordables, vont modifier profondément le marché du travail.
o L’industrialisation de l’intelligence, qu’elle soit biologique ou artificielle, va bouleverser les fondements mêmes de l’organisation politique et sociale.
o Nous devons gérer cette révolution alors même que notre compréhension de ce qu’est vraiment l’intelligence est indigente. Notre anthropomorphisme, nos biais cognitifs et la projection de nos fantasmes et peurs sur l’IA rendent de surcroît difficile une vision rationnelle et partagée des risques.
o La démocratisation de l’intelligence biologique est chaque jour plus impérative, même si les élites politiques et économiques se sont toujours parfaitement accommodées des énormes différences de capacités intellectuelles.
o L’école des cerveaux biologiques aura – dans le monde entier – de plus en plus de mal à courir après l’école de l’Intelligence Artificielle.
o Les inégalités cognitives, approchées par le QI – indicateur mal adapté pour appréhender notre place au côté de l’IA –, posent un problème social, politique et philosophique angoissant : dans une société de la connaissance, les écarts de capacités cognitives entraînent des différences de revenus, de capacité à comprendre le monde, d’influence et de statut social explosives.
o La course entre le neurone et le silicium est très incertaine et il y a de grands désaccords entre experts. Les dirigeants de Google DeepMind, Baidu, Alibaba sont pour leur part convaincus qu’une IA généraliste ayant des capacités équivalentes à un cerveau humain est probable entre vingt et quarante ans : cela signifierait que les enfants actuellement en maternelle passeraient plus de la moitié de leur vie professionnelle entourés d’IA, infatigables, quasi gratuites et endurantes, supérieures à eux.
o Or, le stock de cerveaux n’évolue quasiment pas et devient même de plus en plus sclérosé avec l’augmentation de l’espérance de vie, qui ne s’accompagne pour l’instant d’aucun progrès scientifique pour assurer le maintien de la plasticité neuronale.
o Cela génère deux inquiétudes relayées par certains des plus grands noms de la science, du business et de la politique. L’IA pourrait détruire le travail et risque de devenir hostile. Cette double prophétie a conduit à deux propositions : développer un revenu universel, « les jobs pour les robots, la vie pour nous », et industrialiser des techniques d’augmentations cérébrales pour nous hisser au niveau d’IA censées devenir menaçantes à moyen terme.
o Effectivement, si nous ne changeons rien aux systèmes éducatifs, à l’organisation des entreprises et au périmètre des objectifs de l’humanité tandis que l’IA galope et fait exploser la productivité, un chômage absolument massif est inévitable.
o Mais il est très probable que ces trois hypothèses se révéleront fausses : l’éducation va se moderniser à vive allure sous la pression des IA, les entreprises vont créer un nombre inimaginable de nouveaux produits et de nouvelles expériences, et le champ de notre horizon va radicalement s’étendre – la colonisation du système solaire par Elon Musk et Jeff Bezos n’est qu’un tout premier exemple.
o Par ailleurs, on a constamment sous-estimé les potentialités du cerveau humain. Sa capacité à agir sans règles prédéfinies est inimitable par l’IA avant plusieurs décennies.
o Ma conviction est que le travail ne mourra jamais : l’aventure humaine est illimitée. Les missions que nous allons nous inventer vont nous occuper jusqu’à la fin des temps. En ce sens, et même si la vague technologique actuelle est particulièrement violente, le discours catastrophiste sur l’avenir de l’emploi n’est que le dernier d’une longue série depuis l’empereur Vespasien.
o Les nouvelles missions que l’humanité va se donner supposent des hommes bien formés capables d’être complémentaires de l’IA.
o Il faut rééquilibrer les investissements et investir dans la recherche pédagogique au moins autant que les géants du numérique investissent dans l’éducation des cerveaux de silicium. L’écart entre le salaire d’un professeur remarquable et celui d’un spécialiste de l’apprentissage des machines est suicidaire : un excellent développeur de deep learning gagne cent fois plus que le mieux payé des professeurs de collège sur terre !
o L’extraordinaire diversité des discours sur les conséquences de l’IA et sur les réponses à y apporter est inquiétante : nous ne pouvons pas gérer un tel changement de civilisation sans un consensus minimum. Il faut rapidement investir à l’échelle nationale, européenne et mondiale sur la réflexion éthique et politique pour encadrer la civilisation issue de l’industrialisation de l’intelligence.
o Face à l’IA, il existe plusieurs pièges mortifères bien que pavés de bons sentiments. Certaines modalités du revenu universel pousseraient bien des hommes à ne plus se battre. Le mythe du « Care » et de la bienveillance (typiquement l’IA va gérer les milliards de milliards de milliards de données nécessaires pour guérir les enfants leucémiques, tandis que la gentille infirmière leur tiendrait la main en les rassurant) conduirait également à long terme à notre marginalisation par la machine et à notre vassalisation. À très long terme, en effet il n’y a rien qui ne soit pas computable et donc indépassable par les automates dans notre cerveau. Il ne faut pas se reposer ou nous spécialiser dans les activités purement relationnelles en abandonnant le contrôle de toutes les données – et donc de tous les pouvoirs – à l’IA.
o La gestion de notre pouvoir démiurgique, sur la nature et nous-mêmes, entraînera, fatalement et heureusement, un examen de conscience de l’humanité au XXIe siècle. Quels sont nos buts communs ?
o L’école sous une forme totalement transfigurée devra ajouter deux missions à ses rôles traditionnels que sont la formation des citoyens et des travailleurs : apprendre aux nouvelles générations à gérer le pouvoir démiurgique de l’Homme apporté par les technologies NBIC ; organiser un monde où de nombreuses formes d’intelligences biologiques et artificielles vont cohabiter. Le vivre-ensemble du neurone et du transistor ne sera pas un long fleuve tranquille sauf pour ceux qui imaginent que les IA seront éternellement de dociles domestiques sans objectifs propres.
o L’IA n’est pas un trou dans la couche d’ozone, problème technique stressant mais temporaire que l’on résout en vingt ans et qui disparaît : nous allons cohabiter avec elle à tout jamais. Dans un milliard d’années, elle sera toujours là.
o Aussi étrange que cela puisse paraître, ce sont nos proches descendants qui vont décider de l’avenir de l’Homme à très long terme. Les choix que nous allons faire d’ici 2100 nous engagent pour toujours et certains seront irréversibles. La gouvernance et la régulation des technologies qui modifient notre identité – manipulation génétique, sélection embryonnaire, IA, fusion neurone-transistor, colonisation du cosmos – seront fondamentales.
o La régulation démocratique deviendra difficile. Les transhumanistes auront deux avantages cruciaux : ils seront vite plus intelligents parce qu’ils seront les premiers à accepter le neuroenhancement et ils finiront par être majoritaires parce qu’ils vivront plus longtemps. Mécaniquement les transhumanistes prendront le pouvoir politique et économique.
o À terme, nous n’échapperons pas à une certaine hybridation avec le silicium ni à un eugénisme intellectuel croissant, mais nous devrons essayer de sanctuariser quelques lignes rouges qui fondent notre humanité. Le développement des technologies NBIC étant très rapide, vouloir défendre certains principes fondamentaux. J’en vois trois : préserver notre corps physique au lieu de succomber au désir de devenir cyborg, garder notre autonomie plutôt que de fusionner irréversiblement dans un grand cerveau planétaire et sauvegarder une part de hasard au lieu de sombrer dans une dictature algorithmique. Tenir ses positions suppose d’y réfléchir dès aujourd’hui.
o La révolution neurotechnologique génère des dilemmes non encore explicités et politiquement explosifs. En Europe, la primauté donnée à la protection des consommateurs en matière de privacy, de sécurité des données conduit à la certitude d’un monopole américano-chinois sur l’IA. Vouloir préserver un corps biologique suppose de développer proactivement un scénario de type Bienvenue à Gattaca car la pente naturelle sera plutôt la cyborgisation avec les implants d’Elon Musk qui sont plus aisément industrialisables que la sélection embryonnaire.
o La peur de la mort et donc le désir d’accélérer « la mort de la mort » qui obsède plusieurs des leaders de l’IA pourraient conduire à accélérer l’émergence d’une IA forte – nécessaire pour booster les recherches sur le vieillissement qui est un phénomène ultracomplexe – sans que nous ayons les outils de monitoring et de surveillance, et/ou bien encore notre fusion avec le silicium pour obtenir une immortalité numérique, ersatz de la vie éternelle biologique. En ce sens, il serait sage d’accepter de mourir pendant encore quelques siècles… et de réguler l’IA.
o La nouvelle école sera hyper-technologique… mais elle aura moins pour mission de former des technologues que des humanistes capables de résister au vertige nihiliste et de rechercher des buts partagés par toute l’humanité.
o À l’ère de la société de la connaissance, l’école est l’institution la plus fondamentale dans la conception du futur mais elle reste la plus archaïque.
o Les changements de l’école pourraient être dirigés par les géants du numérique : l’annonce par Mark Zuckerberg de la commercialisation dès 2019 de casques crâniens permettant la télépathie est un premier tremblement de terre. Pourtant, les responsables politiques n’ont pas réalisé que cela allait, à terme, transformer les méthodes éducatives.
o L’école du futur sera basée sur un neuro-hacking certes a priori légal et bienveillant. Mais le cerveau de nos descendants bugguera, pourra être l’objet de hacking malveillant ou tomber en panne. Il faudra donc faire émerger une puissante industrie de la neuroprotection et un corps indépendant de neuroéthiciens pour s’assurer que l’école ne soit pas une institution neuromanipulatrice.
o La nouvelle école débutera avant la naissance avec les technologies de sélection embryonnaire. Elle se poursuivra la vie durant, tant les besoins cognitifs changeront face aux écosystèmes rapidement évolutifs d’IA. Elle utilisera toutes les technologies NBIC : des nano-biotechnologies pour augmenter les capacités neuronales à l’IA pour personnaliser les techniques d’apprentissage. Elle gérera les cerveaux plus qu’elle ne transmettra des savoirs.
o Nous ne désapprendrons pas l’IA, donc il ne faut pas désapprendre les savoirs indispensables pour rester à la hauteur des cerveaux de silicium.
o La cohésion de l’humanité autour de valeurs communes et d’un progrès partagé est notre assurance-vie contre l’émergence dans vingt ans, deux cents ans ou deux mille ans d’IA hostiles et malveillantes. L’école devra être une institution coordonnée à l’échelle mondiale.
o Le décalage temporel entre l’industrialisation de l’Intelligence Artificielle, foudroyante, et la démocratisation de l’intelligence biologique qui n’a pas commencé menace la démocratie : la refondation de l’école est une urgence politique absolue.
o Si l’école ne démocratise pas rapidement l’intelligence biologique, une toute petite élite technologique organisera le passage à marche forcée vers une civilisation post-humaine.
o Nous devons refuser une fusion intégrale des cerveaux artificiels et biologiques. La noosphère est un trou noir, un fantasme sans retour possible. C’est le fascisme du futur.
o L’histoire de notre cerveau ne fait que commencer.
o En définitive, professeur est le métier le plus important au XXIe siècle.