En 2021 donc – et quand vous lirez ce livre, ce sera déjà dépassé –, demandez à Siri, l’assistant personnel d’Apple, combien font zéro divisé par zéro. En anglais, la réponse sera :
« Imaginez que vous avez zéro cookie que vous partagez entre zéro amis. Combien de cookies auront chacun de vos amis ? Vous voyez, ce n’est pas logique. Le Cookie Monster1 est triste de ne pas avoir de cookies, et vous vous êtes triste de ne pas avoir d’amis. »
Ça, c’est ce que la société la plus riche de notre temps, deux mille milliards de dollars de valeur boursière, peut réaliser pour le moment avec l’intelligence artificielle. Mais l’intention d’Apple, à l’avenir, serait que nous puissions solliciter son assistant personnel automatique de la manière suivante :
« Dis Siri, trouve un job d’été qui paye bien pour ma fille à Singapour. Achète-lui trois tailleurs dans un tissu qui ne se froisse pas et se lave facilement. Va chercher sur Facebook et LinkedIn quelles personnes sont susceptibles de lui faire passer son entretien d’embauche et affiche sur ses lunettes de quoi elle devrait leur parler et quels sujets éviter à l’entretien. Choisis les tailleurs dans une couleur pas trop excentrique, mais susceptible de plaire aux intervieweurs et, bien sûr, à ma fille aussi, pour qu’elle soit à l’aise dedans. Réserve les billets d’avion (hublot) avec les contraintes de visa s’il y en a, trouve-lui un joli appartement pas trop loin du travail et occupe-toi de la caution. Enfin, fais en sorte que tout cela soit compatible avec sa compétition d’équitation en juillet. Tu n’oublieras pas non plus de commander son insuline pour le séjour. »
D’ores et déjà – et c’est essentiel pour comprendre l’IA et la noétisation de la société –, notez que toutes ces tâches, dans cette vaste requête adressée à la machine, n’ont pas la même ampleur. Comme toutes sont des requêtes d’ordre humain (pouvant être adressées, interprétées et exécutées par un humain), elles relèvent de tâches complexes et structurées, alors que, pour la machine non quantique, pour l’ordinateur standard, toute tâche doit pouvoir se décomposer en un (très grand) nombre entier, en une longue suite de 0 et de 1, c’est-à-dire de microtâches fondamentales qui sont toutes du même niveau : « Fais passer le courant » (1) ou « Ne fais pas passer le courant » (0). Aller de « Fais ou pas passer le courant » pour imprimer une tâche aussi complexe que « Trouve un job d’été qui paye bien pour ma fille à Singapour », c’est le fondement technologique de l’IA. En cela, elle ressemble beaucoup à l’impression en 3D ou à la musique numérique : à partir de petits voxels de matière, on forme un objet dans l’espace, même si la plupart des objets imprimés en 3D – pour l’instant encore, mais sans doute pour peu de temps – ne le sont que dans une même matière (ils ne sont pas composites). De même, les tâches de l’IA sont encore peu ou pas composites. En musique numérique par exemple, le simple jeu d’une membrane, dirigé par une succession finie de 0 et de 1, parvient à produire toutes les instrumentations audibles par l’humain, même en quadriphonie, ou plus.
Nous savons actuellement « imprimer » tous les sons complexes à usage humain, mais « imprimer » toutes les décisions complexes au même usage, pas encore. Pourquoi ? Parce que, si décomposer la musique en 0 et en 1 est une technologie que nous maîtrisons, en particulier grâce au théorème cardinal d’interpolation de Whittaker, Nyquist, Kotelnikov et Shannon, interpoler2 les décisions, l’intelligence générale n’est pas encore à notre portée. Tous les sons se réduisent à une vibration dans un milieu, de sorte que la simple membrane d’un haut-parleur peut (presque) tous les reproduire dans l’audible, mais nous n’avons pas de milieu général aussi simple que l’air ou l’eau pour décomposer universellement l’intelligence.
Il n’y a donc pas encore de théorème d’interpolation pour l’IA, qui donnerait une connaissance étendue de la conversion de toute tâche d’envergure humaine en un grand nombre entier en base 2 (une suite de 0 et de 1). Le plus grand nombre premier connu à l’heure où s’écrit ce livre est celui qui précède 2 à la puissance 82 589 933 ; c’est un nombre de Mersenne. Il s’écrit comme une puissance de 2 moins 1, c’est-à-dire comme une succession finie de chiffres 1 en base 2. Ce grand nombre premier s’écrit ainsi, en base 2, avec 82 589 933 chiffres 1 d’affilée. OK. Mais comment s’écrirait la requête que nous avons demandée à Siri plus haut ? Comment devrait-on la structurer de microtâches (« ouvrir Facebook ») en macrotâches (« aller chercher les intervieweurs potentiels de ma fille pour son job d’été à Singapour et trouver leur couleur préférée ») ? Pour un ordinateur, la microtâche est très facile à définir (0 ou 1), mais pour l’intelligence en général, et humaine en particulier, en existe-t-il seulement une ? Alan Turing a fondamentalement essayé de la trouver pour les mathématiques, et c’est cette quête qui a co-fondé l’informatique en définissant la machine de Turing. Pourtant, essentiellement, elle a échoué en ce qui concerne l’intelligence humaine : nous ne connaissons pas les microtâches fondamentales de notre cerveau, les atomes de l’intelligence. Même une synapse, la jonction classique entre deux neurones, est loin de représenter la dimension la plus atomique du génie entre nos deux oreilles.
Quand nous saurons jouer des décisions comme nous savons jouer de la musique digitale, lorsque nous saurons programmer – aussi bien que Joseph-Marie Jacquard (1752-1834) le faisait pour concevoir n’importe quel tissu sur son métier uniquement par une série de cartes perforées – toute décision par un papier à musique (qui nous échappe encore dans sa nature même et qui peut-être se codera non pas en une succession de nombres entiers mais en une succession de nombres réels, ce que seule l’informatique quantique peut promettre en l’état actuel de nos connaissances), alors l’intelligence sera domestiquée et reproduite aussi trivialement que la musique de grande consommation aujourd’hui. Elle sera devenue une « commodité », un bien ou un service très facilement accessible, ubiquitaire, qu’on pourra coudre au revers d’une chaussette. Fin 2090, nos vêtements intelligents, livrables et concevables à la demande, mobiliseront des milliards de milliards de fois plus d’unités fondamentales d’intelligence (qui ne sont pas encore définies mais dont les FLOPS3, mesure standard de la puissance de calcul d’un système informatique, pourraient constituer la matière première) que nos meilleures machines grand public actuelles. D’ici là, nous aurons acquis une connaissance sophistiquée, exquise, de la complexité qui lie entre elles les microtâches (lire une analyse), les mésotâches (lire plusieurs analyses), les macrotâches (trier toutes les analyses), les mégatâches (synthétiser et dépasser les analyses), les gigatâches (trouver un remède à un cancer) et les teratâches (trouver un remède à tous les cancers). Comme pour les techniques révolutionnaires du tisserand Jacquard, peut-être procédera-t-on en tissant ensemble tous ces niveaux de tâches grâce à une mère-machine qui les assemblera comme pour former un motif et saura produire tous les tissus d’intelligences possibles. Com-plexus veut dire « tisser ensemble » : et si l’intelligence dans son ensemble, dans toutes ces formes naturelles, était comme une tapisserie ?
Pour l’instant, Siri peut plaisanter avec plus ou moins de créativité (nous allons y revenir) sur ce que fait zéro divisé par zéro, mais la requête ci-dessus, en admettant même que l’application de Google parvienne à parfaitement la transcrire en texte digital à partir d’une seule saisie orale, lui est complètement inaccessible. Comprendre comment, technologiquement, l’IA pourrait passer de la première requête (« dis Siri combien fait zéro divisé par zéro ») à la seconde (« Dis Siri, trouve un job d’été à ma fille ») saisit à peu près tout ce qu’il y a à savoir de notre relation à l’automatisation de la vie mentale, aussi bien à l’échelle microéconomique (disons, la famille) que macroéconomique (disons, les nations entre elles et leur course éperdue à l’IA) avec, bien sûr, entre les deux, les organisations, associations, entreprises, groupes de toutes sortes, et surtout donc : vous.
Si vous pouvez comprendre comment un humain réagirait à la découverte d’un génie des Mille et Une Nuits, vous pouvez comprendre l’IA idéale. Dans le conte, le génie interprète plus ou moins bien, et avec plus ou moins de mauvaise foi, ce que son maître veut lui dire. Il peut arriver que le vœu soit mal formulé, ou que le génie, malveillant, l’interprète de façon à nuire à celui qui le prononce, mais cette intelligence est de nature retorse, c’est-à-dire qu’elle ne cherche pas votre intérêt. Malgré tout, elle demeure très au-dessus de l’intelligence actuelle de Siri. Disons que le génie comprend mal, et nous avons la célèbre blague grivoise dont le caractère aristophanesque permettra au lecteur de mieux retenir tout le propos de ce livre :
« C’est un mec qui voit arriver un ami avec deux valises.
— Ben, qu’est-ce que tu as là-dedans ?
— Tu ne me croiras jamais… Dans celle-ci, j’ai un insecte géant.
— Ah, vraiment ?
— Oui, regarde.
L’ami ouvre la valise et, en effet, il y a une mite monstrueuse, énorme.
— Et dans l’autre ?
— Tu me croiras encore moins… Il y a un génie !
Il ouvre l’autre valise et hop ! un génie en jaillit : « Ordonne, maître, et j’obéirai ! »
— Dépêche-toi, il faut que tu fasses un vœu. Tu as dix secondes !
— Mais enfin, je sais pas moi, dix secondes, euh… Je sais. Génie, je veux un milliard. Voilà, donne-moi un milliard !
Le génie claque dans ses doigts et pouf ! apparaît un billard. Attention, un beau billard ! La belle pièce, un huit-pieds de chez Brunswick, sept cents livres. Mais un billard quoi, pas un milliard.
— Attends, il n’est pas un peu con, ton génie ? Je lui demande un milliard, et il me donne un billard !
— Et moi, tu crois vraiment que j’ai demandé à avoir une grosse mite ? »
Si vous avez compris la différence entre billard et milliard (et le reste), vous avez compris l’ambiguïté, qui est la terreur actuelle des machines, alors que les humains, les animaux, les plantes et tout ce qui est vivant en général peut gérer avec une si grande aisance que nous ne parvenons pas encore totalement à reproduire. Nous y reviendrons souvent, parce que l’ambiguïté est absolument le cœur de ce qui, à notre époque, fait ou non une bonne IA. La capacité à résister à la perturbation, à réagir à l’ambigu et même à l’humour, c’est en bonne partie ce qui fait l’intelligence réelle d’un humain – et c’est pourquoi toutes les guildes, les corporations, les pelotons militaires, les organisations structurées vont tester leurs nouvelles recrues en les déstabilisant, en leur faisant des blagues plus ou moins dangereuses, pour les sortir de leur zone de confort et évaluer leur capacité d’adaptation à l’imprévu et à réagir face à un danger ou lors d’une compétition. L’humour étant basé sur l’imprévu, il est un excellent outil pour tester une personne en marge des épreuves de la vraie vie, ou pour transmettre des leçons profondes dans certaines traditions. Et l’IA, pour l’instant, sait très mal quitter sa zone de confort, ce qui fait aussi qu’elle n’a encore aucun humour. Cela ne devrait pas nous étonner : souvent la créature ressemble un peu à son créateur.
Cependant, imaginez que vous ayez un bon génie infiniment intelligent, capable d’exaucer tous les vœux. Que lui demanderiez-vous ? L’horizon absolu de l’intelligence artificielle, c’est cela : pouvoir lui demander ce que l’on veut, avec des phrases de n’importe quelle nature, voire de simples intentions, de modiques impulsions cérébrales, et que l’IA puisse agir dans le sens de « Vos désirs sont des ordres… » – bien que la réalisation de tous ses désirs soit probablement la meilleure façon de détruire un être humain ! Là encore, les machines sont très loin d’y parvenir, pour beaucoup de raisons. L’une d’entre elles est que, dans le langage naturel, les mots n’ont pas tous la même nature. Si une machine aujourd’hui gère si mal l’ambiguïté, c’est qu’elle doit procéder d’un enchaînement fini de 0 et de 1 : le courant passe ou ne passe pas. C’est ainsi que fonctionnent un circuit et un programme informatique : il peut se réduire à une vaste finitude de oui et de non, et de cela doit émerger, en IA, la capacité à gérer le vague, l’abstrait, l’humoristique.
Dans quelle mesure l’IA va ou peut-elle changer le destin de l’Humanité ? Dans la mesure des vœux qu’elle peut réaliser. L’économie, c’est avant tout le désir. La richesse, c’est ce qu’un humain recherche de son investissement en attention et en temps, ce pour quoi il est prêt à donner des mois de sa vie. Et le progrès, dans l’univers de la richesse économique (mais pas dans celui de la sagesse), vise à produire trivialement des choses que même les plus grands princes du passé auraient convoitées au point de céder la moitié de leur royaume pour en disposer. Un représentant des classes moyennes en Europe aujourd’hui n’a pas la richesse de l’empereur du Mali Mansa Musa (XIVe siècle) – l’homme le plus riche de l’Histoire, qui emporta tellement d’or dans sa caravane en route vers La Mecque qu’il en dévalua durablement le cours sur son chemin –, mais il peut voyager en avion, échanger des messages sur Internet, guérir de la terrible peste, rouler en automobile, voir des films de plus en plus complexes et spectaculaires en une soirée que mille fêtes de Musa, tourner et partager des vidéos en haute résolution, etc. Pour un seul de ces services, nul doute que l’empereur Musa aurait payé une fortune. Aujourd’hui pourtant, c’est trivial. Et c’est ainsi que l’économie fonctionne, d’autant que rien n’est plus facile à partager que ce qui est devenu banal.
Ainsi va le train de la richesse économique – pas de la richesse spirituelle, ni de la richesse philosophique. Mais c’est une base qu’il ne faut pas mépriser : créer des biens ou des services désirables de la manière la plus triviale possible, payer ce que paierait un prince pour mettre la technologie au point (c’est l’objet de la recherche appliquée et du prototypage), puis faire que cette nouveauté s’acquière pour moins de temps et d’effort humain d’année en année. À l’âge du bronze, le fer valait très cher. En 2015, un youtubeur4 a voulu montrer combien il lui aura coûté de faire un sandwich au poulet lui-même, en cultivant son blé, en évaporant son sel de mer (incluant un voyage jusqu’au littoral le plus proche), en décapitant une poule (sans l’avoir élevée, toutefois). L’objet de son désir s’est facturé à 1 500 dollars et six mois d’attente. Il faut quelques secondes et quelques dizaines de centimes à l’unité pour que notre économie produise cet objet qu’un Homo erectus de Java aurait pourtant convoité de toute son adoration. L’IA va dans le même sens : elle trivialise la livraison de biens et services, non plus à l’échelle du bras ou des jambes, mais à l’échelle de l’esprit.
Du grand polymathe Gerbert d’Aurillac (mort en 1003), qui réintroduisit l’abaque en Europe, qui diffusa l’algèbre, la géométrie et la langue arabe en France, qui fut l’une des forces les plus absolument décisives dans la fondation de la dynastie capétienne (qui règne encore dans certains pays et qui domina la France presque continûment de 987 à 1848) et un précurseur du mouvement humaniste avant de devenir pape sous le nom de Sylvestre II, il est dit qu’il aurait possédé une merveilleuse tête de bronze, une sorte de golem intellectuel, ou de génie, qui aurait pu donner réponse à toutes les questions. De Gerbert d’Aurillac en réalité, parce que c’était un génie lui-même, il est dit beaucoup de choses encore aujourd’hui, et parce qu’il n’y a pas, dans l’Histoire, de noblesse plus pure que celle des attaques, l’Homme a été attaqué de la manière la plus vile toute sa vie durant. Sans doute, pour expliquer sa supériorité intellectuelle sur les anonymes qui auraient bien aimé être de ses pairs, fallait-il recourir à la légende d’un pacte avec le démon ou d’une inquiétante tête de bronze. Mais l’idée n’est pas inutile aujourd’hui, parce que, encore une fois, l’IA c’est ça.
Machine à vapeur, machine à savoir : si l’on parle de nouvelle révolution industrielle avec la prolifération de la vie mentale automatisée, c’est qu’en effet cette famille de technologies peut irriguer une large diversité dans la création de biens et de services désirables. Et de même que la mécanisation a changé le monde (en particulier la guerre, ainsi que le soulignait le général de Gaulle en 1940), la noétisation, c’est-à-dire la mise à disposition ubiquitaire de machines à savoir, l’irrigation du monde par l’intelligence artificielle, nous fait entrer dans une ère profondément nouvelle, dont le maître mot est « irrigation ».
Pour comprendre l’intelligence artificielle dans sa relation aux humains, il faut la voir comme une infrastructure immatérielle. Ce n’est pas difficile, même si le terme peut paraître pédant. Margaret Thatcher disait déjà : « Nous autres prenons le train ou l’autoroute, mais les économistes ne se déplacent qu’en infrastructures. » Et Al Gore aussi avait bien compris que, pour vendre aux Américains l’investissement massif dans le World Wide Web, il fallait leur présenter ce plan politique comme les « autoroutes de l’information » (information superhighways) : parce qu’une autoroute, c’est du concret, et sa valeur d’usage à l’époque n’était plus ridicule ou dangereuse, mais évidente pour le public. Le plan d’autoroutes du président Eisenhower, largement influencé par les lobbies pétro-automobiles de son temps, aura été plus coûteux que tout autre giga-projet économique de l’Histoire, avec plus de 115 milliards de dollars de 1956 en dépenses publiques. Ce qui justifiait bien a posteriori la conception d’Al Gore.
L’IA est en conséquence une infrastructure. Si l’on poursuit ce raisonnement, le smartphone est une infrastructure aussi, et c’est parce qu’il met les gens en relation quasi directe qu’il a été un des plus puissants moteurs de la désintermédiation économique, accélérant entre autres l’adoption de la gig economy, ou « économie des boulots à la pige ». En fait, les infrastructures immatérielles existaient bien avant Internet. La tradition orale et l’expression corporelle auront été parmi les premières infrastructures immatérielles, liant les groupes d’hominidés distants dans l’espace et dans le temps par la mémoire, qui encore aujourd’hui se trouve partagée (celle des catastrophes géologiques, par exemple) par de nombreuses tribus très éloignées dans le monde. Il existe une théorie très solide qui suggère que la mer Noire se serait formée dans des temps récents, par un tremblement de terre qui aurait ouvert les Dardanelles et le Bosphore à la mer Méditerranée, corrélat géo-historique des thèmes du Déluge, de l’Ancien Testament à l’Épopée de Gilgamesh. Noé, disent les textes, plante en effet une vigne au pied du mont Ararat après le Déluge, et c’est de cette région qu’émane historiquement la viticulture de l’âge du cuivre. C’est aussi au nord de la mer Noire actuelle que naissent les langages proto-indoeuropéens. Si ces corrélats sont écrits, d’autres furent oraux, voire dansés, et c’était probablement la première infrastructure immatérielle de l’aventure humaine.
Une autre grande infrastructure immatérielle, portée par l’histoire du roi Gilgamesh, c’est l’écriture. Les Sumériens forment encore aujourd’hui une civilisation à part, notamment parce qu’ils se sont irrigués de l’écriture. Cette nouvelle technologie, hautement immatérielle et issue de la comptabilité5, elle-même fruit de l’agriculture et de l’apparition de surplus alimentaires (qui provoquent la naissance des premières cités), les Sumériens vont peu à peu la déployer dans toute leur vie. On écrit l’ancêtre de la carte de police (il en existe une au Louvre) ; on rédige le titre de propriété d’une maison, cône tronqué percé d’un trou et couvert de signes cunéiformes prouvant que la maison appartient bien à la famille qui l’occupe ; on note une livraison de bière, on étiquette même des paniers qui contiennent d’autres tablettes (une sorte d’ancêtre du code-barres ou du reçu, un précurseur de ce que nous appelons aujourd’hui la chaîne de blocs), etc. Bien sûr, l’écriture irriguera aussi la religion, en plus des cadastres, des successions, etc. Les Sumériens voient donc naître l’écriture et, comme avec l’avènement d’Internet, peu à peu, ils prennent conscience de ce qu’elle va procurer l’irrigation noétique d’une grande diversité d’activités humaines. Internet a modifié la banque, la recherche scientifique, le commerce, la justice, la politique, la guerre ; de même pour l’écriture du temps des Sumériens et jusqu’aux Babyloniens et aux Parthes ; de même pour l’intelligence artificielle dans les décennies à venir : elle va modifier la politique, la guerre, l’économie, la justice, la recherche et bien plus encore.
En faisant courir de l’eau dans la terre, on augmente les rendements et on libère des heures de vie pour que le temps et l’attention d’un humain puissent acquérir davantage de choses. Une heure à attention maximale (1 At) n’achète pas un quintal de chair de mammouth à la préhistoire, mais dans la Rome impériale, que ne peut-on acheter avec ce pouvoir d’une heure d’attention humaine ? Les citoyens ont assez de temps libre pour aller au cirque. Sur des centaines de milliers d’années, le temps libre a accompagné l’émergence de cultures et de rituels, de spiritualités parfois plus avancées, parfois plus destructrices. Mais les infrastructures sont des avatars de l’existence humaine, dans le sens où le travail des uns libère celui des autres, et c’est la destinée naturelle d’un super-organisme social comme l’être humain. Nous branchons un appareil électrique conçu par des personnes très éloignées de nous, reposant sur des technologies mises au point par des preneurs de risques ridiculisés et attaqués, qui sont morts aujourd’hui, nous l’utilisons pour charger un logiciel ou un film, dont la conception repose sur toute une équipe. Vous n’observerez pas cet état de fait chez les loups ni chez les poissons rouges (qui n’ont guère de culte des ancêtres). Nous, humains, reposons sur les actes de nos ancêtres, et nos actions influencent les libertés de notre descendance. Les Romains empruntaient des routes construites avant eux, mais ont surendetté plus tard leurs générations futures ; le temps de l’Europe d’aujourd’hui n’est pas très différent de celui-là, puisque chaque nouveau-né vient au monde avec plusieurs années de salaire d’une dette qui n’a servi à rien économiquement. Cette toile des influences passées et futures, bonne ou mauvaise, est la destinée humaine.
L’eau courante libère, et joue un rôle fondamental dans la civilisation. Mésopotamie, c’est par définition la terre entre deux fleuves6. C’est le cas aussi dans la vallée du Nil en Égypte, la vallée de l’Indus, le delta de la rivière des Perles ou le fleuve Yang-tsé-Kiang en Chine, dont la culture de Pengtoushan est la plus ancienne connue. De même l’antique cité de Petra était une merveille parce qu’elle était parvenue, par l’intelligence collective des Nabatéens, à irriguer en plein désert, notamment en récoltant la rosée, et cet effort – que nous aurions pu mettre dans la même absolue priorité aujourd’hui que le peuple ingénieux en son temps – a libéré des centaines de milliers d’humains sur plusieurs générations. L’électricité, un autre service courant, qui achemine non plus de l’eau mais de l’énergie par des « robinets » – qui sont d’ailleurs encore très mal placés, puisque la plupart sont installés près du sol (une stupidité en matière de design et d’ergonomie) –, est une autre infrastructure qui libère aussi des milliards de gens, même si elle les rend également dépendants. De même des signaux radio, etc. : si l’on coupe la radio, si l’on coupe l’électricité, l’économie s’arrête ; quand on coupera l’intelligence artificielle, l’économie s’arrêtera aussi.
Après la fée électromagnétique, c’est la fée Intelligence qui vient à nous et qui va influencer la civilisation mondiale, c’est-à-dire la définition même des villes et des campagnes, comme celles de l’irrigation, de la route, des thermes et aqueducs, des comptabilités, des assurances, de la monnaie papier, de l’électricité, de l’industrialisation, de la radio, de l’informatique jusqu’aux nanotechnologies. Ce qu’il faut comprendre, c’est l’intelligence courante. Comme on avait l’eau et le gaz dans un immeuble parisien cossu de la Belle Époque, nous commençons à avoir l’intelligence courante pour irriguer aussi bien notre santé que notre alimentation, notre éducation et toutes les formes de nos consommations, des vêtements aux divertissements. Comme avec l’électricité et le gaz, il y aura des accidents domestiques, minoritaires, mais bien assez nombreux pour encourager notre propension naturelle au pessimisme technologique.
Qu’est-ce qu’une civilisation irriguée d’intelligence ? Comment la capte-t-elle, l’oriente-t-elle et la consomme-t-elle ? Avec quelles conséquences sur combien de générations ? Avoir ces petites prises électriques autour de nous, qu’est-ce que cela a changé en cent trente ans ? À quoi ressemblera une prise d’intelligence, une centrale d’intelligence, un flux d’intelligence ? Et quelles seront les conséquences de cette irrigation permanente ? Une tomate irriguée, « fertiguée » même, je vois, mais une tomate irriguée d’intelligence, irriguée d’attention-machine ? Enfin, s’il y a un cycle de l’eau, un cycle de production électrique, que sera un cycle de l’intelligence artificielle, avec ses mises à jour, sa récupération d’information, son passage à la connaissance, voire à la sagesse ?
Une autre question fondamentale et très puissante, dont la ou les réponses vont changer le monde, sera celle de mesurer (ou pas) et de standardiser (ou pas) l’intelligence. Comme nous le verrons dans ce livre en lui consacrant un chapitre – et même s’il a fallu le grand courage et l’indépendance scientifique de Nassim Nicholas Taleb pour le démontrer que le QI (quotient intellectuel) en ce sens n’est rien de moins qu’une vaste foutaise pseudo-scientifique7. Pour l’électricité, comme unité de mesure standard, il y a le kilowatt-heure ; pour la machine, il y a le cheval-vapeur. Mais pour l’intelligence, quelle mesure utiliser ? Celles et ceux qui répondront à cette question vont profondément influencer le XXIe siècle, et peut-être que la meilleure façon d’y répondre sera de la poser différemment, car bien poser une question est une preuve infiniment plus solide d’intelligence que d’y répondre seulement.
Le technologiste Serge Soudoplatoff avait déjà un moyen rigolo de mesurer la connerie, qui semble directement inspiré par un célèbre dialogue de Michel Audiard8 :
Pauline. – À quoi je le reconnaîtrai ?
Le Dabe. – Un beau brun, avec des petites bacchantes, grand, l’air con !
Pauline. – Ça court les rues, les grands cons !
Le Dabe. – Ouais ! Mais celui-là, c’est un gabarit exceptionnel ! Si la connerie se mesurait, il servirait de mètre étalon ! Il serait à Sèvres !
L’invention théorique de Soudoplatoff aura été un conomètre9. On passe le bout d’une bobine de fil à travers le trou de la boutonnière d’une veste. Nécessairement, quelqu’un va observer que le fil dépasse et sûrement tirer dessus. Reste à mesurer la longueur du fil déroulé avant prise de conscience du dispositif… C’est un conomètre à fil perdu, donc. Qu’est-ce que la calorie de l’intelligence artificielle ? On va éviter de l’appeler la cognorie, mais la question reste entière.
Il existe réellement des unités exotiques pour mesurer des choses difficiles à standardiser. Le très sérieux micromort10, par exemple, représente une chance sur un million de mourir. Donner naissance sans césarienne dans un pays riche mesure environ 170 micromorts, et venir au monde plus de 400 micromorts pour le jour de la naissance. Certaines agences statistiques vont déterminer une « valeur de la vie », par exemple pour la prévention routière ; aux États-Unis, elle avoisinait 6 millions de dollars par vie d’automobiliste en 2009. D’autres activités assez bien mesurées en micromorts sont le base jumping, en Norvège : 430 micromorts si l’on saute du Kjerag11 (rejouant le risque de la mortalité à la naissance en un seul saut). Et, bien au-dessus, l’ascension du Matterhorn (toutes faces confondues) et de l’Everest : presque 3 000 micromorts par tentative pour le premier, et 40 000 pour le second12. On mesure aussi par le microvie une perte de 30 minutes d’espérance de vie, par exemple à la suite d’une exposition à l’amiante dans un bâtiment universitaire du campus de Jussieu à Paris, dans les années 1990.
John von Neumann, un des pères de l’IA, utilisait le microsiècle pour définir la taille idéale d’une conférence : un millionième de siècle, soit 52 minutes et 35,76 secondes. Mais pour comprendre ce que serait une mesure de l’intelligence, il faut s’aventurer dans les métriques amusantes dites « non conventionnelles ». Par exemple, la mesure de la coolitude, en « fonzie » bien sûr, du nom de l’archétype du cool dans la série Happy Days. La célébrité en warhol : un warhol correspond à 15 minutes de célébrité, donc Leonardo DiCaprio mesurera aujourd’hui autour d’un méga-warhol, et c’est parce qu’il est à la célébrité ce qu’une centrale nucléaire est au watt qu’il est « bankable » et qu’il pèse 260 mégadollars en 2020. Moins de 300 dollars le warhol semble une conversion assez prévisible.
Mais pour l’intelligence ? Il faut accepter qu’elle ne se mesure pas, dans la conception industrielle du terme. L’intelligence tient à l’imprévisibilité. On pourrait lui donner une certaine métrique dans le sens où elle se rapprocherait d’un juste milieu, d’une vertu équilibrée dans l’imprévisibilité, du bord du chaos comme disent les biologistes, car c’est ce qui la caractérise : être totalement imprévisible, c’est être fou ; être totalement prévisible, c’est être mort. Si l’intelligence optimale se situe quelque part entre les deux, ils sont nombreux, les gens morts mentalement, ces tristes machines au prêt-à-penser que l’on a appelés « intelligents ». Steve Ballmer, ancien PDG de Microsoft, riait à raison de ce qu’IBM, il fut un temps, rémunérât ses codeurs au kloc (kilo line of code, soit 1 000 lignes de code informatique), comme d’obscurs pigistes, les encourageant à enfler la longueur de leurs programmes à une époque où les mémoires étaient encore très limitées. Cette mesure en klocs, il y eut des gens sérieux pour la juger intelligente. Aujourd’hui, les meilleurs programmes s’écrivent et se corrigent eux-mêmes, et le kloc ne vaut plus grand-chose.
Nous verrons derechef que le QI est à l’intelligence ce que le kloc fut à l’informatique : une mesure stupide presque totalement dépassée.
Que les programmes s’écrivent et se corrigent tout seuls, c’est justement cela, l’intelligence artificielle. Elle va dévaluer des choses que nous avons bêtement sacralisées, elle va briser des idoles, elle va faire de certains vices des vertus et de certaines vertus des vices. Ce qui était admiré des académies il y a cent ans ne pourra plus l’être aujourd’hui : de même que du papier de Bourse peut ne plus rien valoir après une crise, il y a toute une pile de papiers académiques qui connaîtront le même sort dans un futur proche, et c’est tant mieux.
Pour l’heure, première métaphore utile, qui me vient de Marc Macaluso, auteur américain de scénarios ayant travaillé notamment sur la franchise Terminator : l’IA, c’est comme de l’eau. En premier lieu, à l’échelle macroéconomique, elle est comme l’irrigation, elle change les civilisations, nous allons avoir l’intelligence courante comme nous avons l’eau courante. Dès lors, il faudra surveiller sa qualité, comme nous surveillons celle de l’eau. Est-elle biaisée ? Est-elle mauvaise ? Est-elle ignorante ? Est-elle porteuse de mauvaises décisions ? Il faudra aussi surveiller d’éventuelles attaques terroristes sur elle : un peu de toxine botulique dans l’eau de Londres et c’est 50 % de la cité qui meurt dans la journée ; un piratage de nos logiciels de reconnaissance visuelle, d’ajustement de température, de sécurité des robots et cobots (qui travaillent en interactions immédiates avec les humains en répétant ou en améliorant leurs gestes), et c’est la boucherie.
Il faudra également surveiller son accès et son débit, par exemple le nombre de décisions par seconde si cela fait sens. Edward Snowden a estimé qu’il fallait à Monsieur Tout-le-monde s’armer d’un mot de passe personnel qui survivrait au moins à mille milliards d’essais par seconde pour le deviner. Pour persévérer dans les métriques rigolotes (et souligner à quel point les noométriques académiques sont stupides), si on appelle « haddock » le nombre « mille milliards de mille », l’IA en est actuellement au milli-haddock de décisions par seconde. Très bientôt on posera facilement un haddock de décisions par seconde pour quelque chose d’aussi courant que l’IA de notre réfrigérateur, de notre voiture, de nos vêtements, etc. Aujourd’hui le simple bloc d’alimentation d’un MacBook Pro (entendez : la prise et le transformateur) a plus de capacité de calcul que le premier Macintosh d’Apple en 1984. Espérons que demain les équipes de chirurgie ou d’astronautique travailleront en mégahaddock, soit un million de millions de milliards de décisions par seconde. L’informatique quantique pourra d’ailleurs faire exploser ce chiffre, et c’est parce que cette perspective existe que nous parlons de « singularité » : qu’un jour l’intelligence artificielle courante puisse à la fois s’unifier et évoluer plus vite que nous ne pourrons la comprendre.
Pour continuer à filer la métaphore de Marc Macaluso, l’IA est comme l’eau parce qu’elle démultiplie la valeur, parce qu’elle rend arable une terre bréhaigne – les Pays-Bas sont devenus le territoire le plus productif au monde, parce qu’ils nourrissent leurs serres d’intelligence –, parce que, comme l’eau, elle se rapproche essentiellement de la vie. Comme l’eau toujours, elle est imprévisible et peut amener des transitions chaotiques : l’impact d’un courant comme le Gulf Stream sur le climat global est immense ; quel impact aura l’intelligence courante sur le monde ? On peut boire l’eau et l’utiliser pour se laver, mais elle peut aussi nous broyer ; elle se présente aussi bien sous la forme d’un nuage que d’une avalanche ou d’un tsunami ; elle emporte avec elle des alluvions et de l’information. Les conséquences de sa présence, de son flot et de ses combinaisons échappent encore largement à notre capacité de prédiction. Si vous voulez comprendre de quoi il est question quand on parle de « singularité13 », il vous suffit de relire ces paroles de Guy Béart :
« Ma petite est comme l’eau, elle est comme l’eau vive.
Elle court comme un ruisseau que les enfants poursuivent.
Courez, courez vite si vous le pouvez,
Jamais, jamais vous ne la rattraperez. »
Si l’IA devient cette petite fille au sens large, telle que nos plus adroits mouvements intellectuels ne peuvent plus rattraper, alors il y aura eu « singularité ». Cette eau vive de l’intelligence, insaisissable, qui peut nous hydrater, nous laver et irriguer nos plantations, pourra aussi se muer en avalanche, en tsunami, en glissement de terrain. C’est pourquoi comparer l’IA à l’eau est aussi efficace intellectuellement.