Épilogue
Les facteurs humains
Je terminais ce livre en fin 2009, quand j’ai déniché un petit
article dans la presse. La société Excedel, qui a la haute main sur la gestion
des examens en Angleterre, annonçait la sortie d’une « technique
automatisée fondée sur l’intelligence artificielle pour noter les copies
d’examens ». Ce système informatique de notation pourrait « lire et
évaluer » les dissertations d’un examen d’expression écrite que passent
beaucoup de jeunes britanniques. Dans le Times Education
Supplement, un porte-parole d’Excedel, filière du conglomérat de
médias Pearson, expliquait que ce système « fonctionnait avec la même
précision que les correcteurs humains, tout en éliminant les facteurs humains
que sont, par exemple, la fatigue et la subjectivité ». Un expert des tests
déclarait que, dans l’avenir, l’évaluation informatique des travaux d’expression
serait incontournable dans l’enseignement. « La seule inconnue est “quand”,
et pas “si” [1]. »
Je me suis demandé comment ce programme Excedel pourrait sortir
du lot les rares étudiants qui ne se plient pas aux conventions de l’écriture,
non qu’ils soient incompétents mais parce qu’ils possèdent une intelligence
supérieure particulièrement originale. Je connaissais la réponse : il ne
verrait rien. L’ordinateur, comme le faisait remarquer Weizenbaum, obéit à des
règles, ne juge pas, et remplace la subjectivité par des formules toute faites.
L’article révélait précisément combien le concepteur d’ELIZA avait été
clairvoyant quand, il y a plusieurs dizaines d’années, il avait tiré la sonnette
d’alarme en disant que, quand nous serons plus habitués à l’ordinateur, et plus
dépendants de lui, nous serons tentés de lui confier « des tâches qui
requièrent du discernement ». Et alors, tout retour en arrière sera
impossible. On ne pourra plus se passer de l’informatique pour effectuer ces
tâches.
Il est difficile de ne pas céder aux séductions de la
technologie, et en cette ère de l’information instantanée, les avantages de la
rapidité et de l’efficacité peuvent paraître
indiscutables et leur attrait irrésistible. Mais je persiste à garder l’espoir
que nous ne nous laisserons pas entraîner dans l’avenir que nous préparent nos
informaticiens et nos programmeurs. Même si nous ne tenons pas compte du message
de Weizenbaum, nous nous devons de l’écouter et de penser à ce que nous risquons
de perdre. Comme il serait triste, en particulier quand il s’agit d’éduquer
l’esprit de nos enfants, de devoir accepter sans discuter l’idée que les
« facteurs humains » sont désuets et que l’on peut s’en passer.
Cet article d’Excedel m’a aussi, une fois de plus, rappelé la
scène finale de 2001. Elle m’a hanté depuis la première
fois que j’ai vu ce film, adolescent dans les années 1970, en pleine jeunesse
dans l’ère de l’analogique. Ce qui la rend si poignante et si bizarre, c’est la
réaction émotionnelle de l’ordinateur au démembrement de son esprit : son
désespoir quand ses circuits plongent l’un après l’autre dans l’obscurité, la
supplique enfantine qu’il adresse au cosmonaute : « Je le sens. Je le
sens. J’ai peur », et finalement son retour à ce que l’on ne peut appeler
qu’un état d’innocence. Cette effusion de sentiments de HAL contraste avec
l’impassibilité caractéristique des personnages humains du film qui vaquent à
leurs occupations avec l’efficacité des robots. Leurs pensées et leurs
agissements donnent l’impression d’être préprogrammés, comme s’ils suivaient le
déroulement d’un algorithme. Dans le monde de 2001, les
individus en sont arrivés à ressembler à des machines au point que le personnage
le plus humain se révèle être une machine. C’est là l’essence de la prophétie
inquiétante de Kubrick : quand nous en sommes au point de nous en remettre
à l’ordinateur pour connaître le monde, c’est notre propre intelligence qui se
nivelle en intelligence artificielle.
[1]. William Stewart, « Essays to Be
Marked by “Robots” », Times Education
Supplement, 25 septembre 2009.