CHAPITRE 9  Cognition évolutive

Aujourd’hui, nous accolons si naturellement les mots « cognition » et « animale » – comme s’ils étaient faits l’un pour l’autre ! – qu’il est difficile d’imaginer la lutte que nous avons dû mener pour en arriver là. On nous répliquait : si certains animaux peuvent être doués pour apprendre, ou programmés pour trouver des solutions adroites, cognition est un terme beaucoup trop fort pour désigner ce qu’ils font. Aux yeux de bien des gens, l’intelligence des animaux est une évidence, mais la science ne se fie jamais aux apparences. Nous voulons des preuves. Dans le cas de la cognition animale, nous en avons à présent plus que nécessaire – tant de preuves, en fait, que nous risquons d’oublier l’immense résistance que nous avons dû surmonter. C’est pourquoi j’ai tant insisté sur l’histoire de notre discipline. Il y a eu d’abord les pionniers, comme Köhler, Kohts, Tolman et Yerkes ; puis la deuxième génération, avec Menzel, Gallup, Beck, Shettleworth, Kummer et Griffin. La troisième – à laquelle j’appartiens – comprend trop de chercheurs en cognition évolutive pour les nommer tous, mais nous avons dû, nous aussi, batailler durement.

Je ne compte plus les fois où l’on m’a traité de naïf, de romantique, de doux rêveur, de non scientifique, d’anthopomorphique, d’anecdotique, ou simplement de médiocre penseur, lorsque j’expliquais que les primates suivent des stratégies politiques, se réconcilient après les disputes, ont de l’empathie pour les autres ou comprennent le monde social qui les entoure. Aucune de ces affirmations, fondées sur l’expérience directe de toute ma vie, ne me paraissait particulièrement audacieuse. On peut donc imaginer ce qu’ont dû entendre les scientifiques qui ont parlé de conscience, de capacités linguistiques ou de raisonnement logique. Chaque thèse a été isolée et confrontée à des théories de substitution – qui ont invariablement paru plus simples, puisqu’elles étaient inspirées par le comportement de pigeons et de rats enfermés dans une boîte de Skinner.

Elles n’étaient pas toujours plus simples, en fait – fonder une explication sur l’apprentissage associatif peut se révéler bien plus complexe que postuler une capacité mentale supplémentaire –, mais à l’époque on pensait que l’apprentissage pouvait tout expliquer. Sauf bien sûr quand il ne le faisait pas. Dans ce cas, il était clair que nous n’avions pas réfléchi assez longuement ou assez sérieusement au problème, ou que nous n’avions pas fait les bonnes expériences. Parfois, le mur du scepticisme semblait plus idéologique que scientifique, un peu comme le créationnisme à nos yeux de biologistes. Il faut le croire pour le voir, chante Willy Wonka391, et l’incrédulité bien établie est étrangement imperméable aux preuves. Les « assassins » de la théorie cognitive ne voulaient rien entendre.

J’emprunte ce terme au zoologue américain Marc Bekoff et au philosophe Colin Allen, qui ont vite repris le flambeau de Griffin pour défendre l’éthologie cognitive. Ils ont distingué trois grands profils face à la cognition animale : les assassins, les sceptiques et les partisans. Quand ils l’ont écrit pour la première fois, en 1997, les assassins étaient encore nombreux :

Les assassins pensent que l’éthologie cognitive n’a aucune chance de succès. En analysant leurs déclarations publiques, nous avons constaté qu’ils confondent parfois la difficulté de mener des investigations rigoureuses en éthologie cognitive et l’impossibilité totale de le faire. Les assassins ignorent fréquemment les détails précis des travaux des éthologues cognitifs, et opposent souvent des objections d’inspiration philosophique à la possibilité même d’apprendre quoi que ce soit sur la cognition animale. Ils ne croient pas que l’approche de l’éthologie cognitive puisse conduire, et ait conduit, à des hypothèses nouvelles et vérifiables. Ils choisissent souvent les phénomènes les moins accessibles et les plus difficiles à étudier (la conscience, par exemple), et concluent que, puisque nous ne pouvons guère acquérir de savoir détaillé sur ces sujets, nous ne pourrons pas faire mieux sur les autres. Les assassins recommandent aussi la parcimonie dans les explications du comportement animal, mais ils jugent impossible que des explications cognitives puissent être plus parcimonieuses que les thèses non cognitives qu’on leur oppose, et ils nient que des hypothèses cognitives puissent orienter utilement les recherches empiriques392.

Lorsque Emil Menzel m’a raconté l’histoire de l’éminent professeur – à l’évidence un assassin – qui voulait le piéger et s’était fait prendre à son propre piège, il a ajouté un détail intéressant. Le même professeur l’avait mis au défi, publiquement, de lui dire quelles capacités il espérait découvrir chez les grands singes qui n’existaient pas chez les pigeons. Autrement dit, pourquoi perdre son temps avec ces primates têtus et incontrôlables si l’intelligence est fondamentalement la même chez tous les animaux ?

C’était la position dominante à l’époque. Mais aujourd’hui la discipline adopte une approche plus évolutive, qui reconnaît que chaque espèce a une histoire cognitive différente à raconter. Chaque organisme a son écologie et son style de vie, son propre Umwelt, qui dicte ce qu’il a besoin de savoir pour vivre. Aucune espèce ne peut à elle seule servir de modèle à toutes les autres, et sûrement pas si son cerveau est aussi petit que celui du pigeon. Les pigeons sont très intelligents, mais la taille est importante. Les cerveaux sont les organes les plus « coûteux ». De vrais goinfres énergétiques : il leur faut vingt fois plus de calories par unité qu’un tissu musculaire. Menzel aurait pu simplement répondre que, si les grands singes ont des cerveaux près de deux cents fois plus lourds que ceux des pigeons et consomment donc beaucoup plus d’énergie, il paraît logique de penser qu’ils font face à des défis cognitifs plus importants. Mère Nature n’est pas connue pour se permettre de telles extravagances. Dans la vision utilitariste de la biologie, les animaux ont le cerveau dont ils ont besoin, ni plus ni moins. Même au sein d’une espèce, celui-ci peut changer suivant la façon dont il est utilisé : les zones liées au chant peuvent grandir et diminuer selon les saisons dans le cerveau de l’oiseau chanteur, par exemple393. Le cerveau s’adapte aux nécessités écologiques, comme la cognition.

Nous avons aussi rencontré un second type d’assassins. Avec eux, il a été plus difficile de discuter, car ils ne s’intéressent pas du tout au comportement animal. Tout ce qui les préoccupe, c’est la place de l’humanité dans le cosmos, que la science ne cesse de miner depuis Copernic. Mais leur combat est devenu désespéré, car, s’il y a une tendance forte dans notre domaine, c’est celle qui transforme le mur entre cognition humaine et cognition animale en un gruyère à multiples trous. Nous démontrons régulièrement l’existence, chez les animaux, de capacités censées distinguer notre espèce. Soit les champions de l’« exception humaine » ont grossièrement surestimé la complexité de ce que font les humains, soit ils ont sous-estimé les aptitudes des autres espèces.

Aucune des deux possibilités ne leur convient, car ce qui les gêne, au fond, c’est la continuité de l’évolution. Les humains sont des grands singes modifiés : voilà l’idée qui leur est insupportable. Comme Alfred Russel Wallace, ils estiment que l’évolution a sûrement « contourné » la tête humaine. Leur point de vue est en voie de disparition en psychologie – un domaine qui, sous l’influence des neurosciences, se rapproche toujours plus des sciences naturelles –, mais il reste dominant dans les disciplines littéraires et la plupart des sciences sociales. Pour preuve, cette récente réplique de l’anthropologue américain Jonathan Marks aux montagnes de données démontrant que les animaux s’empruntent entre eux des habitudes, ce qui est source de variabilité culturelle : « Si l’on appelle “culture” le comportement des grands singes, cela signifie simplement qu’il faut trouver un autre mot pour ce que font les humains394. »

Quelle différence avec l’ouverture d’esprit vivifiante de David Hume ! Le philosophe écossais tenait les animaux en si haute estime qu’il a écrit : « Aucune vérité ne me paraît plus évidente que de dire que les bêtes sont douées de pensée et de raison tout comme les hommes. » Hume a résumé son point de vue dans un principe qui s’harmonise parfaitement avec la position que j’ai adoptée tout au long de ce livre :

C’est d’après la ressemblance des actions extérieures des animaux avec celles que nous accomplissons nous-mêmes que nous jugeons que leurs actions internes ressemblent également aux nôtres, et le même principe de raisonnement, poussé un peu plus loin, nous fera conclure que, puisque nos actions internes ressemblent les unes aux autres, les causes dont elles procèdent doivent aussi se ressembler. Donc, quand une hypothèse est avancée pour expliquer une opération mentale commune aux hommes et aux animaux, nous devons l’appliquer aux uns et aux autres395.

Formulée en 1739, plus d’un siècle avant la théorie de Darwin, la « pierre de touche » de Hume offre à la cognition évolutive un point de départ impeccable. L’hypothèse la plus simple que nous puissions faire sur les ressemblances comportementales et cognitives entre espèces apparentées est qu’elles reflètent des processus mentaux communs. La continuité doit être la position par défaut pour tous les mammifères au moins, et peut-être aussi pour les oiseaux et les autres vertébrés.

Quand cette thèse l’a enfin emporté, il y a environ vingt ans, les preuves à l’appui ont plu de toute part. Ce n’étaient plus seulement les primates, mais aussi les canidés, les corvidés, les éléphants, les dauphins, les perroquets et bien d’autres. La déferlante des découvertes est devenue irrésistible et a été relayée dans les médias toutes les semaines – le journal humoristique The Onion a même parodié cette tendance dans un article satirique sur le thème : « On a prouvé que les dauphins sont beaucoup moins intelligents sur la terre ferme que dans l’océan396 ! » Blague à part, l’idée est judicieuse si elle souligne l’importance d’effectuer des tests appropriés aux espèces : c’est effectivement l’un des grands défis de notre discipline. Le public a pris l’habitude des illustrations les plus diverses de l’intelligence animale, notamment dans des articles de presse et des blogs sur les animaux généreusement parsemés de termes comme pensant, conscient et rationnel.

C’était en partie un phénomène de mode, mais beaucoup de ces textes rapportaient des études sérieuses, validées après examen par les pairs et fondées sur des années de recherches minutieuses. La cognition évolutive gagnait ses lettres de noblesse, et elle s’est mise à attirer de plus en plus d’étudiants désireux de faire leurs preuves sur ce sujet prometteur. Aujourd’hui, de nombreux spécialistes du comportement animal mettent fièrement en avant le terme cognitif dans la présentation de leurs recherches, et des revues scientifiques ajoutent ce terme à la mode à leur nom, car il attire plus de lecteurs qu’aucun autre en biologie comportementale. La vision cognitive a gagné.

Mais une hypothèse n’est malgré tout qu’une hypothèse. Il n’en reste pas moins nécessaire de beaucoup travailler sur les problèmes concrets : il faut déterminer à quel niveau cognitif opère une espèce donnée et comment cette activité s’adapte à son écologie et sert son mode de vie. Quels sont ses points forts sur le plan cognitif, et en quoi contribuent-ils à sa survie ? C’est l’histoire des mouettes tridactyles : certaines espèces ont besoin de reconnaître leurs petits, et d’autres non. Les premières feront attention aux identités individuelles, les secondes pourront les ignorer en toute sécurité. Ou souvenons-nous des rats nauséeux de Garcia qui ont violé les règles du conditionnement opérant, comme pour nous donner cette bonne leçon : se souvenir d’un aliment toxique est bien plus important que de savoir quel est le levier où la nourriture va tomber. Les animaux apprennent ce qu’ils ont besoin d’apprendre et gèrent la masse d’informations qui les entoure par des moyens spécialisés. Ils cherchent activement, collectent et retiennent l’information. Souvent, ils sont incroyablement habiles dans une seule tâche particulière – dissimuler des aliments et se souvenir de ces caches, par exemple, ou tromper les prédateurs –, mais certaines espèces ont la capacité mentale de résoudre un grand nombre de problèmes différents.

La cognition peut même pousser l’évolution physique dans une direction particulière. Les corbeaux de Nouvelle-Calédonie, par exemple, se servent d’outils qu’ils fabriquent avec des feuilles et des brindilles. Ces corbeaux ont des becs plus droits que les autres corvidés, et des yeux bien tournés vers l’avant. La forme du bec leur donne une emprise ferme sur les objets, et la vision binoculaire leur permet de regarder en profondeur dans les fissures dont ils extraient des chenilles397. La cognition n’est pas uniquement le produit des sens, de l’anatomie et de la capacité mentale de l’animal ; la relation de causalité peut aussi fonctionner dans l’autre sens. Les traits physiques d’un animal s’adaptent à ses spécialisations cognitives. La main humaine en est un autre exemple : elle a acquis ses pouces parfaitement opposables et sa polyvalence remarquable pour s’adapter à notre utilisation d’outils sophistiqués, des haches de pierre aux smartphones actuels. C’est pourquoi cognition évolutive est une dénomination parfaite pour notre discipline : seule la théorie de l’évolution peut expliquer simultanément la survie, l’écologie, l’anatomie et la cognition. Au lieu de chercher une théorie générale qui couvre toute cognition sur la planète, elle considère chaque espèce comme un cas particulier. Certains principes cognitifs sont communs à tous les organismes, bien sûr, mais nous ne cherchons pas à minorer la diversité entre des espèces qui ont des styles de vie, des écologies et des Umwelten aussi différents qu’un dauphin et un dingo, ou un ara macao et un singe. Chacune d’elles est confrontée à ses propres défis cognitifs spécifiques.

Quand les psychologues comparés ont commencé à comprendre que chaque espèce est particulière, et que l’apprentissage est dicté par la biologie, ils sont entrés progressivement dans le champ de la cognition évolutive. Leur discipline y a éminemment contribué, par sa longue histoire d’expériences soigneusement contrôlées et par ses nombreux scientifiques sensibles à la cognition. Même si ces pionniers travaillaient en général discrètement et se voyaient souvent contraints de publier dans des revues de deuxième ordre, ils ont décrit des « processus mentaux supérieurs » qu’ils pensaient inexplicables par l’apprentissage398. L’hégémonie du béhaviorisme étant absolue à l’époque, il était logique de définir la cognition en l’opposant à l’apprentissage, mais j’ai toujours pensé que c’était une erreur. Cette dichotomie est aussi fausse que celle qui oppose nature et culture. Si aujourd’hui nous ne parlons plus d’instincts, ou rarement, c’est parce que rien n’est purement génétique : l’environnement joue toujours un rôle. De même, la cognition pure est un fruit de l’imagination. Que serait la cognition sans apprentissage ? Elle suppose toujours une certaine collecte d’information. Même les chimpanzés de Köhler, qui ont inauguré l’étude de la cognition animale, avaient l’expérience préalable des caisses et des bâtons. Donc, ne voyons pas la révolution cognitive comme un coup porté à la théorie de l’apprentissage : il s’agit plutôt d’un mariage. Leur relation a eu des hauts et des bas, mais, en fin de compte, la théorie de l’apprentissage survivra dans le cadre de la cognition évolutive. Elle en sera même une composante essentielle.

Il en va de même pour l’éthologie. Ses idées sur l’évolution des comportements sont loin d’avoir disparu. Elles sont bien vivantes dans de nombreux champs de la science, et la méthode éthologique aussi. La description et l’observation systématique des comportements sont au cœur de tout travail de terrain sur les animaux, ainsi que des études du comportement de l’enfant, des interactions mère-nourrisson, de la communication non verbale, etc. La recherche sur les émotions humaines considère les expressions du visage comme des « schèmes d’action spécifique » et recourt à la méthode de l’éthologie pour les mesurer. C’est pourquoi je ne pense pas que l’épanouissement actuel de la cognition évolutive constitue une rupture avec le passé. C’est plutôt un moment où des forces et des approches qui existaient depuis un siècle ou davantage ont pris le dessus. Nous avons enfin l’espace nécessaire pour respirer, pour échanger sur les merveilleux moyens qu’utilisent les animaux afin de rassembler et d’organiser l’information. Et, si les assassins de la conception cognitive sont une espèce en voie d’extinction, il est clair que les deux autres catégories – les sceptiques et les partisans – sont toujours bien présentes et jouent toutes les deux un rôle essentiel. En ma qualité de partisan, j’apprécie vraiment mes collègues sceptiques. Ils nous maintiennent sur le qui-vive et nous obligent à imaginer des expériences intelligentes pour répondre à leurs questions. Tant que nous souhaitons tous le progrès des connaissances, c’est exactement ainsi que la science doit procéder.

L’étude de la cognition animale est souvent présentée comme un effort pour découvrir « ce qu’ils pensent », mais ce n’est pas sa véritable raison d’être. Nous ne sommes pas en quête d’expériences et d’états mentaux privés, même s’il serait merveilleux d’en savoir plus un jour à leur sujet. Pour le moment, notre but est plus modeste : nous espérons repérer des processus mentaux que nous supposons, en mesurant des résultats observables. Vue sous cet angle, notre discipline n’est pas différente des autres entreprises scientifiques, de la biologie évolutive à la physique. La science part toujours d’une hypothèse, puis effectue des tests pour vérifier ses prédictions. Si les animaux se projettent dans le futur, ils devraient garder des outils dont ils auront besoin plus tard. S’ils comprennent les relations de cause à effet, ils devraient éviter la trappe dans le tube piégé dès qu’ils la voient. S’ils savent ce que les autres savent, ils devraient avoir un comportement différent selon ce qu’ils ont vu les autres observer. S’ils ont des talents politiques, ils devraient traiter les amis de leurs rivaux avec circonspection. Puisque j’ai évoqué des dizaines d’hypothèses de ce genre, ainsi que les expériences et observations qu’elles ont inspirées, la structure de ces recherches doit être à présent évidente. En règle générale, plus il y a de preuves convergentes qui valident une faculté mentale donnée, plus l’hypothèse de son existence devient solide. Si l’aptitude à faire des projets pour l’avenir est manifeste dans des comportements quotidiens, dans des tests sur l’emploi différé d’outils et dans des choix spontanés de dissimulation et de récupération d’aliments, nous avons d’excellentes raisons de conclure qu’au moins certaines espèces ont cette capacité.

Mais j’ai souvent l’impression que nous sommes trop obsédés par les cimes de la cognition – la théorie de l’esprit, la conscience de soi, le langage, etc. –, comme si l’essentiel était d’avancer des thèses grandioses à leur sujet. Il est temps que notre discipline abandonne les fanfaronnades des compétitions entre espèces (mes corbeaux sont plus intelligents que tes singes) et la pensée binaire qu’elles entraînent. Et si la théorie de l’esprit ne reposait pas sur une seule grande capacité, mais sur tout un éventail de petites ? Et si la conscience de soi avait des degrés ? Les sceptiques nous incitent souvent à décomposer les grands concepts mentaux en nous demandant ce que nous voulons dire au juste. Si ce que nous avons en tête est de moindre envergure que ce que nous disons, pourquoi ne pas décrire le phénomène en termes plus modestes, plus terre à terre ?

Je suis d’accord. Nous devrions commencer par étudier les processus qui sous-tendent les capacités supérieures : elles reposent souvent sur une large gamme de mécanismes cognitifs, dont certains sont peut-être communs à de nombreuses espèces alors que d’autres n’existent que dans un groupe assez restreint. Nous l’avons bien vu dans le débat sur la réciprocité sociale. Au départ, on imaginait qu’elle exigeait que les animaux se souviennent avec précision des faveurs reçues afin de les rendre. De nombreux scientifiques se refusaient à supposer que les singes, sans parler des rats, tiennent des comptes sur chaque interaction sociale. Nous comprenons aujourd’hui que ce n’est nullement nécessaire pour qu’il y ait réciprocité : non seulement les animaux, mais aussi les humains échangent souvent des services à un niveau plus élémentaire, automatique, lié aux rapports sociaux de longue durée. Nous aidons nos amis et nos amis nous aident, mais nous ne comptons pas forcément399. C’est l’ironie de l’étude de la cognition animale : si elle revalorise à nos yeux les aptitudes des animaux, elle nous apprend aussi, souvent, à ne pas surestimer notre propre complexité mentale.

Nous avons un urgent besoin de voir les choses de bas en haut, de nous concentrer sur les éléments de base de la cognition400. Cette approche doit inclure aussi les émotions – sujet que j’ai à peine effleuré, mais qui me tient à cœur et qui souffre également d’un manque d’attention. Avec la décomposition des capacités mentales en multiples éléments, nous aurons sans doute moins de gros titres sensationnels ; en revanche, nos théories seront plus réalistes et plus riches en informations. Il nous faudra aussi recourir davantage aux neurosciences. Pour l’instant, leur rôle est assez limité. Les neurosciences peuvent nous dire où les choses se passent dans le cerveau : cela ne nous aide pas beaucoup à formuler de nouvelles théories ni à concevoir des tests efficaces. Mais si, aujourd’hui, le travail le plus intéressant en cognition évolutive reste essentiellement comportemental, je suis convaincu que cela va changer. Jusqu’à présent, les neurosciences n’ont fait que gratter la surface. Au cours des prochaines décennies, elles deviendront inévitablement moins descriptives et plus intéressantes théoriquement pour notre discipline. Dans quelque temps, un livre comme celui-ci fera une large place aux neurosciences : il expliquera à quels mécanismes cérébraux on doit un comportement observé.

Ce sera aussi un excellent moyen de tester l’hypothèse de la continuité, puisque les processus cognitifs homologues supposent des mécanismes neuronaux communs. Chez les singes et chez les humains, des données de ce type s’accumulent déjà sur diverses aptitudes : la reconnaissance faciale, le traitement des récompenses, le rôle de l’hippocampe dans la mémoire et des neurones miroirs dans l’imitation. Plus nous trouverons de preuves de mécanismes neuronaux communs, plus la thèse de l’homologie et de la continuité s’imposera. Inversement, si deux espèces activent des circuits neuronaux différents pour atteindre le même résultat, il faudra remplacer l’hypothèse de la continuité par une explication fondée sur l’évolution convergente. Cette dernière est très puissante aussi : elle a produit, par exemple, la reconnaissance faciale chez les grands singes et chez les guêpes, ou l’utilisation polyvalente d’outils chez les primates et chez les corvidés.

L’étude du comportement animal est l’une des plus vieilles entreprises humaines. Nos ancêtres chasseurs-cueilleurs avaient besoin de connaître intimement la flore et la faune, notamment les habitudes de leurs proies. Les chasseurs exercent un contrôle minimal : ils anticipent les mouvements des bêtes et sont impressionnés par l’ingéniosité dont elles font preuve lorsqu’elles leur échappent. Ils doivent également se protéger des espèces dont ils sont eux-mêmes la proie. La relation homme-animal était assez égalitaire à cette époque. Un savoir plus pratique est devenu nécessaire lorsque nos ancêtres ont inventé l’agriculture et commencé à domestiquer des animaux pour s’en nourrir et utiliser leur force musculaire. Les animaux sont devenus dépendants de nous et ont été mis au service de nos volontés. Au lieu d’anticiper leurs mouvements, nous avons commencé à les dicter, tandis que nos livres saints parlaient de notre domination sur la nature. Ces états d’esprit radicalement différents – celui du chasseur et celui de l’agriculteur – sont tous deux à l’œuvre dans l’étude de la cognition animale aujourd’hui. Parfois nous observons les comportements spontanés des animaux, parfois nous les mettons dans des situations où ils ne peuvent faire que ce que nous voulons.

Avec l’essor d’une orientation moins anthropocentrique, la seconde approche va sans doute décliner, ou du moins admettre des marges de liberté significatives. Les animaux doivent avoir la possibilité d’exprimer leur comportement naturel. Nous nous intéressons davantage à la diversité de leurs modes de vie. Nous sommes mis au défi de penser davantage comme eux, pour ouvrir notre esprit aux situations et aux objectifs qui sont les leurs, pour les observer et les comprendre dans leur propre perspective. Nous revenons à nos habitudes de chasseurs, mais un peu comme le photographe animalier fait appel à son instinct de prédateur : pour révéler, pas pour tuer. Aujourd’hui, les expériences tournent souvent autour d’un comportement naturel : la séduction, la quête de nourriture, les comportements sociaux positifs. Nous cherchons la validité écologique dans nos études, et nous suivons le conseil d’Uexküll, de Lorenz et d’Imanishi : recourir à l’empathie humaine pour comprendre les autres espèces. La véritable empathie n’est pas centrée sur soi, mais tournée vers les autres. Cessons de faire de l’homme la mesure de toute chose ! Évaluons les autres espèces par ce qu’elles sont, elles ! Je suis sûr que nous découvrirons ainsi de nombreux puits sans fonds, dont certains sont encore inimaginables pour nous.