Pourquoi il est faux (et dangereux pour la science) de penser qu'un ordinateur et un cerveau humain fonctionnent de la même manière

Est-ce que le cerveau humain est comme un ordinateur ? Cette analogie est entrée dans l'esprit collectif et elle est très forte. La réponse à cette question est pourtant très importante. Elle a des implications pour l'intelligence artificielle — est-ce que des ordinateurs peuvent simuler un esprit humain, voire acquérir une conscience ? — qui ont à leur tour des conséquences politiques et économiques fondamentales. Et les enjeux sont également philosophiques et métaphysiques : qu'est-ce qu'un esprit, qu'est-ce que penser ?

Dans un article pour le magazine Aeon, Robert Epstein, chercheur à l'American Institute for Behavioral Research and Technology, auteur de quinze livres, et ancien rédacteur-en-chef du magazine Psychology Today, cherche à trucider cette analogie entre le cerveau et l'ordinateur.

De nouvelles métaphores pour l'esprit humain

Il rappelle que, depuis le début de l'histoire, les hommes ont cherché à trouver des analogies autour d'eux pour expliquer et comprendre l'esprit humain. Dans la Bible, Dieu est un potier qui façonne l'homme à partir d'argile et lui inssufle son esprit. L'invention de la pompe hydraulique a provoqué des modèles différents de notre esprit. Notre fonctionnement mental était déterminé par le flux des fluides de notre corps — les fameuses humeurs dont parlent les médecins de Molière.

Et l'invention des premiers automates à partir du XVI^ème siècle a mené à l'idée que nous sommes des automates complexes. Pour Descartes, les hommes sont des machines complexes. Pour Thomas Hobbes, la pensée est la fonction de petits mouvements mécaniques dans le cerveau.

Au XIX^ème siècle, c'est le physicien allemand Hermann von Helmholtz qui compare le cerveau à un télégraphe.  

Le problème arrive lorsque certains ne se rendent pas compte que la métaphore n'est qu'une métaphore…

Et au XX^ème siècle, c'est le mathématicien John von Neumann, un des pionniers de l'informatique — mais ignorant en neurologie ou en psychologie — qui publie le livre L'Ordinateur et le cerveau, où il développe la thèse que le système nerveux humain est "digital".

Nos esprits ne traitent pas de l'information

Le principe fondamental de fonctionnement d'un ordinateur est celui de traitement de l'information. Or, nos cerveaux ne traitent pas d'information. Ils fonctionnent différemment.

Epstein reprend un exercice qu'il fait faire à ses étudiants : dessiner un billet d'un dollar de mémoire, puis le redessiner avec le modèle sous les yeux. Il présente un exemple d'un de ses étudiants, ci-dessous :

[Inline-rough.jpg]

Que s'est-il passé ? Si le cerveau fonctionnait comme un ordinateur, l'étudiant aurait pu simplement aller chercher dans sa mémoire l'image d'un billet d'un dollar, et actionner son algorithme de reproduction. Mais ce n'est pas comme ça que fonctionne le cerveau humain.

De très nombreuses études neurologiques nous disent que même les actes les plus anodins impliquent de très grandes parties du cerveau. Il n'y a pas un endroit du cerveau où est stocké une image "billet d'un dollar". Au lieu de cela, le fait pour l'étudiante d'avoir vu un billet d'un dollar dans sa vie a changé son cerveau d'une certaine manière — d'une manière qui lui a permis de visualiser un billet d'un dollar. Autrement dit, de revivre l'expérience de la vision d'un billet d'un dollar.

Ce qui n'est absolument pas la même chose que le fait de stocker des données et de les traiter.

Lorsque nous apprenons un poème ou une chanson, nous n'intégrons pas de nouvelles informations que nous stockons dans une mémoire. Au lieu de cela, notre cerveau est changé d'une certaine manière ordonnée — que nous sommes très, très loin de comprendre — qui nous permet de chanter la chanson ou de réciter le poème. Et lorsque nous le faisons, nous n'allons pas chercher des données dans une banque de mémoire.

Cette confusion ralentit la neuroscience et, peut-être, la recherche en intelligence artificielle.

Une représentation différente

Certains scientifiques, comme Anthony Chemero, de l'Université de Cincinnati, auteur du livre Radical Embodied Cognitive Science, commencent à remettre en question le paradigme dominant.

Michael McBeath, professeur à Arizona State University, a fourni un exemple des errements de la métaphore informatique dans un article de la revue Science.

Imaginons un joueur de sport qui doit attraper une balle. Si son cerveau était un ordinateur, le joueur calculerait des estimations des conditions du vol de la balle, créerait et analyserait un modèle du trajet probable de la balle, et utiliserait ce modèle pour ajuster ses mouvements moteurs de manière continue afin d'intercepter la balle — ce qui est exactement ce que nous ne faisons pas lorsqu'on nous lance une balle et qu'on l'attrape. Et c'est exactement ce fait-là — que lorsque nous attrapons une balle, nous n'avons pas besoin de calculs de trajectoire et d'algorithmes — qui rend l'esprit humain aussi mystérieux, et aussi différent d'une machine.

Des conséquences métaphysiques

La similarité putative entre esprit humain et ordinateur pose des questions métaphysiques, comme celles de la nature et de l'origine de la conscience.

Certains philosophes come Daniel Dennett, de Tufts University, pensent que la conscience est une illusion, une sorte de "bug" d'une capacité de notre cerveau de créer des scénarios alternatifs, et donc des représentations, qui nous aurait aidé dans notre évolution. Mais comme le fait remarquer le philosophe David Bentley Hart, c'est absurde : la seule chose dont chacun d'entre nous peut être absolument sûr, c'est précisément que nous avons une conscience, un "je" subjectif qui vit des expériences. C'est une "donnée primaire" de l'expérience humaine. Dennett ne fait pas que prendre la métaphore cerveau-ordinateur trop au sérieux, il la renverse : le cerveau est comme un ordinateur ; or, les ordinateurs n'ont pas de conscience ; donc, nous non plus.

D'autres philosophes et théoriciens postulent l'idée que la conscience est simplement ce qu'ils appellent "une propriété émergente de la matière". Selon ces gens, la conscience "émergerait" dès lors qu'une quantité d'information assez importante, ou assez complexe, existe dans l'univers. Dans ce scénario, il est quasi inévitable qu'un jour les ordinateurs deviendront conscients, dès que leur puissance de traitement d'information deviendra équivalente à celle du cerveau humain. Et, comme le prévoient certains futuristes, nous pourrons ainsi "télécharger" nos cerveaux dans des ordinateurs et vivre à l'infini.

Mais, encore une fois, c'est prendre la métaphore ordinateur-cerveau pour plus qu'un métaphore. Notre esprit serait comme un logiciel qu'on peut télécharger sur une autre plate-forme, mais c'est ridicule. Pour montrer l'absurdité de cette idée, l'informaticien et chercheur chez IBM Cliff Pickover suggère une hypothèse intéressante.

Un logiciel dans un ordinateur n'est qu'une liste de 1 et de 0. Les partisans de l'idée du téléchargement de cerveau imaginent que le "logiciel" de votre cerveau est également une suite de 1 et de 0 (ce qui semble physiologiquement impossible), et que donc toute copie de ce logiciel serait un "vous" conscient, et que si on pouvait le télécharger sur un ordinateur, ça ne serait pas gênant de vous tuer, puisque votre "vous" survivrait.

Mais, puisqu'un logiciel n'est qu'une suite de 0 et de 1, si au lieu d'être écrite dans la mémoire d'un ordinateur, cette liste était au lieu de cela écrite à la main sur une quantité infinie de papier, voudriez-vous toujours qu'on vous tue ?

Il pousse la question plus loin : il a été mathématiquement démontré que le chiffre Pi contient toute suite de chiffres possible. Donc, par définition, si votre esprit est une suite de 0 et de 1, celui-ci existe déjà à l'intérieur du chiffre Pi. Donc on peut vous abattre sur place.

Un ordinateur ne sera jamais conscient

On peut aussi montrer l'absurdité de la métaphore par l'autre côté : celui de l'ordinateur. Le philosophe David Bentley Hart reprend le fait qu'on dit que l'ordinateur Deep Blue d'IBM "a battu" Garry Kasparov aux échecs. Comme facilité de langage c'est très bien, mais techniquement, c'est faux. L'ordinateur Deep Blue n'a jamais joué aux échecs. Il n'a jamais représenté de partie d'échecs dans son esprit.

Pour comprendre pourquoi, il suffit de comparer avec ce qui se passe lorsqu'on compte avec un boulier. Lorsqu'on utilise un boulier pour compter, le boulier ne "compte" pas. Ce sont juste des billes qu'on déplace. La personne qui compte — qui a conscience de chiffres et qui effectue des opérations mathématiques — c'est nous. Un boulier n'est qu'un objet inerte.

Du point de vue de la conscience, Deep Blue est exactement la même chose qu'un boulier. Tout comme un boulier n'est que du matériel inerte, Deep Blue n'est que du matériel inerte — des puces électroniques où des barrières de cuivre et de silicone produisent des 1 et des 0 à partir d'autres 1 et d'autres 0. Tout comme une montre mécanique ne "sait pas" quelle heure il est — c'est simplement un assemblage de pièces mécaniques liées à un ressort que nous utilisons pour mesurer le passage du temps.

Tout comme un boulier ne compte pas mais un homme utilise un boulier pour compter, ou une montre pour savoir le passage du temps, il est plus exact de dire que l'équipe d'IBM a battu Garry Kasparov avec l'aide de Deep Blue que de dire que Deep Blue a battu Garry Kasparov.

Il y a donc une différence fondamentale entre l'esprit humain et un ordinateur. Et si on oublie que toute métaphore qui compare les deux n'est qu'une métaphore, on va vers de réels problèmes, qui ralentissent les progrès de la science, aussi bien en neurologie qu'en informatique.