La pensée est-elle réductible à un calcul ?

 Hervé Boillot, Le Larousse de la Philosophie

Il convient dans un premier temps de faire un sort à la multitude d’em­plois du terme “calcul” dans le langage ordinaire, de manière à faire res­sortir l’usage technique précis du terme qui est logique et mathématique. Une seconde difficulté tient à ce que les ordinateurs, les calculatrices électroniques, font désormais partie de notre environnement quotidien, mais cette familiarité est trompeuse. S’agissant en particulier des pre­miers, nous oscillons entre des intuitions contradictoires. D’un côté nous sommes tentés de nous incliner devant leurs performances qui étonnent même parfois leurs concepteurs -dans cette logique, nous serions tentés de dire que la machine pensante est pour demain, si elle n’est pas déjà là. D’un autre côté nous sommes frappés par la bêtise des ordinateurs, quelle que soit leur rapidité à exécuter certains calculs. Chacun sait par exemple que des machines très sophistiquées butent sur des difficultés qu’un enfant de six ans résout sans problème. Lorsque le sens commun est ballotté au gré de telles contradictions, c’est peut-être le signe que nous sommes en présence d’un problème philosophique réclamant une élucidation concep­tuelle.

         En vérité, le projet de mécaniser la pensée, le raisonnement, au point d’en faire un calcul réalisable par une machine en un nombre fini d’étapes hante l’esprit des philosophes depuis plusieurs siècles.

Tout se joue ici autour du sens qu’on donne à des termes comme “penser”, “com­prendre“, “raisonner” que nous employons couramment pour décrire l’activité cognitive de nos semblables, et également autour de celui d’une expression comme “suivre une règle”.  Faut-il se résoudre à dire d’un dis­positif purement mécanique qu’il pense et qu’il respecte des règles, ou faut-il réserver ces aptitudes à l’être humain?

On peut donc se demander s’il ne faut pas mettre une condition à l’assimilation du calcul et de la pen­sée: que celui-ci soit effectué par une créature susceptible de donner les raisons conduisant au résultat obtenu et donc capable de le justifier. Dans ces conditions, le calcul est assimilable à de la pensée dans les seuls cas où il n’est pas effectué de façon purement mécanique.

      Plus généralement, si on refuse d’identifier le calcul à de la pensée, c’est peut-être aussi que l’on tient à réserver l’application des concepts psycho­logiques courants aux êtres humains et, éventuellement, à des animaux qui leur ressemblent. Dire qu’une machine calcule est dès lors différent de dire qu’elle a une psychologie.

    Thomas Hobbes

             Le terme “calculer” a de multiples usages. On dit d’une personne qu’elle “bien calculé son coup”, qu’elle sait “calculer l’effet qu’elle produit” ou qu’elle est calculatrice. Par là on entend souvent le fait que l’intéressé dissimule le but qu’il poursuit et anticipe mentalement les différentes étapes franchir et les obstacles à surmonter pour parvenir à ce qu’il veut. On parle ainsi de calcul en matière de stratégie politique ou militaire, ou encore dan le champ de la concurrence économique. Mais la sagesse populaire rappelle parfois que la réalité est changeante, truffée de hasards et qu’elle déjoue à ce titre tout calcul.

           Au sens strict, le terme a une signification arithmétique et logique. Mais dans ce cas également on désigne par “calcul” une procédure réglée, passant par des étapes et conduisant à un résultat. C’est le genre d’opération qu’on peut faire effectuer par une machine et que l’on peut ainsi mécaniser et rendre automatique. Chacun sait que les machines calculent plus vite que nous. Toutefois, cette rapidité ne change rien au fait que les machines en question, si performantes soient-elles, sont incapables d’effectuer toute sortes de tâches que nous jugeons caractéristiques d’un être rationnel. La question se pose donc de savoir si la capacité à calculer prouve quoi que ce soit en ce qui concerne l’intelligence de la machine ou de la créature concernée. Lorsqu’on regarde les choses par le petit bout de la lorgnette, force est de remarquer que la virtuosité en matière de calcul chez les êtres humains peut s’accompagner de toutes sortes de déficiences psychologiques cognitives.

On en vient ainsi à se demander si le calcul est bien l’exercice d’une pensée ou s’il n’est qu’une forme vide, même si un être utilise le calcul dans toutes sortes de buts. Il y a alors deux conséquences à l’hypothèse selon laquelle le calcul est en tant que tel une pensée. La première c’est que les machines qui calculent, les ordinateurs, doivent alors être tenus pour de êtres pensants. La seconde est que, si calculer c’est penser et que le calcul est mécanisable, alors la pensée elle-même doit être, en partie au moins mécanisable. On pressent donc que la question posée n’est pas sans lien avec celle suscitée par le fait qu’on parvient à simuler certaines opérations intellectuelles (traduire un langage, raisonner) par des machines.

La pensée comme calcul. Hobbes et la machinerie de la pensée

    En simplifiant, on peut dire que dans l’histoire de la philosophie certains auteurs ont tenu la capacité de penser comme un trait distinguant absolu­ment l’homme des autres êtres vivants, tandis que d’autres ont estimé que des entités matérielles pouvaient aussi avoir des propriétés mentales.

Leibniz: au lieu de nous disputer, calculons!

   On mettra sans hésitation Descartes dans la première catégorie. Il sou­tient en effet que le jugement, la volonté, la faculté de concevoir et même la perception impliquent un élément spirituel qu’il nomme “esprit”, “chose pensante”, ou encore “raison”. En conséquence, dans la perspective carté­sienne, le projet de mécaniser la pensée est dépourvu de sens: un artisan de génie parviendrait peut-être à construire un animal (cela revient à produire une mécanique sophistiquée) mais il est totalement exclu qu’il puisse pro­duire un être doué de pensée. Et Descartes voit dans l’exercice du langage le trait comportemental qui atteste la présence d’une âme chez une créatu­re. Au bilan, le projet d’assimiler la pensée à un ensemble de pro­cédures purement mécaniques lui eût semblé fantaisiste.

       Ce projet a malgré tout été développé par un contemporain de Descartes, Thomas Hobbes. Dans le Léviathan, Hobbes distingue le langage verbal et le langage mental. Grâce au langage verbal, nous réfléchissons et notons nos pensées afin de ne pas les oublier et nous les communiquons aussi à autrui. Le concept de discours mental sert, quant à lui, à définir la pensée. Il convient bien entendu de distinguer ce que Hobbes appelle discours men­tal de ce que nous appelons couramment discours tacite ou intériorisé, comme lorsque nous nous parlons à nous-mêmes dans notre for intérieur. Le discours tacite relève du langage verbal, mais il n’est pas extériorisé. En revanche, Hobbes entend par discours mental un enchaînement de symboles mentaux que l’on peut assimiler à une sorte d’écriture dans le cerveau: lorsque je comprends une phrase, se déroule dans mon cerveau une séquen­ce de symboles parallèle à la succession des mots composant la phrase entendue. Inversement, lorsque je communique mes pensées, je traduis ma séquence de symboles mentaux en signes verbaux. Deux conséquences se dégagent de cette perspective:

-Le discours dans lequel nous pensons est distinct de celui dans lequel nous parlons. Hobbes conçoit implicitement le rapport du langage à la pensée sur le modèle du rapport de langue à langue: on “traduit” le langage verbal pour accéder au discours mental. Ajoutons qu’à ses yeux il est envisageable que les animaux possèdent un discours mental et, du coup, une pensée élémen­taire. Mais n’ayant pas de langage verbal, ils sont privés de réflexion.

 Les Directeurs de la Guilde des Drapiers d’Amsterdam, par Pieter Pietersz l’Ancien, 1599: ils croyaient être devenus les maîtres du monde. Alors qu’ils avaient déjà laissé tout le pouvoir aux algorithmes …

   Le point essentiel pour nous est que les procédures à l’œuvre dans le déroulement du discours mental soient purement mécaniques. Un enchaîne­ment de ses parties doit être régi par des lois comparables à celles de la science du mouvement. Grand admirateur de Galilée, Hobbes rêvait d’ac­complir dans le domaine mental ce que le Florentin avait accompli dans celui de la physique. Épousant la conviction galiléenne selon laquelle le monde est écrit en langage mathématique, Hobbes sera amené à concevoir les opérations de raisonnement à l’image de celles accomplies à l’aide des machines à calculer qui pouvaient exister à son époque, comme l’abaque (il existait dès l’Antiquité des “tablettes à calculer”, mais c’est au Xéme siècle qu’est apparue l’abaque -ou boulier- proprement dite, utilisant les chiffres arabes et dont les colonnes correspondent aux unités, dizaines, etc …).

            En conséquence, Hobbes dirait certainement que calculer c’est penser et ce pour la meilleure raison qui soit: la pensée est fondamentalement un cal­cul. S’il avait vécu aujourd’hui, il aurait certainement pris comme modèle non point l’abaque mais l’ordinateur. Précisément, ses thèses lui ont valu d’être appelé le “grand-père de l’intelligence artificielle”. Avant d’exami­ner certaines versions récentes du mécanisme, il convient de recenser quelques objections qui s’appliquent à Hobbes lui-même.

Le mythe de la mécanique de l’esprit

      Deux arguments ont été avancés contre les théories de l’esprit du type de celle de Hobbes, tous deux par Wittgenstein. Le premier a pour cible la notion de discours mental et le second porte spécifiquement sur l’assimila­tion de la pensée à un calcul mécanisable. Mais il est important d’avoir les deux en vue pour comprendre leur impact. Sans viser nommément Hobbes, Wittgenstein a avancé un argument d’une simplicité dévastatrice contre l’hypothèse d’un langage de la pensée. Il a d’abord jugé douteux le parallélisme entre langage verbal et discours mental. Si on doit, pour déchiffrer le premier, accéder au discours mental qui se trouve derrière, on n’a rien fait d’autre que reporter le problème de l’in­terprétation, car les symboles mentaux devront être déchiffrés à leur tour. Le bénéfice escompté est donc nul.

   La perspective de Wittgenstein est thérapeutique: il veut nous guérir d’une tendance. Il dit au fond ceci: si vous êtes tentés d’expliquer la capacité du langage de renvoyer à la réalité par des symboles mentaux, efforcez-vous d’imaginer ces mêmes symboles peints et ils apparaîtront alors inertes. Ils semblent alors réclamer une interprétation, à la manière du dessin d’une silhouette sur un escalier dont on ne sait pas, en l’absence de contexte, si elle monte ou si elle descend les marches. C’est en effet le propre d’un sym­bole que de pouvoir être pris de différentes façons et son interprétation (ou, en général, la manière de l’employer) lève normalement les hésitations sur ce point. Si maintenant les symboles mentaux doivent être l’interprétation du langage verbal, ils doivent échapper à l’ambiguïté et être univoques. Mais comment peuvent-ils être à eux-mêmes leur propre interprétation? Wittgenstein en conclut que la tentative de rendre compte de la liaison entre le langage et le monde, en faisant jouer un intermédiaire qui ressemble à un langage, est vouée à l’échec.

Ludwig Wittgenstein et Georg Henrik von Wright, son successeur à la chaire de philosophie de Cambridge, 1949

   Plus généralement, c’est toute théorie assimilant la signification à quoi que ce soit d’interne au sujet qui échoue. Songeons à l’exemple suivant (que nous empruntons au philosophe Bruce Goldberg). Comment expliquer que je comprenne la phrase: “John en avait assez de jouer les Docteurs No”, si on admet que sa signification est une sorte d’état interne qui accom­pagnerait celle-ci chez celui qui la comprend? L’auteur de la phrase a pu dire avant: “Il a démissionné de la commission de censure.” On voit que le contexte linguistique et son insertion dans la trame complexe de la vie don­nent à une telle phrase sa signification. La phrase précédente aurait un sens très différent si elle était suivie de celle-ci: “Il ne voulait plus tenir à l’écran des rôles de méchants.” Ainsi faut-il opposer les “théories de la significa­tion interne” et les “théories de la signification contextuelle”. Seules les premières sont de nature à induire une assimilation entre pensée et calcul.

   Le second argument peut être résumé comme suit: un langage est un dispositif fondé sur des règles et la notion de règle implique celle de correc­tion. Hobbes a par ailleurs soutenu que la pensée atteint son plus haut degré de clarté et de rationalité lorsqu’elle suit des règles. Or, d’où le langage mental tirera-t-il les siennes? Wittgenstein a souvent rappelé qu’une règle est pas séparable de ce que quelqu’un fait en l’appliquant: une règle ne fonctionne pas toute seule, sauf à confondre règle et mécanisme.

     On répliquera que le discours mental est mécanisé, comme peut l’être un calcul. Mais alors il s’agit de savoir comment un enchaînement purement mécanique de symboles peut être sémantiquement correct, autrement dit respecter les règles de signification. Qu’est-ce qui assure qu’il y ait coïnci­dence entre liaison sémantique et liaison causale? C’est ce que différents commentateurs ont appelé le paradoxe de la raison mécanique. 

Toute la question est de savoir comment la rationalité et la causalité mécanique (en principe aveugle au sens) peuvent se superposer au point que “penser” mécaniquement puisse aussi être penser rationnellement. Ce paradoxe n’est pas propre à Hobbes et bon nombre de théories matérialistes de l’esprit s’y sont trouvées confrontées. Haugeland résume ce point: “Soit le manipulateur tient compte du sens, auquel cas il ne peut pas être entièrement mécanique -parce que les significations n’exercent pas de force physique. Mais si le manipulateur ne tient pas compte du sens, ses manipulations ne peuvent pas être du raisonnement, parce que de ce qui est sensé et de ce qui ne l’est pas dépend la signification des symboles” (L’Esprit dans la machine, p. 43).

Ada Byron Lovelace, la Première Codeuse

   Au point où nous en sommes, nous voyons que la mécanisation du calcul n’est pas véritablement un problème. En revanche, celle de la pensée offre bien davantage matière à controverse. S’il en va ainsi, on peut mettre en doute l’idée que notre pensée repose sur des principes de calcul, mais aussi le fait qu’une créature calculante soit ipso facto une créature pensante. Nous allons voir maintenant de quelle façon l’invention de l’ordinateur a renou­velé le problème.

L’ordinateur et le cerveau. Une nouvelle image de la relation esprit/corps?

               Paul Gochet et Pascal Gribomont notent que: “les contraintes très astreignantes que les protagonistes de la logique for­malisée se sont imposées dans leur quête de rigueur coïncident largement avec les exigences que l’on doit satisfaire dans l’élaboration d’un program­me exécutable sur ordinateur” (Logique, méthodes pour l’informatique fon­damentale, p. 17). Nul ne doute, en effet, qu’un ordinateur soit une machine logique et que la connexion entre logique et informatique soit aujourd’hui fondamentale. Cela dit, si l’ordinateur a intéressé des spécialistes autres que ceux qui se consacrent à l’informatique, c’est qu’il est apparu à nombre d’entre eux comme la métaphore appropriée pour penser l’esprit: il a remplacé l’abaque de Hobbes. Le point important est que cette métaphore permet de poser à nouveaux frais la question tradition­nelle des relations corps/esprit. Pour ceux que la distinction cartésienne entre chose pensante et chose étendue n’a pas convaincus, l’analogie avec l’ordinateur est apparue comme une alternative suggestive.

Un ordinateur est en effet composé d’une base matérielle (hardware) et d’un programme (software). Ces deux niveaux sont relativement indépen­dants (on peut imaginer un même programme exécuté par deux machines matériellement dissemblables). De plus, il dispose d’un langage-machine par lequel il traite l’information et effectue les calculs demandés. Nombre d’auteurs en sont donc venus à penser que notre esprit était une sorte d’ordinateur biologique (il est fait de neurones et non point de silico­ne) et fonctionne selon des principes de calcul. On a parfois appelé computerationalisme cette doctrine, et ce vocable est le fruit d’une transposition en français du substantif anglais computer (ordinateur), lequel vient lui-même du verbe to compute (compter, calculer). Ainsi sera-t-on tenté de penser que le cerveau correspond au hardware et que le terme “esprit” ne renvoie pas à une réalité distincte mais correspond plutôt au software, autrement dit à la fonction (calcul, traitement de l’information) effectuée par la machine. C’est pourquoi on parle aussi volontiers de fonctionnalisme pour désigner cette ligne d’argumentation.

Dans Introduction aux sciences cognitives, Daniel Andler résume la posi­tion fonctionnaliste:

“(1) Le complexe esprit/cerveau est susceptible d’une double descrip­tion, matérielle ou physique et informationnelle ou fonctionnelle. (2) Au niveau informationnel, le système cognitif de l’homme est carac­térisé par ses états internes ou mentaux et par les processus qui conduisent d’un état au suivant. Ces états sont représentationnels: ils sont dotés d’un contenu renvoyant à des entités externes (on dit aussi qu’ils sont sémantiquement évaluables). (3) Les états ou représentations internes sont des for­mules d’un langage interne” (p. 13 -14).

La Machine à Différence

1843. Et si …

   Dire que les états représentationnels sont “sémantiquement évaluables” revient à dire qu’ils peuvent être vrais ou faux. Ce résumé donne une idée assez précise de l’assimilation moderne entre pensée et calcul. La difficulté de cette assimilation tient à ce qu’elle repose sur un pari: l’idée que là où il y a calcul, il y a représentation. Or ce point est loin de faire l’unanimité. Certains auteurs n’identifient aucunement les ordinateurs à des “systèmes cognitifs” comme peuvent l’être les humains et les animaux supérieurs. Ils ne font à leurs yeux que calculer des “symboles généraux”, ce qui permet de les employer à peu près à n’importe quoi (calculer des nombres, gérer des réservations, etc.). Le fond de l’affaire est que personne ne doute que les ordinateurs aient une syntaxe, mais les tenir pour  sémantiquement éva­luables est une autre paire de manches. Les significations sont supposées dépendre de la syntaxe de la machine, mais de quelle manière peuvent-elles le faire? On retrouve là l’énigme de la signification originaire.

La  chambre chinoise

    John Searle forge une expé­rience de pensée dite de la “chambre chinoise” pour anéantir cette convic­tion. Il imagine qu’il est enfermé dans une pièce avec différents paniers contenant des signes chinois. Dans un premier temps, il trouve auprès de lui un manuel en anglais lui permettant de combiner les symboles chinois. Ceux-ci sont donc associés entre eux uniquement en fonction de leur forme sans considération de leur sens (puisque, par hypothèse, le sujet est suppo­sé ignorer le chinois): ils sont donc combinés selon de pures règles de cal­cul. Dans un deuxième temps, des inconnus à l’extérieur de la chambre confient à Searle des instructions (en anglais) portant sur la manière dont il doit leur transmettre les phrases chinoises. Les inconnus à l’extérieur s’ap­pellent eux-mêmes “les programmeurs”, ils nomment Searle “l’ordina­teur” et le livre de règles dont celui-ci dispose “le programme”. Il se pour­rait bien, observe-t-il, que le prisonnier passe à terme pour un virtuose dans le maniement du chinois alors qu’il n’en comprend pas un traître mot. Et il en irait de même si on sollicitait un véritable ordinateur.

Le test de Turing

     Un lecteur un peu averti des questions touchant l’histoire de l’informatique aura certainement flairé qu’à travers cette expérience de pensée c’est le “jeu de Turing” et sa portée qui sont remis en cause. Alan Turing, en géné­ral considéré comme l’inventeur du concept d’ordinateur, écrit en 1950 un article “Les ordinateurs et l’intelligence” dans lequel il s’efforce de répondre à la même question que celle qu’abordera Searle trente ans plus tard. Autrement dit, il tente d’apporter une solution à la question “les machines peuvent-elles penser?”. Pour ce faire, il imagine un jeu dans lequel un interro­gateur questionne un interlocuteur inconnu sur les sujets les plus divers à l’aide d’un clavier sur lequel il tape des questions. L’interrogateur ignore si de l’autre côté du clavier se cache un humain ou une machine conçue pour répondre. S’il s’agit d’une machine et que cette dernière parvient à mainte­nir l’interrogateur dans l’illusion, quel que soit le sujet abordé, alors elle aura réussi ce qu’on appelle le “test de Turing universel” et Turing ne voit aucune raison en ce cas de dire qu’elle ne pense pas.

Décrypteur, U.S. Navy

Searle répond que la machine imaginée par Turing est dans la même situa­tion que le cobaye de la chambre chinoise: même si elle réussit le test uni­versel, il n’y a aucune raison de dire qu’elle comprend ses propres réponses. Turing se plaît à dire que la capacité à calculer est indépendante de la matiè­re dont nous sommes faits: ce qu’une machine calcule n’est pas différent de ce que pourrait faire un homme assis à un bureau et exploitant ses capa­cités -et ses neurones. Toutefois, la question reste entière: peut-on rem­placer “capacité à calculer” par ”capacité à penser” dans la phrase qui précède en préservant la vérité du propos? Turing eût répondu oui; Searle non. Nous avons une petite chance d’avancer dans ce débat si nous interro­geons l’expression “avoir une sémantique”.

Sémantique?

      Sur ce point, un détour s’impose par les remarques d’un autre détracteur de Turing, le philosophe Jerry Fodor: “La capacité d’une machine à réussir au jeu de Turing ne garantirait pas que cette machine soit capable d’intégrer à son comportement en cours les résultats de ses prétendues opérations mentales d’une façon qui se rap­proche en quoi que ce soit de celle normale chez l’homme” (L’explication en psychologie, p. 168).

  Une des questions déterminantes est ainsi de savoir si, outre le fait de parler, la machine serait capable de suivre des consignes dont l’exécution fait partie des capacités humaines les plus ordinaires. Il est trivial de rappe­ler que nous ne sommes pas de simples machines à calculer, indifférentes à nos occasions de penser et de souligner que, normalement, nos pensées, croyances, motifs, etc…, s’articulent à des conduites, entraînent des déci­sions, justifient des comportements. De sorte qu’il convient de se demander dans quelle mesure il est encore approprié d’attribuer de la pensée à une machine qui, comme le dit Fodor, ne serait pas capable d’intégrer le fruit de ses opérations mentales à ses séquences comportementales. En vérité, l’ambiguïté est déjà dans l’expression “à propos”.

En effet, les réponses calculées par la machine passant haut la main le test de Turing sont à-propos, mais seulement si on prend cette expression en un sens res­trictif, c’est-à-dire sans faire intervenir le contexte extra-linguistique de l’échange verbal. Turing se serait-il contenté d’une machine répondant per­tinemment à la question “Aimez-vous le thé chaud?” en disant “Je l’aime très chaud”, et qui aurait mis l’instant d’après la théière dans le freezer? Seul un androïde de science-fiction parviendrait peut-être à être à-propos en un sens non restrictif, en enchaînant des actions en cohérence avec ses paroles et ses opérations comportementales. Mais la bonne question à se poser est alors: serait-il encore une machine?

   Reste un dernier point à évoquer pour savoir ce qu’impose le fait “d’avoir une sémantique”, si l’on tient que les ordinateurs en sont dépourvus. Le détour précédent nous apporte la réponse: les mots et expressions de notre langage entrent dans de multiples jeux qui sont autant de jeux sociaux. Parler est lié au fait de marcher, d’écrire, de prendre l’autobus, etc …  Les termes qui composent le langage, à des degrés divers, sont liés à des formes d’action (voire collective), à des expériences, des pratiques. C’est à l’inté­rieur de ce réseau anthropologique complexe qu’ils trouvent leur séman­tique, et celle-ci ne peut être réduite à un état représentationnel interne. Nous retrouvons là l’opposition entre théorie interne de la signification et théorie contextuelle. Si on souscrit à une théorie du premier type, on se persuadera peut-être que la simulation par la machine de la capacité de parler peut aussi se présenter comme une simulation de la capacité de penser.  Si on souscrit à une théorie du deuxième type, on en demandera beaucoup plus pour accepter de dire qu’une créature pense.

Ada Byron Lovelace rencontre le Docteur Who, BBC.

    Si on aborde le calcul sous l’angle anthropologique, on s’aperçoit qu’il est lié à de nombreuses pratiques. De plus, il peut être effectué sur le papier ou de tête et on imagine volontiers que le calcul mental est simplement plus elliptique que son équivalent sur papier. Mais on ne les pense pas comme fondamentalement différents. On pense avec raison que ce qui peut être fait tacitement peut aussi l’être publiquement. “Calculer” est un faire, et le propre d’un faire est qu’on doit pouvoir en montrer le mode opératoire à autrui (nous nous inspirons librement de certaines remarques de Wittgenstein). C’est ce qui se produit dans une situation pédagogique: le calculateur chevronné qui habituellement brûle les étapes doit les expliciter l’une après l’autre pour instruire son élève. Toutes ces observations nous sont, à différents degrés, familières. Elles ont pourtant une conséquence inattendue, bien vue par Peter Hacker qui fait l’observation suivante: nous n’avons aucune hésitation à dire que quelqu’un calcule de tête (et certains traits comportementaux le suggèrent: mimique de concentration. etc.), mais peut-on en dire autant d’une machine? Si je déconnecte l’affichage de ma calculatrice tout en continuant à pianoter sur les touches, peut-on dire qu’elle calcule tacitement? La réponse de Hacker est négative. Après tout, ajoute-t-il, on pourrait connecter les sorties de la machine avec le clavier d’un synthétiseur en lieu et place de l’affichage. En actionnant les touches, je ferais alors de la musique ou, plus vraisemblable­ment, du bruit. On a donc raison de dire que la machine ne calcule pas men­talement et de se demander si, intrinsèquement, elle calcule tout court.

Être constitué de certaines molécules est une propriété intrinsèque de ma bai­gnoire. En revanche, le fait qu’un individu l’utilise pour se laver est une propriété extrinsèque de ladite baignoire, une fonction sociale. Il suffirait que tous les individus qui se lavent disparaissent pour que la propriété extrinsèque disparaisse aussi, mais la baignoire conservera ses molécules. On aura compris la conclusion vers laquelle nous nous acheminons: le fait de calculer est, pour une calculatrice, une propriété extrinsèque (liée à un usage), contrairement au silicone et au cuivre qu’on trouve lorsqu’on l’a démonté. Quant au cerveau, il convient de rappeler qu’il n’est pas un instrument dont on se sert, et que ce n’est pas à lui mais à une personne qu’on attribue la capacité de calculer, de compter de tête, etc …

  On voit donc à quel point on est mal inspiré de prendre le calcul comme le modèle de la pensée puisque les machines à calculer ne calculent pas: on les utilise pour calculer.

Affiche de Laurent Durieux pour le film Ex Machina

Le penser réduit à un appareil mathématique implique la consécration du monde comme sa propre mesure.