3. L'argument de la chambre chinoise de Searle

cliquer ici pour le résumé de 1000 mots -->  L'argument de la chambre chinoise de Searle

 Searle, J. R., & Duyckaerts, É. (1987). Document: Esprits, cerveaux et programmes. Quaderni, 1(1), 65-96.

Résumé : Cet article est une tentative d'explorer les conséquences de deux propositions. (1) L'intentionnalité chez les êtres humains (et les animaux) est le produit de caractéristiques causales du cerveau: certains processus cérébraux suffisent à l'intentionnalité. (2) Un programme d'ordinateur n'est jamais en soi une condition suffisante d'intentionnalité. L'argument principal de cet article vise à établir cette affirmation. La forme de l'argument est de montrer comment un agent humain pourrait implémenter le programme sans avoir toujours l'intentionnalité appropriée. Ces deux propositions ont les conséquences suivantes (3) L'explication de la façon dont le cerveau produit l'intentionnalité ne peut pas être qu'il le fait en mettant en œuvre un programme informatique. C'est une conséquence logique stricte de 1 et 2. (4) Tout mécanisme capable de produire une intentionnalité doit avoir des pouvoirs causaux égaux à ceux du cerveau. Ceci est censé être une conséquence insignifiante de 1. (5) Toute tentative de créer artificiellement une intentionnalité (IA forte) ne pourrait pas réussir simplement en concevant des programmes mais devrait dupliquer les pouvoirs causaux du cerveau humain. Cela découle de 2 et 4.

 

Harnad, S. (2001) What's Wrong and Right About Searle's Chinese RoomArgument? In: M. Bishop & J. Preston (eds.) Essays on Searle's Chinese Room Argument. Oxford University Press.

Résumé : L'argument de la chambre chinoise de Searle a montré une faille fatale dans le calcul (l'idée que les états mentaux ne sont que des états de calcul) et a contribué à inaugurer l'ère de la robotique située et de l'ancrage des symboles (bien que Searle lui-même croyait que la neuroscience était le seul moyen correct d'expliquer et comprendre l'esprit).

Lorsqu'en 1979, Zenon Pylyshyn, rédacteur en chef adjoint de The Behavioral and Brain Sciences (BBS, une revue de commentaires par les pairs que j'édite) m'a informé qu'il avait obtenu un article de John Searle (avec un titre peu engageant que Zenon, John et moi avons tous depuis oublié !), je ne peux pas dire que j'ai été particulièrement impressionné ; et une lecture rapide du bref manuscrit - qui semblait être une autre "objection de grand-mère" fastidieuse sur le pourquoi/comment nous ne sommes pas des ordinateurs - n'a rien fait pour améliorer cette impression.

 

L'article soulignait qu'un programme informatique « compréhension du chinois » ne comprendrait pas vraiment le chinois parce que quelqu'un qui ne comprendrait pas le chinois (par exemple, Searle lui-même) pourrait exécuter le même programme tout en ne comprenant pas le chinois ; par conséquent, l'ordinateur exécutant le programme ne comprendrait pas non plus le chinois. L'article a réfuté divers contre-arguments prima facie contre cela (principalement des variantes sur le thème que ce ne serait pas Searle mais "le système", dont Searle ne serait qu'une partie, ce serait en effet comprendre le chinois lorsque le programme était exécuté), mais tout cela me semblait trivial : oui, bien sûr, un programme inerte seul ne pouvait rien comprendre (donc Searle avait raison à ce sujet), mais sûrement un programme d'exécution pourrait faire partie de ce qu'un « système » compréhensif comme nous fait vraiment et est (donc la "réponse du système" avait également raison). 

 

L'article a été évalué (favorablement) et accepté sous le titre révisé "Minds, Brains, and Programs", distribué à une centaine de commentateurs potentiels dans toutes les disciplines et dans le monde, puis copublié en 1980 dans BBS avec vingt-sept commentaires et la réponse de Searle. Au cours des années qui ont suivi, d'autres commentaires et réponses ont continué d'affluer car, à ma grande surprise, l'article de Searle est devenu l'article cible le plus influent du BBS (et l'est toujours à ce jour) ainsi qu'un classique des sciences cognitives. (Lors de la Conférence de Rochester sur les programmes cognitifs (Lucas & Hayes 1982), Pat Hayes est allé jusqu'à définir les sciences cognitives comme "le programme de recherche en cours visant à montrer que l'argument de la salle chinoise de Searle est faux" -- "et idiot", je crois avait-il ajouté à l'époque).

 

Alors que les arguments et les contre-arguments n'arrêtaient pas d'augmenter au fil des ans, je me suis irrité d'être le seul sur la planète à ne pas avoir le droit (d'office, étant l'arbitre) d'essayer, même si je sentais que je pouvais régler le wagon de Searle si j'en avais l'occasion. , et mettre un terme à la polémique plutôt répétitive et non résolue. À la fin des années 80, je préparais ma propre critique, intitulée "Minds, Machines and Searle" (d'après "Minds, Machines, and Gödel", de Lucas [1961], un autre philosophe affirmant que nous ne sommes pas des ordinateurs), mais pas sûr où le publier (le BBS étant hors de question). L'une des accusations portées contre Searle par ses détracteurs était que sa critique erronée avait étouffé le financement de l'intelligence artificielle (IA), de sorte que le nouveau Journal of Experimental and Theoretical Artificial Intelligence (JETAI) semblait un lieu raisonnable pour ma propre critique de Searle, qui y parut donc en 1989.

 

Je n'ai jamais rien entendu de Searle au sujet de ma critique de JETAI, même si nous interagissions encore régulièrement en relation avec le Commentaire continu incessant sur son argument de chambre chinois (CRA) dans BBS, ainsi qu'un tout nouvel article cible de BBS (Searle 1990a) qui il a écrit spécifiquement pour souligner le 10e anniversaire de la SCR. Cette incapacité à entrer dans la mêlée aurait été beaucoup plus frustrante pour moi si un média radicalement nouveau pour Open Peer Commentary ne s'était pas ouvert en même temps : on m'avait attiré l'attention sur le fait que depuis le début des années 80, l'ARC avait été un sujet principal sur "comp.ai", un groupe de discussion sur Usenet. (Ce Global Graffiti Board for Trivial Pursuit devait avoir de multiples influences sur moi et BBS, et sur le futur cours de Learned Inquiry et Learned Publication, mais c'est une autre histoire [Harnad 1990a, 1991b; Hayes et al., 1992] nous ne nous intéressons ici qu'à son influence sur la saga Searle).

Se connecter à comp.ai au milieu des années 80 avec l'intention d'essayer de résoudre le débat avec ma propre critique quelque peu œcuménique de Searle (Searle a raison de dire qu'un programme d'exécution ne peut pas être tout ce qu'il y a à être un système de compréhension, mais à tort que un programme d'exécution ne peut pas faire partie d'un système de compréhension), à ma grande surprise, j'ai trouvé comp.ai étouffé par une telle litanie d'arguments anti-Searle incroyablement mauvais que j'ai trouvé que je devais passer tout mon temps d'antenne à défendre Searle contre ces non -starters au lieu de l'enterrer, comme j'avais l'intention de le faire. (Searle l'a remarqué cette fois, car apparemment il s'est également connecté à comp.ai à l'époque, m'encourageant [hors ligne] à continuer à mener le bon combat - ce qui m'a intrigué, car j'étais convaincu que nous étions sur des côtés opposés ).

Je n'ai jamais eu le temps d'enterrer Searle, car quand, après des mois à ne jamais essayer de clarifier les choses en réfutant les mauvaises réfutations à l'ARC, j'ai supplié Searle [hors ligne] de lire mon 'Minds, Machines and Searle' et sachez que nous étions des adversaires plutôt que des compagnons d'armes, malgré les apparences contraires sur comp.ai. Il m'a répondu que bien que mon article contienne des points sur lesquels des hommes raisonnables pourraient accepter de ne pas être d'accord, sur le point essentiel, celui que tout le monde était occupé à contester, je suis en fait d'accord avec lui -- alors pourquoi ne pas simplement sortir et le dire?

C'est alors que le jeton est tombé. Car il y avait quelque chose dans l'argument de la salle chinoise qui m'avait été évidemment juste depuis le début, et j'avais donc tout à fait pris cette partie pour acquise, me concentrant plutôt sur ce que je pensais que Searle avait tort; pourtant ce point d'accord essentiel était celui-là même que tout le monde contestait ! Et ne vous y trompez pas, si vous avez répondu à un sondage - dans le premier tour du commentaire BBS, dans le commentaire continu, sur comp.ai ou dans la littérature secondaire sur l'argument de la salle chinoise qui s'est accumulée au cours des deux décennies pour aujourd'hui (et culminant dans le présent livre) - l'écrasante majorité pense toujours que l'argument de la chambre chinoise est tout à fait faux, même parmi ceux qui conviennent que les ordinateurs ne peuvent pas comprendre ! En fait (je suis ouvert à la correction sur ce point), j'ai l'impression que, à part moi, les seuls qui professent accepter la validité du CRA semblent être ceux qui sont également persuadés par ce que j'ai appelé plus tôt les "objections de grand-mère". " -- le genre d'amis à la tête douce qui font encore plus de mal à son cas que ses ennemis.

Alors, qu'est-ce que cette ARC, et qu'y a-t-il de bien et de mal à ce sujet ? Searle est certainement en partie responsable des deux décennies de malentendus concernant son argumentation sur la compréhension. Il n'a pas toujours dit les choses de la façon la plus claire. Pour commencer, il a baptisé comme cible une position que personne n'était tout à fait prêt à posséder pour être la sienne : "Strong AI".

Qu'est-ce que "l'IA forte" ? Comme distillé des différentes incarnations successives du CRA (oral et écrit : Searle 1980b, 1982, 1987, 1990b), les partisans de Strong AI sont ceux qui croient en trois propositions :

(1*) L'esprit est un programme informatique.

(2*) Le cerveau n'est pas pertinent.

(3*) Le test de Turing est décisif.

C'est ce trio de principes que l'ARC entendait réfuter. (Mais bien sûr, tout ce qu'il pouvait réfuter était leur conjonction. Certains d'entre eux pourraient encore être vrais même si le CRA était valide). Je vais maintenant reformuler (1*) - (3*) afin qu'ils soient les principes reconnaissables du computationalisme, une position (contrairement à "Strong AI") qui est en fait défendue par de nombreux penseurs, et donc qui mérite d'être réfutée, si elle est fausse (Newell 1980; Pylyshyn 1984; Dietrich 1990).

Le calculalisme est la théorie selon laquelle la cognition est un calcul, que les états mentaux ne sont que des états computationnels. En fait, c'est ce que le principe (1) aurait dû être :

(1) Les états mentaux ne sont que des implémentations du (des bon) programme(s) informatique(s). (Autrement dit : les états mentaux ne sont que des états computationnels).

Si (1*) avait été formulé de cette manière en premier lieu, il aurait devancé les objections selon lesquelles le code inerte n'est pas un esprit : bien sûr, les symboles sur une feuille de papier ou sur un disque ne sont pas des états mentaux. Le code - le bon code (en supposant qu'il existe) - doit être exécuté sous la forme d'un système dynamique s'il doit s'agir d'un état mental.

Le deuxième principe a conduit à encore plus de malentendus. Comment le cerveau peut-il être sans rapport avec les états mentaux (surtout les siens !) ? Doit-on croire que si l'on enlève le cerveau, ses états mentaux perdurent quelque part, comme le sourire du chat du Cheshire ? Ce que Searle voulait dire, bien sûr, n'était que la distinction matériel/logiciel standard : un état computationnel est indépendant de l'implémentation. Venons-nous de contredire le principe (1) ?

(2) Les états computationnels sont indépendants de l'implémentation. (Le logiciel est indépendant du matériel).

Si nous combinons (1) et (2), nous obtenons : les états mentaux ne sont que des implémentations indépendantes de la mise en œuvre des programmes informatiques. Ce n'est pas contradictoire. Le programme informatique doit être physiquement implémenté en tant que système dynamique afin de devenir l'état computationnel correspondant, mais les détails physiques de l'implémentation ne sont pas pertinents pour l'état computationnel qu'ils implémentent - sauf qu'il doit y avoir une certaine forme d'implémentation physique . Des systèmes physiques radicalement différents peuvent tous implémenter un seul et même système de calcul.

L'indépendance de la mise en œuvre fait en effet partie à la fois de la lettre et de l'esprit du calculalisme. Il fut même un temps où les informaticiens pensaient que la distinction matériel/logiciel éclairait (si elle ne résolvait pas carrément) le problème esprit/corps : la raison pour laquelle nous avons ce problème de longue date pour comprendre comment les états mentaux pouvaient être juste des états physiques, c'est qu'ils ne le sont pas ! Les états mentaux ne sont que des états computationnels, et les états computationnels sont indépendants de l'implémentation. Ils doivent être physiquement mis en œuvre, bien sûr, mais ne cherchez pas la mentalité en la matière (le matériel) : c'est le logiciel (le programme informatique) qui compte.

Si Searle avait formulé le deuxième principe du computationalisme de cette manière explicite, non seulement la plupart des informaticiens de l'époque auraient dû se reconnaître comme sa cible légitime, non seulement cela aurait repoussé les faux-fuyants quant à la non-pertinence des cerveaux pour leur propre mental. états, ou sur le fait qu'il n'y avait aucun besoin d'une implémentation physique, mais cela aurait clairement exposé le ventre mou du calculalisme, et donc la véritable cible du CRA de Searle : car c'est précisément sur la force de l'indépendance de la mise en œuvre que le calculalisme rester debout ou tomber.

La propriété critique est la transitivité : si toutes les implémentations physiques d'un seul et même système de calcul sont effectivement équivalentes, alors lorsque l'une d'entre elles a (ou manque) une propriété de calcul donnée, il s'ensuit qu'elles le font toutes (et, selon le principe (1 ), être un état mental n'est qu'une propriété de calcul). Nous y reviendrons. C'est ce que j'ai appelé « le périscope de Searle » sur la barrière normalement impénétrable des « autres esprits » (Harnad 1991a) ; c'est aussi ce ventre mou du computationalisme. Mais d'abord, nous devons fixer le principe (3 *).

En fait, textuellement, le principe (3*) n'est pas tant trompeur (dans le sens où (1*) et (2*) étaient trompeurs) qu'il est incomplet. Il aurait dû se lire :

(3) Il n'y a pas de test empirique plus fort pour la présence d'états mentaux que l'indiscernabilité de Turing ; par conséquent, le test de Turing est le test décisif pour une théorie computationnelle des états mentaux.

Cela n'implique pas que réussir le test de Turing (TT) soit un garant d'avoir un esprit ou que l'échouer soit un garant d'en manquer. Cela signifie simplement que nous ne pouvons pas faire mieux que le TT, empiriquement parlant. Quelle que soit la réalité de la cognition - qu'il s'agisse simplement de calcul, ou quelque chose de plus, ou autre chose - la science cognitive ne peut jamais être qu'une forme de "rétro-ingénierie" (Harnad 1994a) et la rétro-ingénierie n'a que deux types de données empiriques en passant : structure et fonction (cette dernière incluant toutes les capacités de performance). En raison du principe (2), le computationalisme a évité la structure ; cela ne laisse que la fonction. Et le TT demande simplement une équivalence fonctionnelle (en fait, une indiscernabilité fonctionnelle totale) entre le candidat rétro-conçu et la chose réelle.

Considérez la rétro-ingénierie d'un canard : un canard rétro-ingénierie devrait être impossible à distinguer d'un vrai canard à la fois structurellement et fonctionnellement : il devrait non seulement marcher, nager et cancaner (etc.) exactement comme un canard, mais il devrait aussi doivent ressembler exactement à un canard, tant à l'extérieur qu'à l'intérieur. Personne ne pouvait se quereller avec un candidat rétro-conçu avec succès comme ça; personne ne peut nier qu'une compréhension complète du fonctionnement de ce candidat équivaudrait également à une compréhension complète du fonctionnement d'un vrai canard. En effet, personne ne pouvait demander plus.

Mais on pourrait demander moins, et un fonctionnaliste pourrait se contenter de la marche, de la nage et du charlatanisme (etc., y compris tout ce qu'un canard peut faire d'autre), mais en ignorant la structure, c'est-à-dire à quoi elle ressemble, sur le à l'intérieur ou à l'extérieur, de quel matériau il est fait, etc. Appelons le premier type de canard rétro-conçu, celui qui est totalement indiscernable d'un vrai canard, à la fois structurellement et fonctionnellement, D4, et celui qui est indiscernable seulement fonctionnellement, D3.

Notez, cependant, que même pour D3, tous les détails structurels ne seraient pas sans importance : pour marcher comme un canard, quelque chose comme deux appendices en peluche sont nécessaires, et pour nager comme un seul, ils feraient mieux d'être quelque chose comme des palmés aussi. Mais même avec ces contraintes de couplage structure/fonction, viser la seule équivalence fonctionnelle laisse encore de nombreux degrés de liberté structurels ouverts. (Ces degrés de liberté se réduiraient encore plus si nous devenions plus minutieux au sujet de la fonction - mue, accouplement, digestion, immunité, reproduction - d'autant plus que nous approchions du niveau de la fonction cellulaire et subcellulaire. Il y a donc vraiment un continuum microfonctionnel entre D3 et D4 ; mais laissons cela de côté pour l'instant et restons-en à la macrofonction D3, principalement sous la forme de capacités de performance).

Le test de Turing est-il juste l'équivalent humain du D3 ? En fait, la version "correspondant" du TT, telle que Turing (1950) l'a formulée à l'origine, était encore plus macrofonctionnelle que cela - c'était l'équivalent de D2, nécessitant que le canard cancane. Mais dans le cas humain, le "charlatanisme" est une capacité de performance plutôt plus puissante et générale, et certains considèrent que son plein pouvoir expressif équivaut à, ou du moins qu'il s'appuie sur, notre pleine capacité cognitive (Fodor 1975 ; Harnad 1996a).

Appelons donc la version correspondante du test de Turing T2. Pour réussir le T2, un candidat rétro-conçu doit être Turing-indiscernable d'un vrai correspondant. Le principe de Searle (3) pour le calculalisme est à nouveau un peu équivoque ici, car il stipule que TT est le test décisif, mais cela signifie-t-il T2 ?

C'est le point où des hommes raisonnables pourraient commencer à être en désaccord. Mais supposons que ce soit T2 pour l'instant, en partie parce que c'est la version que Turing a décrite, et en partie parce que c'est celle que les informaticiens se sont montrés prêts à défendre. A noter que T2 couvre toutes les capacités cognitives qui peuvent être testées par des tests papier/crayon (raisonnement, résolution de problèmes, etc.) ; seules les capacités sensorimotrices (c'est-à-dire robotiques) (T3) sont omises. Et les capacités du correspondant sont à la fois grandeur nature et permanentes : le candidat doit pouvoir les déployer avec n'importe qui, indéfiniment, comme le ferait un vrai correspondant ; il ne s'agit pas ici de tours de passe-passe d'un soir (Harnad 1992) mais d'une réelle capacité de performance à taille humaine, indiscernable de la nôtre (Harnad 2000a).

Nous reformulons maintenant l'argument de la chambre chinoise de Searle en ces nouveaux termes : supposons que le calculalisme est vrai, c'est-à-dire que les états mentaux, tels que la compréhension, ne sont en réalité que des implémentations indépendantes de la mise en œuvre des états computationnels, et donc qu'un ordinateur passant par T2 serait ( entre autres) comprendre.

Notez qu'il existe de nombreuses façons de rejeter cette prémisse, mais recourir à l'une d'entre elles revient à accepter la conclusion de Searle, à savoir qu'un ordinateur passant par T2 ne comprendrait pas. (Sa conclusion est en fait plus forte que cela - trop forte, en fait - mais nous y reviendrons comme un autre des points sur lesquels des hommes raisonnables peuvent être en désaccord). Donc, si l'on rejette la prémisse qu'un ordinateur pourrait jamais passer T2, on fait le jeu de Searle, comme on le fait si l'on soutient que T2 n'est pas un test assez fort, ou que les détails de mise en œuvre ont de l'importance.

Alors acceptons la prémisse et voyons comment Searle arrive à sa conclusion. C'est là, après tout, que la plus grande partie de la chaleur des vingt dernières années a été générée. Searle va directement au ventre mou du computationalisme : l'indépendance de la mise en œuvre (principe (2)). En raison de (2), toute mise en œuvre de ce programme de passage en T2 doit avoir les états mentaux en question, s'il ne s'agit vraiment que d'états computationnels. En particulier, chacun d'eux doit comprendre. Assez juste. Mais maintenant, Searle fait ressortir sa pompe à intuition, ajoutant que nous devons imaginer cet ordinateur comme passant T2 en chinois ; et on nous demande de croire (parce que c'est vrai) que Searle lui-même ne comprend pas le chinois. Il ne reste plus qu'à noter que si Searle lui-même exécutait le programme informatique, il ne comprendrait toujours pas le chinois. Par conséquent (par (2)) l'ordinateur non plus, exécutant le même programme. Q.E.D. Le computationalisme est faux.

Maintenant, tout comme ce n'est pas une réfutation (mais plutôt une affirmation) de l'ARC que de nier que T2 est un test suffisamment fort, ou de nier qu'un ordinateur puisse jamais le réussir, c'est simplement un plaidoyer spécial pour essayer de sauver le calcul en stipulant ad hoc (face à l'ARC) que les détails de mise en œuvre comptent après tout, et que celui de l'ordinateur est le « bon » type de mise en œuvre, tandis que celui de Searle est le « mauvais » type. Cela revient à admettre que le principe (2) est faux après tout.

De la même manière, il ne sert à rien d'essayer de sauver le calcul en soutenant que Searle serait trop lent ou incompétent pour mettre en œuvre le programme de passage T2. Ce n'est pas un problème en principe, donc ce n'est pas une clause échappatoire pour le calculalisme. Certains ont fait un culte de la vitesse et du timing, estimant que, lorsqu'il est accéléré à la bonne vitesse, le calcul peut faire une transition de phase vers le mental (Churchland 1990). Il devrait être clair qu'il ne s'agit pas d'un contre-argument, mais simplement d'une spéculation ad hoc (tout comme l'opinion selon laquelle tout n'est qu'une question d'augmenter jusqu'au bon degré de "complexité").

Sur comp.ai (et même dans le commentaire original de 1980 sur Searle), certains de ces contre-arguments ad hoc ont été faiblement exprimés, mais de loin les plus tenaces des réfutations potentielles étaient des variantes de la réponse systémique, à l'effet qu'elle était déraisonnable de supposer que Searle devait être compréhensif dans ces conditions ; il ne serait qu'une partie du système de mise en œuvre, alors que ce serait le système dans son ensemble qui ferait la compréhension.

Encore une fois, il est regrettable que dans la formulation originale de l'ARC, Searle ait décrit la mise en œuvre du programme de passage T2 dans une pièce à l'aide de symboles et de règles de manipulation de symboles écrits partout sur les murs, car cela a ouvert la porte à la réponse des systèmes. Il a offert une réfutation préventive, dans laquelle il a suggéré aux systématistes que s'ils étaient vraiment prêts à croire que, alors que lui seul ne serait pas compréhensif dans ces conditions, la "salle" dans son ensemble, composée de lui et du symbole -des murs jonchés, seraient compréhensifs, alors ils devraient simplement supposer qu'il avait mémorisé tous les symboles sur les murs ; alors Searle lui-même serait tout ce qu'il y avait dans le système.

Cette variante décisive n'a pas empêché certains systématistes de recourir au contre-argument encore plus ad hoc selon lequel même à l'intérieur de Searle il y aurait un système, consistant en une configuration différente des parties de Searle, et que ce système serait en effet compréhensif. Cela revenait à conjecturer qu'à la suite de la mémorisation et de la manipulation de très nombreux symboles dénués de sens, la compréhension du chinois serait induite soit consciemment chez Searle, soit, à la manière d'une personnalité multiple, dans une autre entité consciente de compréhension du chinois à l'intérieur de sa tête. que Searle ignorait.

Je ne m'attarderai sur aucun de ces actes héroïques ; qu'il suffise de dire que même le créationnisme pourrait être sauvé par des spéculations ad hoc de cet ordre. (Ils montrent seulement que le CRA n'est pas une preuve ; pourtant, il reste la seule prédiction plausible basée sur ce que nous savons). Un pari plus intéressant consistait à concéder qu'aucune compréhension consciente ne se produirait dans ces conditions, mais que la compréhension inconsciente le serait, en vertu des calculs.

Ce dernier n'est pas une spéculation arbitraire, mais une notion révisée de la compréhension. Searle n'a vraiment aucune défense contre cela, car, comme nous le verrons (bien qu'il ne l'admette pas explicitement), la force de son ARC dépend entièrement du fait que la compréhension est un état mental conscient, dont on peut consciemment la présence ou l'absence (et donc honnêtement) vérifier et attester (le périscope de Searle). Mais Searle n'a pas non plus besoin de défense contre cette notion révisée de compréhension, car cela n'a de sens que de parler d'états mentaux inconscients (si cela a du sens) dans une entité autrement consciente. (Searle se dirigeait vers cette position dix ans plus tard en 1990a).

Les états inconscients dans les entités non conscientes (comme les grille-pain) ne sont pas du tout une sorte d'état mental. Et même dans les entités conscientes, les états mentaux inconscients feraient mieux d'être brefs ! Nous sommes prêts à croire que nous « connaissons » un numéro de téléphone lorsque, incapables de nous en souvenir consciemment, nous constatons que nous pouvons néanmoins le composer lorsque nous laissons nos doigts faire le tour. Mais se trouver capable d'échanger des lettres impénétrables toute sa vie avec un correspondant de cette manière ressemblerait plutôt à du somnambulisme ou au parler en langues (même le syndrome neurologique de "l'écriture automatique" n'a rien à voir avec cela ; Luria 1972) . Ce n'est certainement pas ce que nous entendons par "comprendre une langue", ce qui signifie sûrement une compréhension consciente.

La synonymie du "conscient" et du "mental" est au cœur du CRA (même si Searle n'en est pas encore pleinement conscient -- et même s'il l'a obscurcie en utilisant constamment le mot fouine "intentionnel" dans son lieu !) : Normalement, si quelqu'un prétend qu'une entité -- n'importe quelle entité -- est dans un état mental (a un esprit), il n'y a aucun moyen que je puisse le confirmer ou l'infirmer. C'est le problème des "autres esprits". Nous le « résolvons » les uns avec les autres et avec des espèces animales qui nous ressemblent suffisamment grâce à ce que l'on appelle la « lecture de l'esprit » (Heyes 1998) dans la littérature depuis qu'elle a été introduite pour la première fois dans le BBS deux ans avant l'article de Searle (Premack & Woodruff 1978). Mais bien sûr, la lecture de l'esprit n'est pas vraiment de la télépathie, mais du Turing-Testing - des inférences préparées biologiquement et de l'empathie basée sur des similitudes avec notre propre apparence, nos performances et nos expériences. Mais le TT n'est bien sûr pas une garantie ; elle ne donne rien de comparable à la certitude cartésienne que nous avons de nos propres états mentaux.

Pouvons-nous jamais expérimenter directement les états mentaux d'une autre entité ? Pas à moins que nous ayons un moyen de devenir réellement cette autre entité, et cela semble être impossible - à une exception très spéciale, à savoir, ce ventre mou du calcul : car bien que nous ne puissions jamais devenir une autre entité physique que nous-mêmes, s'il y a sont en effet des états mentaux qui se produisent uniquement en vertu d'être dans le bon état computationnel, alors si nous pouvons entrer dans le même état computationnel que l'entité en question, nous pouvons vérifier si oui ou non elle a les états mentaux qui lui sont imputés. C'est le périscope de Searle, et un système ne peut s'en protéger qu'en ne prétendant pas être dans un état mental uniquement parce qu'il est dans un état computationnel -- ou en renonçant à la nature mentale de l'état computationnel, en concédant que c'est juste un autre état inconscient (ou plutôt non conscient) - rien à voir avec l'esprit.

Le calculalisme était très réticent à abandonner l'un ou l'autre de ces éléments; le premier serait passé à la conversion du calculalisme au "mise en œuvre" pour sauver le mental - et ce serait simplement de rejoindre le monde matériel des systèmes dynamiques, dont le calcul avait espéré faire abstraction. Le second serait allé jusqu'à renoncer complètement au mental.

Mais il y a aussi un sens dans lequel la réponse des systèmes a raison, car bien que l'ARC montre que la cognition ne peut pas être uniquement computationnelle, elle ne montre certainement pas qu'elle ne peut pas être computationnelle du tout. Ici, Searle semble avoir tiré des conclusions plus solides que ne le justifiait l'ARC. (Ce n'était pas nécessaire : montrer que les états mentaux ne peuvent pas être simplement computationnels était assez fort !) Mais il pensait avoir montré plus :

Searle pensait que l'ARC avait invalidé le test de Turing en tant qu'indicateur des états mentaux. Mais nous avons toujours su que le TT était faillible ; comme l'ARC, ce n'est pas une preuve. De plus, c'est seulement T2 (et non T3 ou T4 REFS) qui est vulnérable à l'ARC, et même cela uniquement pour le cas particulier d'un candidat purement informatique indépendant de la mise en œuvre. L'ARC ne s'opposerait pas à un système de transmission T2 non informatique; cela ne fonctionnerait pas non plus contre un système hybride, informatique / non informatique (REFS), pour la simple raison que dans aucun des cas Searle ne pourrait être le système entier; Le périscope de Searle échouerait. Non pas que les systématiciens devraient s'en réjouir, car si la cognition est hybride, le calculalisme est toujours faux.

Searle allait également trop loin en concluant que l'ARC redirige notre champ d'enquête du calcul vers la fonction cérébrale : il existe encore de nombreux degrés de liberté dans les approches hybrides et non computationnelles de la cognition par rétro-ingénierie sans nous contraindre à rétro-concevoir le cerveau. (T4). Les neurosciences cognitives ne peuvent donc pas non plus se fier au CRA. C'est seulement une approche très étroite qui a été discréditée : le computationalisme pur.

La contribution de Searle n'a-t-elle été que négative ? En montrant que la route purement computationnelle ne mènerait pas à Londres, nous a-t-il laissé aussi incertains qu'auparavant quant à la bonne route vers Londres ? Je ne pense pas, car sa critique a contribué à ouvrir les perspectives que l'on appelle maintenant la "cognition incarnée" et la "robotique située", et elles m'ont certainement poussé vers la voie hybride des systèmes de symboles ancrés dans le monde sensorimoteur (T3) avec les neurones. filets.

Et Granny s'est vue donner une raison beaucoup plus dure de croire ce qu'elle savait depuis le début : que nous ne sommes pas (seulement) des ordinateurs (Harnad 2000b, 2001).

Références (sont dans la version anglaise)

2021: VIDÉO DU Cours 16 février

PPT 2019:

Vidéo langue anglaise
http://www.youtube.com/watch?v=l7fsQkmcuSI

see also:

Click here --> SEARLE VIDEO