Harnad, S. (2012) Alan Turing and the “hard” and “easy” problem of cognition: doing and feeling. [in special issue: Turing Year 2012] Turing100: Essays in Honour of Centenary Turing Year 2012, Summer Issue
RÉSUMÉ : Le problème « facile » des sciences cognitives consiste à expliquer comment et pourquoi nous pouvons faire ce que nous pouvons faire. Le problème "difficile" est d'expliquer comment et pourquoi nous nous sentons. La méthodologie de Turing pour les sciences cognitives (le test de Turing) est basée sur l'action : concevez un modèle qui peut faire tout ce qu'un humain peut faire, indistinctement d'un humain à un humain, et vous avez expliqué la cognition. Searle a montré que le modèle réussi ne peut pas être uniquement informatique. Des capacités robotiques sensori-motrices sont nécessaires pour ancrer certains, au moins, des mots du modèle, dans ce que le robot peut faire avec les choses du monde dont parlent les mots. Mais même la mise à la terre n'est pas suffisante pour garantir que - ni pour expliquer comment et pourquoi - le modèle ressent (si c'est le cas). Ce problème est beaucoup plus difficile à résoudre (et peut-être insoluble).
Alan Turing a apporté d'innombrables contributions inestimables et éternelles à la connaissance - l'ordinateur, le calcul, les limites de la prouvabilité, les réseaux de neurones, le test de Turing, la rupture du code Enigma qui a aidé à sauver le monde de la tyrannie nazie - avant que l'indicible injustice et l'ingratitude ne mettent fin à son court métrage. la vie.
Je veux m'étendre sur un seul fil dans tout ce qu'il a fait : le test de Turing a établi le programme de ce que l'on a appelé plus tard la "science cognitive" - la rétro-ingénierie de la capacité des humains (et des autres animaux) à penser.
C'est quoi penser ? Ce n'est pas quelque chose que nous pouvons observer. Ça se passe dans nos têtes. Nous le faisons, mais nous ne savons pas comment nous le faisons. Nous attendons que les sciences cognitives nous expliquent comment nous -- ou plutôt nos cerveaux -- le faisons.
Ce que nous pouvons observer, c'est ce que nous faisons et ce que nous sommes capables de faire. La contribution de Turing était de rendre assez explicite que notre objectif devrait être d'expliquer comment nous pouvons faire ce que nous pouvons faire en concevant un modèle qui peut faire ce que nous pouvons faire, et peut le faire si bien que nous ne pouvons pas distinguer le modèle d'un autre. de nous, sur la seule base de ce qu'il fait et peut faire. Le mécanisme causal qui génère la capacité de faire du modèle sera l'explication de la pensée, de l'intelligence, de la compréhension, de la connaissance - tous de simples exemples ou synonymes de : cognition.
Turing a en fait formulé (ce qui a fini par être appelé) le test de Turing (TT) quelque peu différemment. Il l'a appelé le "jeu d'imitation", et afin d'exclure tout parti pris qui pourrait influencer notre jugement en raison de l'apparence du candidat TT - plutôt que simplement de ce qu'il pouvait faire - le test devait être purement verbal, via l'échange de messages écrits, le candidat hors de vue. Aujourd'hui, nous dirions que le test devait être effectué par e-mail : concevez un système qui peut communiquer par e-mail, en tant que correspondant, indistinctement d'un humain à un humain, et vous avez expliqué la cognition.
Des questions se posent : (1) Communiquer sur quoi ? (2) combien de temps ? (3) avec combien d'humains ?
Les réponses, bien sûr, sont : (1) Communiquer sur tout ce dont tout humain peut communiquer verbalement par e-mail, (2) pour toute une vie, et (3) avec autant de personnes qu'un être humain est capable de communiquer.
C'est un défi de taille, et il laisse encore ouverte la quatrième question : (4) Comment ? La réponse, bien sûr, sera de concevoir le modèle gagnant, et la science cognitive est loin d'être en mesure de le faire, mais il y a une sous-question sur le type de système que sera le modèle gagnant.
Beaucoup de gens ont supposé que Turing voulait dire et s'attendait à ce que le passeur TT soit un système purement informatique. Le calcul, comme Turing nous l'a enseigné, est la manipulation de symboles (par exemple, des 0 et des 1, mais ils peuvent aussi être des mots) sur la base de règles purement formelles qui n'opèrent que sur les formes des symboles, pas sur leur signification (c'est-à-dire la syntaxe , pas de sémantique).
Un exemple d'une telle règle formelle basée sur la forme est : IF YOU READ "1 + 1 =" THEN WRITE "2".
Vous n'avez pas besoin de savoir ce que "1" ou "+" signifie pour suivre cette règle. Vous avez juste besoin de savoir quoi faire avec les formes.
C'est du calcul. Et c'est essentiellement ce que fait une "machine de Turing" (le précurseur abstrait de l'ordinateur).
Mais Turing voulait-il vraiment dire qu'il pensait que la cognition se révélerait n'être qu'un calcul ? Les «computationalistes» parmi les scientifiques cognitifs contemporains pensent que la cognition n'est que du calcul, mais je ne pense pas que Turing l'ait fait. Le test de Turing, tel qu'il l'a décrit, n'était qu'un test de correspondance par courrier électronique : uniquement des symboles entrants et des symboles sortants. Cela laisse la possibilité que la seule chose nécessaire entre les deux, pour réussir le test, soit la manipulation de symboles (calcul).
Mais le philosophe John Searle a montré, avec sa célèbre expérience de pensée « Chinese Room », que cela ne peut pas être vrai : la cognition ne peut pas être simplement du calcul. Car si un simple programme informatique suffisait pour réussir le test de Turing, Searle lui-même pourrait montrer que cela ne générerait pas de compréhension dans le système qui passait le test de Turing :
Searle nous demande de supposer que le test de Turing (TT) est réalisé en chinois (courriel chinois, avec de vrais correspondants chinois). Maintenant, puisque le calcul n'est que des règles pour manipuler des symboles en fonction de leurs formes, et non de leur signification, Searle lui-même pourrait mémoriser et exécuter ce même programme informatique passant par TT, mais il ne comprendrait pas le chinois. Mais l'ordinateur qui exécutait le programme de passage du TT non plus. La cognition n'est donc pas seulement un calcul.
Que manque-t-il pour que les symboles aient un sens, que les mots et les pensées aient un sens pour nous ? J'ai surnommé cela le "problème de mise à la terre des symboles": Considérez un dictionnaire chinois-chinois. Il définit tous les mots en chinois. Mais si vous ne connaissez pas déjà au moins la signification de certains mots chinois, les définitions des symboles sans signification ne conduisent qu'à plus de symboles sans signification, pas à la signification. Certains des symboles, au moins, doivent être «fondés» sur ce que les symboles désignent directement, plutôt que simplement via des définitions verbales formelles et dénuées de sens.
Considérez la chaîne de symboles "'zèbre' = 'cheval' + 'rayures'." Pour pouvoir comprendre cette définition, vous devez déjà savoir ce que signifient "cheval" et "rayures". Et cela ne peut pas continuer via des définitions jusqu'au bout ("rayures" = "horizontales" + "lignes", etc.). Certains mots doivent être fondés directement sur notre capacité à reconnaître, catégoriser, manipuler, nommer et décrire les choses du monde que les mots désignent. Cela va au-delà du simple calcul, qui n'est qu'une manipulation formelle de symboles, pour atteindre la dynamique sensorimotrice, c'est-à-dire non seulement la capacité verbale mais la capacité robotique.
Je ne crois donc pas que Turing était un informaticien : il ne pensait pas que penser n'était que calcul. Il était parfaitement conscient de la possibilité que pour pouvoir passer le TT verbal (seulement symboles entrants et symboles sortants), le système candidat devait être un robot sensorimoteur, capable de faire beaucoup plus que les tests TT verbaux directement, et puiser dans ces capacités dynamiques pour réussir le TT verbal.
Mais bien que Turing n'était pas un informaticien de la cognition, il était néanmoins un informaticien dans le sens plus général qu'il croyait que presque n'importe quelle structure ou processus physique et dynamique (y compris le mouvement planétaire, les réactions chimiques et la dynamique sensorimotrice robotique) pouvait être simulé et approximée par le calcul d'aussi près que nous le souhaitons. C'est ce qu'on appelle la version physique de la thèse "Church-Turing" (CT). (La version mathématique de CT est la thèse selon laquelle
La définition formelle du calcul de Turing - la machine de Turing - peut faire tout et n'importe quoi que les mathématiciens font lorsqu'ils "calculent" quelque chose.)
Le CT physique n'implique pas, cependant, que tout dans le monde physique n'est que calcul, car tout le monde sait qu'une simulation informatique de (disons) un avion, n'est pas un avion, volant (même s'il peut simuler le vol assez bien pour aider tester et concevoir des prototypes d'avions par calcul, sans avoir à les construire et à les tester physiquement, et même si le calcul peut générer une simulation de réalité virtuelle que les sens humains ne peuvent pas distinguer de la réalité - jusqu'à ce qu'ils enlèvent leurs lunettes et leurs gants).
Searle souligne donc simplement qu'il en va de même pour les simulations informatiques de la cognition verbale : si elles peuvent être effectuées purement informatiquement, cela ne signifie pas que les calculs sont cognitifs.
Calculs conscients ? Qu'est-ce que ça veut dire ? Eh bien, pour répondre à cette question, nous devons nous tourner vers un autre philosophe : Descartes. Comment Searle sait-il qu'il ne comprend pas le chinois lorsqu'il réussit le TT chinois en mémorisant et en exécutant le programme informatique de passage du TT ? C'est parce que cela ressemble à quelque chose de comprendre le chinois. Et le seul qui sait avec certitude si ce sentiment (ou n'importe quel sentiment) se produit est le connaisseur - qui est dans ce cas Searle lui-même.
L'apport du célèbre « Cogito » de Descartes est que je peux être absolument certain que je connais quand je connais. Je peux douter de tout le reste, y compris de ce que ma connaissance semble me dire sur le monde, mais je ne peux pas douter que je connais quand je connais. Ce serait comme douter que j'ai mal aux dents alors que j'en ai mal aux dents : je peux douter que la douleur provienne de ma dent -- il peut s'agir d'une douleur référée de ma mâchoire -- je n'ai peut-être même pas de dent, ou une bouche ou un corps; il se peut qu'il n'y ait pas de monde extérieur, ni d'hier ou de demain. Mais je ne peux pas douter que ce que je ressens en ce moment est ce que je ressens en ce moment.
Eh bien, Searle ne ressent pas la compréhension des Chinois lorsqu'il passe le TT chinois. Il peut distinguer la véritable compréhension (comme il comprend l'anglais) du simple fait de passer par les mouvements : simplement faire ce qu'il faut faire.
Mais qu'en est-il alors du test de Turing, qui est basé uniquement sur les actions et la capacité d'action, indiscernables de la capacité d'action des êtres humains réels et connaissants ?
Turing était parfaitement conscient que générer la capacité de faire ne génère pas nécessairement la capacité de ressentir. Il a simplement souligné qu'expliquer le pouvoir de faire était le mieux que nous puissions jamais espérer faire, scientifiquement, si nous souhaitions expliquer la cognition. Le modèle réussi de passage du TT peut ne pas s'avérer purement informatique ; il peut être à la fois informatique et dynamique ; mais cela ne fait que générer et expliquer notre capacité de faire. Cela peut se sentir ou non.
Expliquer comment et pourquoi nous pouvons faire ce que nous pouvons faire est devenu le problème « facile » des sciences cognitives (bien que ce ne soit pas si facile, puisque nous sommes loin de le résoudre). Le problème "difficile" est d'expliquer comment et pourquoi nous ressentons - le problème de la conscience - et bien sûr nous sommes encore plus loin de le résoudre.
Avant d'afficher ta ciélo, il faut toujours lire les ciélos des autres (et surtout mes répliques) pour ne pas répéter ce qui a dèjà été dit.
ReplyDeleteCommencer chaque semaine en lisant le résumé (c. 1000 mots) au haut de sa page dans ce blogue. Préciser toujours sur quoi ta ciélo est basée: quelle lecture, ou quelle vidéo du cours?
Le texte de Harnad, S. (2012) Alan Turing and the “hard” and “easy” problem of cognition distingue deux types de problèmes en sciences cognitives. Le « problème facile » consiste à expliquer comment et pourquoi nous pouvons faire ce que nous faisons, tandis que le « problème difficile » cherche à expliquer comment et pourquoi nous ressentons, c’est-à-dire la conscience. Le test de Turing propose d’expliquer la cognition en concevant un modèle capable d’être indiscernable d’un humain dans ce qu’il fait. Cependant, comme le montre l’expérience de la « chambre chinoise » de Searle, un système peut manipuler des symboles correctement sans comprendre leur signification. Il faut donc un ancrage sensorimoteur pour donner un sens aux mots. Malgré cela, même un système capable d’agir correctement ne garantit pas qu’il ressente. Le ressenti est une expérience subjective accessible seulement à l’individu lui-même, comme l’illustre le cogito de Descartes, selon lequel on ne peut pas douter de ce que l’on ressent. Ainsi, expliquer le comportement ne suffit pas à expliquer la conscience, qui demeure un problème peut-être insoluble.
ReplyDeleteALEXANDRA, bon résumé. Le problème difficile est que lorsqu'on a fait la rétro-ingénierie de tout le savoir-faire d'un être qui pense (le problème facile), son ressenti semble être superflu, inexpliqué.
DeleteLe texte de Dubuc, Bruno (2016) met l’accent sur le problème difficile de la conscience, qui concerne l’expérience subjective. Même si l’on comprend les mécanismes neuronaux associés à un phénomène, cela n’explique pas pourquoi ces processus s’accompagnent d’un ressenti. Ce décalage, appelé « explanatory gap », montre qu’il manque une explication entre l’activité cérébrale et l’expérience vécue. Le problème difficile porte donc sur les qualia, c’est-à-dire la manière dont les choses sont ressenties de l’intérieur, comme la sensation de la « rougeur ». La question centrale devient alors de comprendre pourquoi l’activité cérébrale produit une expérience subjective plutôt que rien du tout.
ReplyDeleteALEXANDRA, c'est exact.
DeleteLe texte distingue deux grands problèmes en sciences cognitives. Le problème “facile” consiste à expliquer comment et pourquoi les êtres font ce qu’ils font, c’est-à-dire leurs comportements et leurs capacités (penser, parler, agir), comme dans le test de Turing. En revanche, le problème “difficile” concerne la conscience, définie comme le ressenti, soit les états internes, mentaux et subjectifs. Même si un modèle peut reproduire parfaitement les actions humaines, cela ne garantit pas qu’il ressente quelque chose. Ainsi, expliquer la cognition (agir) est possible scientifiquement, mais expliquer pourquoi et comment il y a une expérience consciente reste un problème beaucoup plus difficile, voire insoluble.
ReplyDeleteSARAH, c'est ça. Peut-il y avoir une explication en biologie évolutive pour le ressenti?
DeleteOui, la biologie évolutive peut expliquer en partie le ressenti, mais pas complètement. Elle permet de comprendre pourquoi le ressenti aurait été sélectionné : il offre un avantage adaptatif, comme éviter les dangers (douleur), rechercher ce qui est bénéfique (plaisir) ou mieux décider grâce aux émotions. Cependant, cette explication concerne surtout la fonction du ressenti. Elle n’explique pas pourquoi ces processus s’accompagnent d’une expérience subjective, c’est-à-dire le fait de ressentir quelque chose de l’intérieur. On peut imaginer des êtres qui agissent de la même façon sans ressentir. Ainsi, le ressenti reste lié au problème difficile de la conscience.
DeleteSARAH, tu parles ici des valeurs evolutives du renforcement, qui permet l'apprentissage et le comportement guidés par essai, erreur et renforcement +/-. Mais nos robots ont déjà ça. Pourquoi le renforcement ressenti?
DeleteLe texte sur le problème difficile m’amène à réfléchir à la différence entre agir de façon intelligente et ressentir réellement. Avec le test de Turing, on comprend que, si une machine agit comme un humain, on peut croire qu’elle pense. Mais est-ce que « faire comme un humain » veut vraiment dire « être comme un humain »?
ReplyDeleteL’exemple de la chambre chinoise de Searle montre qu’on peut manipuler des symboles sans les comprendre. Cela me fait penser que la cognition n’est pas seulement du calcul ou du traitement d’information.
Ce que je trouve complexe, c’est le « problème difficile » de la conscience. Comment expliquer pourquoi et comment on ressent quelque chose. Même si une machine parlait et agissait exactement comme nous, on ne pourrait pas savoir si elle ressent vraiment quelque chose. Comme l’explique Descartes, le ressenti est une expérience personnelle, accessible seulement à soi-même.
Il reste donc plusieurs questions. Est-ce que la science pourra un jour expliquer la conscience? Ou est-ce qu’il y aura toujours une part de mystère? Pour l’instant, j’ai l’impression qu’on peut expliquer ce que le cerveau fait, mais pas encore ce que ça fait de ressentir et d’être conscient.
NAOMIE, les humains, ainsi que la majorité, peut-être toutes les espèces animales ressentent, mais pourquoi? et comment? Se peut-il que c'est superflu?
DeleteJe pense qu’on peut imaginer que toutes les fonctions comportementales pourraient exister sans ressenti. Un système pourrait détecter un danger, réagir, apprendre et s’adapter sans nécessairement ressentir la peur. Cela suggère que le ressenti pourrait être superflu du point de vue fonctionnel.
DeleteMais chez nous, le ressenti semble toujours présent. On peut supposer qu’il a une utilité adaptative, mais il n’est pas clair que cette utilité nécessite réellement une expérience subjective.
L’évolution peut expliquer la sélection de comportements, mais pas pourquoi ils s’accompagnent d’un ressenti. Donc, soit le ressenti a un rôle causal réel que nous ne comprenons pas encore, soit il est présent sans jouer de rôle fonctionnel.
ADAM, c'est exact. Bienvenu au problème difficile.
DeleteLes humains, et probablement la plupart des animaux, ressentent des émotions comme la peur, la douleur ou le plaisir. La question est de savoir pourquoi et comment ces ressentis existent.
DeleteD’un point de vue évolutif, les émotions ne semblent pas inutiles. Elles ont un rôle important pour la survie. Par exemple, la peur aide à éviter les dangers, la douleur indique qu’il y a un problème dans le corps, et le plaisir pousse à répéter des actions utiles comme manger ou se reproduire. Donc, les ressentis semblent avoir une fonction claire comme aider l’organisme à s’adapter à son environnement.
Cependant, la question du comment nous ressentons reste difficile. Les sciences du cerveau expliquent certains mécanismes, mais elles n’expliquent pas encore pourquoi ces mécanismes s’accompagnent d’une expérience intérieure, d’un vécu personnel. C’est ce qu’on appelle le problème difficile de la conscience.
Peut-on dire que les ressentis sont superflus? Je ne le pense pas. Même si un système pourrait peut-être fonctionner sans conscience, dans les êtres vivants, les émotions semblent essentielles pour guider les actions, apprendre et prendre des décisions. Elles ne sont donc pas inutiles, mais font partie du fonctionnement normal du vivant.
Le texte de Harnad (2012) distingue « faire » et « ressentir », ce qui permet de délimiter plus précisément le champ explicatif des sciences cognitives. Dans la lignée d’Alan Turing, expliquer la cognition consiste à reproduire les capacités comportementales. Toutefois, même en dépassant le computationnalisme par l’ancrage sensorimoteur, l’explication demeure centrée sur des performances observables. Cependant, le ressenti n’appartient pas à ce registre. Il constitue une expérience subjective accessible uniquement en première personne, ce qui me parait rejoindre le problème des autres esprits. Il devient alors impossible de déterminer si un système qui « fait » comme un humain « ressent » réellement. Le problème difficile révèle que les explications fonctionnelles du problème facile, même complètes, laissent intacte la question du ressenti, montrant ainsi une limite interne de ce cadre explicatif selon moi.
ReplyDeleteMURIELLE, mais ce peut-il que l'évolution paresseuse ce donne la peine de produire quelque-chose de complètement inutile?
DeleteSi le ressenti était totalement inutile, il serait effectivement difficile d’expliquer pourquoi l’évolution l’aurait conservé. On peut donc supposer qu’il joue un rôle, par exemple dans l’orientation du comportement ou l’apprentissage. Toutefois, ça ne règle pas le problème difficile. Expliquer à quoi sert le ressenti ne permet pas d’expliquer concrètement pourquoi il est vécu subjectivement. Autrement dit, son utilité possible ne supprime pas le fossé explicatif, elle le laisse intact.
DeleteMURIELLE, tu ne remarques pas que ton raisonnement est complètement circulaire? Ressenti réfère à exactement la même chose que vécu subjectivement. Et « on peut supposer » n'est pas une explication.
DeleteLe texte de Chalmers (2010) radicalise le problème de la conscience en montrant que même une explication complète des fonctions cognitives ne suffirait pas à expliquer l’expérience subjective. L’argument du zombie philosophique est particulièrement pertinent, car il propose qu’un système peut être fonctionnellement identique à un humain sans rien ressentir, ce qui suggère que les propriétés phénoménales ne sont pas réductibles aux propriétés physiques. Chalmers propose alors de considérer la conscience comme une propriété fondamentale. Cette position me semble convaincante dans la mesure où elle préserve le ressenti sans le réduire. Toutefois, elle transforme la conscience en postulat plutôt qu’en résultat d’explication, ce qui en limite la portée. Elle semble ainsi moins résoudre le problème difficile que le reformuler en l’intégrant aux principes de base de la théorie.
ReplyDeleteMURIELLE, bonne réplique à Chalmers: il ne fournit pas une explication causale, juste une redéfinition métaphysique.
DeleteLe cœur du problème difficile est un problème de causalité et de libre arbitre, comme le démontre l’expérience de l’horloge. Dans cette expérience, le sujet est placé devant une horloge. Sa tâche consiste à observer l’aiguille et à appuyer sur un bouton à un moment qu’il aura choisi, tout en notant l’heure précise à laquelle il pense avoir pris la décision d’appuyer sur le bouton.
ReplyDeleteDans cette expérience, trois données sont recueillies. Il y a le moment exact où le sujet appuie sur le bouton, le potentiel de préparation (c’est-à-dire l’activité cérébrale précédant l’action), et enfin l’heure que le sujet affirme comme étant celle de sa décision, qui diffère de l’heure exacte mesurée.
Les deux premières variables sont des données mesurables qui relèvent du problème facile. La dernière variable, quant à elle, concerne le problème difficile.
Quel est l’élément causal qui pousse le sujet à appuyer sur le bouton ? Pourquoi faut-il avoir le désir d’appuyer sur le bouton ? Quel est le mécanisme causal qui amène une personne à prendre cette décision ? Pourquoi le mécanisme cérébral menant à l’action n’est-il pas, en soi, suffisant ? Quelle est l’utilité d’avoir le désir d’appuyer sur le bouton ? Pourquoi l’action mécanique d’appuyer sur un bouton doit-elle être accompagnée du ressenti de vouloir le faire ?
Ce sont là des questions reliées au problème difficile.
BENJAMIN, excellente critique!
DeleteÉtienne affirme qu’il est impossible de résoudre le problème difficile à l’aide de mécanismes causaux. Un robot T3 peut très bien dire que le chat est sur le tapis en distinguant le chat du tapis, mais il n’a pas le ressenti de ce que signifie comprendre que le chat est sur le tapis.
ReplyDeleteDe même, chez Searle, savoir comment on se sent lorsqu’on comprend le chinois ne se réduit pas à une explication fonctionnelle de cette compréhension. L’explication fonctionnelle de ce que signifie comprendre le chinois ne remplace pas l’expérience vécue de cette compréhension.
Ce ressenti, extrêmement difficile à expliquer, demeure néanmoins une certitude. Il ne découle pas d’une chaîne d’éléments causaux, mais semble plutôt émerger dans notre esprit.
Une chose est sûre : le ressenti est une propriété biologique, puisqu’il dépend du monde physique pour exister. Sans cerveau, et donc sans mécanismes causaux, il n’y a tout simplement aucun ressenti pos
BENJAMIN, je suis d'accord avec toi -- mais raconte-ça à ceux qui croient aux forces sprituelles, surnaturelles, métaphysiques...
DeleteCielo de la semaine 10
ReplyDeleteSelon ma lecture du texte de Stevan Harnad, il existe deux grands problèmes en sciences cognitives :
• Le problème « facile » consiste à expliquer comment les humains agissent, parlent et pensent (leurs comportements).
• Le problème « difficile » consiste à expliquer pourquoi et comment nous ressentons des choses (la conscience).
Alan Turing propose de comprendre la cognition avec le test de Turing, qui consiste à créer une machine capable d’agir comme un humain. Si l’on ne peut pas faire la différence entre l’humain et la machine, on considère que cette dernière « pense ».
Cependant, John Searle montre que réussir ce test ne garantit pas la compréhension. Avec son exemple de la chambre chinoise, il explique qu’un système peut manipuler des symboles sans en comprendre le sens.
Pour résoudre ce problème, Harnad propose que les mots soient reliés au monde réel (expériences, actions), ce qui correspond au problème de la mise à la terre des symboles.
Même avec cette approche, une question reste sans réponse :
Pourquoi ressentons-nous quelque chose?
Ce problème de la conscience est aussi étudié par David Chalmers, qui affirme qu’expliquer le fonctionnement du cerveau ne suffit pas à expliquer l’expérience subjective.
Enfin, les recherches de Benjamin Libet montrent que certaines décisions sont prises inconsciemment avant que nous en soyons conscients, ce qui remet en question notre impression de contrôler nos actions.
Questions:
1. Si une machine peut agir exactement comme un humain, peut-on vraiment dire qu’elle pense, même sans conscience ?
2. Le problème de la conscience (le ressenti) pourra-t-il un jour être expliqué scientifiquement, ou restera-t-il mystérieux ?
3. Les expériences de Libet signifient-elles que nous n’avons pas de libre arbitre, ou seulement qu’il est limité ?
JOCELYNE, Searle ne parlait que de tester le T2 chinois, pas le T3. Pourquoi? C’est quoi la différence?
DeleteQ1: Il y a 3 niveaux au test de Turing. Il faut les distinguer. Mais même si un robot réussit T3 (ou même T4 (c’est quoi?) ça ne solutionne que le problème facile (c’est quoi?), pas le problème difficile (pourquoi pas?).
Q2: Je ne sais pas.
Q3: C’est quoi le libre arbitre et les expériences de Libet? Ce qu’elles montrent (peut-être) c’est que le cerveau déclenche un mouvement volontaire avant qu’on ait encore le ressenti de l’avoir voulu. h
Dans le texte « Le problème difficile de la conscience (le ressenti) » de Harnad, il mentionne principalement qu’est-ce que c’est que de penser en évoquant deux problèmes distincts en sciences cognitives : le problème « facile » et le problème « difficile ». Le problème « facile » explique comment et pourquoi les humains peuvent faire ce qu’ils peuvent faire, alors que le problème « difficile » explique comment et pourquoi nous pouvons ressentir. Nous savons que nous pouvons penser, malgré qu’on ne sache pas comment on fait ; on ne peut pas observer notre propre pensée non plus. Par exemple, Searle se questionnant sur le fonctionnement de la cognition et si C = C, il a ressenti en manipulant les symboles chinois dans l’ordinateur (test de Turing) qu’il ne comprenait tout de même pas la langue chinoise. Il sait qu’il peut manipuler n’importe quel symbole dans la machine et il sait aussi qu’il ne comprendra pas le chinois comme résultat.
ReplyDeleteUne distinction qui mérite davantage de réflexion est celle entre « ressentir » et « penser ». C’est une question nuancée, parce que penser est un état ressenti : on sait que cela « fait quelque chose » (« feels like something ») de penser. Comprendre une langue est également un état ressenti. John Searle sait (avec la certitude cartésienne de l’introspection) qu’il comprend l’anglais lorsqu’il est en train d’écrire ou de lire en anglais ; mais lorsqu’il est en train d’écrire ou de lire le chinois (grâce à avoir mémorisé les règles de manipulation de T2 et à les exécuter dans sa tête), il sait (encore avec la certitude cartésienne de l’introspection) qu’il ne comprend pas le chinois. Mais ce n’est que l’hypothèse que C = C qui permet d’en tirer cette conclusion.
DeleteEn me basant sur le texte de Harnad, je comprends que même si on réussissait à expliquer complètement tout ce qu’un être humain peut faire, le ressenti resterait un problème à part. Ce qui me frappe, c’est l’idée que le ressenti pourrait être, en quelque sorte, inutile du point de vue fonctionnel. Un système pourrait agir, apprendre et réagir exactement comme nous sans rien ressentir. Pourtant, chez nous, le ressenti est toujours présent. Ça crée une tension : pourquoi quelque chose d’aussi central ne semble jouer aucun rôle explicable? Je me demande alors si le ressenti a une fonction cachée ou s’il échappe complètement à l’explication scientifique.
ReplyDeleteCe que je retiens surtout, c’est que même si on arrivait à expliquer complètement tout le savoir-faire d’un être humain, il resterait encore la question du ressenti. Le problème facile consiste à expliquer comment un être peut faire ce qu’il fait : parler, comprendre, apprendre, agir. Mais le problème difficile commence justement quand toute cette rétro-ingénierie est faite et qu’on se demande encore pourquoi cela s’accompagne d’une expérience vécue. Le texte montre donc que réussir le test de Turing ne suffit pas à expliquer la conscience. On peut peut-être reproduire le doing, sans pour autant expliquer le feeling. Ce qui me trouble, c’est que le ressenti semble central pour nous, mais en même temps superflu dans l’explication fonctionnelle.
ReplyDeleteProblème facile est « Comment et pourquoi est-ce que les humains sont capables de faire ce qu’ils sont capables de faire? ».
ReplyDeleteProblème difficile : Comment et pourquoi le cerveau ressent-il ? Est-ce que la computation est seulement capable de simuler tout ce que peut faire un penseur ou est-ce qu’elle peut aussi générer le ressentie de ce dernier ?
Le problème est potentiellement insoluble, et cela est très probablement une cause du problème des autres esprits. Alors que Turing pensait que la cognition pouvait être expliquée à l’aide d’un modèle capable de répliquer les actions et les comportements des humains, Searle a prouvé que la simple capacité à manipuler les symboles ou des algorithmes ne signifiait pas que la machine était réellement capable de « comprendre » ce qu’elle faisait.