Harnad, S. (2012) Alan Turing and the “hard” and “easy” problem of cognition: doing and feeling. [in special issue: Turing Year 2012] Turing100: Essays in Honour of Centenary Turing Year 2012, Summer Issue.
The "easy" problem of cognitive science is explaining how and why we can do what we can do. The "hard" problem is explaining how and why we feel. Turing's methodology for cognitive science (the Turing Test) is based on doing: Design a model that can do anything a human can do, indistinguishably from a human, to a human, and you have explained cognition. Searle has shown that the successful model cannot be solely computational. Sensory-motor robotic capacities are necessary to ground some, at least, of the model's words, in what the robot can do with the things in the world that the words are about. But even grounding is not enough to guarantee that -- nor to explain how and why -- the model feels (if it does). That problem is much harder to solve (and perhaps insoluble).
Turing proposait en 1945 de remplacer la question « une machine peut-elle penser? » par « a-t-elle les mêmes capacités cognitives qu’un être humain? ». La raison est simple: c’est seulement à la deuxième question que l’on peut espérer pouvoir répondre.
ReplyDeleteToutefois, la première question reste (théoriquement) intéressante. On sait ça à l’air de quoi de penser, on peut le ressentir. Alors, est-ce que la machine pense et ressent aussi? Searle a montré par son argument de la chambre chinoise qu’une machine seulement computationnelle ne comprend rien à ce qu’elle fait: on sait à quoi ça ressemble de comprendre, on peut le ressentir, mais pas cette machine.
Est-ce que Alan Turing c’était fait duper par la puissance de sa machine de Turing? Croyait-il qu’une telle machine peut penser? Harnad affirme que non. Après tout, Turing était un « génie ».
Je suis d’accord avec cette affirmation, mais j’ai un argument pour la supporter: je crois que Turing n’était même pas computationaliste dans ce sens où tout pourrait être simulé et approximé par une machine de Turing.
Il était bien conscient de la puissance de la computation, mais je crois qu’il en connaissait aussi les limites. La raison est simplement que Turing était un mathématicien, et que cette thèse semble complètement ridicule du point de vue mathématique.
J’ai déjà discuté du problème dans une ciélographie antérieure (semaine 2a). Il existe un cadre mathématique précis pour traiter de l’approximation par les machines de Turing. Le problème est que ces machines sont en un nombre très limité (dénombrable), et qu’il existe des choses que le dénombrable ne peut, et ne pourra jamais, approximer. On appelle ces choses des espaces « trop vastes » (le terme mathématique est « non-séparable »). Ces espaces trop vastes sont très communs en mathématique. Ainsi, si l’univers ou le cerveau sont trop vastes, ils ne pourront être approximés par les machines de Turing.
C’est sans compter que la notion de « trop vaste » dépend d’une mesure de la qualité d’approximation. Différentes mesures feront qu’un espace sera parfois « trop vaste », parfois « pas trop vaste », et parfois que toute chose approxime parfaitement n’importe quelle autre.
J’ai du mal à croire qu’un mathématicien ait pu adhérer à une thèse aussi imprécise et invraisemblable.
Remarque: J’ai défini précisément ce que signifie « trop vaste » dans une ciélographie de la semaine 2a.
Selon Harnad et basé sur l’expérience de Searle, il faut trouver comment on peut ancrer la signification des mots dans un système, par un capteur sensorimoteur. La cognition ne peut n’être que de la computation, puisque réussir le T2, selon les prémisses de Searle (cognition = computation, TT est définitif et l’implémentation est indépendante du medium) Searle explique que lui (ou le système qui passe TT) ne se trouve pas réellement comprendre le chinois, plutôt que de fournir les bons outputs aux bons inputs.
ReplyDeleteDans l’expérience de la chambre chinoise, on suppose que nous avons trouvé un algorithme qui permet de réussir le T2. Mais cet algorithme n’existe pas actuellement. Selon moi, on ne pourra jamais même passer le T2 seulement par la computation et le T2 est l’équivalent du T3, au fond tous les TT sont la même chose. Le but est toujours de reproduire les capacités cognitives humaines, peu importe la façon. Les différents niveaux ne servent qu’à déterminer des niveaux de détails nécessaires pour réussir le TT, mais la méthodologie ne change pas. On ne saura pas les détails nécessaires tant qu’on n’aura pas réussi le TT et pour cela, il faut explorer toutes les avenues possibles.
Le problème de l’ancrage des symboles est selon moi la première porte d’entrée pour la cognition. Le T2 est le test verbal, on doit pouvoir converser avec un candidat au T2 sans vraiment percevoir qu’il n’est peut-être pas humain. Mais il faut se poser la question si le langage et la capacité de communiquer avec lui est purement computationnel, ce que je ne crois pas. Pour être en mesure de passer T2, il faut la capacité verbale, mais cette capacité comprend la capacité de communiquer, de s’exprimer, de référer à différentes choses dans le monde, et selon certains auteurs, même à penser. Donc on pourrait dire que la capacité verbale c’est penser, et donc, c’est la cognition. Ce que démontre l’expérience de Searle est que si on réussit à créer un système qui passe le TT, ce que ce système traiterait comme information serait semblable à chercher un mot dans un dictionnaire chinois-chinois, c’est-à-dire, qu’aucun mot n’a de sens rattaché autre qu’une définition qui mène à un autre mot à définir. Mais réaliser cet algorithme qui pourrait être implémenté dans un système de mail quelconque revient à être en mesure de fournir des instructions de réponses humainement crédibles à toute éventualité de question ou d’affirmation que nous pourrions présenter au candidat T2. Seulement, il m’apparaît inconcevable de prévoir toute éventualité (problème du cadre) et donc, de passer le T2 seulement par computation. Il faut un système, qui puisse au moins en plus de la computation, être capable de prendre de l’information de son environnement pour réduire les possibilités de réponses sans avoir à tout entrer en commande dans son algorithme préalablement. Finalement, l’ancrage des symboles est important, car même si on converse avec un candidat T2 et que nous luis expliquons que nous sommes triste, il peut avoir des commandes qui lui donne plusieurs réponses plausibles, et être en mesure de choisir les bonnes en se basant sur notre historique de conversation, mais est-ce qu’on peut imaginer que ce candidat T2 puisse nous expliquer la différence entre être triste pour une rupture, un congédiement ou un deuil? Il peut décrire chaque situation et expliquer quel éléments de la situation est probable d’avoir causé de la peine, mais peut-il offrir une possible hiérarchie de douleur? Ou de décrire lui-même cette douleur? Sans avoir vécu, ressenti cette douleur?
Je pense donc qu’on ne peut passer T2 ni T3 ni T4… sans ancrage des symboles et pour ancrer, selon Harnad, il faut un système sensorimoteur qui permet de catégoriser. Cela dit, il faut au moins plus que la computation. Pour moi T2 et T3 sont équivalent. Dans les deux cas, on cherche un candidat qui fait tout ce que nous faisons, et on ne se préoccupe pas de ce qu’il a l’air, ou de ce qu’il a à l’intérieur de son corps.
Le problème dur et facile de la cognition.
ReplyDeleteLe problème facile: expliquer comment et pourquoi nous pouvons faire tout ce que nous fesons.
Le problème difficile : expliquer comment et pourquoi nous avons le ressentie.
Les pistes proposés par Alan Turing nous renseigne sur la question facile de la science cognitive. Ce dernier a par exemple permis d’orienter le domaine des sciences cognitive en donnant un objectif précis: le test de Turing comme outil de validation de la cognition. Même si nous sommes encore loin de reproduire la cognition nous avons orienté la recherche vers l’objectif de construire des candidats pouvant réussir le test. Plus récemment, certaines avancés nous ont permis de supposer ce que doit minimalement posséder un candidat cognisant. L’argument de la chambre chinoise de Searle laisse penser que la cognition n’est pas seulement de la computation et que la cognition requiert possiblement l’ancrage des symbole (et donc des composantes dynamiques pour effectuer l’ancrage). Le reste des caractéristiques nécessaires à la cognition restent des questions du problème facile. Nous ne savons pas encore exactement quel test de Turing sera suffisant pour pour valider la cognition nous ne savons pas non plus si il est possible de construire des candidats capable de cognition, cependant ces questions nous semblent tout de même accessible et potentiellement solvables dans un avenir plus ou moins rapproché.
Cependant, une questions nous semble distincte du problème simple: expliquer comment et pourquoi nous avons le ressentie. Le ressentie se distingue car il a la particularité de n’être la source causale d’aucune de nos capacités. En effet, il n’est pas de capacité humaine qui ne puisse avoir justifié l’émergence du ressentie au cours de l’évolution. La cognition elle même ne semble pas jusqu’à maintenant dépendante du ressentie. Par ailleurs, et comme Harnad le dit, générer l’ensemble des capacités humaines n’est pas un gage de la présence du ressentie. Or, le problème du ressentie ne peut intuitivement pas être une question secondaire puisque le ressentie représente somme toute notre capacité la plus essentielle. Que serions-nous sans le ressentie?
Jusqu’à maintenant le problème difficile n’est pas accessible ni via la thèse de Turing, ni par un autre moyen. La question du ressentie reste donc pour le moment de l’ordre de la philosophie, croyance ou superstition plus que de l’ordre de l’explication causale et a, contrairement au problème facile, le potentiel d’être tout simplement insoluble.