Turing, A.M. (1950) Computing Machinery and Intelligence. Mind 49 433-460
Goutefangea, Patrick (2005) Alan Turing et le jeu de l'imitation Cahiers philosophiques 102
Bertrand, J. M. (1987). Test de Turing: jeu d'imitation ou test d'intelligence?. Quaderni, 1(1), 35-45.
Goutefangea, Patrick (2005) Alan Turing et le jeu de l'imitation Cahiers philosophiques 102
Bertrand, J. M. (1987). Test de Turing: jeu d'imitation ou test d'intelligence?. Quaderni, 1(1), 35-45.
Avec le "jeu de l'imitation", Turing imagine une méthode pour décider si une machine "peut penser". Il montre que la définition théorique de la machine qu'il a lui-même donnée en 1936-1937 n'interdit pas l'hypothèse qu'une machine conforme à cette définition puisse l'emporter au jeu. Ce faisant, il n'aborde ni un problème technique, ni un problème de logique théorique, mais s'avance sur le terrain d'une philosophie que l'on qualifiera de "continentale" : pour l'emporter au jeu, la machine doit s'exprimer à la première personne et être pour son adversaire un semblable. La machine victorieuse doit être élevée à la pleine dignité du sujet de la philosophie classique.
résumé langue anglaise:
0. Le test de Turing expliqué en moins de 3 minutes
1. Le modèle Turing (vidéo, langue française)
2. Video about Turing's work: Alan Turing: Codebreaker and AI Pioneer
3. Two-part video about his life: The Strange Life of Alan Turing: Part I and Part 2
En proposant son test, est-ce que Turing pensait à autre chose que de démontrer le potentiel computationnel de sa « machine universelle » ? Avait-il en tête l’intention d’expliquer comment nos activités cognitives peuvent fonctionner ? N’est-ce pas un peu abuser de sa proposition initiale lorsqu’on en fait un test des sciences cognitives (avec ces T2, T3, Tn qui s’ajoutent) ? D’ailleurs, comme le dit Copland dans sa présentation, Turing n’a jamais fourni de définition de ce qu’était « L’intelligence ». Dans ce sens, il me semblait plutôt s’intéresser aux résultats pratiques de la computation plutôt que d’expliquer l’intelligence humaine.
ReplyDeleteCe disant, un autre test intéressant pourrait être T6 : une Intelligence Artificielle qui arrive à détecter ce qui est humain.
J'ai une question à savoir, es-ce que un ordinateur a déjà réussit le test de Turing ?
DeleteLe site http://www.loebner.net/Prizef/loebner-prize.html, qui résume les résultats d'un concours annuel sur le test de Turing, semble dire que non (mais il y a un prix pour le "meilleur" résultat à chaque année, ce qui est quelque fois loufoque).
DeleteJe crois que dans un des vidéos, on dit que que les derniers tests organisés ont donné un 50-60% de résultat (ce qui est difficile à interpréter...)... et il me semble qu'on y dit aussi que les humains n'ont pas eu un résultat qui soit beaucoup mieux (ce qui semble indiquer une faille du test : si des humains ne sont pas capables de convaincre un autre humain qu'ils le sont en jouant le jeu de Turing, est-ce un test objectif ?).
Pour répondre à cette question, il faudrait d'abord definir de quel niveau du Test de Turing on parle. C'est le niveau T2 ou pen-pal Turing Test (niveau d'échange exclusivement verbale) ce qui a été "testé" dans les concours annuel de Loebner.
DeleteUne autre affaire important est que, selon Turing, la réussite au T2 devrait durer toute une vie, et pas seulement pendant un concours annuel ou une soirée. Cela veut dire: La machine qui réussit au T2 devrait tromper son pen-pal pendant toute une vie.
Voir le papier de Harnad: MINDS, MACHINES AND TURING:
THE INDISTINGUISHABILITY OF INDISTINGUISHABLES (http://users.ecs.soton.ac.uk/harnad/Papers/Harnad/harnad00.turing.html)
"14.1. Life-Long: T2 is not a game (or if it is, it's no less than the game of life!). It is a mistake to think of T2 as something that can be "passed" in a single evening or even during an annual Loebner Prize Competition (Loebner 1994; Shieber 1994). Although it was introduced in the form of a party game in order to engage our intuitions, it is obvious that Turing intends T2 as a serious, long-term operational criterion for what would now be called "cognitive science. The successful candidate is not one that has fooled the judges in one session into thinking it could perform indistinguishably from a real pen-pal with a mind. (Fooling 70% of the people one time is as meaningless, scientifically, as fooling 100% of the people 70 times.) The winning candidate will really have the capacity to perform indistinguishably from a real pen-pal with a mind -- for a lifetime, if need be, just as unhaltingly as any of the rest of us can. (This is a variant of the misconstrual I mentioned earlier: T2 is not a trick; Harnad 1992b.)"
Ludovic Hébert
ReplyDeleteRésumé
Frère/soeur cadet(te), le jeu de l’imitation est un jeu ou il y a trois personnes en jeu. La première personne et la deuxième personne sont dans la même pièce. La troisième personne est l’interrogateur. Il a pour but de trouver qui est qui. Il peut poser des questions pour arriver à son but. Alors, Alan Turing s’est interrogé si la personne 1 pouvait être remplacée par un ordinateur. Le but, pour la première personne, serait de voir s’il est possible de confondre l’interrogateur. La deuxième personne a pour but d’aider l’interrogateur. De plus, l’article soulève une question intéressante : la pensée peut-elle se déduire d’un résultat brut final objectival et observable tel que le décrit ou le suppose Turing?» Cela introduit le fait que la pensée serait un processus purement calculable et possible d’anticiper. Par la suite, l’article fait l’ébauche des premiers systèmes basés par apprentissage imaginés par Turing. Cela voudrait dire que la machine serait capable d’apprendre de ses erreurs et de se corriger pour mieux répondre à l’utilisateur.
La lecture du texte Test de Turing : jeu d’imitation ou intelligence ? a éveillé quelques interrogations personnelles. Tout d’abord, je me demande pourquoi la distinction pensée/Pensée opère de manière récurrente dans le texte. Si l’on dépasse rapidement cette question sans grande valeur épistémologique, on aboutit rapidement à celle, plus intéressante, de la définition de la pensée chez Turing. Pour reprendre ces mots, la pensée « s’identifie à ses actes ». De plus, la pensée semble pour Turing se réduire qu’à la somme des éléments observables à partir desquels peut se déduire la pensée. Comme le remarque l’auteur de ce texte, Turing ne fait ici que renouer avec les vieilles thèses empiristes d’après lesquelles tout est dérivable et déductible de l’expérience (je fais une généralisation pour que Frère cadet ne soit pas perturber, dans son envie d’apprendre, par les nombreuses thèses empiristes. Vous me pardonnerez donc cette généralisation). Or, cette thèse est problématique pour les raisons qu’on lui connait : comment la pensée peut-elle émerger - ou du moins être dérivable – de la somme de différentes données empiriques ? C’est aussi ce que semble vouloir montrer l’auteur du présent texte lorsqu’il cite un passage du Faust de Goethe, où il mentionne ce « lien spirituel » qui relierait la somme des parties observables à partir desquelles l’on déduirait le tout : la Pensée. Ce fameux « lien » est aussi ce qui nous préoccupe à propos du second problème dit « difficile » : comment et pourquoi avons-nous du ressenti ? Pourquoi et comment, autrement dit, sommes-nous conscients ? Je pense, du moins pour l’instant, que chercher à saisir ce « lien spirituel » qui relierait ce que nous observons tant au niveau des comportements que ce qui se passe dans le cerveau à un plus grand Tout (entendons la Pensée), c’est là le meilleur moyen pour sombrer dans des débats sans grand intérêt parce qu’insolubles. Du moins pour l’instant. Pour finir cet argument, je me demande encore pourquoi est-ce que nous cherchons à ce que le test de Turing puisse effectivement se réaliser. S’il se réalise à 100%, quels en seraient les effets réels ? Sommes-nous capables de les anticiper ?
ReplyDeleteEnsuite, et ce qui est plus dérangeant selon moi, c’est que Turing semble également considérer la pensée comme une capacité. Or, cela fait-il tout simplement sens de se demander si nous sommes capables de penser ? Cela signifie-t-il que certains humains ne sont pas capables de penser ? Il est selon moi important de rester sur nos gardes vis-à-vis de ce présupposé, en se demandant, si jamais on est intuitivement en accord avec la dernière question, pourquoi est-ce que nous estimons que certains peuvent ne pas penser. Pour l’illustrer, on peut mobiliser dès maintenant la philosophe Hannah Arendt pour qui, dans son ouvrage La vie de l’esprit, la pensée n’est pas la prérogative de quelques-unEs, mais une faculté toujours présente en tout humainE. Elle rajoute – et c’est problématique pour ce qui nous intéresse – que l’impossibilité de penser n’est pas un défaut de quelques-unEs à qui il manquerait un cerveau, mais une possibilité toujours ouverte pour tout le monde. Or, si pour Arendt, certains (comme Eichmann, haut dignitaire nazi pendant la seconde guerre mondiale, dont son incapacité de penser est débattue dans Eichmann à Jérusalem) peuvent ne pas penser, cela signifie avant tout leur incapacité à s’étonner, à s’émerveiller et, surtout, à ne pas être capable de rentrer en dialogue avec soi-même. Penser, autrement dit, c’est ce dialogue silencieux de soi avec soi-même, le dialogue entre le petit Homunculus qui se balade dans ma tête et soi. Désormais, frère/sœur cadet-tE : crois-tu qu’une machine puisse discuter avec elle-même ? Si elle peut communiquer facilement avec les autres au point que, comme le montre le test d’imitation (d’après lequel il est de plus en plus difficile de distinguer le discours énoncé par une machine de celui d’un humain), une machine peut-elle néanmoins, le soir venu, au moment où elle se retrouverait seule avec elle-même, établir ce lien avec le petit Homunculus en l’interrogeant par exemple sur nos actions réalisées pendant notre journée ? Imaginons ne serait-ce qu’un instant qu’une machine puisse s’assoir au coin du feu tout en pesant le pour et le contre de ses actions avec lui-même…cela semble…impensable.
ReplyDeleteEn résumé, pour Hannah Arendt, la pensée, qu’elle soit privée ou publique, possède une structure dialogique : elle traduit la capacité pour chacun de questionner comme de se laisser questionner par d’autres. L’absence de pensée n’est donc pas l’absence des processus que les sciences cognitives décrivent. Eichmann était toujours apte à recevoir des informations. Mais cela traduit d’abord chez cet ancien haut-fonctionnaire nazi l’absence de réflexion, l’absence de questionnement en première personne. Bref, la pensée d’Eichmann est une pensée qui ne se pense pas elle-même. Il agit sans vraiment savoir ce qu’il fait. Il semble donc peu probable que la pensée puisse se réduire ou s’identifier à une addition de d’actes – surtout si ceux-ci échappent même à celui qui les agit.
Toujours dans le même article (jeu d'imitation ou test d'intelligence, Jean-michel Bertrand mentionne à la p44 la possibilité restreinte qu'à une machine de Turing de jouer de manière "binaire", c'est-à-dire de ne pouvoir finalement répondre que part deux valeurs de vérité : le vrai et/ou le faux. Cependant, je me demande s'il existe aujourd'hui une machine de Turing encodée avec une autre logique que la logique bivalente classique. Si, par exemple, une MT serait programmée avec une logique polyvalente (avec des valeurs de vérité telles que le plus ou moins vrai, le absolument faux, le archi vrai, le probablement faux etc., de sorte qu'elle puisse encore plus se rapprocher d'une pensée humaine et ainsi ne pas tomber dans une pauvre binarité vrai/faux ou vérité/mensonge (p45). Ainsi, est-on en mesure aujourd'hui de simuler des discours qui seraient gouvernés par une logique floue ou polyvalente?
ReplyDeleteLa question principale du texte “Alan Turing et le jeu de l'imitation” de Goutefangea, Patrick (2005), est certainement de savoir si une machine peut ou ne peut pas penser. Pour parvenir à tester cette idée, il nous est présenté le “jeu de l'imitation” conceptualisé par Turing. Le but étant que dans une situation donnée et seulement par communication symbolique (langage, écriture, ect), une machine doit être capable d'imiter un humain. La machine gagne quand le participant est persuadé de communiquer avec un autre être humain et non une machine.
ReplyDeleteLe texte présente aussi l'hypothèse des machines qui apprennent, c'est-à-dire un modèle conforme à la machine de Turing et qui n'empêcherait pas de créer des règles qui modifieraient des tables et/ou d'autres règles. On y explique que l'apprentissage de la machine serait comparable à l'évolution biologique et qu'une machine qui apprend le langage éventuellement emploiera le “Je” et pourra être considéré comme pensant dans le “jeu de l'imitation”. Cependant, un des points faibles semble l'absence d'une définition claire de la “pensée” pour Turing.
Tôt lors de la lecture du texte et de la description du jeu, je me suis demandé de quelle manière tromper un humain est la preuve qu'une machine peut pensé. Pourquoi le fait d'être capable de tromper un humain n'est-il pas la preuve que la machine peut générer et/ou organiser l'information de manière plus complexe que notre capacité à découvrir la supercherie et sans pour autant penser?
Le texte de Jean-Michel Bertrand sur le test de Turing cherche à élaborer sur la question suivante : Ce test est-il réellement un jeu d’imitation, ou plutôt un test d’intelligence? Tout cela tourne autour du concept d’intelligence artificielle, et donc de manière sous-entendue, par la capacité éventuelle d’une machine de pouvoir penser. Le jeu de l’imitation est composé de trois personnes. Les deux premières sont dans une même pièce, et la troisième dans une seconde pièce. Cette dernière a un rôle d’interrogateur, et se doit de deviner le sexe des deux premières. À partir de cette prémisse, le questionnement est de savoir si une machine peut remplacer la première personne, et ainsi confondre l’interrogateur sur son identité de machine et non d’humain avec un sexe. C’est devant un tel jeu que Bertrand s’interroge sur le test de Turing. D’un côté, un ordinateur pourrait certes imiter les réponses d’un homme ou d’une femme et ainsi confondre l’interrogateur en se faisant passer pour un humain. La machine sera conçue pour imiter la personne ou la chose tel que souhaité par son auteur. Or, cette situation qui semble de prime abord statique (un programme conçu), amène plusieurs questionnements qui feraient une nuance en imitation et intelligence. Une machine peut sans aucun doute reproduire, mais a-t-elle la capacité d’apprendre, de faire preuve d’imaginaire, voire d’évoluer par elle-même? Sans avoir une explication causale du processus que l’humain utilise pour remplir ces fonctions de la pensée, il est difficile de penser que la machine le peut. Bertrand utilise pour cela l’image d’un oignon qu’on épluche. Nous pouvons défaire le légume, une couche après l’autre pour en comprendre la structure et le fonctionnement. Nous ne pouvons toutefois prétendre y trouver un esprit au terme du processus. De manière inverse, la machine a besoin de toutes ses ‘’couches’’ pour fonctionner’’, étant ainsi un tout. Ainsi, Turing soumet que si une machine pouvait être conçue comme l’esprit d’un enfant, et soumise à une éducation telle que reçue par l’humain jusqu’à l’âge adulte, ainsi qu’aux expériences éducatives qu’il vit, celle-ci pourrait évoluer. Si l’ordinateur peut évoluer, nous abordons ici la notion de contrôle et d’autonomie, mais aussi d’effectuer une nuance entre la présence de l’esprit, et donc de l’intelligence. Finalement, dans la notion de jeu, il y a l’aspect ludique. Bertrand soumet par conséquent que dans la mesure où la machine n’aura jamais le désir de construire une opération ludique, mais simplement de répondre à une commande, l’intelligence et l’esprit (et ici l’amusement) ne sont pas la prérogative d’une machine.
ReplyDeleteSuite à la lecture du texte de Goutefangea et de Turing, le jeu de l'imitation me semble être à l'avantage du frère cadet; En effet, si frère cadet n'est pas capable de définir le concept de « pensée » ou « intelligence », il est amplement capable de comprendre ou de participer au «jeu de l'imitation".
ReplyDeleteEn fait, frère cadet sera sans doute très surpris le jour où un ordinateur réussira à le méprendre sur son identité et le jour où une machine réussira le test T2 (comme il est question dans les textes de Goutefangea et Turing). Ce succès d’ingénierie comblera sans doute la pensée de frère cadet pour quelques temps or, un jour, frère cadet pourrait se poser la question suivante : Étant donné qu’une machine peut se faire passer pour un humain, peut-on dire qu’elle est capable de penser? Est-elle intelligente?
Je pense que le génie Turing se trouve dans le fait qu’il a été capable de faire passer la question de la capacité potentielle d’une machine universelle d’un plan philosophique (peut-elle penser ou est-elle intelligente?) à un problème empiriquement vérifiable qu’est le « jeu de l’imitation ».
Dès le début du texte Computing Machinery and Intelligence, Turing prétend que les questions sur la capacité de penser d’une machine est absurde et remplaçable par le « jeu de l’imitation ». Or, une machine capable de réussir le test T2 ne nous dit rien sur sa capacité de penser et sa capacité d’intelligence.
Je pense qu’Allan Turing était bien conscient des limites de son « jeu », il a cependant donné aux ingénieurs, mathématiciens et programmeurs un problème sur lequel travailler et au philosophe une question sur laquelle se pencher. Question et problème à travailler en collaboration bien-sûr.
Le texte de Jean-Michel Bertrand énonce les principaux postulats de Turing et laisse à réfléchir sur les faits suivants :
ReplyDeleteLe test de Turing part du principe que la pensée peut se déduire d'un résultat brut et observable de manière empirique. L'un des postulats de Turing est d'ailleurs que le langage est la seule expression de la pensée. Dans son test, cela signifiait qu'observer le langage reviendrait à identifier une pensée sous-jacente. Mais n'est-ce pas une conclusion très rapide ?
Si nous prenons un exemple : les animaux ne parlent pas, cela peut-t-il tout de même amener à la conclusion directe qu'ils ne pensent pas ?
D'autre part, le test de Turing, utilisé comme outil de mesure de la pensée, n'est-t-il pas simpliste et limité à notre propre capacité de perception humaine ? Si je ne suis pas capable de déceler un fait existant, cela veut-t-il nécessairement dire que ce fait n'existe pas ? En l’occurrence, dans ce test, c'est l'interrogateur qui doit dire qui, de A ou de B, est l'ordinateur. Et si c'était cet humain interrogateur qui n'était pas capable de percevoir la pensée du logiciel, biaisant ainsi les résultats ?
Le programme cleverbot cité dans la vidéo « le test de turing expliqué en moins de 3min » permet de se pencher sur la question : cleverbot est un logiciel de chat utilisé afin d'établir des conversations avec des utilisateurs humains. A la suite d'un test, on voit que le logiciel a réussi à convaincre 59% des participants qu'il était humain. En revanche, lorsque que l'on soumet des participants humains au même test, ils ont été à peine plus de 63% à être reconnus comme humains par les interrogateurs du chat !
Ces résultats nous font sérieusement douter de notre propre capacité de jugement et de perception, qui ne semble pas toujours être fidèle à la réalité des choses … Or, si l'humain n'est pas toujours capable de reconnaître un autre humain, comment peut-il espérer reconnaître un logiciel ? Ensuite, en admettant qu'un logiciel pense, l'humain est-t-il en mesure de le détecter uniquement à partir de l'observation empirique de sa production de langage ?
Ainsi, on peut faire la critique du postulat épistémologique de Turing affirmant qu'il y a « la possibilité de déduire par l'observation, les lois complètes du comportement et leur expression dans des situations de communication », qui semble très optimiste et assez réducteur car cela suppose que tout humain est en mesure de détecter la pensée d'un logiciel juste à partir de sa production langagière … Cela suppose que l'humain est un outil de mesure fiable et toujours fidèle, or nous avons vu ci-dessus que ce n'est pas toujours le cas. Le test de Turing en lui-même joue un rôle important mais il ne faut pas oublier que celui qui catégorise le logiciel en « humain » ou « non humain », reste un Homme avec tous ses biais de perception …
Effectivement, le fait que le taux de reconnaissance exacte pour un véritable participant humain ne soit que légèrement plus élevé que pour un ordinateur ne remet-il pas en question la validité du test ? c'est-à-dire que le test mesure bien ce qu'il est censé mesurer : la capacité d'un ordinateur d'imiter la pensée humaine.
DeletePar ailleurs, l'interrogateur doit déterminer le sexe des participants mais cela ne rajoute-t-il pas de la difficulté pour celui-ci ? Le taux de reconnaissance humaine exacte serait-il plus élevé si le sexe du participant était déjà défini à l'avance ?
Si, pour Turing, la pensée se définit comme une donnée de l’expérience, effectivement la question serait "les machines sont-elles capables d’apprendre ?" et non pas "les machines peuvent-elles penser ?". Cependant, l’homme n’est pas réduit à simple apprentissage issu de l’expérience mais aussi à une application de celle-ci et une réflexion sur celle-ci. L’humain est capable de prendre une position méta sur lui-même et sur ce qui l'entoure, c’est-à-dire d’avoir conscience de son comportement et de l'environnement, et de prendre du recul pour pouvoir émettre un jugement.
ReplyDeleteNe serait-ce pas là la différence entre l'homme et la machine ?
Dans le texte de P. Goutefangea (2005), Alan Turing et le jeu de l'imitation, je ne comprends pas en quoi apprendre implique le « je », véritable première personne ? un apprentissage peut porter uniquement sur des faits objectifs, n’impliquant aucune personne.
Résumé de la vidéo « Le modèle de Turing » :
ReplyDeleteEn 1936 Turing écrit un article qui pose les bases de l'informatique, où il conçoit une machine abstraite qui décompose les étapes d'un calcul en éléments simples. Sa composition est très basique : il s'agit d'un ruban divisé en plusieurs cases, où l'on trouve dans chacune d'elle des lettres. Une « tête de lecture » se situe sous l'une des lettres, et peut : lire la lettre, la remplacer par une autre, ainsi qu''avancer ou reculer d'une case. Cette machine permet de simuler toutes les autres par le biais d'un programme enregistré écrit sur le ruban : on parle de machine universelle.
Durant la seconde guerre mondiale, Turing est recruté par le gouvernement britannique pour aller à Bletchley Park, où il va tenter de déchiffrer avec d'autres spécialistes les messages codés des Allemands à partir de la machine enigma. Elle fonctionnait de la manière suivante : chaque lettre correspondait à une autre de manière à obtenir un message chiffré. 10^17 combinaisons étaient possibles ! Turing parvient à établir les différentes correspondances entre le texte chiffré et celui compréhensible en décomposant le calcul en éléments simples. Les britanniques utilisent des machines électro-mécaniques pour tester toutes les différentes possibilités existantes (ce qui aurait été impossible de faire à la main, par faute de temps …). En 1941, c'est une réussite et les codes Allemands sont déchiffrés.
C'est seulement trente ans après la guerre que les archives sont rendues publiques et que le rôle de Turing est reconnu.
En 1948 il s'installe à Manchester où il construit un des premiers ordinateurs qu'il utilisera pour comprendre la morphogénèse (c'est à dire qu'il cherche à savoir comment se développent les organes au cours de la vie embryonnaire ; de manière à pouvoir expliquer pourquoi un escargot a une coquille en spirale, par exemple). Il s'y intéresse jusqu'aux dernières années de sa vie.
Il écrit aussi un article à propos de la possibilité de la mécanisation de l'intelligence artificielle : la notion d'intelligence ne serait pas limitée qu'au cerveau de l'Homme. Il présente ensuite le jeu de l'imitation (le principe a déjà été expliqué dans les précédents commentaires, frère cadet a une attention limitée et risquerait de se lasser si je répétais ce que les autres ont déjà dit). Turing a l'espoir que 50 ans plus tard, des machines seront capables de réussir le test de l'imitation en trompant plus de 70% des humains. On a donc ici une base de métaphysique ( en répondant à la question « qu'est-ce que l'intelligence ? ») ainsi qu'une application pratique permettant de mesurer l'intelligence des machines.
Turing est homosexuel, ce qui était interdit par le gouvernement britannique à l'époque. Il sera arrêté pour cela et aura le choix entre faire un an de prison et avoir une castration chimique (c'est à dire qu'il devra prendre des hormones lui donnant une apparence plus féminine). Occupé par ses recherches, Turing choisira la deuxième option. C'est une période difficile à vivre d'autant plus qu'il est surveillé par la police, et les institutions britanniques se méfient de lui. Il choisira finalement de se suicider (c'est-à-dire se tuer soi-même) en croquant une pomme empoisonnée, à l'image du film Disney blanche neige qu'il aimait beaucoup … Apple prendra la pomme comme logo en l'hommage à Turing.
La possibilité d’éduquer une machine. En quoi implique une machine qui a la capacité d’apprendre? Frère Cadet, d’abord la machine universelle (définition dans le texte), doit être capable de posséder plusieurs états simultanément. Elle doit aussi être changeable, car elle doit pouvoir imiter d’autres machines, et avoir une logique des inférences. La logique des inférences impliquerait que la machine, grâce à sa possibilité de se modifier, pourrait déterminer quelle information est pertinente et restructurer son programme. Turing propose un modèle de punitions/récompenses où l’information reçue serait une imitation d’un stimulus de douleur ou de plaisir. Selon le différent stimulus, la machine ferait une restructuration au niveau de la configuration ou au contraire, un renforcement. Cela donne une machine qui peut se modifier à son avantage, selon des informations extérieures à ce qu’elle comporte déjà. Elle est donc capable d’apprendre!
ReplyDeleteCommentaire sur le texte de Jean-Michel Bertrand
ReplyDeleteTout d’abord, je ne peux m’empêcher de décrier le style d’écriture de J.-M. Bertrand, opposé aux principes de clarté et précision scientifique. Bon nombre de phrases sont ici, du moins pour un néophyte comme moi, vide de sens, ou bien d’une poésie douteuse. Notons en particulier des phrases comme: « la machine ne peut que mentir, l’homme dans son mensonge dit toujours de la vérité »; ou bien: « or si le Vrai et le Faux appartiennent comme le dit Hegel dans sa Préface à la Phénoménologie de l’Esprit « aux pensées déterminées qui, … » ». Frère cadet ne comprend plus rien, et il doute que deux personnes différentes puissent y comprendre la même chose.
Le manque de clarté est encore plus frappant du fait que l’article de Turing est, au contraire, empreint d’un désir de précision et d’honnêteté scientifique.
Critiquer des arguments spécifiques de Bertrand est chose difficile. Il attribue à Turing des intentions frauduleuses, par exemple en parlant « d’escamotage de la question » et de détours « tactiques ». S’opposer à cette vision demande d’interpréter les propos de Turing de façon tout aussi subjective. Je suppose donc que Turing est un scientifique honnête, dont l’objectif n’est pas de convaincre ou de prouver, mais plutôt d’argumenter et de développer les idées.
Écarter la question de départ, à savoir si les machines peuvent penser, pour la remplacer par une plus précise, n’est alors pas un subterfuge (comme le prétend Bertrand). C’est plutôt la première étape d’une argumentation de qualité, et une chose très habituelle pour le mathématicien Turing. Il est commun en mathématiques de choisir les axiomes en fonction de ce que l’on souhaite démontrer, et de définir de multiples façons différentes des notions, telles que le « continu », qui semblent (faussement) simple. L’objectif n’est pas de tromper, mais plutôt de permettre d’avancer des arguments dans un cadre clair, où il n’y a pas de présupposés cachés.
Turing n’administre pas une « preuve par substitution », en écartant la question originale « que provisoirement, le temps d’un détour obligé, amusant mais tactique. » En fait, il ne prouve rien, et je suis convaincu que le mathématicien ne s’y est pas mépris. Il affirme toutefois que selon lui, une machine de Turing pourra éventuellement passer le test. Cette éventualité ne signifierait pas que les machines « pensent », dans le sens métaphysique non spécifié de Bertrand. Mais seulement que pratiquement, il serait injustifié d’affirmer qu’une machine ne pense pas comme un humain, si elle en est indistinguable.
La critique de Bertrand se perd au final dans des préjugés et détails inintéressants. Turing admet que la théorie de son jeu mériterait d’être étudiée, et évidemment que plusieurs de ses aspects sont imprécis ou arbitraires. Outre pour l’exposition de ces problèmes techniques, la critique de Bertrand n’éclaire pas à savoir si un test empirique comme le jeu de l’imitation est une bonne alternative à la question mal définie « Les machines peuvent-elles penser? ».
Le test « du jeu de l’imitation » introduit par Turing évoque l’apparition d’une machine dans un test qu’initialement cherche à distinguer un homme et une femme via une interrogation exclusivement écrite (sans indices audio-visuelles des sujets). Les paramètres du jeu exiges l’interrogateur (au sexe non définis) et les deux autres sujets à être dans une pièce différente. Dans le jeu, l’homme cherche à tromper l’interrogateur et la femme cherche plutôt à l’aider.
ReplyDelete« Qu’arrivera-t’il si la machine remplace l’homme dans ce jeu? » et « Est-ce que l’interrogateur ferai autant d’erreur que quand il joue le jeu entre une home et une femme? » sont les nouvelles questions qui figure dans l’introduction du texte « Les Ordinateurs et l’Intelligence ».
Est-ce que le stratagème qui semble être employée par Turing dans le texte « Les Ordinateurs et l’Intelligence » qui cherche à hameçonner c’est lecteur en leur demandant de considérer la question suivante « Est-ce que les machines peuvent penser? » pour ensuite l’étouffer avec de nouvelles question s formée par l’entremise d’un jeu était nécessaire? Si l’on considère qui a lui même considéré sa première question, est-il possible qu’il nous ait donné la tache d’y répondre bien après sa mort connaissant les limitations du savoir faire de son époque? Sans toutefois nous laisser complètement démunis face à ce problème, ne semblent-il pas nous suggérer une piste à suivre? Turing nous invite-t-il à façonner un algorithme matricielle pour donner naissance à une machine auto-apprentissante?. À maturité, cette « Machine de Turing » parviendra peut-être à répondre à la question qui semble être délibérément évitée par Alan Turing « Est-ce que les machines peuvent penser?».
J’ai trouvé que, dans son texte Test de Turing : jeu d’imitation ou test d’intelligence?, qui se veut une critique du célèbre texte Computing machinery and intelligence d’Alan Turing, Jean-Michel Bertrand était extrêmement peu charitable envers Turing. Cela se fait sentir à la fois dans son style littéraire et dans ses critiques des idées de Turing.
ReplyDeletePour ce qui est du style littéraire, je ne couvrirai pas l’entièreté du sujet car je suis consciente du fait que la réaction à un style littéraire est largement subjective, mais je crois néanmoins que le ton acerbe utilisé par Bertrand crée, de manière générale, un biais négatif envers Turing chez le lecteur impartial qui désirerait, en lisant l’article, se positionner par rapport à l’idée du test du Turing et qu’il est important de le souligner.
Tout d’abord, Bertrand, alors qu’il exprime dans le texte des opinions qui lui sont personnelles, écrit à la première personne du pluriel, ce qui fait en sorte que le lecteur, sans trop y penser, s’identifie au narrateur, qui semble lui être une autorité omnisciente, et peut être porté à prendre ce qu’il dit pour la vérité et non l’opinion d’un individu.
Cette volonté de Bertrand de faire passer ses idées pour des évidences se manifeste également à travers certains commentaires personnels et lourdement chargés de condescendance qu’il glisse dans ses analyses qu’il semble vouloir rigoureuses. Par exemple, au tout début du texte, après avoir cité un passage dans lequel Turing explique pourquoi il souhaite éviter la question «les machines peuvent-elles penser?», il ajoute : «Bel exemple de dénégation!» (p.37). Plus encore, pour introduire son idée selon laquelle les postulats sous-jacents à la machine imaginée par Turing sont incertains, il écrit : «(…) la machine fictionnelle (..) s’accompagne de postulats d’un flamboyant et sidérant optimisme» (p.40). Je crois que de tels débordements littéraires dépassent largement le nécessaire dans le cadre d’un article de critique «scientifique». Je ne suis pas contre la littérature et les opinions; simplement, si Bertrand souhaitait écrire un article d’opinion, il aurait dû s’assumer et écrire à la première personne du singulier, et ne pas prétendre écrire un article objectif. D’ailleurs, sur une note plus personnelle, si Bertrand s’était assumé et avait écrit un article d’opinion, il aurait bien sûr été libre d’adopter le ton qu’il aurait voulu, mais je crois pour ma part que cette condescendance dont est chargé son texte est très irrespectueuse, peu importe la personne critiquée, et qu’elle est particulièrement indécente lorsque cette personne s’avère être un génie comme l’était Turing. L’attitude complaisante de Bertrand m’a personnellement emmenée, après relecture, à douter de lui plutôt que de Turing.
Pour ce qui est des critiques que Bertrand fait des idées de Turing en tant que telles, je crois qu’elles manquent aussi gravement d’indulgence et que Bertrand tire souvent des conclusions très grossières et inexactes à partir du texte. Encore une fois, je ne couvrirai pas le sujet de manière exhaustive, cette fois car cela dépasserait le cadre du simple commentaire, mais je me contenterai de donner quelques exemples particulièrement flagrants qui sauront, je l’espère, faire sentir l’essentiel de mon idée.
ReplyDeleteTout d’abord, Bertrand commence son texte en soulignant que «quoi qu’il en dise, Turing répond en fait à la question qu’il souhait initialement écarter, à savoir ‘’les machines peuvent-elles penser?’’» (p.36). Selon lui, la substitution du test de Turing à cette question n’est pas une manière de la remplacer, mais simplement une manière différente de l’introduire. Or, Turing ne prétend jamais nécessairement écarter totalement la première question, contrairement à ce que Bertrand en dit, et il souligne d’ailleurs explicitement que les deux questions sont probablement liées, mais il constate seulement qu’au moment où il écrit son texte, les mots «machine» et «penser» ont des sens trop stricts et peuvent mener à de mauvaises interprétations et qu’il est donc préférable pour lui d’utiliser une situation dans laquelle le sens de son idée est implicite et ne pourra donc pas être dénaturé. La raison pour laquelle Bertrand manque, selon moi, de charité, est qu’à partir de la signification que les mots «machine» et «penser» ont au moment où lui écrit son article (en 1987, soit 37 ans après la publication de Turing, en 1950 – 37 ans pendant lesquelles l’informatique a connu une croissance exponentielle), il conclue, comme si c’était la chose la plus naturelle du monde, que le test de Turing n’est qu’un simple petit détour pour aborder la question «Les machines peuvent-elles penser?», sans essayer de replacer Turing dans son contexte historique et scientifique et, pire, il le critique pour cela. Je crois qu’il aurait dû faire preuve de plus de compréhension et qu’il aurait gagné à au moins mentionner le biais historique dans lequel il se trouvait.
Également, Bertrand, par rapport à la machine fictive qu’utilise Turing, écrit : «son auteur élude volontairement, dans cet article au moins la question de la référence, absolument (…) nécessaire à la question de la vérité» (p.39), puis, toujours par rapport à l’idée de cette machine «une croyance (…)…plus tard…alors qu’il joue le rôle théorique de concept» (p.39). Deux choses : premièrement, on en vient à se demander si Bertrand a déjà été en contact avec le concept d’hypothèse : une hypothèse est une supposition qui peut être faite pour expliquer des évènements passés ou probables sur laquelle on s’appuie pour bâtir un système d’idée que l’on pourra vérifier par la suite. Turing spécifie très clairement que la machine dont il parle est hypothétique, et qu’elle n’existe pas pour l’instant bien qu’elle pourrait exister, mais qu’il utilise pour pousser plus loin la recherche théorique qui est à son époque limitée par les avancées techniques. Évidemment qu’il utilise la machine comme concept théorique, mais cela ne fait pas en sorte qu’il considère que tout ce qu’il dit est nécessairement vrai, simplement qu’il s’amuse à réfléchir aux possibilités. Ensuite, bien sûr que Turing n’a pas de référence, mais il n’en n’a pas besoin puisque faire une hypothèse n’implique pas le concept de vérité.
Dans la même ligne d’idée, Bertrand passe une bonne partie de son texte à critiquer les failles relatives à la description, très incomplète selon lui, que fait Turing de sa machine. Sur cela, je n’ai qu’un mot à dire : si Turing s’était arrêté à tous les détails techniques de sa machine, il n’aurait jamais eu la liberté de réfléchir de manière si approfondie à ses implications théoriques. Bien sûr qu’à l’époque de Bertrand, on aurait exigé de quelqu’un écrivant un article comme celui de Turing plus de précisions techniques, mais cela n’était tout pas possible, ou du moins beaucoup plus difficile, à l’époque de Turing et plutôt que de lui en tenir rigueur nous devrions le remercier d’avoir su dépasser ses contraintes matérielles.
ReplyDeleteTuring cherche dans demontrer qu’il est possible de faire un liens entre l’intelligence humaines et un ordinateur digitale(c’est-à-dire expliqué le fonctionnement de l’acquisition de la connaissance chez l’humain en le comparant à un système informatique).Il propose de modifié la question «Est-ce qu’il est possible à la machine de penser? »,est dèjà dificile de demontrer inéluctablement que les autres humains pense, il serat donc très dificile de demontré qu’une machine pense,par la question est-il possible pour une machine de jouer le jeu de l’imitation,ce qui démontrerait qu’elle est capable d’un certain niveau de «raisonnement ».
ReplyDelete1.Par contre ce qu’on pourrait appelé «penser» n’est t’il pas d’excéder les règles de manière volontaire,par exemple dans un cadre pragmatique en mettant l’emphase sur un objectif qui n’est pas à première vue le plus évidant dans le cadre de la situation.Ou simplement pour le plaisir de transcender une règles(et non pas faire une erreur).
2.Les interets de l’agent par rapport à une situation passé ou future,qui font que tel type d’opération qui n’est pas du tout optimale pour la situation présente est effectué pour une raison donné.
3.Se rapportant à l’education,la machine non-humaine ne develloperait t’elle pas des intérêts differents dû,entre autre et pas seulement, à sa constitution corporelle différentes,même si on lui apprenait les règles de manières plus ou moins traditionnelle(les cycles de sommeil,les effets de la fatigue,les risques de blessures differents,les besoins nutritifs,les désirs sexuels,les souvenirs pas necessairement relié directement ou logiquement à ce qui est appris mais qui affecte tout de même la manière dont les règles sont accueillis par l’apprenant.
Alan Turing et le jeu de l'imitation
ReplyDeleteJe m'intéresserai ici aux critiques qu'on a fait du test de Turing, critiques avec lesquelles, pour la plupart je dois donner raison. Chronologiquement, on pourrait dire qu'avant même Turing, une opposition à son test a été faite par Descartes lorsque ce dernier dit que, contrairement à la machine, l'Homme a du jugement, qu'il décrit comme « l'application d'une pensée à un jugement ». La machine de Turing pourrait parler, mais elle ne pourra pas penser. À cette critique, le texte aborde la question du « je » qui, franchement, me mélange beaucoup. On veut savoir si le «je » est personnel, si le « je » de la machine est le même que le « je » humain. Je semble comprendre que le texte affirme que oui et que c'est suffisant pour détruire la question de Descartes. Je ne suis pas d'accord, mais je ne vois pas l'intérêt de m'obstiner avec un texte déjà écrit qui ne peut se défendre ou se modifier. Alors, par la suite, on y décrit la critique de John Searle avec la chambre chinoise. En résumé, on donne l'exemple d'un humain, ne parlant pas chinois, qui serait placé dans une pièce avec des instructions claires lui dictant dans quel ordre sortir des symboles chinois. Ces symboles chinois sortant seraient des réponses à des questions posées par un autre individu, celui-ci parlant chinois. Il est facile de penser que, si la première personne respecte les instructions, la deuxième aura des réponses sensées à ses questions et pourra très bien s'imaginer que son interlocuteur parle chinois. C'est la même chose pour la machine qui utilise le « je » : du point de vue extérieur, elle semblera s'approprier le pronom mais en fait, du point de vue de la machine, elle ne fera qu'émettre un symbole suite à des instructions. Ainsi, la machine ne pensera pas, elle effectuera des opérations. Finalement, je ne vois pas comment le fait que la machine dupe des humains à penser qu'elle est humaine démontre qu'elle pense; encore une fois, ce n'est qu'une preuve qu'elle exécute bien des instructions. En effet, plus haut dans le texte il était dit que «Le point jusqu'où nous considérons que quelque chose se comporte de manière intelligente est déterminé autant par notre propre état d'esprit et formation que par les propriétés de l'objet considéré ». Donc la machine est considérée pensante ou intelligente de notre point de vue, et par les instructions qu'elle a reçu, mais elle ne pense pas réellement.
This comment has been removed by the author.
ReplyDeleteDans son analyse du « jeu de l’imitation », Patrick Goutefangea soulève plusieurs objections très raisonnables au test de Turing. Ce test a été imaginé par Alan Turing, l’inventeur du concept machine de Turing (Ou d’ordinateur) a exploré le thème de la computation avant que la conception d’une telle machine ne soit possible. Le test du Turing permet d’éviter la question directe à savoir si « Une machine peut penser » en testant d’abord si elle peut tromper un humain. Mon cher frère cadet, je t’annonce que je m’adresserai ici à une objection spécifique de Goutefangea : « Le "je" prononcé par une machine qui tiendrait tête à des hommes au jeu de l'imitation n'aurait-il pas le même statut que celui prononcé par ces hommes mêmes ? »
ReplyDeleteSelon moi, le « je » utilisé par les humains est lui-même trompeur car le « moi » est analysé par introspection par chacun de nous. On peut s’attendre à ce que la sélection naturelle et notre bagage culturel nous ait prédisposé à nous concevoir nous-même comme quelque chose d’exceptionnel, au-delà des lois naturelles. Certains voudraient nous faire croire qu’entre nos ancêtres unicellulaires, poissons, mammifères fouisseurs ou primates, le concept du « Je » ou l’étiquette mentale utilisée pour se reconnaitre soi-même serait apparue comme par magie avec le langage. Des oiseaux et de nombreux mammifères sont capables de réussir le test du miroir (c.-à-d. de reconnaitre qu’une tache appliquée sur leur front qu’ils voient dans un miroir est en fait aussi sur eux). Selon moi, le « Je » n’a rien de spécial. Ce n’est qu’une étiquette de plus que nous appliquons au monde observable. De plus, il est très important de définir le « je » avant d’en discuter. Parlons-nous de l’ensemble de nos processus cognitifs? Parlons-nous seulement des processus conscients? Excluons nous certains modules / parties de notre cerveau lorsque nous réfléchissons au « je »?
Goutefangea nous rappelle aussi que l’on peut déjà simuler la faculté humaine de discourir à la troisième personne. Je crois que lorsqu’on aura appris à réellement donner une identité et une autonomie à un ordinateur plus complexe capable d’apprendre par essai-erreur, il pourra développer le concept du « Je » et l’utiliser efficacement. D’après moi, ce n’est qu’une étape supplémentaire que nous réussirons à franchir un jour car chacun de nous avons un exemple de machine physique capable d’avoir une conception du soi dans notre crane. Quant à l’objection qu’un ordinateur ne pourrait simuler complètement l’activité d’un cerveau parce qu’il fonctionne selon un système numérique au lieu d’analogique, je crois que le problème sera réglé lorsque les ordinateurs auront la capacité de simuler l’activité d’un cerveau au niveau des particules élémentaires (ex. atomes). À partir de ce moment, le numérique se confond à l’analogique, et n’est plus distinguable du point de vue des processus biologiques effectués par un cerveau.
***Par rapport à l'expérience de pensée de " la Chambre chinoise " décrite par John Searle, , j'ai trouvé cette Bande dessinée qui m'a fait beaucoup rire que j'aimerais partager avec vous:
http://www.smbc-comics.com/comics/1445529718-20151022.png
Est-ce que sans le dynamisme, on ne peut pas reproduire la performance humaine? Donc, pour réussir T2, il faudrait construire une machine qui contient un ordinateur(machine de Turing) en interaction avec des systèmes dynamiques (chimiques et physiques)?
ReplyDeleteParti 1:
ReplyDeleteBringing light over the question “Can machines think?”, Turning in this text reopens the interrogation and reformulates it as a Test/Game. Meanwhile he defines what we are expecting to find as an answer to such a question, as he goes on looking into explaining what this hypothetical, discrete-state machine, would be like and what this “Thinking” means. This test was based in the Imitation Game, later called the Turing Test after substituting one of the people (A or B) for a non-human machine. Clearly, the first advantage is that the third person involved in this test, the interrogator, won’t see, touch or hear the machine in the other room, having no need to worry about faking a skin or a voice for this machine. In addition, this could misleading us from a consciousness test into a “beauty contest”; meaning, which one is a better example of what is defined as a human being, in the common sense, allowing us to jump over questions that could emerge; such as, can a person with mechanical legs be called less human than a machine with full human’s appearance. Concluding this last paragraph, building a machine with a better human appearance won’t takes us closer to answering the question “can machines think?”, maybe even pervert our question.
As seen on this text, it wouldn’t be faire to penalise this hypothetical machine for its lack beauty (as we generally define it) as it wouldn’t be faire to penalise a man for its arithmetical limitations, in comparison to those of a computer. A positive answer to the main question won’t mean having a robot which is always right, as a human too we aren’t always right. To be conscious is not, necessarily to be omnipresent, nor omniconcious, but more likely is to be aware of its limitations and qualities. The text is proposing that a machines that passes the Turing Test can think, but it might be finding out if it can pretend to think a level to convince another human of its human abilities. I personally see it more as if a discrete-state machine can be creative, and more then it, be glad for its creativity?
Il ne s'agit pas de la tromperie dans le Test de Turing (TT). On cherche à générer la vraie capacité, totale, indiscernable.
DeleteTuring cherchait à exclure les biais grâce à l'apparence du candidat, mais en faisant ça il a exclus une énorme proportion de nos capacités -- tout ce qui concerne nos interactions corporelle avec le monde. Nos capacités robotiques (T3). Et en contraignant le TT aux capacités verbales (T2) ça n'empêche pas la probabilité que les capacités T2 dépendent des capacités T3, mais si elles ne sont pas éprouvées directement par T2 (le problème de l'ancrage des symboles, semaine 5). -- Tout ça pour éviter les biais d'apparence...
[Avec ta question concernant la « créativité » attention pour ne pas tomber dans l'objection naïve de Lady Lovelace à l'effet que l'ordinateur ne peut rien faire de neuf, juste ce qu'il est « programmé » à faire. (C'est faux: Un algorithme peut générer un tas de nouvelles choses, et encore davantage en interagissant avec les données entrantes. (Rien à voir avec la discrétude non plus. Elle laisse place pour une infinité d'innovations.)]
Sur la question de créativité: Un algorithme peut générer un tas de nouvelles choses MAIS, est-ce qu'une ordinateur peux arrivé a un algorithme jamais pensé par un être humain?
DeleteParti 2:
ReplyDeleteSeeing a new light over this discussion, I fell impelled to say that a machine with consciousness would be a machine able to programme another discrete-state machine in a non pre-programmed way, meaning creativity and in the same way as to have free-will to innovate. Some would say that it would involve too big of a risk to have all this freedom given to robots, as Will Smith shows in the movie, “I, Robot”, and many had shown in the modern literature. Turning, as I would agree, believe that this isn’t the risk that could crush us, but whay would be subdued would be this felling of us, humans being superior to all rest of the. In a way, we would be giving souls to those machines, as well as giving them freedom to paint a canvas, compose music or programme their own machines.
The danger I see would be a sort of logic thinking ability not directed to life, as we do. Taking a evolutionary perspective, we developed out thinking abilities as part of the survival od the species, for life, making it easier to survive, as well as for understanding death and givin meaning to it. As we give freewill to those machines and the power to logical thinking and to build a philosophical system, would they have the idea of Human’s rights pre-programmed? Would they be able to surpass those rules as they develop philosophy out of a freedom that wouldn’t be necessarily based on the same roots as the rest of creating? The rest of creating is trying to survive, will those machines be directed into the same evolutionary race? As in the movie mentioned beforehand, they wouldn’t depend or be part of evolution in the same way as we do when talking of the survival of the species.
This is a hypothesis directed to a hypothetical machine. It is hard to support, specially out of this probable reality, but an old movie may bring us new ideas. I am thinking about the Chaplin’s movie, “The Great Dictator”, precisely his final speech in this art piece. He points how human we are, or are not, as during the Second World War. Showing how different felling and thinking is, and that some humans are more like machines in the way of archiving high logic without deep feelings. How unnatural, machine-like, it is. When talking about Hitler’s soldier, Chaplin goes on telling us to “(...)not give yourselves to these [unnatural men,] machine men with machine minds and machine hearts! You are not machines! (...) You are men! You have the love of humanity in your hearts! You don’t hate! Only the unloved hate - the unloved and the unnatural!”.
Can machines do better than we have in the past, present and possibly future history? As they will be programmed by human, most likely that they will acquire our faults too. To be human is very often to make mistakes and to be right today won’t always be the same as to be right tomorrow.
Beyond consciousness as a discrete-state machine who can think as we think, I believe that what makes us human is also the fact to know that we know; to be conscious that there is a Knower. Also, to be aware of the other humans, and possibly other animals, and machines too as conscious beings, in the same way as we are, and nevertheless respecting their chance to live and their success. Following this line of thought, what makes us humans in our logical way is to know, to know that we know, and to know that others can archive this same knowledge thought intuition or logic. Perceiving others as living being and respecting their lives as their right is part of being human.
As quoted by Charles C., I am glad to do the same as I conclude my critical analyses of “Computing machinery and intelligence”: “In the 17th Chapter of St Luke it is written: “the Kingdom of God is within man” - not one man nor a group of men, but in all men! In you! You, the people have the power - the power to create machines. The power to create happiness! You, the people, have the power to make this life free and beautiful, to make this life a wonderful adventure.”
Le problème de la discrétude et de l'innovation sont des faux-fuyants. Et la conscience, c'est le ressenti -- pas plus pas moins (donc le problème dur.)
DeleteLe libre arbitre aussi est quelque chose qu'on ressent. Donc c'est encore le problème dur.
Des questions abordant un peu à la science fiction sont inévitable avec le TT et les sciences cognitives, mais laissons les spéculations concernant la menace des robots! On est déjà assez déborder avec le problème facile de rétro-ingénierier nos compétences! Les droits juridiques des robots sensibles ne sont pas en jeu.
Un T3, par définition, est indiscernable d'un de nous. Étant végan, j'accorderais déjà les droits à tous les êtres sensibles. Donc les T3 aussi, evidemment...
Ce qui nous rend humain c'est la même chose qui rend les autres animaux ce qu'ils sont: le ressenti, le fait d'être un être sensible et non un Zombie.
Ton hiérarchie de connaissance -- je sais, je sais que je sais, je sais que je sais que je sais... -- est un divertissement de luxe lorsque tu as résolu non seulement le problème facile de la compétence cognitives, mais aussi le problème difficile du ressenti, parce ce n'est que cela qui rend tout ça (les animaux, les humains, les T3/T4) conscient. Sans ça il ne s'agi que des gestes et des énoncés Zombies.
C'est une erreur très fréquente de croire que le problème dur (du ressenti, de la conscience) concerne la conscience de deuxième ordre (conscience de soi) ou plus haut. C'est faux. Le problème dur dans sa pleine splendeur est déjà là au rez-de-chaussée...
Cher frère cadet,
ReplyDeleteaujourd'hui nous avons parlé de la machine de Turing. Ça m'a remit les idées en place! J'ai appris qu'il y a une discipline qui est d'ordre supérieur à l'informatique! En fait, les ordinateurs représentent une des avancées permises par les théories computationnalistes. Il faut savoir; la machine imaginée par Turing n'existe pas en temps qu'objet (comme ton ipod), on dit que c'est une machine abstraite. Mais à quoi peut bien servir une machine qui n'existe que dans notre imagination?.. À penser bien sûr!
Laisse moi t'introduire aux différentes parties de la machine, et ensuite tu auras une idée plus claire des ses capacités, et de l'endroit où nous la plaçons dans notre conception de la cognition. La semaine dernière je t'ai parlé de programmes, permet moi maintenant d'utiliser une notion plus générale; nous allons penser en terme d'algorithme . Un algorithme, c'est juste une suite d'étapes qui nous permettent d'arriver à un but.
Imagine que tu doives ranger ta chambre, comment décrirais-tu de façon complète le procédé par lequel tu ranges une pièce? Il est assez facile de diviser la tâche en étapes simples. Laisse moi t'introduire par la même occasion au pseudo-code. C'est une manière simplifiée de décrire une suite d'instructions, ce sont les étapes de notre algorithme.
// BUT : Ranger la chambre
// MÉTHODE : Remettre les objets à leur place
Instruction (1.0.0)
> Constater l'état de la chambre (rangée/non rangée)
Instruction (2.0.0)
> TANT DU'IL y a encore des objets qui ne sont pas à leur place
Instruction (2.1.0)
> repérer le prochain objet
Instruction (2.1.1)
> SI l'objet est à sa place, ne rien faire
Intruction (2.2.2)
> SINON, mettre l'objet à sa place
Instruction (2.3)
> Constater l'état de la chambre (rangée/non rangée)
Instruction (3.0.0)
> Dire à Maman que tu as rangé la chambre
// FIN de l'algorithme
Si tu as bien compris ce que fait l'algorithme, et que nous passons à l'étape suivante, tu pourrais envisager utiliser une machine pour effectuer physiquement ces opérations. Heureusement, la dernière version de l'Homo sapiens - l'homme sage - peut ranger sa chambre. Malheureusement, la compréhension que nous avons de cette machine est insuffisante si nous considérons la "mise en service" de l'algorithme, je ne l'utiliserai pas pour ma démonstration.
DeleteQuelles sont les composantes de la machine la plus simple qui puisse réaliser un algorithme ?
Nous allons nous demander quel est l'objet (ta chambre par exemple) sur lequel l'algorithme va éxécuter les instructions. Prennons pour objet une liste. Tu peux imaginer une liste d'épicerie, ou même plus simplement une liste de numéros, ou de couleurs.
La liste est une suite finie de symboles sur laquelle l'algorithme va travailler. Le symbole, dans sa nature, n'a pas de signification! Attention, nous avons la fâcheuse habitude de ne pas être conscient de nos processus inconscients. Par exemple, lorsque tu t'arrêtes au feu rouge avant de traverser la rue, la couleur rouge ne représente pas l'action de s'arrêter (une pomme non plus d'ailleurs), mais comme il y a un contexte (le carrefour), un objectif (tu veux traverser la rue), et un algorithme (celui de l'homme sage cognisant), alors tu peux interpréter la lumière rouge comme une instruction: "arrêt". Lorsque nous créons un alphabet de symboles, nous sommes simplement à la recherche d'un levier pour actionner une certaine section de notre algorithme. Ce qui est important c'est la relation entre l'algorithme et les symboles.
Nous avons donc une liste d'objets, disons des teintes de gris, et pour créer une machine, nous allons placer chacune des teintes de la liste sur une bande de papier. Nous voulons que notre algorithme réagisse en fonction de la teinte qui lui est présentée. Nous allons donc installer une tête de lecture , c'est une pièce qui a le rôle d'oeil, et qui perçoit les différentes teintes. Notre algorithme va donc faire suite à l'état de la bande de papier (noir, gris-noir, gris-blanc ou blanc?).
Rédigeons l'algorithme. Je dois te l'avouer, le noir me plait beaucoup. J'aimerais que ma bande soit complètement noire.
// Description : Cet algorithme change une unité qui a pour valeur "non-noir" et lui assigne la valeur "noir"
> TANT qu'il reste des cases dans la liste
> SI la teinte a la valeur "noir", ne rien faire
> SINON, assigner la valeur "noir"
> passer à la case suivante
// FIN de l'algorithme
À la semaine prochaine
e.
Commentaire sur les notions de continu et d’approximation qui ont étés mentionnées dans le cours.
ReplyDeleteLe continu a été défini par opposition au « discret » (discret = par sauts), définitivement plus simple, mais sans en préciser davantage le sens. Cette distinction discret/continu est problématique: il n’existe pas de notion mathématique universelle de « continue ». Le continu des nombres rationnels, au sens où entre n’importe quels deux nombres rationnels s’en trouve un troisième, est insuffisant à la géométrie plane, et le continu du plan euclidien ne nécessite pas tous les nombres réels! D’autre part, si le continu peut être approximé par le discret (peut importe le sens que pourrait prendre cette phrase), alors la distinction discret/continu pourrait s’avérer insignifiante.
L’approximation a été mentionnée en lien avec la thèse forte de Turing, comme quoi « tout dans l’univers peut être simulé (de façon approximative) par une machine de Turing ». Il existe justement un cadre mathématique précis pour traiter de l’approximation, et une frontière claire qui sépare ce qui peut être approché par les machines de Turing de ce qui est hors de leur portée: les espaces topologiques et la séparabilité.
Un espace X (un ensemble abstrait d’éléments), muni d’une certaine notion de proximité (formellement une topologie, par exemple donnée par une distance), est dit séparable s’il contient un sous-ensemble E fini ou dénombrable tel que tout élément de X peut être arbitrairement bien approché par des éléments de E.
Comme les machines de Turing sont dénombrables, la séparabilité marque la limite de ce que l’ensemble de toutes les machines de Turing, mises ensemble, peut approximer. Un exemple d’espace séparable est l’ensemble des fonctions continues sur l’intervalle [0,1] (la distance est entre deux fonctions est le maximum de leur différence), tandis que les fonctions continues sur R (les réels) ne forment pas un espace séparable.
L’approximation n’a donc rien avoir avec le continu. C’est la séparabilité/non-séparabilité qui est fondamentale, en identifiant ce que le dénombrable ne peut approcher. Bien entendu, la discussion est restée ici trop abstraite. Pour parler de la thèse forte de Turing, il faudrait préciser comment est effectuée une simulation, spécifier un espace et une distance (pour la qualité d’approximation). Comme la séparabilité dépend en général du choix de cette distance, il s’avère peut-être que la thèse forte de Turing est un peu vraie et un peu fausse.
Est-ce que la machine pense? Je vais faire abstraction de la question d’éthique qui se trouve dans le sujet pour donner mon opinion de la question. Il me semble que la pensée est une caractéristique propre aux êtres vivants. Par ce fait, je dirais que la machine, s’il était possible, aurait uniquement la conscience que son créateur a voulu le donner.
ReplyDeleteLe jeu de l’imitation consiste d’avoir 3 joueurs, A, B et C. C est celui qui pose des questions à A et B. Le but du jeu est que C soit en mesure d’identifier qui si A est une femme ou pas et B l’aide en ne donnant que des réponses vrais. Dans le test de Touring, le but est de pouvoir identifier si la personne est une machine.
Dans le jeu de l’imitation, il est possible de tromper l’humain sur l’identité de la personne qui interagit avec lui si on l’ôte tout possibilité de jugement physique. On pourra interagir avec une personne sans jamais avoir une certitude exacte de l’identité de l’interlocuteur. Cependant, je crois que la tromperie à une limite quand vient le temps de comprendre le sens de la phrase ou d’émettre une opinion. Il pourra être en mesure de répondre à la question, mais, lorsque viendra le temps de prouver ou de poser un jugement, la tromperie sera dévoilée. Je ne doute pas de la capacité de résoudre des problèmes de la machine, mais bien de sa capacité de jugement et de réagir rapidement à un imprévu.
Comment définir la computation ?
ReplyDeleteNous avons vu la semaine dernière de façon simplifiée que la computation, c’était fonctionner comme un ordinateur. Mais il ne s’agit là que d’un exemple de computation. Imaginons une machine. Celle-ci dispose d’un ruban, sur lequel sont inscrits des symboles. Elle dispose également d’une tête de lecture et d’écriture, qui peut lire le symbole sur le ruban et éventuellement remplacer ce symbole par un autre symbole. Enfin, cette machine dispose d’un ensemble d’instructions sur ce qu’elle doit faire avec certains symboles. Cette machine hypothétique, dans laquelle le type de symboles utilisés n’a aucune importance, pas plus que les matériaux utilisés pour la construire, est une machine de Turing. En quoi est-ce utile pour définir la computation ? La thèse faible de Church-Turing est que tout ce que fait cette machine est de la computation. La thèse forte de Turing est que (presque) tout ce qui existe dans l’univers peut être modélisé par une machine de Turing.
Le problème des autres esprits et un problème philosophique qui rend compte de l’impossibilité de vérifier la présence de cognition chez l’autre. Si il est possible d’observer un cœur un bat et d’en déduire sa fonction de pompe sanguine, il n’en est pas de même avec le cerveau. Nous connaissons et continuons à approfondir notre connaissance du fonctionnement de celui-ci, mais cela ne nous amène aucun réponse quand à l’existence de la conscience.
Mais comment determiner, alors, si une machine, un robot, ou tout autre système, dispose de cognition ? Turing propose que, au vu du problème des autres esprits, il serrait déraisonnable d’exiger d’un candidat qu’il prouve sa propre cognition au delà du standard que nous utilisons pour els autres humains. Il propose un test : lorsqu’un candidat ne pourra être départagé d’un humain de part ce qu’il fait, alors, il passera pourra être considéré comme doué de cognition.
Bertrand, J. M. (1987). Test de Turing: jeu d'imitation ou test d'intelligence?. Quaderni, 1(1), 35-45.
ReplyDeleteLe concept du test de turing est simple, un candidat doit corresponde avec A et B, soit un humain et un T2 ou T3. Il ne sais pas a qui il correspond. Le candidat pose des questions à ses deux correspondant et doit deviner lequel est T2 ou T3.
A, répond aux questions comme B, et ainsi de suite. Seulement apres un moment, le candidat se demande si un des deux n'est pas un T2 ou T3. Le but est d'induire en erreur le correspondant pour démontrer que T2 ou T3 peut corresponde normalement sans faille. La machine peut répondre aux question du candidat, mais est-ce qu'elle peut faire autre chose ?
Simuler ! le vrai le faux la vie
Dans le texte Test de Turing: jeu d'imitation ou test d'intelligence? J-M Bertrand reprend le jeu de l'imitation de Turing et émet quelques critiques. Tout d'abord, le fait que l'auteur, qui ne voulait pas au début répondre à la question "est-ce que la machine pense ?" y sera confronté en filigrane durant tout son texte. Ensuite, le travail de Turing ne se base que sur des suppositions de ce qu'il va se passer lorsque la technique se sera améliorée pour pouvoir atteindre une sorte d'idéal, pouvoir assigner en quelque sorte des comportements humains à des machines. Or, s'il l'on sort du contexte une machine, de sa fonction technique, cela remet en cause la scientificité du propos dans la mesure où celui-ci est biaisé par les attentes et les idées que l'on projette sur lui. L'auteur nous offre donc une remise en question de ce test qui a été porté durant de nombreuses années par la communauté scientifiques. En revanche, ce que j'ai trouvé très intéressant, c'est la comparaison qu'effectue Turing entre la machine et l'enfant dans le cadre de l'apprentissage et de l'éducation : Son étude s'ancre alors plus dans le réel et est plus compréhensible pour ses lecteurs.
ReplyDelete2a. Alan Turing et le jeu de l'imitation, Patrick Goutefangea
ReplyDeleteCe qu'on appelle le Jeu de l'imitation réfère au test de Turing. Le test de Turing permet de juger un candidat selon sa capacité à simuler les différentes fonctions cognitif sans pouvoir être discriminer d'un être ayant vraiment des fonctions cognitif. Le jeu de l'imitation met en scène un entité doté de la cognition, un humain, qui doit procédé à une discrimination entre un autre humain et une machine computationnel. C'est un exercice où les sujets sont placés sous des conditions qui limite la prise en compte de donnée discriminatoire. Seul un échange verbale par correspondance peut-être utiliser pour juger des capacités cognitives des sujets. S'il est impossible de discrédité l'«humanité» du sujet par des paramètres purement linguistique, l'ordinateur devient aussi éligible que n'importe qu'elle humaine de gagner le jeu.
Personnel Ce jeu de l'imitation renvoie au petit et au gros problème. Vue que nous n'avons aucun autre moyen de validé l'intégrité cognitif d'autrui, nous nous basons sur la méthode la plus efficace de juger empiriquement d'une fonction qui se rapproche d'un état cognitif. Ce jeu de l'imitation amène un doute quant à notre processus de catégorisation de ce qui à une conscience de ce qui en n'a pas. Sous des paramètres strict, mais suffisante, nous pouvons être tromper et attribuer une conscience à une entité purement computationnelle, alors que sous le filtre de nos biais cognitif, ignorer le fait que d'autre être biologique puisse en avoir une. Est-ce parce que nous pouvons, grâce au manque d'information, mieux nous projeter sur un personnage qui semble partager cette attribut linguistique si particulier à l'humain?
Suite à la lecture de « Alan Turing et le jeu de l’imitation » de Patrick Goutefangea. Alan Turing nous fais comprendre que la pensée serait calculable et qu’il serait possible de crée une machine qui serait capable de « pensée » et d’imiter un être humain, or il ne nous donne aucune définition de ce que c’est la « pensée ». Il nous dit aussi qu’une machine peut être « éduquée » comme un petit homme or nous savons qu’aujourd’hui que nos machines sont programmables nous donnons des informations et des qu’une action sera faite envers la machine, elle répondra par l’information que nous lui avons programmé, mais en aucun cas la machine serait capable de pensée par elle-même, elle peut, peut être imiter l’action de pensée. Ce qui m’en ressort serait que l’éducation serait une forme de programmation ? Pourtant nous savons que chaque être humain est capable de penser, et chaque individus on leurs « pensées » sur l’éducation et qu’il n’y a pas qu’une forme d’éducation. Il serait désavantageux de privilégié de programmer qu’une seule forme d’éducation, sachant qu’il existe plusieurs modes d’apprentissage et qu’une personnalisation serait nécessaire.
ReplyDeleteSuite à la lecture de « Alan Turing et le jeu de l’imitation » de Patrick Goutefangea. Alan Turing nous fais comprendre que la pensée serait calculable et qu’il serait possible de crée une machine qui serait capable de « pensée » et d’imiter un être humain, or il ne nous donne aucune définition de ce que c’est la « pensée ». Il nous dit aussi qu’une machine peut être « éduquée » comme un petit homme or nous savons qu’aujourd’hui que nos machines sont programmables nous donnons des informations et des qu’une action sera faite envers la machine, elle répondra par l’information que nous lui avons programmé, mais en aucun cas la machine serait capable de pensée par elle-même, elle peut, peut être imiter l’action de pensée. Ce qui m’en ressort serait que l’éducation serait une forme de programmation ? Pourtant nous savons que chaque être humain est capable de penser, et chaque individus on leurs « pensées » sur l’éducation et qu’il n’y a pas qu’une forme d’éducation. Il serait désavantageux de privilégié de programmer qu’une seule forme d’éducation, sachant qu’il existe plusieurs modes d’apprentissage et qu’une personnalisation serait nécessaire.
ReplyDeleteCielo : Introduction à la Machine de Turing
ReplyDeleteLa Machine de Touring est une machine théorique imaginée par Alan Touring en 1936 pour démontrer l’opération qu’exécute le mathématicien lors du calcul, qui se traduit en algorithme d’opération.
Cette machine est formée de trois éléments : le ruban de symbole, la tête de lecture et la table de transition (règle d’actions). Elle opère de manière suivante : la tête de lecture lit le ruban et opère selon la règle associée au symbole reconnu (par sa forme) ; ces règles d’actions se retrouvent dans la table de transition.
Cette machine ouvrit la porte au computationnalistes, qui considère que les capacités cognitives sont des opérations algorithmiques appliquées par le sujet. Toutes les capacités cognitives seraient alors simulable par la mathématique, ce qui donnerait une explication causale de la cognition.
Par la machine de Turing, tout ce qui est computable ou pouvant être mathématisée serait de la computation et donc ce qui ne serait pas mathématisable ne serait pas de la computation. Jusqu'à aujourd’hui les fonctions végétatives du corps (respiration, circulation sanguine, temperation corporelle, etc) peuvent être simulées. Or, lorsque l’on étudie les fonctions cognitives, on s’aperçoit que la mathématisation est plus complexe puisque les méthodes computationnistes ne sont basées que sur la reconnaissance formelle de symbole et non sur la compréhension.