đ§ Intelligence | Cybernetruc #02
Au-delĂ de la biologie, qu'est-ce qui fait l'humain ? Peut-on tester cette part d'humanitĂ©, mĂȘme chez un robot ? La question obsĂšde depuis longtemps. Alors on parle de Turing et de Voight-Kampff.
CYBERNETRUC! explore de maniĂšre irrĂ©guliĂšre nos imaginaires technologiques et numĂ©riques. Ă chaque billet on divague, on imagine et on nâa pas forcĂ©ment les rĂ©ponses. Vous voilĂ aujourdâhui un peu plus de quatre-vingt-dix Ă suivre cette aventure. Bonne lecture ! đ
Des [đż], [đ] ou [đ°] ? Cliquez, ils vous emmĂšneront vers des complĂ©ments dâinformation.
Humanité
On se demandait dans đœ Contact - la newsletter dâavant - de quelle façon une intelligence artificielle devenue vraiment intelligente, ou consciente, se manifesterait auprĂšs des humains. Serait-elle mĂȘme capable de se faire entendre et comprendre ? Quel serait le signal de son intelligence ?
La question de lâintelligence des machines nâa absolument rien de nouveau, ni de rĂ©cent. On pourrait remonter aux histoires bibliques ou aux contes anciens â ah ouais, tiens, Pinocchio [đ„] â pour voir Ă quel point la rencontre dâune intelligence extra-humaine est une prĂ©occupation⊠humaine Ă©ternelle. On gardera aussi le mythe de Frankenstein [đ] sous le coude pour lâoccasion. MĂȘme sâil ne parle pas de machine, il parle de la conscience de ce qui nâest finalement pas, ou plus, humain.
Non, ce que je vous propose, câest un retour en arriĂšre dâexactement 72 ans, pas plus.
The Imitation Game
En octobre 1950, Alan Turing publie dans la revue trimestrielle MIND un article nommĂ© Computing Machinery and Intelligence [đ°] dans lequel il pose les bases de son cĂ©lĂšbre test : the Imitation Game (nan, pas le film [đ„]).
Est-ce quâil est rĂ©ellement utile de revenir sur qui est Alan Turing ? On se contentera ici dâune biographie en trois lignes : Pendant la Seconde Guerre Mondiale, Alan Turing a contribuĂ©, stratĂ©giquement, Ă lâinvention des ordinateurs et au cassage des codes de communication allemands. On lui doit des avancĂ©es majeures dans le domaine de lâinformatique aprĂšs-guerre. La Wikipedia [đ] ou nâimporte quel dictionnaire de lâinformatique [đ] vous en dira mille fois plus.
Bref. Alan Turing dĂ©veloppe dans cet article lâidĂ©e que, dans la mesure oĂč les capacitĂ©s des ordinateurs sont, thĂ©oriquement, infinies, et oĂč le fonctionnement du cerveau humain sâapparente Ă celui dâun ordinateur â en laissant de cĂŽtĂ© les questions de perception ou de capacitĂ© âphysiqueâ (manipulation, dĂ©placement, parole) â il nây a aucune raison pour quâune machine ne devienne pas un jour aussi intelligente quâun ĂȘtre humain. Voire, nous dĂ©passe en capacitĂ©.
LâidĂ©e de the Imitation Game est en consĂ©quence trĂšs simple :
Placez dans une salle un ĂȘtre humain que lâon va appeler lâEnquĂȘteur - The Interrogator dans le texte original.
Placez dans une autre salle, isolĂ©e visuellement et acoustiquement, une machine, sans informer lâEnquĂȘteur de la nature de cet⊠ĂȘtre.
Demandez Ă lâenquĂȘteur de questionner, par le biais par exemple dâun clavier et dâun Ă©cran, la machine placĂ©e dans cette seconde salle.
Si, au bout dâun certain temps de conversation, lâenquĂȘteur est incapable de savoir sâil a en face de lui une machine ou un vĂ©ritable ĂȘtre humain, alors, la machine a rĂ©ussi ce quâon appelle dĂ©sormais le Test de Turing : elle a fait preuve dâune intelligence qui Ă©gale, ou dĂ©passe, celle des ĂȘtres humains.
Turing est un test positif. Dans deux sens du terme : dâabord, il sanctionne la capacitĂ© dâune machine Ă rĂ©flĂ©chir comme un humain, Ă franchir une Ă©tape dans son dĂ©veloppement. Câest un accomplissement ! Ensuite, Turing voit trĂšs clairement la rĂ©ussite de ce test comme un progrĂšs technologique. Ainsi conclut-il son article :
We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.
We can only see a short distance ahead, but we can see plenty there that needs to be done.
Pour Alan Turing, les possibilitĂ©s offertes par lâintelligence des machines, car oui elles deviendront un jour intelligentes, sont innombrables. Il nây a quâĂ choisir les domaines dâexpertises dans lesquels elles doivent exceller pour les voir dĂ©passer un jour le gĂ©nie humain, et le surpasser bientĂŽt dans tous les domaines.
Oui, lâidĂ©e de singularitĂ© [đ] â ce moment oĂč la capacitĂ© des machines dĂ©passera celle des humains â est Ă©galement trĂšs prĂ©sente dans la rĂ©flexion de Turing.
Intelligence ou Conscience
Mais attention, Turing se garde bien de mĂ©langer Intelligence et Conscience. Câest dâailleurs un point parmi les objections quâil parcourt dans son article.
Il reprend pour cela un texte de Sir Geoffrey Jefferson [đ] : The Mind of Mechanical Man, publiĂ© en 1949 [đ°]. Dans cet article, le neurologue britannique sâattarde sur le fonctionnement des machines et sur celui du cerveau humain⊠et estime que si les ordinateurs peuvent copier le fonctionnement de lâĂȘtre humain, mĂ©caniquement, elles ne peuvent en aucun cas lui ĂȘtre comparĂ©es. Il estime que les ordinateurs qui commencent alors Ă se sophistiquer soit, tout au plus, des perroquets un peu malins (cleverer parrot), estimant que âIf the machine typewrites its answers, the cry may rise that it has learn to write, when in fact it will be doing no more than telegraphic system do alreadyâ.
Geoffrey Jefferson met l'humanitĂ©, la conscience, dans la capacitĂ© dâinvention â dâinventer des mots pour dĂ©crire des situations inĂ©dites par exemple â et surtout dans celle Ă ressentir. Câest dâailleurs sa conclusion, citĂ©e par Turing lui-mĂȘme :
No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its success, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.
Turing va un peu plus loin : il est impossible de savoir ce que ressent un humain sans ĂȘtre soi-mĂȘme Ă lâintĂ©rieur de son cerveau⊠Il nây a pas vraiment dâexpression externe de la conscience (oui, je simplifie). Aussi le test de Turing, aussi malin soit-il ne permet pas de dĂ©tecter la conscience des machines. Seulement⊠leur intelligence.
Et Alan Turing nâinterdit tout simplement pas que les machines puisse devenir un jour conscientes.
Le débat reste ouvert.
Voight-Kampff
Heureusement, nous avons un autre test pour repĂ©rer les machines. Celui-ci est sorti du cerveau de lâĂ©crivain amĂ©ricain Philip K. Dick et est devenu une icĂŽne de la culture SF : le fameux test de Voight-Kampff Ă©voquĂ© dans la nouvelle Do androids dream of electric sheep? (1968) [đ] et mis en scĂšne dans le film Blade Runner de Ridley Scott (1982) [đ„].
Voight-Kampff est un test dâincapacitĂ©. LĂ oĂč the Imitation Game Ă©valuait la capacitĂ© dâun ĂȘtre Ă se comporter comme un humain, Voight-Kampff traque lâĂ©chec, lâincapacitĂ© dâun ĂȘtre Ă ressentir des sensations humaines, ou en tout cas Ă les laisser paraĂźtre. Le test Ă©value les rĂ©actions physiques â dilatation de la pupilles, sueurs, frissons⊠â Ă diffĂ©rentes situations imaginaires (comme moi, avez-vous Ă©tĂ© traumatisĂ© par cette question de la tortue bloquĂ©e sur le dos pour laquelle, dans le film, lâandroĂŻd LĂ©on ne ressent aucune empathie [đ„] ?).
Car câest bien dâempathie quâil sâagit ici, de lâincapacitĂ© quâa un robot Ă ressentir les Ă©motions humaines. Un peu comme lâĂ©voquait dĂ©jĂ Geoffrey Jefferson en 1949. Car si le robot peut imiter lâhomme, il ne peut ressentir rĂ©ellement les choses, et la reproduction mĂ©canique des Ă©motions et des sentiments, et des multiples situations qui leur donnent naissance, a ses limites. Câest en tout cas Ă cette conclusion quâarrive Dick dans sa nouvelle.
Alors bien sĂ»r, lâefficacitĂ© du test nâa quâun temps et les progrĂšs technologiques arriveront bien Ă crĂ©er une machine capable de le dĂ©jouer â câest dâailleurs toute lâintrigue du livre. Dick lâadmet lui-mĂȘme (sur une traduction de Serge Quadruppani) :
Ă la longue, bien sĂ»r, le Voight-Kampff se dĂ©modera [âŠ] mais pas avant un moment.
Et puis, un test basĂ© sur lâempathie est forcĂ©ment sujet Ă erreur â câest encore toute lâintrigue du livre. LĂ aussi, Dick lâadmet longuement, Ă©voquant le sort de schizoĂŻdes ou de schizophrĂšnes humains ayant Ă©tĂ© reconnus comme des robots (mĂȘme traduction) :
Le problĂšme nâest pas nouveau. Il existe depuis le premier jour oĂč nous nous sommes heurtĂ©s Ă un androĂŻde cherchant Ă se faire passer pour un ĂȘtre humain. Vous connaissez aussi bien que moi lâarticle que Laurie Kampff a publiĂ© il y a huit ans et qui rĂ©sume lâopinion unanime de la police mondiale â Blocage de lâaptitude Ă adopter un rĂŽle chez le schizophrĂšne intact intellectuellement. Kampff Ă©tablissait la comparaison entre la diminution des facultĂ©s empathiques du patient humain et une absence apparemment similaire [âŠ]
Plus grave est alors lâerreur, puisque dans Blade Runner, un Ă©chec au test de Voight-Kampff provoque un retrait, une mise hors-service,⊠la mort.
Empathie
On lâa compris, les deux tests qui nous permettrait aujourdâhui de dĂ©tecter les robots, ou les humains, ne sont pas Ă©quivalents. Et sâils cherchent Ă trouver une petite Ă©tincelle dâhumanitĂ© chez les ĂȘtres, ils posent encore pas mal de questions : Que faire dâun ĂȘtre numĂ©rique sur-intelligent qui rĂ©ussit le test de Turing mais Ă©choue Ă Voight-Kampff ? Plus compliquĂ©, comment qualifier un ĂȘtre artificiel qui Ă©choue Ă dĂ©montrer son intelligence lors dâun test de Turing mais parvient Ă montrer de lâempathie au Voight-Kampff ?
Dans les deux cas, la rĂ©ponse est dans la tĂȘte de lâEnquĂȘteur.
Parce quâau fond, quâil soit face Ă un robot ou non, est-ce que ces tests ne serviraient pas Ă mesurer le degrĂ© dâempathie de lâenquĂȘteur lui-mĂȘme, et sa capacitĂ© Ă trouver une trace dâhumanitĂ© dans tous les ĂȘtres ?
Est-ce que les robots ne seront pas simplement devenus humains quand notre regard sur eux aura changé, au-delà de toute considération mécanique, algorithmique et mathématique ?
Je vous laisse gamberger lĂ -dessus.
Un petit mot Ă propos de lâauteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de trĂšs courtes nouvelles qui interrogent sur la place des technologies numĂ©riques dans notre quotidien.
Merci de votre attention et Ă la prochaine fois pour parler dâautres choses !
PS1. Si vous avez aimĂ© cette premiĂšre expĂ©rience, nâhĂ©sitez pas Ă la partager sur les rĂ©seaux sociaux ou avec vos contacts :
PS2. Et si vous ĂȘtes venu via ces mĂȘmes rĂ©seaux sociaux ou via un partage⊠nâhĂ©sitez pas Ă vous abonner pour recevoir le prochain billet :
Ă la prochaine !
đ§ Intelligence | Cybernetruc #02
Merci, quel régal !
Encyclopédique ? Oui, presque.
Chiant ? Au contraire.
Je reste Ă l'Ă©coute, trĂšs attentive...