🧠 Intelligence | Cybernetruc #02

Au-delà de la biologie, qu'est-ce qui fait l'humain ? Peut-on tester cette part d'humanité, même chez un robot ? La question obsède depuis longtemps. Alors on parle de Turing et de Voight-Kampff.

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Humanité

On se demandait dans 👽 Contact - la newsletter d’avant - de quelle façon une intelligence artificielle devenue vraiment intelligente, ou consciente, se manifesterait auprès des humains. Serait-elle même capable de se faire entendre et comprendre ? Quel serait le signal de son intelligence ?

La question de l’intelligence des machines n’a absolument rien de nouveau, ni de récent. On pourrait remonter aux histoires bibliques ou aux contes anciens – ah ouais, tiens, Pinocchio [🎥] – pour voir à quel point la rencontre d’une intelligence extra-humaine est une préoccupation… humaine éternelle. On gardera aussi le mythe de Frankenstein [📗] sous le coude pour l’occasion. Même s’il ne parle pas de machine, il parle de la conscience de ce qui n’est finalement pas, ou plus, humain.

Non, ce que je vous propose, c’est un retour en arrière d’exactement 72 ans, pas plus.

The Imitation Game

En octobre 1950, Alan Turing publie dans la revue trimestrielle MIND un article nommé Computing Machinery and Intelligence [📰] dans lequel il pose les bases de son célèbre test : the Imitation Game (nan, pas le film [🎥]).

Est-ce qu’il est réellement utile de revenir sur qui est Alan Turing ? On se contentera ici d’une biographie en trois lignes : Pendant la Seconde Guerre Mondiale, Alan Turing a contribué, stratégiquement, à l’invention des ordinateurs et au cassage des codes de communication allemands. On lui doit des avancées majeures dans le domaine de l’informatique après-guerre. La Wikipedia [📄] ou n’importe quel dictionnaire de l’informatique [📕] vous en dira mille fois plus.

Bref. Alan Turing développe dans cet article l’idée que, dans la mesure où les capacités des ordinateurs sont, théoriquement, infinies, et où le fonctionnement du cerveau humain s’apparente à celui d’un ordinateur – en laissant de côté les questions de perception ou de capacité “physique” (manipulation, déplacement, parole) – il n’y a aucune raison pour qu’une machine ne devienne pas un jour aussi intelligente qu’un être humain. Voire, nous dépasse en capacité.

L’idée de the Imitation Game est en conséquence très simple :

1. Placez dans une salle un être humain que l‘on va appeler l’Enquêteur - The Interrogator dans le texte original.

2. Placez dans une autre salle, isolée visuellement et acoustiquement, une machine, sans informer l’Enquêteur de la nature de cet… être.

3. Demandez à l’enquêteur de questionner, par le biais par exemple d’un clavier et d’un écran, la machine placée dans cette seconde salle.

Si, au bout d’un certain temps de conversation, l’enquêteur est incapable de savoir s’il a en face de lui une machine ou un véritable être humain, alors, la machine a réussi ce qu’on appelle désormais le Test de Turing : elle a fait preuve d’une intelligence qui égale, ou dépasse, celle des êtres humains.

Turing est un test positif. Dans deux sens du terme : d’abord, il sanctionne la capacité d’une machine à réfléchir comme un humain, à franchir une étape dans son développement. C’est un accomplissement ! Ensuite, Turing voit très clairement la réussite de ce test comme un progrès technologique. Ainsi conclut-il son article :

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.

We can only see a short distance ahead, but we can see plenty there that needs to be done.

Pour Alan Turing, les possibilités offertes par l’intelligence des machines, car oui elles deviendront un jour intelligentes, sont innombrables. Il n’y a qu’à choisir les domaines d’expertises dans lesquels elles doivent exceller pour les voir dépasser un jour le génie humain, et le surpasser bientôt dans tous les domaines.

Oui, l’idée de singularité [📄] – ce moment où la capacité des machines dépassera celle des humains – est également très présente dans la réflexion de Turing.

Intelligence ou Conscience

Mais attention, Turing se garde bien de mélanger Intelligence et Conscience. C’est d’ailleurs un point parmi les objections qu’il parcourt dans son article.

Il reprend pour cela un texte de Sir Geoffrey Jefferson [📄] : The Mind of Mechanical Man, publié en 1949 [📰]. Dans cet article, le neurologue britannique s’attarde sur le fonctionnement des machines et sur celui du cerveau humain… et estime que si les ordinateurs peuvent copier le fonctionnement de l’être humain, mécaniquement, elles ne peuvent en aucun cas lui être comparées. Il estime que les ordinateurs qui commencent alors à se sophistiquer soit, tout au plus, des perroquets un peu malins (cleverer parrot), estimant que “If the machine typewrites its answers, the cry may rise that it has learn to write, when in fact it will be doing no more than telegraphic system do already”.

Geoffrey Jefferson met l'humanité, la conscience, dans la capacité d’invention – d’inventer des mots pour décrire des situations inédites par exemple – et surtout dans celle à ressentir. C’est d’ailleurs sa conclusion, citée par Turing lui-même :

No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its success, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.

Turing va un peu plus loin : il est impossible de savoir ce que ressent un humain sans être soi-même à l’intérieur de son cerveau… Il n’y a pas vraiment d’expression externe de la conscience (oui, je simplifie). Aussi le test de Turing, aussi malin soit-il ne permet pas de détecter la conscience des machines. Seulement… leur intelligence.

Et Alan Turing n’interdit tout simplement pas que les machines puisse devenir un jour conscientes.

Le débat reste ouvert.

Voight-Kampff

Heureusement, nous avons un autre test pour repérer les machines. Celui-ci est sorti du cerveau de l’écrivain américain Philip K. Dick et est devenu une icône de la culture SF : le fameux test de Voight-Kampff évoqué dans la nouvelle Do androids dream of electric sheep? (1968) [📘] et mis en scène dans le film Blade Runner de Ridley Scott (1982) [🎥].

Voight-Kampff est un test d’incapacité. Là où the Imitation Game évaluait la capacité d’un être à se comporter comme un humain, Voight-Kampff traque l’échec, l’incapacité d’un être à ressentir des sensations humaines, ou en tout cas à les laisser paraître. Le test évalue les réactions physiques – dilatation de la pupilles, sueurs, frissons… – à différentes situations imaginaires (comme moi, avez-vous été traumatisé par cette question de la tortue bloquée sur le dos pour laquelle, dans le film, l’androïd Léon ne ressent aucune empathie [🎥] ?).

Car c’est bien d’empathie qu’il s’agit ici, de l’incapacité qu’a un robot à ressentir les émotions humaines. Un peu comme l’évoquait déjà Geoffrey Jefferson en 1949. Car si le robot peut imiter l’homme, il ne peut ressentir réellement les choses, et la reproduction mécanique des émotions et des sentiments, et des multiples situations qui leur donnent naissance, a ses limites. C’est en tout cas à cette conclusion qu’arrive Dick dans sa nouvelle.

Alors bien sûr, l’efficacité du test n’a qu’un temps et les progrès technologiques arriveront bien à créer une machine capable de le déjouer – c’est d’ailleurs toute l’intrigue du livre. Dick l’admet lui-même (sur une traduction de Serge Quadruppani) :

À la longue, bien sûr, le Voight-Kampff se démodera […] mais pas avant un moment.

Et puis, un test basé sur l’empathie est forcément sujet à erreur – c’est encore toute l’intrigue du livre. Là aussi, Dick l’admet longuement, évoquant le sort de schizoïdes ou de schizophrènes humains ayant été reconnus comme des robots (même traduction) :

Le problème n’est pas nouveau. Il existe depuis le premier jour où nous nous sommes heurtés à un androïde cherchant à se faire passer pour un être humain. Vous connaissez aussi bien que moi l’article que Laurie Kampff a publié il y a huit ans et qui résume l’opinion unanime de la police mondiale – Blocage de l’aptitude à adopter un rôle chez le schizophrène intact intellectuellement. Kampff établissait la comparaison entre la diminution des facultés empathiques du patient humain et une absence apparemment similaire […]

Plus grave est alors l’erreur, puisque dans Blade Runner, un échec au test de Voight-Kampff provoque un retrait, une mise hors-service,… la mort.

Empathie

On l’a compris, les deux tests qui nous permettrait aujourd’hui de détecter les robots, ou les humains, ne sont pas équivalents. Et s’ils cherchent à trouver une petite étincelle d’humanité chez les êtres, ils posent encore pas mal de questions : Que faire d’un être numérique sur-intelligent qui réussit le test de Turing mais échoue à Voight-Kampff ? Plus compliqué, comment qualifier un être artificiel qui échoue à démontrer son intelligence lors d’un test de Turing mais parvient à montrer de l’empathie au Voight-Kampff ?

Dans les deux cas, la réponse est dans la tête de l’Enquêteur.

Parce qu’au fond, qu’il soit face à un robot ou non, est-ce que ces tests ne serviraient pas à mesurer le degré d’empathie de l’enquêteur lui-même, et sa capacité à trouver une trace d’humanité dans tous les êtres ?

Est-ce que les robots ne seront pas simplement devenus humains quand notre regard sur eux aura changé, au-delà de toute considération mécanique, algorithmique et mathématique ?

Je vous laisse gamberger là-dessus.

---

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

---

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

À la prochaine !