đ Vocabulaire | Cybernetruc #06
Cybernetruc, nouvel opus. OĂč l'on invoque Alan Turing et des dauphins, des chats et des chats, pour savoir s'il est lĂ©gitime d'utiliser le terme Intelligence pour dĂ©signer un programme informatique.
CYBERNETRUC! explore de maniĂšre irrĂ©guliĂšre nos imaginaires technologiques et numĂ©riques. Ă chaque billet on divague, on imagine et on nâa pas forcĂ©ment les rĂ©ponses. Vous ĂȘtes maintenant presque cent-vingt Ă suivre cette aventure. Bonne lecture ! đ
Des [đż], [đ] ou [đ°] ? Cliquez, ils vous emmĂšneront vers des complĂ©ments dâinformation.
đ Vocabulaire
« Mal nommer les choses, câest ajouter au malheur du monde » disait Albert Camus [đ] en 1944. Autant donc se pencher cette fois sur une question de⊠vocabulaire. Une intelligence artificielle est-elle rĂ©ellement une « intelligence artificielle » ? Est-il lĂ©gitime de nommer un programme informatique de cette façon ?
On rĂ©capitule deux-trois choses avant de commencer Ă rĂ©pondreâŠ
Retour tout dâabord sur Alan Turing, puisque son article Computing Machinery and Intelligence [đ°] de 1950 est lâune des bases de lâensemble des rĂ©flexions que lâon mĂšne ici depuis quelques mois (on en parlait surtout dans⊠đ§ Intelligence). Turing y oppose les notions dâIntelligence et de Conscience et revient sur lâune des arguments qui peut ĂȘtre prĂ©sentĂ© contre son test : Il est impossible de savoir si une machine pense sans ĂȘtre soi-mĂȘme Ă lâintĂ©rieur de cette machine et dâen connaĂźtre les rouages intimes (mise en exergue du texte par Alan Turing lui-mĂȘme) :
According to the most extreme form of this view the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking. One could then describe these feelings to the world, but of course no one would be justified in taking any notice. Likewise according to this view the only way to know that a man thinks is to be that particular man.
Turing se sert dâailleurs de ce contre-argument pour valider son test : si lâon ne peut prouver lâintelligence par la seule perception, alors je ne peux pas savoir si un autre ĂȘtre humain â toi, ami lecteur, ou toi, PrĂ©sident de la RĂ©publique â est rĂ©ellement intelligent. Et je peux statuer que tous, Ă lâexception de moi, sont dĂ©nuĂ©s dâintelligence. Position extrĂȘme. Et indĂ©fendable. Puisquâil faut bien reconnaĂźtre que certaines personnes en dehors de nous-mĂȘme sont intelligentes. Et que nous acceptons leur intelligence sur la base de la perception que nous en avonsâŠ
Donc⊠pourquoi ne pas accepter lâintelligence dâun robot sur la base de cette perception extĂ©rieure ? AprĂšs tout, câest⊠logique.
đ± Anthropomorphisme
Et câest finalement ce que nous faisons dĂ©jĂ au quotidien. Avec les bĂ©bĂ©s â « Oh, quâil a lâair intelligent cet enfant ! » â ou mieux encore avec animaux. Finalement, Ă chaque fois que vous vous Ă©merveillez devant les prouesses de votre chat ou de votre chien, vous ne faites rien dâautre que leur valider un mini-test de Turing. De juger de leur intelligence sur la seule perception que vous en avez.
Et sur quoi nous basons-nous donc pour savoir si le chat de la voisine est intelligent ou non, quand il ouvre seul une porte ? Un indice dans le nom du test proposĂ© par Alan Turing : Imitation Game. VoilĂ , sur la ressemblance entre le raisonnement de notre cobaye â le chat â et le raisonnement dont nous sommes nous-mĂȘme capable. Avec le raisonnement humain.
Avec les âintelligences artificiellesâ qui fleurissent depuis quelques annĂ©es sur le Net, câest la mĂȘme chose : nous ne cherchons pas lâintelligence mais nous cherchons lâanthropomorphisme. La capacitĂ© dâun programme informatique Ă imiter les comportements humains.
Toujours Turing.
Sauf que ?
đą Algorithme
Connaissez-vous la lĂ©gende des dauphins de la Marine soviĂ©tique ? Cette vieille histoire voudrait que les soldats de la marine russe, dans les annĂ©es 1960, aient voulu entrainer des dauphins Ă dĂ©poser des mines sous les navires ennemis. Seulement voilĂ , lâexpĂ©rience tourna trop bien et les dauphins rĂ©ussirent leur mission avec une logique⊠que leurs coachs humains ne parvinrent pas Ă comprendre. EffrayĂ©s par ce rĂ©sultat mettant en Ă©vidence une forme dâintelligence quâon pourrait qualifier de non-humaine, la Marine soviĂ©tique abandonna lâidĂ©e dâemployer plus loin les dauphins.
Tout cela est une lĂ©gende, mĂȘme si lâutilisation des dauphins Ă des fins militaires est bien rĂ©elle, aussi bien aux Ătats-Unis depuis la Guerre Froide [đ°] quâen Russie au cours du conflit avec lâUkraine [đ°].
Mais aujourdâhui, deux choses diffĂ©rencient les intelligences artificielles des lĂ©gendaires dauphins russes. Tout dâabord, celles-ci ne nous ont jamais rĂ©ellement affichĂ© une logique que nous ne pourrions comprendre. MĂȘme quand elle invente soi-disant un autre langage pour dialoguer avec une autre intelligence artificielle [đ°], et mĂȘme quand elle devient raciste [đ°], la logique de ces actions a toujours Ă©tĂ© parfaitement comprĂ©hensible, ou Ă dĂ©faut sa manipulation par les humains rapidement mise au jour.
Mais lâautre diffĂ©rence avec lâintelligence des dauphins, câest que nous pouvons entrer Ă lâintĂ©rieur des intelligences artificielles. Pour reprendre la dĂ©fense dâAlan Turing, nous pouvons ĂȘtre une intelligence artificielle nous-mĂȘme dans la mesure oĂč les algorithmes qui la peuplent sont conçus par des humains. Loin de la boĂźte noire, lâintelligence artificielle est dĂ©montable, dĂ©montrable⊠et son fonctionnement peut ĂȘtre expliquĂ© Ă la fois par les donnĂ©es avec lesquelles elle est nourrie et par les algorithmes avec lesquels elle traite ces donnĂ©es. Lâintelligence artificielle est une mĂ©canique dont on peut comprendre les rouages. Un programme informatique, souvent extrĂȘmement complexe, mais dont la logique a Ă©tĂ© conçue par un humain et dans laquelle nous pouvons naviguer.
Seulement voilĂ . Question de vocabulaire et de marketing, il est bien moins sexy de parler de Programme informatique que dâIntelligence artificielle lorsque lâon veut vanter les mĂ©rites dâune innovation. Le mot Intelligence artificielle est lui-mĂȘme associĂ© Ă un imaginaire qui permet de le dĂ©tacher du vulgaire quotidien de lâinformatique. Le mot Intelligence artificielle est lui-mĂȘme une boĂźte-noire (voir đ© Illusion).
Et câest vrai : parler de Programme informatique fait bien moins rĂȘver :
Mais si on y perd en imaginaire, on y gagne peut-ĂȘtre un peu en clartĂ©.
â Opinions
Lâintelligence artificielle mĂ©rite-t-elle donc de se nommer Intelligence artificielle ?
Le dĂ©bat est de toute façon insoluble entre les gourous de la singularitĂ© et les sceptiques du numĂ©rique. Alors, pour se faire une idĂ©e, et pour ne pas Ă©terniser la discussion, je laisse plutĂŽt deux opinions sâaffronter ici.
La premiĂšre est issue du Dictionnaire Larousse de lâInformatique [đ], sous la direction de Pierre Morvan, dans son Ă©dition de 1981. Voici lâintroduction de la dĂ©finition quâil donne du terme Intelligence artificielle :
Intelligence artificielle n. f. (angl. artificial intelligence). Ensemble de techniques utilisées pour essayer de réaliser des automates adoptant une démarque proche de la pensée humaine.
Parler dâintelligence artificielle constitue, en fait, un abus de langage, puisque lâautomate est basĂ© sur un modĂšle (un ou plusieurs algorithmes) qui rĂ©agit uniquement suivant les stratĂ©gies prĂ©Ă©tablies. [âŠ]
La seconde provient dâune intelligence artificielle elle-mĂȘme. Que se passe-t-il si lâon demande Ă Chat GPT [đ€] si le terme Intelligence est appropriĂ© pour le dĂ©finir :
Vous voyez, les avis divergent.
Je vous laisse gamberger lĂ -dessus ?
Un petit mot Ă propos de lâauteur ?
François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de trÚs courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.
Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.
Merci de votre attention et Ă la prochaine fois pour parler dâautres choses !