🔗Liens | Cybernetruc #07
On parle de liens. On invoque Proust, Aristote, Descartes (un peu), Pierre Lévy et Duran Duran pour continuer à explorer la question : l'intelligence artificielle est-elle vraiment une intelligence ?
CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉
Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.
🧠 Intelligence
C’est une phrase tombée d’une lecture que d’aucun ne manquerait de qualifier d’intello qui lance la réflexion cette fois-ci…
Dans ses Leçons sur la volonté de savoir [📘], et notamment dans sa lecture de la Métaphysique d’Aristote [📕], Michel Foucault [📄] évoque la notion d’intelligence très rapidement, en complément de considérations sur la perception :
[…] Apparaît avec la mémoire la propriété d’être intelligent ; et apparaît avec cette audition le fait de pouvoir et d’être disposé à apprendre, l’aptitude à être disciple […]
C’est donc, la combinaison de la capacité de perception et de la mémoire qui, semble-t-il, fait l’intelligence. Cette combinaison unique différencie, pour Aristote, l’humain de l’animal. Je résumerai les choses grossièrement – en attrapant simplement quelques bribes du discours conjoint des deux philosophes – de la façon suivante. D’abord, l’homme se distingue par sa capacité à percevoir son environnement “pour le plaisir”, au-delà de sa simple nécessité de survie. C’est ainsi qu’il peut percevoir le beau, le plaisant et y revenir. C’est ainsi que la vue est devenue pour lui l’un des sens prédominants, puisqu’il est celui qui peut porter le plus de valeur esthétique. Vient ensuite la mémoire, et la capacité à rapprocher ses perceptions immédiates de ses perceptions passées au-delà de l’instinct de survie. L’homme possède la capacité à faire des liens – terminologie que j’implante moi-même dans ce discours, mais qui est importante pour la suite – entre ses différentes expériences et ainsi à bâtir des rapprochements originaux sur ces bases. Concevoir des réflexions. Mettre en branle une… intelligence.
🔄 Aparté. Si on veut creuser plus loin, on citera René Descartes – dont les propos sont mis en avant par Geoffrey Jefferson dans son article The Mind of Mechanical Man [📰] dont on parlait dans l’article 🧠 Intelligence il y a quelques semaines – qui défendait la conviction que l’animal ne fonctionne que par réflexes, là où l’homme est capable de réflexion.
On se permettra tout de même une réserve sur cette réflexion qui a, mine de rien, quelques millénaires d’ancienneté. Tout d’abord, qu’il y a aujourd’hui des questionnements ouverts sur l’intelligence et la conscience des animaux.
C’est l’un des sujets du Qui Parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] – que l’on abordait au passage dans le billet 🕺 Humains il y a quelques semaines – qui pose la question de notre capacité en tant qu’humain à comprendre une intelligence réelle mais non-humaine. Vous pouvez là-dessus rembobiner votre lecture de Cybernetruc depuis septembre (👽 Contact), c’est un thème récurrent par ici…
🔄 Aparté. Et d’ailleurs, on pourra étendre la réflexion à la possibilité d’émergence d’une intelligence/conscience collective, au sein d’une espèce ou inter-espèce. Hypothèse star de nombre d’oeuvres de science-fiction, du Un Feu sur l’abîme [📕] de Vernor Vinge à l’hypothèse Gaïa et aux Spaciens du cycle de Fondation d’Isaac Asimov [📘]. Mais on digresse beaucoup… cela pourrait aussi être l’idée d’un prochain article.
Une question demeure : est-ce que les intelligences artificielles font des liens ?
☕ Madeleine
Un lien, c’est quoi ? C’est une association, même ténue, entre deux idées. Ou, pour reprendre Aristote, entre une perception et un souvenir. Oui, on en revient toujours aux mêmes choses : la madeleine de Proust (avec la citation, parce que ça fait toujours plaisir de citer Marcel Proust et La Recherche [📗]) :
Et tout d'un coup le souvenir m'est apparu. Ce goût c'était celui du petit morceau de madeleine que le dimanche matin, à Combray (parce que ce jour-là je ne sortais pas avant l'heure de la messe), quand j'allais lui dire bonjour dans sa chambre, ma tante Léonie m'offrait après l'avoir trempé dans son infusion de thé ou de tilleul. La vue de la petite madeleine ne m'avait rien rappelé avant que je n'y eusse goûté ; peut-être parce que, en ayant souvent aperçu depuis, sans en manger, sur les tablettes des pâtissiers, leur image avait quitté ces jours de Combray pour se lier à d'autres plus récents ; peut-être parce que de ces souvenirs abandonnés si longtemps hors de la mémoire, rien ne survivait, tout s'était désagrégé ; les formes – et celle aussi du petit coquillage de pâtisserie, si grassement sensuel, sous son plissage sévère et dévot – s'étaient abolies, ou, ensommeillées, avaient perdu la force d'expansion qui leur eût permis de rejoindre la conscience.
🔄 Aparté. Cette question du lien et de ses rapports avec notre culture digitale a été massivement abordée dans une série d’articles nommée As We May Link, parue il y a plus d’un an sur le blog de l’agence Serviceplan [📄]. Je vous laisse vous y ressourcer si vous le souhaitez. Ça parle à la fois de liens, d’Arpanet, de Proust, de gnocchis et de communs. Régalez-vous.
Revenons donc à la question de l’intelligence artificielle. Est-elle capable de faire ces liens qui semblent si importants dans la définition de l’intelligence ? Pour le savoir, il faut se pencher sur deux questions :
Est-ce qu’une intelligence artificielle est capable de percevoir ?
Et a-t-elle a proprement parler une mémoire ?
Questions loin d’être évidentes.
👂 Perception
Sur le sujet de la perception, on pourrait s’en sortir en invoquant le peu de sens d’une I.A. Son manque de moyens de perception. Une intelligence artificielle – ou plutôt une intelligence générative pour ne parler que de celles qui occupent les unes des journaux depuis quelques mois – ne touche pas, ne goûte pas, ne sent pas... Peut-être voit-elle, si on considère l’interprétation des octets d’une image comme le sens de la vue. Et peut-être entend-elle, si l’on considère les prompts saisis pas les humains comme une parole. Ces deux sens pourraient peut-être suffire comme base de l’intelligence… sauf que… ils ne perçoivent pas le monde directement, mais seulement la représentation que nous lui transmettons via nos fichiers et nos phrases. L’I.A. n’a accès qu’à un environnement filtré, voilé par nos propres biais et nos propres interprétations et n’a aucune expérience directe du monde.
On pourrait rapprocher cela de l’allégorie de la Caverne de Platon [📄] à l’occasion. Mais quoi qu’il en soit, une IA générative ne semble pas à date avoir de perception directe du monde qui l’entoure.
🧠 Mémoire
Mais, est-ce que cela va mieux du côté de la mémoire ? Les données de base qui servent à entraîner une intelligence artificielle sont-ils à proprement parler une mémoire ?
C’est un peu plus difficile à juger. L’ensemble des faits, textes, données encyclopédiques ingurgités par une intelligence artificielle lors de son apprentissage pourraient effectivement s’apparenter à une sorte de mémoire. Un historique auquel elle se réfère lors de ses interactions avec les humains et qui inspire ses réponses. Sauf que…
Il n’existe pas, chez l’humain, de mémoire objective. Ce que nous appelons mémoire n’est jamais que la trace laissée par les perceptions passées. Les liens que nous faisons ne sont que des passerelles entre nos perceptions actuelles – la musique que j’écoute actuellement [💿] – et nos perceptions passées – les souvenirs que cette musique évoque, accumulés par mes propres sens [📺]. La mémoire est intimement liées à la perception, et à l’expérience personnelle.
On pourra se replonger pour comprendre cela dans l’anecdote de la madeleine de Proust, ou dans la définition de ce qu’est le Virtuel chez Pierre Lévy [📙], par le biais de son explication de la lecture :
Du texte lui-même, il ne rest bientôt plus rien. Au mieux, grâce à lui, nous aurons apporté quelque retouche à nos modèles du monde. Il nous a peut-être seulement service à faire entrer en résonnance quelques images, quelques mots, que nous possédions déjà. Parfois, nous aurons rapporté un de ses fragments, investit d’une intensité spéciale, à telle zone de notre architecture mnémonique, un autre à tel tronçon de nos réseaux intellectuels.
Lire n’est pas une expérience objective, c’est une construction de liens entre le ressenti actuel – le texte que nous sommes en train de lire – et nos expériences passées – éventuellement les textes que nous avons lu auparavant, eux-mêmes liés à nos lectures antérieures, à l’infini. Et surtout, cette expérience de lecture est, forcément, subjective puisqu’elle dépend de l’historique de lecture, de rencontres, de chacun. Il n’y a pas de lecture objective d’un texte. (On en parlait ici il y a longtemps.)
Mieux encore, les souvenirs de lecture, la mémoire, peut s’actualiser en fonction des lectures actuelles et prendre un nouvel éclairage… une boucle infinie, toujours en mouvement, se forme alors.
On en revient donc à la capacité de mémoire de l’intelligence artificielle. Il semble au regard de cela difficile de comparer la base de connaissances d’une IA au fonctionnement de la mémoire humaine. D’abord parce que cette mémoire ne serait pas liée aux perceptions mais à une base de données objectives, factuelle, à laquelle nous n’avons pas humainement accès. Ensuite parce que cette base de données, de souvenirs, est figée, stable, et semble incapable d’évoluer dans le temps.
Si la mémoire se base avant tout sur la perception, c’est avant tout la subjectivité et la malléabilité des souvenirs qui ferait l’intelligence. Reste donc à savoir si, pour devenir réellement intelligente, une IA pourrait devenir évolutive et… subjective.
Je vous laisse gamberger là-dessus ?
Un petit mot à propos de l’auteur ?
François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.
Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.
Merci de votre attention et à la prochaine fois pour parler d’autres choses !