👀 Solipsisme | Cybernetruc #13

#IA, ép. 13. Et si la multiplication des IA génératives voulait dire l'installation d'un doute permanent quant à la réalité du monde ? On invoque Ray Bradbury, le Pape et Elon Musk...

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes aujourd’hui bientôt cent-cinquante à lire cette lettre. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🔺 Confiance

Peut-on encore faire confiance ce que l’on voit sur les écrans ? Ne doit-on faire confiance qu’à ce que l’on voit réellement, physiquement, en présence ? Et aussi, peut-on encore faire confiance à ce que l’on a vu par le passé ? On va parler confiance, oui, et encore une fois réalité.

• 🔄 Aparté : Ce billet, c’est la suite de 📸 Réalité, le dernier article publié il y a quelques temps déjà sur #Cybernetruc. On y évoquait l’altération de la réalité et un futur oscillant entre manipulation permanente et expérience psychédélique. Mais on n’avait pas abordé la fin totale de la réalité. L’illusion continue…

La première histoire, c’est une histoire d’Elon Musk et de Deepfakes. La justice américaine se penche actuellement sur les accidents de la route provoqués par des Tesla au cours des dernières années, et notamment certains, mortels [💻], survenus après que les conducteurs des dîtes Tesla aient laissé un peu trop de liberté à leurs véhicules. Responsabilité individuelle ? Inconscience des conducteurs ? C’est plus compliqué que ça.

La justice américaine souhaiterait en effet faire comparaître Elon Musk dans ces procès. La raison : depuis 2014, le patron de Tesla annonce sur tous les plateaux TV et dans toutes les interviews que ses véhicules sont équipés d’un programme de conduite autonome [🎥]. Avec sa réserve habituelle, Elon Musk a survendu les capacités de ses véhicules. L’avenir est déjà là, les voitures se conduisent toutes seules [🎥] et vous, conducteur devenu passager, pouvez désormais passer vos trajets tranquilles, à lire ou regardez vos séries Netflix préférées [📺] pendant que votre Tesla enquille les kilomètres.

Difficile de ne pas y croire tant Elon répète et répète le propos.

• 🔄 Aparté : Soit dit en passant, sur Elon Musk, ses influences et sa propre influence, lisez et relisez Le Mythe de l’Entrepreneur d’Anthony Galluzzo [📗], paru en début d’année aux éditions Zones - La Découverte. Il ne dit pas tout du mythe d’Elon Musk, il oublie certaines imbrications (la science, le progrès…) en insistant sur les aspects économiques et capitaliste de la figure de l’innovateur made-in Silicon Valley. Mais il est d’une richesse déjà salutaire.

La propagande du patron de Tesla serait donc, pour la la justice américaine, une cause directe des accidents causés par ses véhicules, et donc de la mort d’automobilistes ou de piétons. La défense du génie de l’entrepreneuriat ? Les Deepfakes. Oui. Vous avez bien lu. Les avocats d’Elon Musk clament que rien ne permet de garantir que les vidéos relevées par la justice américaine ne sont pas des manipulation, des montages, des deepfakes et que rien ne garantit donc qu’Elon Musk ait bien tenu ces propos [📰]. S’il n’y a pas de certitude sur le fait qu’il les ait tenu, il ne peut en aucun cas être responsable de la manipulation dont les pauvres conducteurs de Tesla ont été victime.

C’est regrettable certes. Mais Elon Musk n’y est pour rien.

Deepfakes, partout.

Réalité ? Nulle part.

🖼 Faux

L’objection brandie par les avocats d’Elon Musk a l’immense inconvénient d’inverser la question essentielle que chacun de pose depuis l’émergence des outils de manipulation massive de l’image. En effet, celle-ci passe du Comment détecter si c’est faux ? au Comment prouver que c’est vrai ?

Ce qui, dans la société de l’illusion, devient… gênant.

Depuis l’émergence massive des intelligences artificielles génératives – surtout graphiques – l’une des questions qui hante l’esprit des experts est bien la détection des fakes. Les tutoriaux ne manquent d’ailleurs pas à ce sujet [📰]. S’il s’agit d’une image, on comptera les doigts, on cherchera les écritures, on scrutera les arrière-plans en recherche d’incohérence, ou on étudiera attentivement la position des jambes et des chevilles. Ces quelques indices permettent de s’assurer que non, le Pape ne porte pas réellement une doudoune Balenciaga les jours de grand froid [📰], les CRS ne font pas réellement de câlins aux manifestants [📰] et Emmanuelle Macron ne sort pas non plus les poubelles, le soir, à Paris [📰].

Quelques astuces existent donc pour identifier les fausses images. Il en existe également pour identifier les faux textes – comme les références universitaires farfelues, les biographies de parfaits inconnues, etc. [📰]. Mais gageons que ces méthodes seront de moins en moins efficaces à mesure que les algorithmes des intelligences génératives deviendront plus malins.

Comment par exemple s’assurer que le faux duo entre Drake et The Weeknd [📰] diffusé il y a quelques semaines sur la toile est bien un faux ?

• 🔄 Aparté : La manipulation sonore est souvent la plus simple, car oui, l’être humain doute moins du son que de l’image. Les exemples d’enregistrements truqués ne manquent pas dans la fiction. Et pour la culture générale, on ressortira la Révolution électronique [📕] du poète beat William S. Burroughs qui, à l’heure des bandes sonores, proposait déjà de faire tomber les mass-medias et les institutions à coup de fake news.

Sans la prise de parole d’Universal Music à ce sujet, et surtout l’aveux du créateur de cette pièce, impossible finalement de déclarer ce faux duo réellement… faux, tant sa véracité est troublante. L’avancée technologique sème le doute. Si bien que si émergeait demain un véritable duo entre Drake et The Weeknd, on serait en mesure de dire : “Mais prouvez-moi que ce duo a réellement été enregistré et n’est pas le fruit d’algorithmes.” [📄]

Prouvez-moi que c’est vrai.

La question posée par les avocats d’Elon Musk.

🤔 Doute

La question posée par l’invasion des intelligences artificielles, et surtout par l’invasion des médias créés par des intelligences artificielles, n’est pas nouvelle. Elle se résume en un Doit-on douter de tout ?

On a beaucoup parlé d’Isaac Asimov dans les articles de #Cybernetruc! [📧], mais on n’a pas encore abordé la science-fiction de Ray Bradbury [📄]. Quand Asimov s’interroge sur l’avenir de l’humanité dans sa globalité, sur l’impact de la technologie sur la société à long terme, Bradbury se soucie bien plus de notre quotidien. Il explore nos réactions personnelles face à l’inconnu (la nouvelle The Rocket Man, ou The Long Rain dans le recueil The Illustrated Man [📕], paru en 1952), sur le destin de nos familles (The Veldt, The Last Night of the World ou Marionnettes, Inc. toujours dans le même recueil) voire sur notre spiritualité (The Man) ou notre culture (la magnifique The Exiles).

La science-fiction de Ray Bradbury questionne la place individuelle de l’homme face au progrès, et surtout ses pertes de repère… Une nouvelle pour illustrer cela ?

No Particular Night or Morning, toujours dans le recueil The Illustrated Man met en scène deux astronautes, Clemens et Hitchcock, le long voyage interstellaire. Leurs discussions, surtout guidées par Hitchcock, parlent de la réalité du monde. Pour Hitchcock, n’est réel que ce qui est tangible. Le reste n’existe pas. Et dans l’espace, si loin de la Terre, la réalité des autres humains existe-t-elle encore ? L’humanité est-elle réelle ? La Terre est-elle réelle ? Dans cette immensité noire où les étoiles sont si lointaines, qu’est-ce qui est encore vrai ?

Hitchcock finira, dérivant dans l’espace, convaincu que rien finalement n’existe que sa propre pensée.

🧠 Solipsisme

Hitchcock doute de l’existence de tout. De la vérité, la réalité de tout. Persuadé que le monde qui l’entoure, les images qu’il voit, les sons qu’il entend, les êtres qu’il touche, ne sont qu’illusion. La théorie philosophique à laquelle se raccroche son raisonnement se nomme le solipsisme. Je laisse la Wikipedia en faire une définition plus érudite que celle que je pourrais écrire :

Le solipsisme (du latin solus, « seul » et ipse, « soi-même ») est une théorie philosophique et métaphysique selon laquelle la seule chose dont l'existence est certaine est le sujet pensant. Forme extrême d'idéalisme, le solipsisme soutient qu'aucune autre réalité n'est certaine que celle du sujet qui pense. [📄]

Le solipsisme est en fait la philosophie du doute permanent. De la fin de la réalité. On peut en voir des expressions dans des classiques de la science-fiction comme Matrix [🎥] (forcément, dès qu’on parle de fin de la réalité) dans lequel le monde de la Matrice n’est qu’une illusion qui n’a rien à voir avec une réalité commune.

La question posée par les avocats d’Elon Musk sur la réalité de ses promesses ouvre la porte au monde d’illusion dépeint par les Wachowski, ou raconté par Ray Bradbury. Puisque… si l’on admet que tout document, toute photo, toute interview, tout expérience, peut-être fausse, alors on permet le doute permanent. Et on offre alors le droit à chacun de juger de la réalité de ce qu’il perçoit, du moins par voie électronique dans un premier temps.

Libre à moi de penser que Drake et The Weeknd ont réellement fait un duo, mais que cette intervention d’Emmanuel Macron n’est qu’un montage. Et libre à vous de penser l’inverse, ou de penser à 50% comme moi.

Si le doute s’installe de manière permanente sur la nature de tous les éléments que nous voyons. Et surtout, si nous ne nous posons plus la question d’identifier ce qui est faux - parce que tout doit être juger comme faux a priori, alors nous nions simplement une réalité commune.

Je vous laisse gamberger là-dessus.

---

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

---

Merci de votre attention et à la prochaine fois pour parler d’autres choses !