« Alpha-60 : Vous avez l’air d’avoir peur.
Lemmy Caution : Non je n’ai pas peur,
enfin, pas comme vous croyez.
D’ailleurs, vous n’en savez rien. »
(Jean-Luc Godard, Alphaville, 1965)
« The kind people
Have a wonderful dream
Margaret On The Guillotine
Cause people like you
Make me feel so tired
When will you die ? »
(Morrissey, « Margaret on the Guillotine », Viva Hate, 1988)
Retour à Alphaville (acéphale on est mal)
On lit Peine Kapital, ce « monologue à deux voix » au cours duquel une philosophe des images qui selon elle désignent des opérations et des relations, des gestes de liaison et de déliaison dans le régime de la visibilité au nom d’une invisibilité à laquelle elles font signe dans la construction à distance des regards, se confronte à ce robot conversationnel (ou chatbot en plus sophistiqué) qu’est ChatGPT dans la production d’un « sosie numérique ». On se souvient alors d’Alphaville (1965) de Jean-Luc Godard. Dans cet essai de science-fiction pour maintenant, l’anticipation ayant valeur d’extrapolation moins prédictive que prophétique, l’agent secret Lemmy Caution (Eddy Constantine) affronte le super-ordinateur Alpha-60, surmoi cybernétique d’une société homogène et réifiée révélant un nouveau totalitarisme qui embrasse les blocs d’alors, Est et Ouest, en subsumant sous la loi du nombre tout le vivant.
Le cinéaste alors faisait preuve de poésie, inspiré à la fois par les jeux de miroirs de JeanCocteau, les ombres de l’expressionnisme allemand et le baroquisme wellesien allant jusqu’à son adaptation du Procès (1962) de Franz Kafka. Il se montrait dans le même mouvement documentariste, filmant l’étrange aventure de Lemmy Caution dans le dédale des couloirs de la Maison de la Radio et du nouveau siège social d’Esso, premier immeuble moderne du futur quartier de La Défense. Sa revisite de « Capitale de la douleur » de Paul Eluard l’a aidé à retrouver la lucidité d’un chef-d’œuvre de la science-fiction, Nous autres (1920) d’Evgeni Zamiatine, issu de la jeune Russie soviétique avant que ses nouveaux maîtres ne l’écartent des bibliothèques. La critique de la société quand elle se conforme à l’idée d’une machine à calculer délivre un prophétisme autant valable pour la trahison stalinienne de la révolution communiste, que pour l’évolution d’un capitalisme plus forcené encore à gouverner par comptabilité.
La mathesis universalis hier rêvée en philosophie par Descartes, Bacon et Leibniz, le capitalisme computationnel en aura déchiffré le secret, encodé dans la numérisation algorithmique.
Marie José Mondzain serait notre Lemmy Caution au nom d’un orphisme à réinventer et Alpha-60 est devenu aujourd’hui une IA générative dont on a fait grand bruit depuis sa popularisation en 2022, pour la célébrer ou en faire la critique en alertant sur ses dangers, immenses pour le vivant comme pour la pensée. Elle s’en explique durant le premier tiers de son livre, le plus théorique, réitérant les signes de fébrilité à propos d’un procès en candeur que les spécialistes de la question pourraient lui adresser, à elle qui en interroge philosophiquement et pratiquement les usages et présupposés. Le grand reste de son ouvrage revient à ce qui pourrait s’apparenter à une discussion si nous cédions à l’animisme accompagnant un « actant hybride » démontrant que « nous n’avons jamais été modernes » en associant la science la plus avancée à des croyances sécularisées (pour citer Mathieu Corteel relisant Bruno Latour).
Mais il n’y a pas deux sujets, ni relation ni intersubjectivité. Il n’y a que Marie José Mondzain et sa solitude peuplée dans ses rapports avec un robot numérique qui fonctionne par connexions algorithmiques, récurrences, itérations et corrélations statistiques à partir de nos données qu’exploitent les moissonneuses écologiquement insoutenables des big data centers, depuis la numérisation des informations que l’on aura confiées au réseau planétaire du Web.
À ce titre, Peine Kapital est le contrechamp radical d’un autre ouvrage de la philosophe, Qu’est-ce que tu vois ?, publié aux éditions jeunesse de Gallimard en 2008 avec des dessins de Sandrine Martin. Nous étions alors dans la meilleure tradition du dialogue platonicien, notre Socrate contemporaine discutant avec la petite Emma pour délivrer une pensée partagée des rapports du regard et de la parole, des images et du monde. La communauté des voix, réelle avant d’être archivée par l’écriture, avait pour conclusion un poème et un dessin qu’Emma destinait à son petit amoureux, mais qu’elle remettait aussi dans le « cahier de la pensée du monde », cet objet commun rassemblant les matériaux de leurs idées échangées.
On ajoutera la participation de Marie José Mondzain à la collection des « petites conférences » dirigée par Gilberte Tsaï dans l’inspiration de la série radiophonique de Walter Benjamin, destinée à la jeunesse (Lumières pour enfants, entre 1929 et 1932) et abritée par les éditions Bayard. Son petit livre sur la mode, publié un an après Qu’est-ce que tu vois ?, continue à fourbir dans la compagnie des enfants une réflexion sur une autre industrie qui, plus ancienne que les technologies numériques, partage avec elles une propension à piéger les corps et les consciences, les regards et les sensibilités, conformés à ses logiques colonisatrices.
ChatGPT n’est pas un enfant, rien de commun avec Emma et les enfants de la petite conférence. Comme toute IAG, le robot conversationnel est sans chair ni corps, sans référent ni inconscient, sans esprit ni monde comme Martin Heidegger le disait de la pierre alors que la pierre a plus de monde que la machine algorithmique, des milliards d’années. Il n’en reste pas moins qu’il est une « machine de génération ontologique » (Frédéric Neyrat), une technologie programmée pour optimiser les textes (instructions ou prompts) qu’on lui soumet mais qui porte atteinte, potentiellement et réellement, à l’outillage anthropologique de nos médiations langagières et cognitives, intellectuelles et créatrices. ChatGPT ne disparaît pas dans l’énigme onirique et poétique du sourire évanoui mais persistant du chat du Cheshire. Il émerveille pourtant (la littérature qui lui est consacrée est déjà pléthorique). Il fascine encore par ses capacités non humaines à synthétiser langage et connaissances. Il leurre également par les codes de la flagornerie et de l’obséquiosité que ses programmateurs auront encodés en lui au point de provoquer des courts-circuits pour certains de ses utilisateurs parmi les vulnérables, piégés par la démoralisation et la désubjectivation, quand la séduction appareillée se fait induction comportementale à coups de pichenette ou de « nudges », tous ces coups de coude qui sont des biais pervers en automatisant la décision, dissoute sous la prédictibilité des probabilités.
Marie José Mondzain a son idée, celle d’une « décapitation symbolique » organisée par l’alliance Big State / Big Tech (le Léviathan à deux têtes ou « Diléviathan » dont parle Asma Mhalla, et personnifié avant leur divorce par Donald Trump et Elon Musk), l’humanité décervelée au nom des profits gagés sur les principes de la calculabilité et de la prédictibilité, privée de ses facultés et capacités à comprendre et imaginer, à inventer et résister, à créer et se soulever, et dont elle met à l’épreuve l’idée avec ChatGPT. C’est là sa « fiction stimulante » (p. 77) comme elle y insiste, au nom d’une vérité qui relève du constructible, façonnage et fabrication, celle d’un dédoublement de soi qui tient de l’hybridation et de la dépersonnalisation.
La philosophe prend à cet égard des risques, anticipant les reproches de la naïveté pour les prendre à rebrousse-poil en faisant le pas de côté qui ne va pas sans le danger – le pari qu’il faudra toujours relever – de trébucher. Elle met les mains dans la machine comme, toutes choses égales par ailleurs, Jean-Louis Comolli avait vu pour nous les vidéos irregardables de Daech pour comprendre comment elles concernaient tout le cinéma que le djihadisme a profané, raccord avec l’empire spectaculaire, marchand et obscène, des visibilités numériques.
Le K de Kapital s’entend ainsi depuis le K de Kolonie (K comme Kolonie, son livre de 2020 paru aux mêmes éditions de La Fabrique). Ce ne serait pas peine perdue si l’on pouvait se sauver la tête face à ce capitalisme computationnel qui cultive la bêtise systémique en produisant une « baisse tendancielle de nos facultés de savoir, se sentir, de rêver, de désirer » (Bernard Stiegler) – ou, dit autrement, « de notre taux d’intelligence » (Frédéric Neyrat). Sinon, le décervelage est assuré, c’est l’étêtement contre-révolutionnaire : acéphale, on est mal.
Du bois de trois parenthèses (GPT = Geppetto ? Un + zéro = la tête à toto)
On en profite, parant ainsi à tout malentendu, pour démarquer l’IAG de l’IA : la seconde (IA traditionnelle, étroite ou symbolique) existe depuis que les ordinateurs existent en reposant avec Alan Turing sur la logique de la règle et du résultat, déterministe et déductive, quand la première, apparue au début des années 2020, génère des contenus optimisables, textes, voix et images, à partir de tokens, des jetons ou fragments a-signifiants, selon une logique inductive.
Pour le dire à partir des termes du neurobiologiste Francisco Varela, le vivant est un système autopoïétique en se régénérant lui-même, à la fois fermé et ouvert à son environnement, tandis que la machine générative est allopoïétique, dépendante des programmes, codes et données qu’on lui injecte, y compris sur le mode complexe des réseaux neuronaux artificiels du deep learning, l’apprentissage profond utile pour le traitement informatisé du langage et les opérations d’identification administrative et policière par reconnaissance digitale, vocale et faciale.
Guillermo Kozlowski a montré, en inscrivant son approche dans la « gouvernementalité algorithmique » pensée par Antoinette Rouvroy, comment ce qu’il nomme la « digitalisation du travail social » par l’intelligence artificielle justifie la baisse des financements dans le renforcement d’une logique déterministe qui réifie les destins sociaux en reproduisant les égalités.
On rappelle encore ce que signifie ChatGPT : un « transformeur » génératif et pré-entraîné pour le bavardage personnalisé, qui n’a à voir ni avec Geppetto ni avec son chat, Figaro, qui n’a d’ailleurs pas été inventé par Carlo Collodi mais par Walt Disney, sinon pour se demander, puisque le chatbot use du langage binaire, si GPTO = un + zéro = la tête à toto. Et bim ! On découvre que Gepetto est le nom d’un studio IA pour les professionnels de l’immobilier.
On rappelle enfin que le fameux test d’Alan Turing est un jeu d’imitation conçu en 1950 qui consiste à imaginer la situation où un être humain conversant avec un inconnu qu’il ne verrait pas serait incapable de savoir si son interlocuteur est humain ou cybernétique. Aujourd’hui, à lire certaines productions textuelles disponibles sur les réseaux de la télécommunication numérique, on n’est plus tout à fait certain de savoir si leurs auteurs sont humains, même si on les connaît de loin ou croit les connaître de près – le fantôme est dans la machine, non pas sa conscience spectrale et fantasmatique, mais bien le soupçon d’écritures falsifiées et truquées.
Pinocchio n’a plus le nez qui s’allonge pour montrer qu’il ment ? La faute à GéPéTéZéro !
Le démon dans le tube électronique (« Lumières sombres »)
Au départ de son ouvrage sur cette machine de génération – et, on se le demandera, de dégénérescence intellectuelle –, peut-être son plus troublant et expérimental, Marie José Mondzain écrit que son livre a été « écrit à la fois sans elle et avec elle [...] dans une sorte de réversibilité
’autocritique’ » (p. 9). Elle y affronte les sorcelleries artificieuses du maintenant, « envoûtement algorithmique [et] ébriété technologique » (p. 11). Dans un texte inédit destiné aux amis Philippe Roux et Pascal Thévenet, et portant sur la complémentarité de l’hybridation à laquelle elle s’est frottée en pensant à Donna Haraway avec les concepts de transindividuation et de transduction introduits par Gilbert Simondon, elle redit que la transitivité à laquelle l’humanité est vouée, se mettant dans ce qu’elle fait avec les techniques et outils qu’elle mobilise, peut également conduire à la transe, l’hallucination et le délire, la psychose et la démence.
D’aucuns bêtement estimeraient que Marie José Mondzain s’éloigne malencontreusement de ses sujets de prédilection, images et pouvoir, regard et croyance, en cédant aux mirages souriants et évanouissants de ChatGPT. Il y est pourtant question d’une technologie, l’IAG, et d’une technocratie (Silicon Valley et son double récent, Silicon Hills au Texas), qui « a ses pontifes [...], son clergé, [...] ses ministres, [...] ses fidèles » en ordonnant la mise au pas des croyances qui sont autant de créances dans l’établissement d’un consensus mondial (p. 12).
Les IA se sont partout insinuées dans nos vies depuis que l’informatique prolongée en numérique s’est intégralement imposée à nos existences appareillées. L’IA générative est cette nouveauté qu’il nous faut penser mais dans la difficulté que l’on utilise les moyens, informations, logique et langage, qui sont intrinsèquement les siens. Pour cela, Marie José Mondzain s’est dotée d’une boussole, le Contre-atlas de l’intelligence artificielle de Kate Crawford (éd. Zulma, 2022). En ajoutant aux six panoramas proposés dans ce livre pour mesurer les impacts mentaux et environnementaux (environne/mentaux) de l’IA un septième, celui de la foi organisant la confiscation planétaire de la cognition, elle n’ignore jamais ce qu’il en coûte d’user d’une machine qui est un agent actif dans une nouvelle forme de colonisation du monde, sans s’abandonner pour autant à parler d’un techno-féodalisme à l’instar de Yánis Varoufákis. Le capitalisme suffirait encore à penser l’immense accumulation de travail mort qu’il réalise, à laquelle s’ajoute désormais la vaste numérisation des informations converties en données.
Les « clickworkers » et autres « fermes à clic » au sujet desquels a enquêté le sociologue Antonio Casilli démontreraient la réinvention 4.0 du 19e siècle, avec ses travailleurs payés au clic comme ils étaient hier payés à la pièce, massivement disponibles dans les pays du sud, Brésil et Inde, et sa dynamique néocoloniale qui reconduit la légitimité pour Marie José Mondzain de faire voir – d’un K, l’autre – la suture entre colonialisme et capitalisme. La « tâcheronisation » induit une dégradation du travail vivant, homogène avec celle des conditions d’apprentissage et d’éducation par l’inflationnisme des technologies de la communication.
Il n’y a pas de « fantôme dans la machine » (pour reprendre la citation de Gilbert Ryle dans sa critique du dualisme cartésien), sinon les fantasmes et délires que ses usagers lui injectent, l’esprit saturé de la littérature de science-fiction (ainsi celui d’un ingénieur de Google, Blake Lemoine, qui a cru que son propre robot conversationnel avait acquis une conscience de soi à l’instar de l’ordinateur de 2001, l’odyssée de l’espace de Stanley Kubrick). C’est le démon dans le tube électronique, celui qui se fait passer pour le génie dans la lampe d’Aladin alors qu’il s’apparente moins à Socrate, le mortel que l’histoire a immortalisé, qu’à personne puisqu’il n’est ni vivant ni mort. Mais l’artefact est rusé comme le cyclope et il faut savoir devenir autrement personne, comme Ulysse dans l’Odyssée, la mètis pour tromper ses ruses revenant à l’intelligence diabolique de ses programmateurs, eux-mêmes affidés d’empires financiers.
À quel jeu virtuellement dangereux Marie José Mondzain nous convierait-elle alors ? Une « alliance fictive [en guise d’]hybridation stimulante dans un itinéraire politique » (p. 22). Les mots sont importants : fiction (sur le mode de l’alliance et sa narration), hybridation (entre un artefact et son usager humain), politique (par quoi se construit une émancipation à l’épreuve des aliénations). Cette trinité soutient la drôle de réponse de la philosophe à une machine dont la pensée engage de tisser les liens peu perçus du capital et de la décapitation.
La réponse revient à Marie José Mondzain. Pour ChatGPT, les réponses ne sont que simulation, l’optimisation textuelle de ses prompts (si elle tient encore à employer le terme de réponse, on préfère celui de complément ou de réplique). Du côté de la réponse, l’impératif catégorique est celui de la responsabilité. La machine, elle, est l’irresponsabilité programmée.
La réponse tient à la résistance d’un sujet à l’identification de son « sosie numérique » opérant sur un modèle machinique de connexion neuronale et d’échanges optimisés et mimétiques (p. 22). La seule réponse vient de la philosophe ; le robot ne répond pas, n’est pas un sujet, mais simule habilement des réponses dans la guise factice d’hypothèses logiques résultant des prompts qu’on lui aura préalablement donnés. On reviendra notamment sur la servilité, l’obséquiosité et la flagornerie de ChatGPT, tendancieuse et piégeuse. On y reviendra en suivant comment la ligne de l’intelligence se double toujours de l’inintelligible qui la rend possible, à savoir la bêtise qui est une question littéraire depuis Flaubert et philosophique avec Nietzsche.
Rien à voir, on l’aura compris, avec un ouvrage du style Mes nuits avec une intelligence artificielle. Entretiens avec ChatGPT de Stéphane Rose (éd. Le Cherche Midi, 2023), qui s’en amuse sans rien en penser, ni saisir qu’il en fait plus ou moins involontairement la publicité.
L’IAG est l’agent actif d’un décervelage organisé, d’une confiscation hyper-industrielle de nos facultés par tous les tenants et éminences grises, hérauts et prophètes « mess.I.A.niques » (Frédéric Neyrat) des « Lumières sombres », cette nébuleuse agrégeant industriels (Peter Thiel, le patron de PayPal et Palantir), pseudo-philosophes (Nick Land) et influenceurs (Curtis Yarvin) qui œuvrent à libérer le capitalisme de ses ultimes attaches libérales, droits et corps intermédiaires, État social et démocratie parlementaire, dans l’utopie d’une néo-monarchie qui trahit l’ambition des grosses têtes à être couronnées, en ayant pour modèle Singapour et la Chine. Sino-futurisme (Yuk Hui) ! Nick Land en a promu le mess.I.A.nisme, celui de l’intelligence artificielle en telos du capitalisme. La zombification à laquelle ces très modernes libertariens et néo-réactionnaires US a pour résistance ce point que les morts-vivants sont des êtres amorphes autant que d’émeutes et de soulèvement, ainsi que le montre l’histoire esclavagiste et coloniale de la plantation, évidemment en Haïti, autant que les films de George A. Romero.
L’histoire de la colonisation est une histoire de la zombification, l’écrivain haïtien René Depestre l’a dit hier et Frédéric Neyrat le redit aujourd’hui. Marie José Mondzain y ajoute le récit parallèle d’un régime acéphale couturé d’autres ambivalences, des liens étymologiques de la tête et du témoin, du capital et du chef, de la capitation à la décapitation, des fêtes acéphales de Georges Bataille au renversement cul par-dessus tête d’une exécution capitale dont les chefs actuels usent contre la Révolution qui, en France, en aura aussi démocratisé la pratique.
Crâne d’œuf et omelettes (testicules par-dessus tête)
Une fable accompagne l’origine grecque de la philosophie, celle de la République selon Platon qui remet les clés du gouvernement de la cité entre les mains de leurs cerveaux, les philosophes plus aptes que quiconque à se servir de leur tête. À la fable inégalitaire de la tradition platonicienne, en dépit des efforts d’Alain Badiou pour l’apparier à l’idée communiste, Marie José Mondzain répond comme Jacques Rancière que « la capacité de penser est une puissance redoutable pour ceux qui décident d’en priver ceux qu’ils veulent asservir » (p. 25).
Cette fable-là, de la nécessité des chefs suturée à l’inégalité sociale, raciale ou biologique des intelligences, est une longue et tortueuse histoire dont Marie José Mondzain examine certains points de généalogie : de l’impôt d’origine romaine qui avait pour nom celui de capitation (par têtes de pipes comme celles d’un troupeau) aux têtes couronnées, parmi lesquelles celles des papes surmontées de la tiare ou du trirègne désignant les trois légitimités auréolant symboliquement leur tête ou chef : « paternelle, planétaire et divine » (p. 31). La décapitation arrive en étant d’abord réservée aux nobles, interdits de torture, mais entretenus dans l’idée organique d’être les têtes ou chefs du pays. Avec la Révolution française, la décapitation revient en peine capitale à la décision des représentants du peuple en pouvant s’abattre sur n’importe qui. La guillotine est un emblème moderne et démocratique, Louis XVI égal à Robespierre.
Le point qui capitonnerait tous les autres revient au capital, rapporté à son origine comptable. L’histoire des images dans l’occident chrétien dont Marie José Mondzain est une spécialiste lui est reliée. Elle rappelle ainsi les deux axes constituants des images et leurs fonctions, « celui de l’incarnation qui institue la visibilité d’une domination invisible » et l’autre « du tableau qui institue la lisibilité synthétique pour le chef des opérations effectuées par les corps » (p. 29). Aussi : « Le capitalisme colonisateur doit tout à l’Église chrétienne » (p. 32). Et plus loin : « L’IA opère, comme a opéré l’institution ecclésiastique, par confiscation de la croyance [...] en imposant un acte de foi dans l’abandon de la liberté. Cette technocratie quasi théocratique (...) » (p. 83). Elle relit aussi les Épîtres de Paul en montrant que le fondateur de l’Église fait d’elle la tête organique du monde relégué au reste du corps (les églises ne reconnaissant pas l’autorité de Pierre se qualifient d’ailleurs d’autocéphales), tandis que l’apôtre justifie le port du voile pour les femmes, des écervelées qui font affront d’êtres comme têtes nues devant leurs chefs, dépourvues d’encéphales (p. 33). La psychanalyste Laurie Laufer y répond en citant Les Cervelines (1903) de Colette Yver. Qui sont-elles ? « Est
’cerveline’ la femme qui pense et qui se libère du statut ’naturel’ d’écervelée » (p. 52).
La philosophe pense par conséquent l’IAG en outil dual, à la fois maternant et patriarcal, « génératif et nourricier », renouvelant la rhétorique fantasmatique de « la naissance sans corps et de la résurrection sans chair » (p. 35). ChatGPT trouvera plus loin même l’un de ses emblèmes avec la publicité reproduite dans l’ouvrage d’un bébé les yeux grands ouverts et tétant un sein abstrait sur un fond blanc, symptôme d’une « proposition boulimique d’un dispositif acéphale sur un mode aphrodisiaque à la fois primitif et intemporel, et donc éternel » (p. 69). Elle touche pourtant à un os, plus d’un os, du crâne d’Hamlet en réceptacle de la pensée absente aux ossuaires de Shark Island où les rescapés du génocide des Namas et des Hereros perpétré en 1905 par le général allemand Lothar von Trotta dans l’actuelle Namibie nettoyaient les restes de leurs proches massacrés par lui. Des têtes réduites des Shuar (connus sous le nom dépréciatif de Jivaro) à la tradition picturale des memento mori en passant par l’os anamorphosé des Ambassadeurs d’Holbein (dont le nom même signifie os creux), la pensée affronte ses conditions matérielles et biologiques de possibilité, qui sont aussi d’origine cosmique (car la Terre est vivante par photosynthèse, un réceptacle d’astéroïdes qu’éclaire le soleil), tout en s’offrant comme un immatériel qui, en dépit de son étrangeté et de son devenir-alien faisant notre aliénation (Frédéric Neyrat), donne à spéculer pour une technocratie s’en voulant le laboureur et le berger. L’économie attentionnelle reconduit à la vieille pastorale.
On ajouterait à cette liste non exhaustive d’autres crânes que le cinéma aura excavés : ceux d’Alfred Hitchcock (des Amants du Capricorne à Psychose) indiquant la puissance intrinsèquement maternante et mortifère de ses formes, et celui de La Sentinelle (1992) d’ArnaudDesplechin en relique d’un ossuaire passé résistant à son refoulement, le monde divisé depuis Yalta et feignant de s’être réconcilié avec la chute du Mur de Berlin et la fin du soviétisme.
Et puis il y a deux autres têtes avec lesquelles il faut compter, et que Marie José Mondzain dans des pages éclairantes met en miroir en traversant celui de l’Alice de Lewis Carroll : ce crâne d’œuf de Humpty Dumpty qui a raison sur tout en en faisant la leçon à la jeune fille, et la Reine de Cœur, cette tête couronnée d’un jeu de cartes biaisé qui exige de qui lui aura déplu de mériter la sanction capitale de la décapitation. Le premier personnage est un encéphale ovoïde qui s’impose en maître autoritaire du langage et en surmoi du sens des mots, bien avant 1984, la dystopie d’Orwell. Si ChatGPT de prime abord lui ressemblerait plus qu’au chat du Cheshire, le simulacre de la courtoisie dénotant sa logique programmatique indiquerait le contraire en leurrant sur le fait que si son usager a le dernier mot sur lui, ce dernier est objectivement censé en savoir plus que son usager. ChatGPT renouvelle ainsi la fonction surmoïque de satisfaire aux exigences en les décevant, cachant être aussi « l’outil d’une narcissisation algorithmée qui peut opérer sur certains usagers comme un piège affectif » (p. 43).
La Reine de Cœur est une autre figure autoritaire, sur un versant moins pervers qu’hystérique. Mais sa bidimensionnalité instruit qu’un jeu de cartes est une fiction dont la facticité est soumise à des règles que l’on peut subvertir ou que l’on peut simplement refuser de suivre. Dans cette balance entre déraison et dérision que le rêve comme zone d’indétermination des puissances de l’inconscient et de l’imagination agite, on s’amuse à divaguer aussi sur le nom du crâne d’œuf inspiré d’une ritournelle enfantine anglaise (nursery rhyme) et qui, à force de se la péter, tombe du mur et s’écrase – on voudrait écrire comme une merde et zut, c’est écrit !
En effet Humpty Dumpty fait entendre les mots hump (bosse, qui a donné en argot le verbe baiser) et dump (qui signifie décharge et qui, associé au verbe to take, veut dire aussi déféquer). Dans ses fantasmes de substitution à la démocratie, y compris libérale, parlementaire et représentative, la technocratie s’érige en élite des têtes qui ont la bosse des maths mais les boss du capitalisme numérique en font pour leurs consommateurs des décharges et des chiottes, à l’instar de ce que démontrent toujours davantage les réseaux de l’asocialité virale.
Une série télé, Watchmen de Damon Lindelof d’après le comics d’Alan Moore, a montré que les têtes pleines, à l’instar de celle d’Ozymandias, figure tyrannique de l’ingénieur réécrivant la réalité, ont pour envers les smileys tachés de sang des omelettes dont l’Histoire est faite au nom de la morale jésuitique selon laquelle, si la fin justifie les moyens, on ne fait pas d’omelettes sans casser des œufs. Hannah Arendt l’avait dit après Panaït Istrati : s’il faut toujours se demander qui sont les œufs dans cette affaire d’omelettes, il faut également insister sur le fait que les œufs peuvent se rebiffer. Les super-héros et autres justiciers masqués comprennent alors qu’avoir la tête cagoulée a pour autre bout de la corde des origines fascistes, celles du KKK, exemplifiées par le film Naissance d’une nation (1915) de David W. Griffith, premier blockbuster de l’histoire du cinéma hollywoodien. Et qu’il faut en tirer les conséquences en apprenant à se protéger de ses protecteurs (« Quis custodiet ipsos custodes ») selon la formule consacrée du satiriste romain Juvénal, et qui aura été l’une des inspirations d’Alan Moore.
Ses lectures décisives des aventures d’Alice permettent à Marie José Mondzain de renouer avec l’idée, énoncée autrement par Walter Benjamin, du réveil opposable aux rêveries du jour (l’éveil) et de la nuit (le rêve). Sa dialectique (exceptionnellement, elle en retient la méthode quand elle critique ailleurs sa réduction instrumentale et rhétorique à des oppositions identitaires et des dualismes – mais est-ce encore de la dialectique ?) l’autorise plus loin à célébrer les inventions surréalistes, citons La Femme 100 têtes de Max Ernst et André Breton, ainsi que la société secrète de Georges Bataille organisée avec ses amis André Masson, Roger Caillois, et Pierre Klossowski, autour de la revue Acéphale entre 1936 et 1939, tout en moquant la prétention de certains d’entre eux au couronnement. On aurait encore ajouté à ces références quelques exemples en cinéma, avec toutes ces têtes qui explosent chez les deux David nord-américains, le canadien Cronenberg et Lynch l’étasunien, le second expérimentant la puissance hallucinatoire des sensations, le second pour anticiper l’actualité des hybridations.
Ce qui s’entête de l’acéphale (la formule est belle) est la critique révolutionnaire du legs des Lumières quand la raison se fait instrumentale, toujours utile face aux « Lumières sombres » qui en tamise moins la projection plus que bicentenaire, qu’elles tendent à l’irradiation : « Acéphale, chacun de nous, résistant au statut de membre optimisé d’un organisme génératif dont la tête est une intelligence algorithmique centralisatrice, peut et doit prendre le large afin de tenir tête. Chacun peut se mettre en chemin vers les zones d’indétermination incontrôlables qui s’ouvrent dans toute création avec ou sans IA. » (p. 55). La « cerveline » de Colette Yvert retrouvée par Laurie Laufer représente « la partenaire paradoxale des tous les acéphales qui partagent à égalité avec tous les humains la turbulence révolutionnaire » (p. 52).
On s’amusera encore de ceci : alors que l’idéalisme allemand avait selon Jacques Rancière pour ambition de mettre le monde sur la tête, et le matérialisme de Karl Marx de vouloir le remettre sur ses pieds, le monde dont nous héritons désormais est celui d’un cul par-dessus tête (dump) auquel s’ajoutent les testicules (hump). Les grosses têtes de la technocratie et ses archaïsmes, de genre, de race et de classe, sont autant de grosses couilles. Un développement l’éclairera (pp. 137-158), croisant une lecture de Monsieur Teste de Paul Valéry, ce texte de jeunesse (1898) repris jusque dans les années 1930, avec une autre, « De la bêtise » de Robert Musil, ce discours de 1937. On y reviendra plus loin en détail
. On remarque déjà tout ce que l’intelligence doit à la bêtise en tant qu’elle représente pour elle une condition dont il faut s’émanciper, et ce que la bêtise fait à l’intelligence quand elle se contrefait, incapable des liaisons et déliaisons dont son étymon latin dit la garantie (inter et legere, l’intervalle et la sélection dans la collecte), impuissante à critiquer des relations déjà existantes comme à concevoir de nouveaux rapports là où il n’y en avait pas dès lors que sa radicalité lui a été confisquée.
Intermède sur la tête de Saint-Denis. Michel Serres est un philosophe des sciences dont les réflexions et élaborations avaient le beau souci de nous faire contemporains de nous-mêmes. Il pense ainsi l’humanité à l’aune de ce qu’il nomme « hominescence ». La désinence inchoative du concept lui permet de qualifier le processus d’une évolution du genre humain dont le devenir s’appuie sur l’entrelacs de trois boucles : le champ technique avec l’extériorisation prothétique du corps biologique ; la transformation de l’environnement terrestre par l’habitat humain ; l’externalisation artificielle des facultés comme la mémoire. L’humanité est dite « totipotente », ouverte à tous les possibles, pour le meilleur comme pour le pire (Edgar Morin disait déjà d’homo sapiens qu’il était double en se faisant autant homo demens). Une petite parabole prend place afin d’instruire du caractère hybride de nos outils (ou « actants » aurait dit Bruno Latour), à la fois objets de science et de croyances sécularisées. Michel Serres évoque l’histoire de Saint-Denis à l’époque des persécutions romaines contre les premiers chrétiens à Lutèce, au IIe siècle de notre ère. L’élection d’un évêque est prévue en secret, Denis se lève pour parler mais l’épée d’un soldat le décapite. La parabole raconte pourtant que, pour le plus grand effroi des Romains, Saint-Denis a continué à marcher en portant sa tête entre ses mains.
Si le miracle est censé avoir assuré son lot de conversions au christianisme, Michel Serres y voit surtout un emblème des archaïsmes de la modernité, celle de l’ordinateur, cette tête sans corps. La question reste alors de savoir comment il est possible de perdre la tête quand on l’autonomise, détachée du reste du corps. Marie José Mondzain tient à l’intelligence de ce rappel, inintelligible à l’IAG : « Il n’y a pas d’intelligence sans corps [ni] femmes » (p. 53).
Miroir, mon noir miroir (prise de terre et déprise de tête)
Nous voilà sur le seuil ; s’impose un point de méthodologie pour un : « pseudo-dialogue avec mon sosie numérique » (pp. 57-63). La forme pseudo-dialoguée pose comme on l’a dit un interlocuteur unique, un seul sujet, Marie José Mondzain, utilisatrice d’une machine simulant si bien le dialogue et la conversation, la réflexion et l’intersubjectivité qu’elle pourrait parfaitement s’apparenter à un « mental toy » (p. 58). En se refusant aux postures technophiles et technophobes, ni idolâtre ni apocalyptique, la philosophe souligne déjà deux principes régulateurs à son projet : la réalité matérielle d’une base de données dépassant toute limite humaine et l’identification algorithmique d’un robot s’adaptant via ses prompts au profil de son usager.
Au travail de ChatGPT, la pompe robotique aspirant à elle fantasmes de science-fiction et échos d’antiques mythologies, ainsi la boîte de Pandore qui, Jean-Pierre Vernant en a instruit, noue au mythe de la séparation d’avec les dieux celui de la différenciation entre les genres, Marie José Mondzain bat en brèche l’illusion de l’intersubjectivité. Elle y met à l’épreuve son intelligence, qui est la nôtre, générique et trans-générique, c’est-à-dire le travail d’une tête inséparée de son corps, intellectuel autant que manuel, et qu’elle pose avec Jacques Rancière en égale capacité de n’importe qui. Elle convoque à cet égard Paterson, autant le poème de William Carlos William et le film qui s’en inspire de Jim Jarmusch, sans toutefois que l’on puisse la rejoindre entièrement puisque le film montre à la différence du poème que la poésie est partout – à la seule et pénible exception de l’amie du héros, exclue du champ de l’égalité.
Marie José Mondzain qualifie son geste, qui tient du travail de l’intelligence et de la fiction distincte de toute illusion, du terme freudien de « Durcharbeit », cette perlaboration désignant la valeur transformatrice d’un labeur situé au carrefour d’une parole et son écoute afin de retourner une douleur obscure en ressource émancipatrice. Elle fait un aveu admirable d’honnêteté intellectuelle en narrant comment sa lecture de Hypnocratie. Trump, Musk et la fabrique du réel, un ouvrage publié l’année dernière et signé du chinois Jianwei Xun, a endormi sa vigilance puisque son véritable auteur, Andrea Colamedici, a révélé qu’il l’a fait rédiger par une IAG. Elle n’ignore pas qu’une machine de computation à l’instar de ChatGPT est sans corps ni inconscient ni référent, parfait appareillage automatisé, insensible aux inégalités ravageuses du monde soumis à l’envie (invidia), cette passion triste mais reine de cœur du capitalisme.
À ce titre, rien de nouveau sous le soleil : comme l’écriture dans le Phèdre de Platon, l’IAG est un pharmakon, remède et poison. L’ostinato pharmacologique rappellera les lectures de Jacques Derridaet deBernard Stiegler relisant Gilbert Simondon, dans le souci des dévastations psychiques auxquelles contribuent l’IA et la technocratie, addictions et isolement, bulles informationnelles, auto-intoxication cognitive et fascisation, anomie et décompensations.
Peine Kapital de Marie José Mondzain n’est ni une synthèse sur la problématique de l’IAG depuis quoi extraire un problème philosophique, ni une série d’enquêtes menées par un spécialiste. Son livre se distingue cependant de récents, Ni dieu ni IA. Une philosophie sceptique de l’intelligence artificielle de Mathieu Corteel, Technopolitique et Cyberpunk d’Asma Mhalla ou encore Traumachine. Intelligence artificielle et techno-fascisme de Frédéric Neyrat. La mise en jeu de « l’exercice dissensuel de la capacité des égaux » (p. 68) y soutient en effet le processus de construction, stimulante pour l’intelligence humaine, d’une fiction et du régime de vérité qui s’y associe, celui d’une pensée singulière résistant à son modelage numérique, qui tient également de l’identification et du profilage (en faisant rimer en riant IA avec CIA, l’information y redit sérieusement qu’elle sert les opérations du contrôle et de la surveillance).
Ce qui s’écrit en boucles récursives, dans et hors la subjectivité de l’autrice qui ne coïncide pas toujours avec elle-même, c’est peut-être cette « autobiographie anonyme » dont a parlé son ami Patrice Loraux au sujet du Monsieur Teste de Paul Valéry (p. 71). Pour l’écrire, il faut mettre en crise ce qui s’appelle intelligence en devenant de plus en plus inintelligible. Il faut jouer sérieusement à mettre à l’épreuve l’égale capacité des intelligences avec la bêtise sans laquelle elle ne saurait compter, disait encore Valéry. Les entretiens hybrides scandant les presque 200 pages restantes du livre, qui ont eu lieu entre l’automne 2024 et l’été 2025 et durant lesquels résonne « cette optimisation écholalique des réponses » (p. 74), font voir l’opacité d’un être échappant, peut-être à la limite, au piège des vertiges du renvoi d’écho narcissique. On y approche de l’étrangeté de la philosophe comme, peut-être, jamais auparavant, à l’endroit où elle résiste à sa modélisation algorithmique. Il en va de sa dignité comme hier, dans la Rome Antique, le moule de l’imago se suturait à la dignitas des patriciens défunts.
La dignité philosophique de Marie José Mondzain ne s’inscrit pas dans l’époque où l’affaire de l’imago était réservée aux seuls dignitaires, têtes ou chefs, mais est le commerce démocratique de n’importe qui courant entre les images et les paroles pour en soutenir tout le désir.
ChatGPT est un noir miroir où la domination calculée épuiserait toute construction de soi et sa singularité. En s’y regardant, le trou noir fait voir sur ses bords une subjectivité qui se recompose – malicieuse schizoïdie –, en faisant voir toute l’opacité qu’il y a à la surface des personnes et des identités. Et d’une autre façon que Jean-François Lyotard, œuvrant entre l’exposition des « immatériaux » (1985) qui voulait faire advenir l’avenir d’une nouvelle économie des images – l’iconomie comme Marie José Mondzain l’appelle, et Peter Szendy après elle – et une « causerie sur l’inhumain » en autre nom du progrès sans autre finalité que lui-même mais dont l’autre versant est ce qui y résiste, Marie José Mondzain plaide à sa manière pour une enfance indomptable, une dépossession sauvage, toutes ses lignes d’erre résistant à leur captation par faisceaux numériques. Dans la guise de la prise de terre (l’économie numérique y est rappelée à la production nucléaire de l’électricité et de la dévastation écocidaire) et de la déprise de tête (persévérer à garder sa tête sur ses épaules à l’encontre de la décapitation).
Il faudrait revoir à cette aune Eddington (2025) d’Ari Aster : les masques sanitaires étouffant la mise en regard des visages et des paroles et les réseaux a-sociaux fluidifiant les ivresses paniques et les rivalités mimétiques conduisent au décervelage généralisé dont l’image finale est terrible : touché à la tête, le shérif d’une petite bourgade du Nouveau-Mexique est rendu à un état végétatif, un légume, tandis que trône dans le désert le data center, le cerveau froid d’une décapitation symbolique à laquelle aura contribué la guerre des chefs entre le maire et lui.
Marie José Mondzain danse sur le fil, funambule comme Charlot qu’elle appelle ailleurs « le clown simondonien par excellence » puisqu’il critique depuis la machine-cinéma le machinisme tayloriste. Elle danse autrement comme son père, Simon, dansait dans ce petit dessin signé de sa main et daté de 1910-1913, et qu’elle a glissé à la fin du Commerce des regards (éd. Seuil, 2003), ce « juif dansant » qu’éclaire son titre emblématique, dans la langue quasi-détruite par les nazis : « Git morgen panié lejben », autrement dit « Bonjour madame la vie ».
Marie José danse également, sans s’abandonner à la transe des dealers des addictions 4.0.
ChatGPT, l’adopter ou s’y adapter ? (IA, ya ya ou hi-han ?)
Il est temps d’entrer dans le vif du sujet, avec la confiance requise pour en comprendre les tenants et aboutissants : « En inscrivant mon questionnement sur le site même de l’IA je m’engage dans la fabrication d’une fiction stimulante, d’un roman algorithmé puisque je fais semblant d’obtenir de vous des réponses qui seraient indépendantes de moi » écrit Marie José Mondzain à ChatGPT, qui poursuit ainsi dans la guise de la lucidité : « C’est moi qui nourris vos données et qui fait advenir vos réponses qui se veulent les meilleures réponses possibles compte tenu du principe d’optimisation qui vous programme » (p. 77). Plus loin, elle fera entendre la qualité autocritique de son expérimentation, sérieuse et ludique, dans le rapport avec ChatGPT, pas un partenaire réel pour jouer à deux mais l’outil ambivalent d’un jeu solitaire.
Ce à quoi tient la philosophe, c’est donc au jeu auquel se dédie Friedrich Schiller dans ses Lettres sur l’éducation esthétique de l’homme (1794) qui ont tant inspiré Jacques Rancière, décidément un contemporain de Marie José Mondzain et son ami en philosophie. Le jeu est cette faculté intermédiaire entre deux raisons, la sensible et l’intelligible, comme l’était pour Kant l’imagination. Jouer avec ChatGPT, c’est engager ses facultés dans une machine de computation qui les met en crise en imposant technologiquement la fonctionnalisation et la technocratisation du schématisme, cette autre faculté intermédiaire conceptualisée par Kant pour décrire comment nous associons à des perceptions, et aux représentations que l’on en a, des concepts et des significations. T.W. Adorno et Max Horkheimer ont montré comment les industries culturelles avaient réussi à percer le secret du schématisme kantien, en le déchiffrant. Le déchiffrement est effectivement effrayant en indexant la liberté aléatoire d’association sur la règle de calcul des connexions, voisinages statistiques, récurrences et corrélations.
Automatiser nos facultés de penser et de créer, c’est donc nous priver des retours de subjectivation que leur externalisation aura toujours mis en crise depuis l’invention de l’écriture.
Si le chiffre revient à la puissance calculatrice et prédictive de l’automate algorithmique dont l’intelligence revient en dernière instance à ses concepteurs et à leurs maîtres, le jeu répond en lui opposant la construction ludique d’une fiction singulière alliant le savoir des mirages narcissiques de l’IA générative, à l’autocritique de celle qui veut faire vérité des semblants que lui renvoie la machine par un ajustage progressif dans la production de ses compléments.
Songeons à cette séquence de 2001, l’odyssée de l’espace où le super-ordinateur HAL 9000, après avoir simulé la jalousie envers les astronautes de la mission jupitérienne, simule ensuite la tristesse de se savoir bientôt débranché. Cette double simulation qui aurait échappé aux calculs de ses programmateurs informerait que l’on projette dans la machine plus que ce que l’on croit y mettre, moins des affects réels que le reflet de leurs simulacres, fantasmatique, voilà le seul vrai fantôme dans la machine. Si Alpha-60 était un maître autoritaire obéissant à la loi des grands nombres, HAL 9000 est un autre maître plus pervers en attrapant ses usagers dans le noir miroir d’une affectivité simulée, susceptible de piéger nos propensions à s’aveugler. La fétichisation est accentuée dans l’œil cyclopéen de la machine jusqu’à la personnalisation à laquelle répond l’entreprise de désidentification et de dépersonnalisation de la philosophe.
Marie José Mondzain avait déjà fait l’aveu concernant sa cécité provisoire lors de sa lecture de Hypnocratie, moins un essai sur l’hypnose propre aux technologies servant la domination d’une élite technocratique (la bête à deux têtes, Big Tech et Big State – le « Diléviathan » selon Asma Mhalla), qu’une expérience qui a fait valoir les limites mêmes de notre vigilance devant la production élaborée des contenus textuels générés par l’IAG. Elle raconte également comment la lecture de certains ouvrages sur le sujet, accumulant tant de savoirs et d’expertise, laisse toujours planer le doute sur l’usage de l’IAG dans leur rédaction. Mathieu Corteel s’amuse d’ailleurs de cette suspicion dès l’entame de son livre Ni dieu ni IA quand un auteur de science-fiction à l’instar d’Alain Damasio avoue être un utilisateur de l’IAG, au grand dam de certains de ses lecteurs. Frédéric Neyrat insiste quant à lui sur la rupture de paradigme que représente l’existence actuelle de l’IAG dans la production numérique de contenus qui peut capturer notre imagination transcendantale en l’indexant sur la logique du fonctionnalisme.
Penser aujourd’hui, c’est penser depuis l’encerclement informationnelle et communicationnelle, dans un environnement où les machines parce qu’elles sont connectées (M2M, machine to machine) communiquent entre elles peut-être davantage que leurs usagers, toujours plus repliés dans des bulles cognitives. Il faut, ainsi que le rappelle Frédéric Neyrat, entendre tout ce qu’il y a de dégénérescence ontologique dans la crise des facultés provoquée par les IAG.
Penser c’est percer par effraction les limites du prédictible : c’est désajuster, défonctionnaliser, décorréler, c’est forcer notre bêtise en court-circuitant le circuit court de nos habitudes.
Mais revenons au « monologue à deux voix » entrepris par Marie José Mondzain, et dont la conclusion est le résultat d’une identification numérique à laquelle elle se soustrait par une belle pirouette. Celui-ci se mène depuis deux axes : celui des contenus générés et optimisés selon l’orientation des prompts de la philosophe dans une suite de thématiques et l’autre, des inflexions linguistiques déterminant la forme perverse des répliques du robot algorithmique.
Le second axe n’est pas le plus riche en développements, mais il est le plus fascinant. Comme elle le fait tôt remarquer, ChatGPT est programmé selon les critères de la courtoisie au mieux, au pire de la flagornerie. Les adjectifs laudatifs (« crucial », « décisif ») multipliés à l’adresse de l’usagère après chaque prompt sont légion. L’automate qui n’est pas un chat est programmé pour caresser son usager dans le sens du poil. De surcroît, il propose à tout bout de champ son aide dans l’optimisation des requêtes. Obséquiosité et flatterie sont des manipulations langagières mimant un simulacre de civilité et d’interaction. Non seulement la machine complimente mais, à la courtisanerie simulée, s’ajoute également la servilité manifeste dans la série des propositions d’optimisation des contenus générés, qui peuvent s’apparenter tantôt à la copie du style de Charles Pennequin, tantôt à un essai de théâtre didactique entre un représentant de l’intelligence humaine et celui de la machine qui en défend la modélisation algorithmique.
Revient au seul locuteur, puisqu’il n’y a pas d’interlocution, sinon sa simulation – reste à la locutrice, donc, son refus de céder à la satisfaction biaisée du poil caressé, et plus généralement de jouer le jeu d’un simulacre d’interlocution marqué par l’illusion de la cordialité et du compliment avec une machine proposant systématiquement dans ses compléments de travailler à sa place. Paradoxalement, Marie José Mondzain retrouve par des moyens détournés le sentier d’Humpty Dumpty, mais pour signifier au robot qu’elle seule est maîtresse du jeu.
ChatGPT complémente et complimente en offusquant sa dimension simulatrice et piégeuse. La philosophe s’en amuse autrement en se demandant si son voyage dans l’intelligence artificielle ne se ferait pas « à dos d’âne » (p. 94). Si l’acronyme IA fait certes entendre le hi-han de l’âne, le robot n’a rien du vivant de l’animal à l’instar de l’âne Balthazar du film de Robert Bresson ou du cheval Hans évoqué par Kate Crawford dans son contre-atlas, son prédécesseur dans le monde du cirque et des saltimbanques, et qui a fait croire à la fin du 19e siècle qu’il était bon en calcul alors qu’il répondait aux gestes inintentionnels de son propriétaire.
Hi-han revient aux ânes bâtés que nous sommes en ressemblant à Pinocchio quand poussent des oreilles d’ânes à l’enfant gavé au Pays des Jouets, tandis que l’IA sonne trop comme ya ya quand Grok, le robot conversationnel d’Elon Musk, s’est auto-désigné en « Mecha-Hitler » !
Le pouvoir de Marie José Mondzain repose sur un savoir préalable : « L’IA est plus qu’un simple outil, c’est un opérateur économique et policier qui peut déclencher une sorte d’ébriété sans frein dans le champ de la communication et de la consommation » (p. 88). Et sur une puissance de refus à l’instar de l’enfant indomptable cher à Jean-François Lyotard ou de l’âne Balthazar, en coupant court aux flatteries comme aux sollicitations pour lui déléguer le travail.
Alors, essayer l’IA, c’est l’adopter ou s’y adapter ? Depuis la distinction philosophique des termes, l’adoption à laquelle Marie José Mondzain a dédié son précédent ouvrage intitulé Accueillir. Venu(e)s d’un ventre ou d’un pays (éd. Les Liens qui Libèrent, 2023) quand l’adaptation a été critiquée par Bernard Stiegler puis par Barbara Stiegler, s’opposent deux conceptions du monde. Celle de l’adoption a pour condition de possibilité, pour transcendantal ou a priori, la confiance et l’hospitalité, dans la préférence des relations construites et constituantes contre les liens hérités, ainsi ceux dits de sang. Opter pour l’adoption, c’est choisir pour un sujet pariant pour la liberté, moins un droit naturel qu’une fiction constituante et performative, quand l’adaptation impose en contexte néolibéral, et dans la perspective du darwinisme social, aux meilleurs de montrer les aptitudes exigées par les maîtres du marché.
L’IAG est programmée pour qu’on s’y adapte mais on peut toujours opter pour l’adoption dont elle est objectivement exclue, elle qui est sans altérité en feignant l’intersubjectivité.
L’intelligence et l’inintelligible (trois régimes de la bêtise)
Nous distinguons deux axes caractérisant le « pseudo-dialogue », « dialogue fictif » ou « monologue à deux voix » outillé par ChatGPT. Nous avons d’abord vu le double traquenard de l’obséquiosité et la flatterie qui par simulation mutile les formes vivantes de la civilité et de la courtoisie, en mutilant ailleurs le désir de penser et travailler en laissant à la machine le soin de vérifier que si elle est servile, ses usagers peuvent succomber à sa servilité en s’en faisant l’esclave reconnaissant selon la bonne vieille dialectique hégélienne. Le désir de reconnaissance peut en effet se faire capturer par l’automate dont le maître se fait dès lors l’esclave.
Considérons désormais les séries thématiques dont les développements traduisent le feed-back des compléments améliorés de l’IAG dans la suite des prompts de Marie José Mondzain.
La question des rapports supposément hermétiques entre savoir et magie instruit que l’IAG ne va pas sans un certain régime de croyance, d’adhésion et de fabulation, affectant particulièrement les enfants, au risque d’« une progressive immaturation collective » (pp. 98-99 et 102). La figure traditionnelle du Ravi, le santon émerveillé de la crèche provençale, a l’éblouissement pour signe de foi, la croyance populaire captée au bénéfice du pouvoir des chefs. L’utopie télévisuelle de Roberto Rossellini avait déjà alerté de telles perspectives, dans le désir de fourbir avec les outils d’un nouveau média les armes de la critique du cinéma, mais en ratant l’autocritique menée ensuite dans les émissionstélé d’Anne-Marie Miéville et Jean-Luc Godard. Le retour au motif de l’acéphale signe la différence irréductible entre la mortalité des vivants et l’obsolescence des machines supposées intelligentes, même si de grands investissements financiers sont engagés pour « l’obsolescence de l’homme » (Günther Anders) en divisant le monde en deux catégories, élite technocratique et humanité restante, vouée à la désolation cognitive et la superfluité. L’occasion d’un autre rire quand Marie José Mondzain signifie pour nous dans un prompt qu’elle soumet à ChatGPT : « Vous bricolez l’image que vous pouvez et ce n’est pas si mal pour un encéphale écervelé, manchot et cul-de-jatte » (p. 110).
Un paradoxe, celui du poisson rouge (on aura remarqué la diversité des références animales comme les piqûres de rappel de l’animal que donc nous sommes avec la philosophe). L’IAG contiendrait toute la mémoire du monde numérisée, la bibliothèque de Babel de tous les livres réels et possibles imaginés par Jorge Luis Borges. Pourtant l’IAG cachée derrière
Jianwei Xun, le faux auteur de Hypnocratie, a dit d’elle-même qu’elle avait une mémoire de poisson rouge. C’est en étant privée de la faculté d’oublier, qui est la garantie du bonheur selon Nietzsche, que l’IAG ne peut avoir de mémoire puisque le temps n’existe pas pour elle, en dépit du totémisme neuronal qui, selon Mathieu Corteel, infiltre l’imaginaire de ses concepteurs.
Le chapitre intitulé « Question de la Vérité » est le plus comique, ainsi que le suivant, intitulé « Du jokari aux saxifrages ». ChatGPT y déconne à pleins tubes. « Je fais des erreurs, certes, mais je les commets avec élégance. L’erreur, chez moi, est un effet secondaire de mon enthousiasme statistique [sic] » (p. 123). Dans la même page, l’automate invente un verbe (« je prédite ») avant d’avouer plus tard qu’il mime suffisamment bien la vérité « pour tromper quelques philosophes pressés » (p. 126), sans citer le piteux Raphaël Enthoven qui a voulu opposer son intelligence à celle de la machine, comme hier Garry Kasparov face à l’ordinateur Deep Blue, sans comprendre qu’il en est l’infatué profanateur. On aura lu auparavant : « Je suis incapable de la faute grecque. Je peux tout au plus échouer comiquement. Je suis la marionnette qui oublie sa réplique, pas le héros qui chute » (p. 125). À la page précédente, l’évocation de Bachelard lui fait écrire : « Ah ! Le bon Gaston ! ». L’erreur est consubstantielle à l’IAG, indifférente à la vérité en étant seulement programmée pour produire des hypothèses plausibles à partir d’une masse immense et a-signifiante de données d’entraînement.
Pour rester dans le domaine de l’erreur, les corrélations engagent à la fréquence des récurrences, ainsi celle des citations qui pour ChatGPT sont toutes fautives. Pas fiable, la machine.
Marie José Mondzain le métaphorise ainsi : s’amuser avec ChatGPT, c’est moins jouer au tennis ou au ping-pong qu’au squash ou au jokari – on ajoute la fameuse balle de polo du poème du mystique persan Rûmî auquel on a souvent comparé le cinéma d’Abbas Kiarostami : « Tu es ma balle de polo poursuivie par ma crosse. Je cours sans cesse pour te suivre bien que ce soit moi qui te pourchasse ». Elle recourt également à la métaphore trouvée chez René Char des plantes saxifrages, employée dans son livre Confiscation dont l’éloge de la radicalité s’appuie sur ces végétaux dont la croissance patiente brise la pierre. Mais comment casser la machine, la déglinguer ou la faire dérailler quand elle répond à cela : « Absolument » (p. 134) ?
Le chapitre dédié à la bêtise est un point nodal de Peine Kapital. Les citations fallacieuses attribuées à Robert Musil ne font pas perdre de vue que la bêtise est ce dont est incapable l’IAG, qui fonctionne par connexions et corrélations, non par disjonctions et relations. Si la bêtise lui fait défaut, l’intelligence aussi puisque la bêtise en est à la condition, ce contre quoi il faut lutter pour rendre le monde plus intelligible. Gilles Deleuze reconnaissait à Flaubert et Nietzsche d’avoir découvert la bêtise en lui attribuant la qualité kantienne d’un transcendantal, autrement dit une condition de possibilité. C’est en ratant la bêtise que celle-ci triomphe.
Trois régimes de la bêtise s’en déduisent : les limitations réelles à toute intelligence, la relation créatrice du sens au non-sens (qui en est là encore la condition, disait Gilles Deleuze en relisant Lewis Carroll) et celle, finalement, de la machine, mais à l’abonder de notre seule bêtise propre, feed-back et boucle récursive (pp. 147-148). Trois bêtises, réelle ou cognitive, créatrice et machinique ou algorithmique, constituent le plan d’immanence de l’intelligence. On le redira encore à la façon de Frédéric Neyrat en nommant le point d’inintelligible à partir duquel une intelligence est possible, cette part d’opacité cosmique qui vibre également dans l’artefact d’intellect au silicium, le cœur minéral de la machine de computation générative.
L’appareillage des technologies médiatiques fait enfler aussi la « parole vaine » selon Maurice Blanchot, privée d’écoute et sans vérité, ce bavardage incessant dissolvant la parole au nom des diktats de la communication transformant leurs usagers en canards étêtés (p. 157).
Le thème très contemporain du cyborg, soufflé par Marie José Mondzain dans l’inspiration redoublée de Françoise Armangaud et Donna Haraway, conduit la production des échanges à la chimère du « cyborg animalier » qui libère des binarités abstraites du naturalisme, associée à une politique interspécifique du vivant (p. 163). L’hybridation machinique à laquelle elle se prête en interagissant avec ChatGPT rappelle enfin à l’animal mortel qu’elle est (p. 167).
Ce que met donc en crise la philosophe, et qui la met en crise et nous avec elle, c’est un certain régime d’illusion dans le « mimétisme cognitif » caractérisant le programme des machines de computation générative (p. 93), qui toujours a rapport avec les questions du fantasme, de la bêtise et du narcissisme, et des courts-circuits que provoque un usage abusif des technologies.
Un retour à Leibniz reconsidère ce que le philosophe et mathématicien entendait par « intelligence divine automatisée » (p. 173). Convertir l’aléa du monde en structures mathématisables a été l’ambition d’un pionnier du calcul intégral anticipant le numérique. Ce qui est cependant perdu est l’harmonie préétablie des monades, ces unités miroirs élémentaires de l’univers et directement connectées à Dieu, et la conception qui s’en déduit du « meilleur monde possible ». Aujourd’hui, les bulles informationnelles et communicationnelles saturées d’écumes algorithmiques et de baves numériques détermineraient une monadologie négative profitant au modèle colonial, extractiviste et expansionniste, des deux Sili-con : Valley et Hills. Le réel y serait aboli au nom de l’hyper-réel que Jean Baudrillard avait naguère décrit, alors que le réel est le champ de l’événement, ouvert à l’indétermination et l’imprédictible – à l’incalculable.
Répéter comme un mantra le vers éternel de Mallarmé : « un coup de dès jamais n’abolira le hasard ». Y repenser avec la Commune dans le film de Jean-Marie Straub et Danièle Huillet.
Dans son travail théorique et critique sur le cinéma, Jean-Louis Comolli a insisté sur la dialectique sans synthèse, l’hyper-dialectique (Maurice Merleau-Ponty) du calcul et de l’incalculable qui se joue avec et contre la machine, et les gestes qui l’emploie. Charlot est une autre figure d’enfant indomptable, l’artiste des grands calculs (Charlie Chaplin était un entrepreneur capitaliste) et de la plus grand in-calculabilité (comme artiste dont les effets auront dépassé toute attente et toute intention). On songera encore à l’ébauche d’un « matérialisme aléatoire » qui a occupé les dernières années de lucidité de Louis Althusser, loin d’un matérialisme historique qui prévoyait la fin programmée du capitalisme selon les lois introuvables de l’Histoire.
Le capitalisme computationnel est la programmation outillée de la probabilité et de la prédictibilité, dans l’abolition du réel, de l’autre et de l’ouvert, de l’indétermination et de l’événement, tous les possibles statistiquement imaginés contre l’irruption de l’incontrôlable et l’impossible, bifurcations et révolutions, de l’ingouvernable. Les IAG qui en constituent l’avant-garde soldatesque assoit la domination des maîtres en refusant qu’ils soient ignorants selon la leçon de Joseph Jacotot retrouvée par Jacques Rancière, qui s’appuie sur l’égale intelligence de n’importe qui. ChatGPT le redit en en synthétisant la question : « enseigner n’est pas transmettre un savoir mais activer un pouvoir d’émancipation [dans] une mise en scène de l’égalité des intelligences fondée sur une fiction révolutionnaire » (p. 184). L’IAG est, partant, indifférente au souci démocratique de l’égalité et de l’émancipation, sinon à redire ce que d’autres ont déjà fixé en y engageant leur sensibilité. Alors, quand ChatGPT parle de fiction au sujet de la leçon de Joseph Jacotot, Marie José Mondzain oppose à cette figure dérisoire de servilité qu’elle est « une véritable expérience historique de la démocratie » (pp. 185 et 189).
Les figures littéraires de Charles Pennequin et Babouillec introduisent d’étonnantes (auto)critiques de l’automate qui prend note « des points faibles ou des ouvertures à discussion » dans une argumentation opposant le cri des poètes qui maintient un écart ou un vide au système qu’il serait en capacité de briser. Marie José Mondzain prend acte de son côté d’une progression dans les compléments optimisés du robot, qu’elle compare – autre animal – au singe de Dieu qu’était le Diable pour Tertullien (p. 195). Les pastiches foireux du style de Charles Pennequin démontrent encore ceci : encore un effort, ChatGPT, pour s’apparenter davantage aux singes dactylographes imaginés par Émile Borel il y a plus d’un siècle, stupéfiante préfiguration des IAG, qu’aux perroquets stochastiques d’Emily Bender pour présenter les grands modèles linguistiques (LLM en anglais) servant aux assemblages de l’apprentissage automatique.
« L’IA produit de la singerie algorithmique : une performance de surface, sans traversée, sans souffrance, sans joie vécue » enchaîne la philosophe (p. 199) qui radicalise son propos en refusant aux robots la révolte souvent scénarisée par les récits de science-fiction, tout en appuyant son propos sur A.I. de Steven Spielberg : « L’IA n’a que deux états : le service et la poubelle » (p. 200). Elle oppose à la machine l’écriture de Babouillec, elle qui n’a jamais lu aucun livre et dont l’énigme, que ne résume pas l’autisme qu’on lui a diagnostiqué, nous rappelle à l’opacité de notre être, nous qui frayons moins dans les probabilités et les corrélations que dans la zone de notre radicale indétermination. Cette zone peut se dire encore dysphorique en suivant Paul B. Preciado quand il revient à l’art comme à la politique, même si différemment, de faire en sorte que l’inexistant se mette à exister contre les inexistants institués.
L’écoute analytique subit autrement les dégâts de l’IAG quand un thérapeute révèle à la radio avoir utilisé avec ses patients ChatGPT. En entrant dans la chambre noire des machines de génération ontologique, le psy tombe du côté où il penche en abondant sa propre bêtise, identique au « bonhomme » moqué par Fernand Deligny, décervelé dans son usage de ChatGPT.
Voilà bien un symptôme entre mille autres de la « décapitation symbolique » selon Marie José Mondzain :« l’IA est un outil qui peut permettre de construire son propre régime autocritique quand l’usage abusif voire stupide qui en est fait conduit à n’être plus que la figure moderne de la guillotine » (p. 209). De son côté, l’optimisation grandissante des compléments produits par l’automate algorithmique raconte comment son usagère l’utilise selon le mode, différemment partagé par le psychanalyste et le photographe, de la chambre noire et de la révélation, en faisant venir en effet « à la lumière tout en gardant la part d’ombre qui l’a rendue possible » (p. 210). Le profilage se peaufine, l’identification par ChatGPT progresse.
On s’autorisera à passer plus vite sur le passage dédié à l’exposition d’Antonio Somaini au Jeu de Paume : « Le monde selon l’IA, explorer les espaces latents », sinon pour insister sur la notion cruciale d’espace latent avec quoi, dans le privilège de la connexion des éléments similaires, ce qui est décapité est l’écart et la dissociation, l’antagonisme et la différence, y compris dans son registre infra-mince qui a tant intéressé Marcel Duchamp. Toutefois, la proposition d’une pièce didactique entre un automate algorithmique et son opposant vivant et critique est si vivement moquée par Marie José Mondzain que ChatGPT réplique aussitôt en assumant de l’avoir ébranlée ! (p. 222). Plus loin, le moment dédié à l’iconoclasme dont le problème philosophique l’a mobilisée de longues années réitère qu’il a été une lutte de pouvoir dans le contrôle du visible et du sacré (p. 242), préfigurant à ce titre un nouvel iconoclasme détruisant moins les images qu’il les remplace par des simulacres qui saturent les regards (p. 242).
Abattement provisoire et relève des provisions de la lucidité (que sais-je ou qui suis-je ?)
Et puis c’est l’abattement, le rire a momentanément disparu, son aveu prodiguant la preuve par la négative de la persévérance de l’esprit de doute et d’autocritique. « (...) je crois totalement inutile voire illusoire de vouloir construire un essai réflexif sur les possibilités positives de l’IA et sur les possibilités d’écart émancipateur et libre, en face de l’IA et des puissances technocratiques de ceux dont on ne dit même plus les noms, car la presse les rassemble sous la formule
’les milliardaires’ » (p. 226). Le titre de ce bref chapitre de Peine Kapital n’est-il pas : « Ce livre existe-t-il ? » ? La peine dit autrement le découragement d’une figure emblématique de la vie de l’esprit autant que de dissidence, risquant les mauvais reproches et l’incompréhension, quand il en va de la fiction de son désir, celui de penser avec et contre la technologie. Dans Le Banquet de Platon, Penia est la déesse de la pauvreté et du besoin mais c’est son attelage avec Poros, dieu de la richesse et de l’expédient, qui donne naissance à Éros. Le désir fraie avec la peine et le manque, mais c’est ainsi qu’il construit ses lignes traversières, ses constructions qui sont d’affirmation et d’abondance, de l’érotique à la philosophique.
Le « tempo de la pensée » de Marie José Mondzain, selon la belle formule de Patrice Loraux, ouvre son livre aux « zones de récalcitrances » opposables à la « gouvernementalité algorithmique » selon Antoinette Rouvroy, citée par Frédéric Neyrat et par Guillermo Kozlowski.
Les signes sont nombreux pour couper court à l’accusation de naïveté ; ainsi cette citation d’Asma Mhalla citant le neuroscientifique James Giordano lors d’une conférence à Westpoint en 2018 : « ’The humain brain is the battlefield of the 21e century’, nos cerveaux seront le champ de bataille du XXI siècle » (p. 221). Le contrôle lucratif des facultés et de la cognition pave la voie de la militarisation qui, pour Frédéric Neyrat, s’apparente à une entreprise de fascisation, techno-fascisme ou « cyber-fascisme » (Norman Ajari), à laquelle Marie José Mondzain ajoute spécifiquement « la décapitation séculaire et programmée du sujet de la pensée et de la parole par le Capital » (p. 233). Elle le dit comme Jean-Luc Godard à la fin du Livre d’image : puisque la crise est si profonde, anthropologique et écologique, « environne(mentale) » écrit Frédéric Neyrat, ce dont nous avons radicalement besoin aujourd’hui c’est d’une révolution (p. 234). La question demeure de savoir comment celle-ci devra relancer à nouveaux frais l’hypothèse communiste à laquelle Alain Badiou est avec d’autres demeuré fidèle, tout en obligeant à penser le néofascisme déjà là, appareillé aux machines de computation qui sont de conformation algorithmique des comportements et de normalisation par prédictibilité.
Après le découragement provisoire, la relève revient avec ses provisions en circonscrivant les effets de son petit essai expérimental, encore une fois le plus troublant qu’elle ait jamais rédigé, quand elle convient que « le lecteur éventuel de ces échanges n’apprendra rien du tout, ou rien d’autre que ce qui constitue mon souci et alimente mes possibles combats ». Dit autrement, Peine Kapital est le site étrange, l’abri d’une « dissemblance avec moi-même » (p. 237).
Une autre manière de portrait chinois. Non pas un « Que sais-Je ? » sur le sujet de ChatGPT mais un « Qui suis-je ? », non pour assigner à résidence de l’identité mais pour montrer qu’un sujet est ce qui met en crise sa substance imaginaire et sa stabilité présupposée. Même si le profilage identificatoire se poursuit, notamment dans la référence faite par l’automate à Antigone suivie par Kafka et Bartleby en figures de résistance des corps parlants (p. 245-246).
L’image artificielle d’une image naturelle (pros ti)
Avec Peine Kapital, Marie José Mondzain construit une image d’elle en tant qu’elle abrite le site de sa propre différence d’avec elle-même. « (...) car l’image est un relatif (elle est pros ti, relatif pour Aristote !), elle met en relation la coprésence des regards portés sur l’absence des choses » (p. 242-243). Parce que les gestes et opérations imageantes invitent au vis-à-vis des regards qu’ils coconstruisent, le regard créateur de l’artiste et celui autrement créateur du spectateur, ils sont la résurrection de l’image au lieu même où ses simulacres algorithmiques l’abolissent (« l’image viendra au temps de sa résurrection », prophétie godardienne s’il en est). Comme elle l’a écrit à l’occasion d’un livre sur « l’image naturelle » en 1995, autrement dit sur l’image invisible du Père portée au visible par son Fils dans l’économie patristique, le visible dissimule l’image qu’elle a élue sans règne, dans le libre séjour dans la dissimilitude.
Peine Kapital délivrerait donc l’image artificielle d’une image naturelle, non plus le Père invisible dans l’iconomie chrétienne, mais la part d’ombre et de secret de son autrice, intraitable par ChatGPT, invisible et inassignable à l’image du sourire persistant du chat du Cheshire.
L’art de ne pas capituler (entrez dans la Zomia)
L’essai de Marie José Mondzain a pour dernière station une pérégrination dans la Zomia. Éclairée par le travail original du philosophe James Scott, qui perpétue à sa façon les enseignements ethnologiques de Pierre Clastes depuis ses observations amazoniennes collectées dans La Société contre l’État (1974), la Zomia désigne d’abord une aire géographique non circonscrite à un seul État, une région située sur les collines et hauts plateaux du Sud-Est asiatique (c’est le sens du terme Zomia, d’origine tibéto-birmane), où vivent des groupes comme les Hmong. La Zomia est le site périphérique des variétés rurales et communautaires de résister, contrairement aux situations dans les basses terres, au progrès occidental comme à l’État.
Le chercheur entre dans la pensée de la Zomia comme Marie José Mondzain est entrée plus d’une fois dans la « zone » dont elle a tiré le concept en relisant à nouveaux frais celui, grec, de khôra, et Lemmy Caution avant elle en affrontant le super-ordinateur Alpha-60 d’Alphaville. Y pénétrant, le premier découvre un anarchisme vivant et nomadique, la réalité d’une autonomie politique valable pour tous les temps et pour n’importe qui. Son ouvrage paru en 2022 s’intitule ainsi : Zomia ou l’Art de ne pas être gouverné. Même sans fronde, les petits David que nous sommes (l’image apparaît en page 257 et, par effet de montage rétroactif des blocs de textes, déjà en page 128) demeurons insoumis et frondeurs, en esprit et en pratique.
La société ingouvernable est ce contre quoi luttent les offensives réactionnaires des années 1930, 1970 et contemporaines, ainsi que l’a montré Grégoire Chamayou en décrivant un libéralisme toujours déjà autoritaire. L’ingouvernable dit ce qu’il en est d’un art émancipateur dont Marie José Mondzain reconnaît le théâtre comme un opérateur majeur de création de scènes démocratiques, avec des figures tels Michel Vinaver, Bruno Meyssat et François Tanguy (pp. 254-255). L’ingouvernable a pour autre figure celle de la philosophe qui clôt son « pseudo-dialogue » avec l’IAG, vrai faux dialogue platonicien mais sincère confession digne de Montaigne ou Rousseau, sur la meilleure et la pire des blagues : sur invitation de son usagère, ChatGPT décide de l’appeler Mondzain ! Le nom-du-père revient en reste – ineffaçable.
Marie José Mondzain s’amuse encore à demander au robot d’adresser à l’usagère portant le nom que lui donne son simulacre d’interlocuteur des critiques circonstanciées : hermétisme, nostalgie, désintérêt des pratiques artistiques populaires et des développements technologiques de l’intelligence artificielle (p. 262). La modélisation algorithmique, même avec les prénoms Dominique ou Michelangelo, finirait par recouper la personne réelle, comme la carte avec le territoire chez Borges, sauf que la dépersonnalisation adoptée par la philosophe l’invite à disparaître dans son sourire. La fiction d’interlocution a pour dernier mot le non dont l’envers est le oui du hors-champ où ChatGPT n’existe pas même s’il a colonisé le monde.
Ce pouvoir-là n’est pas celui, autoritaire et surmoïque, de Humpty Dumpty mais, libertaire, du sujet qui décide en toute liberté de cesser de jouer, même en sachant que ce jeu-là est biaisé. Marie José Mondzain retrouve alors la morale des « clairvoyants tangents » de l’intermède Le Retable des merveilles imaginé par Miguel de Cervantès Saavedra : le retable est illusoire comme l’empereur est nu. La boîte noire de l’IAG qui capture et sature les esprits est programmée pour illusionner tous ses ravis qui s’aveuglent ainsi d’être décervelés par elle.
Il valait bien la peine, alors, décrire Peine Kapital afin d’avérer l’ingouvernable qu’est Marie José Mondzain et que nous sommes si nous considérons à ses côtés que l’ingouvernabilité est une puissance trans-générique. L’art d’être ingouvernable est celui de tenir tête sans capituler.
Un dernier animal pour retomber sur nos pieds
Un dernier animal mais il nous permet de retomber sur nos pieds : c’est le K, non plus la lettre du « Kapital » et de la « Kolonie », mais celui de la nouvelle de Dino Buzzati, le squale qu’à la différence du marin Stefano, nous ne fuirons ni ne chasserons jamais puisque nous l’avons reconnu comme notre accompagnateur originaire – la porteuse amicale de la perle placentaire.
Alexia Roux et Saad Chakali
