Il y a presque un siècle, Bertolt Brecht composait un poème satirique, 700 intellectuels adorent un réservoir à mazout [1]. Le voici en presqu’intégralité :
Sans invitation
Nous sommes venus
700 (et beaucoup plus sont encore en route)
De partout où plus aucun vent ne souffle
Des moulins qui moulent lentement et
Des fours derrières lesquels on dit
Que plus aucun chien ne sort.Et nous t’avons vu
Soudain dans la nuit
Réservoir à mazoutHier tu n’étais pas encore là
Mais aujourd’hui
Il n’y a plus que toi.
[…]Dieu est revenu
Sous la forme d’un réservoir à mazout.
[…]En toi, il n’y aucun secret
Mais du mazout.
Et tu en uses avec nous
Non comme bon te semble ni de manière impénétrable
Mais selon le calcul.
[…]Exauce-nous donc
Et délivre-nous du mal de l’esprit.
Au nom de l’électrification
Du progrès de Ford et des statistiques !
Par son style simple mais tranchant, Brecht saisit et exprime le caractère messianique de la technique (Hier tu n’étais pas encore là / Mais aujourd’hui / Il n’y a plus que toi), qui est exacerbé dans le cas de l’intelligence artificielle (il suffit de songer à l’expression « singularité » pour désigner le moment où elle deviendrait consciente). Il semble anticiper, aussi, en quoi celle-ci se présente comme remède à la pensée, au « mal de l’esprit », qu’elle travestit en pur « calcul » et somme de « statistiques ». Le poème de Brecht est donc notre contemporain et j’aimerais, à partir de lui, réfléchir à la relation entre intelligence artificielle et abolition de la pensée – avec la question du mal comme arrière-plan.
Considérons, pour commencer, les deux définitions de la pensée suivantes :
Une pensée est une phrase possible. […] Penser veut dire : chercher une phrase [2]
philosopher consiste à penser des privations
c’est-à-dire non pas seulement l’absence,
mais une carence,
le manque de ce qui pourrait ou devrait être là,
et qu’aucune théodicée n’apaise
et qui donc laisse tendu, inquiet, désirant [3]
Si penser signifie se mouvoir dans cet écart qui s’appelle manque, l’Intelligence Artificielle, saturée, sans manque, en prohibe toute tentative, car elle ne se fonde que sur une collection virtuellement infinie de données. Elle empêche alors de chercher cette phrase possible, toujours-déjà calculée par cet Autre au rabais, Dieu simulé, Dieu revenu sous la forme d’un réservoir à mazout.
C’est que nulle théodicée ne peut apaiser le manque-origine de la pensée. Ce mot n’apparaît pas par hasard dans l’agencement de textes que l’on est en train de parcourir. Leibniz l’invente et l’emploie pour intituler un livre important de 1710 : Essais de Théodicée (sur la bonté de Dieu, la liberté de l’homme et l’origine du mal) où il s’agit de se faire l’avocat de Dieu, de rendre compte de l’existence du mal et de défendre sa création. Le Dieu leibnizien est justement un calculateur dont l’entendement « est pour ainsi dire le pays des réalités possibles » [4]. Ubiquitaire, son esprit les « pénètre, les compare, les pèse les uns contre les autres, pour en estimer les degrés de perfection ou d’imperfection […] ; et par ce moyen la sagesse divine distribue tous les possibles qu’elle avait déjà envisagés à part en autant de systèmes universels, qu’elle compare encore entre eux » [5].
Similaire à l’IA, ce Dieu est donc un être de comparaison, qui, comme d’une base de données infinies, calcule la meilleure combinaison. Si Pierre Alferi maintient le possible, dans sa définition de la pensée comme « phrase possible », il s’agit d’un possible manquant, à produire comme on dirait à venir, tout autre que les réalités possibles peuplant l’entendement divin. Penser ne consiste guère à regarder dans un océan de datas au préalable collectées, mais à produire ce qui n’a jamais été donné. Ce pourquoi Jean-Claude Milner écrit que la pensée est « quelque chose dont l’existence s’impose à qui ne l’a pas pensé » [6] : elle vient là où il y avait béance, latence ou désajointement, exhibant que nous ne pensions pas encore, que quelque chose faisait défaut, nous laissait « tendu, inquiet, désirant ». Endurer le pas encore (la différance), tel est, on le voit, une forme-de-vie radicalement opposée à la promesse de l’intelligence artificielle (et, je crois, de toute technologie), qui consiste précisément à supprimer le « pas encore », à réduire toujours plus l’écart entre l’absence et la présence. Car la production de valeur non seulement n’est pas possible dans le « pas encore », mais est en fait fondée sur le seul « encore », qui pour avoir lieu doit avoir dépassé sa négation : l’encore étant permis par le non-pas encore, c’est-à-dire le déjà.
La pensée ne peut alors surgir que si l’on ménage (et non aménage, pour employer une distinction proposée par Marielle Macé [7]) l’espace d’un avenir, quand l’IA apparaît comme une pure collecte du passé produisant une archive infinie qui sature la possibilité d’une émergence. Cette archive infinie est une paradoxale archive morte, archive fixe, cadavérique. Comme l’écrit Frédéric Neyrat :
On nous parle de flux, de subjectivités flexibles, de devenirs où tout change, où tout peut arriver. Et si c’était là un diagnostic de surface […] ? Et si les flux d’informations, de capitaux et d’affects étaient tout au contraire régimentés, canalisés, secrètement immobiles ? Comme des flux absolus, où en définitive rien ne changerait vraiment, en profondeur [8]
Dans un de ses contes les plus fameux, Jorge Luis Borges imagine un individu condamné à ne plus pouvoir rien oublier, à retenir chaque visage, chaque lacune, chaque embrun :
Il connaissait les formes des nuages austraux de l’aube du trente avril mil huit cent quatre-vingt-deux et pouvait les comparer au souvenir des marbrures d’un livre en papier espagnol qu’il n’avait regardé qu’une fois et aux lignes de l’écume soulevée par une rame sur le Rio Negro la veille du combat du Quebracho. […] Il pouvait reconstituer tous les rêves, tous les demi-rêves. Deux ou trois fois il avait reconstitué un jour entier ; il n’avait jamais hésité, mais chaque reconstitution avait demandé un jour entier. Il me dit : J’ai à moi seul plus de souvenirs que n’en peuvent avoir eu tous les hommes depuis que le monde est monde et aussi : Mes rêves sont comme votre veille. Et aussi, vers l’aube : Ma mémoire, monsieur, est comme un tas d’ordure [9]
Borges nous dit pourtant de lui ce qu’on pourrait aussi affirmer de l’IA-réservoir-à-mazout, puisqu’il « soupçonne cependant qu’il n’était pas très capable de penser. Penser c’est oublier des différences, c’est généraliser, c’est abstraire. Dans le monde surchargé de Funes il n’y avait que des détails, presque immédiats » [10].
Nous est aujourd’hui offert un monde devenu statistique, data, un monde de détail où penser est impossible – où la seule forme qui s’en approche, c’est le calcul ; à ce jeu-là, toute machine sera toujours infiniment plus douée, infiniment plus rusée, au point qu’elle finira (mais gare aux prophéties auto réalisatrices) incontournable. Comme l’écrit Theodor Kaczynski :
A mesure que la société et les problèmes auxquels elle devra faire face deviendront de plus en plus complexes, et les machines de plus en plus intelligentes, les gens leur laisseront prendre la plupart des décisions simplement parce que ces décisions donneront des meilleurs résultats que celles prises par les hommes. Finalement un stade sera peut-être atteint où les décisions nécessaires à la bonne marche du système seront si complexes que les hommes seront incapables de les prendre intelligemment. A ce stade, les machines seront effectivement au pouvoir. Les gens ne pourront plus les débrancher, parce qu’ils en seront devenus tellement dépendants que cela équivaudrait à un suicide [11]
Si on applique ce pronostic à l’IA, on comprend pourquoi l’acte de penser pourrait devenir superflu et comment dans le sillage de ce devenir-superflu, l’humanité toute entière pourrait être prise. Or, que l’humain soit devenu superflu, c’est précisément la définition du totalitarisme pour Hannah Arendt :
Les hommes, dans la mesure où ils ne sont plus que la réaction animale et que l’accomplissement de fonctions, sont entièrement superflus pour les régimes totalitaires. Le totalitarisme ne tend pas vers un règne despotique sur les hommes, mais vers un système dans lequel les hommes sont superflus. Le pouvoir total ne peut être achevé et préservé que dans un monde de réflexes conditionnés, de marionnettes ne présentant pas la moindre trace de spontanéité [12]
Il se trouve que, dans son œuvre, superfluité des humains et absence de pensée sont liées à un phénomène qu’elle propose d’appeler « banalité du mal », expression forgée à l’occasion du procès d’Eichmann en Israël. Elle l’écrit sans ambages : « une seule chose semble claire : le mal radical est, peut-on dire, apparu en liaison avec un système où tous les hommes sont, au même titre, devenus superflus » [13]. Par « banalité du mal », elle n’entend toutefois guère – contrairement à ce que certains lecteurs peu généreux lui ont reproché – insinuer que le mal dont s’est rendu coupable Eichmann est un moindre mal, un mal ordinaire, mais seulement nommer ce qui lui est apparu un mal accompli sans raison profonde, sans motivation ancrée, un mal superficiel, presque sans racine. Comme elle le précise dans une lettre à Gershom Scholem :
mon avis est que le mal n’est jamais radical, qu’il est seulement extrême, et qu’il ne possède ni profondeur, ni dimension démoniaque. Il peut tout envahir et ravager le monde entier précisément parce qu’il se propage comme un champignon. Il « défie » la pensée, comme je l’ai dit, parce que la pensée essaie d’atteindre à la profondeur, de toucher aux racines, et du moment qu’elle s’occupe du mal, elle est frustrée parce qu’elle ne trouve rien. C’est là sa « banalité » [14]
Cette banalité du mal, Arendt en considère donc Eichmann comme un cas paradigmatique :
Mis à part un zèle extraordinaire à s’occuper de son avancement personnel, il [Eichmann] n’avait aucun mobile. Et un tel zèle en soi n’était nullement criminel ; il n’aurait certainement jamais assassiné son supérieur pour prendre son poste. Simplement, il ne s’est pas rendu compte de ce qu’il faisait, pour le dire de manière familière. […] C’est la pure absence de pensée [thoughtlessness]– ce qui n’est pas du tout la même chose que la stupidité – qui lui a permis de devenir un des plus grands criminels de son époque [15]
Je ne rentrerai pas dans la question de savoir si les analyses d’Arendt sont historiquement valables, car son hypothèse m’intéresse d’abord comme une fiction, ou comme possibilité, dans l’esprit de Foucault déclarant que « [s]on problème n’est pas de satisfaire les historiens professionnels » mais plutôt de « de faire [s]oi-même, et d’inviter les autres à faire avec [s]oi, à travers un contenu historique déterminé, une expérience de ce que nous sommes, de ce qui est non seulement notre passé mais aussi notre présent, une expérience de notre modernité telle que nous en sortions transformés » [16]. Même si la défense de Eichmann a été préparée (et donc, aussi, sa posture), même s’il n’était sans doute pas ce petit fonctionnaire idiot qu’Arendt croit voir lorsqu’elle assiste à son procès, ses hypothèses me semblent nous en apprendre sur l’« expérience de notre modernité », et sur l’acoquinement entre absence de pensée et mal. Ce qu’elle croit voit (et Eichmann avait effectivement déclaré qu’il ne connaissait que le langage administratif), Arendt le décrit ainsi :
Le langage administratif était devenu le seul qu’il connût parce qu’il était réellement incapable de prononcer une seule phrase qui ne fût pas un cliché. […] Plus on l’écoutait, plus on se rendait à l’évidence que son incapacité à s’exprimer était étroitement liée à son incapacité à penser — à penser notamment du point de vue d’autrui [17]
L’incapacité à prononcer une phrase qui n’est pas un cliché, il suffit d’aller sur LinkedIn pour la voir à l’œuvre, et être gagné par une inquiétante étrangeté devant certaines paroles humaines semblant émaner directement d’un LLM. C’est comme s’il y avait un lien entre les emojis, les clichés, les paroles creuses produites par les IA, et l’absence de pensée – qui en retour informent (dans tous les sens du terme informer) notre capacité à penser. Eichmann, nous dit donc Arendt, était incapable de penser, particulièrement du point de vue d’autrui. Il était incapable de chercher une phrase possible.
Justement, dans son petit texte consacré à Michel Tournier, Deleuze développe l’idée selon laquelle Autrui est l’expression du possible. Il écrit en ce sens que « le premier effet d’autrui, c’est, autour de chaque objet que je perçois ou de chaque idée que je pense, l’organisation d’un monde marginal […] où d’autres objets, d’autres idées peuvent sortir suivant des lois de transition qui règlent le passage des uns aux autres » [18]. Autrui produit toujours une autre perspective, un autre pli, sur ce monde que nous avons en partage, sa lumière éclaire un fragment de réel qui m’était inconnu. Par exemple, son « visage effrayé, c’est l’expression d’un monde possible effrayant, ou de quelque chose d’effrayant dans le monde, que je ne vois pas encore […]. Le visage terrifié ne ressemble pas à la chose terrifiante, il l’implique, il l’enveloppe comme quelque chose d’autre, dans une sorte de torsion qui met l’exprimé dans l’exprimant […]. Autrui, c’est l’existence du possible enveloppé » [19]. Autrui ébrèche mon monde, en fait voir l’incomplétude ; ces béances sont « autant de cloques qui contiennent des mondes possibles » [20]. Cette conceptualisation conduit Deleuze à renverser nos idées préconçues sur la perversion. Selon lui, et contrairement aux fausses évidences, elle ne consiste pas d’abord à heurter, abîmer, malmener Autrui :
ce n’est pas parce qu’il a envie, parce qu’il désire faire souffrir l’autre que le sadique le dépossède de sa qualité d’autrui. C’est l’inverse, c’est parce qu’il manque de la structure Autrui, et vit sous une toute autre structure servant de condition à son monde vivant, qu’il appréhende les autres soit comme des victimes soit comme des complices, mais dans aucun des deux cas ne les appréhende comme des autruis, toujours au contraire comme des Autres qu’autrui […].
Le contresens fondamental sur la perversion consiste, en raison d’une phénoménologie hâtive des comportements pervers, en vertu aussi des exigences du droit, de rapporter la perversion à certaines offenses faites à autrui. Et tout nous persuade, du point de vue du comportement, que la perversion n’est rien sans la présence d’autrui : le voyeurisme, l’exhibitionnisme, etc. Mais, du point de vue de la structure, il faut dire le contraire : c’est parce que la structure Autrui manque, remplacée par une tout autre structure, que les « autres » réels ne peuvent plus jouer le rôle de termes effectuant la première structure disparue, mais seulement, dans la seconde, le rôle de corps-victimes [...] ou le rôle de complices-doubles, de complices-éléments. Le monde du pervers est un monde sans autrui, donc un monde sans possible [21]
Manquant de la structure-Autrui, engoncé dans la nécessité, le pervers est un être sans béance, où l’autre ne peut plus être que l’accessoire de sa réalisation. Et c’est là où la définition de pensée comme recherche d’une phrase possible me semble révéler le lien entre perversion, absence de pensée et banalité du mal. C’est que l’absence de pensée et la perversion sont les signes du même symptôme : celle de l’abolition du possible, c’est-à-dire de l’Autre, au profit d’une immanence saturée [22], formelle et auto-référentielle ; d’une combinatoire, de ce calcul que Brecht tournait en dérision. Car, comme l’écrit Arendt :
La seule faculté de l’esprit humain qui n’ait besoin ni du moi, ni d’autrui, ni du monde pour fonctionner sûrement, et qui soit aussi indépendante de la pensée et de l’expérience, c’est l’aptitude au raisonnement logique dont la prémisse est l’évident en soi. Les règles élémentaires de l’évidence incontestable, le truisme que deux et deux font quatre, ne peuvent devenir fausses même dans l’état de désolation absolue. C’est la seule « vérité » digne de foi à laquelle les êtres humains peuvent se raccrocher avec certitude, une fois qu’ils ont perdu la mutuelle garantie, le sens commun, dont les hommes ont besoin pour faire des expériences, pour vivre et pour connaître leur chemin dans un monde commun. Mais cette « vérité » est vide, ou plutôt elle n’est aucunement la vérité car elle ne révèle rien. […] Dans l’état de désolation, l’évident en soi n’est donc plus qu’un simple moyen de l’intelligence et il commence à être productif, à développer ses propres axes de « pensée » [23]
Devenue calcul, la pensée n’a plus besoin de l’Autre – de son reste –, pour tourner à vide. Que le système économique dans lequel se développe l’IA ne produise que séparation et désolation, ce n’est plus à démontrer. Il suffit, si l’on en doute, de relire La question juive (où l’on verra réapparaître un autre thème leibnizien) :
la liberté est le droit de faire tout ce qui ne nuit pas à autrui. Les limites dans lesquelles chacun peut se mouvoir sans préjudice pour autrui sont fixées par la loi, comme les limites de deux champs le sont par le piquet d’une clôture. Il s’agit de la liberté de l’homme comme monade isolée, repliée sur elle-même […]. [L]e droit humain de la liberté n’est pas fondé sur l’union de l’homme avec l’homme, mais au contraire sur la séparation de l’homme d’avec l’homme. C’est le droit de cette séparation, le droit de l’individu borné enfermé en lui-même [24]
L’individu borné enfermé en lui-même, n’est-ce pas une caractéristique du pervers chez Deleuze, c’est-à-dire de l’être prisonnier de sa nécessité ? Dans le capitalisme, Autrui apparaît comme limite, mais jamais comme réalisation ; comme ce qui circonscrit ma nécessité, non ce qui possibilise mon ex-istence. Le destin inévitable de la pensée est alors de se muer en calcul, le calcul de l’agent rationnel, de l’homo oeconomicus, qui, comme le montre Arendt, peut fonctionner sans rapport à l’autre. Sans doute ce calcul, comme négation de la pensée, est la première condition à la prolifération du mal, d’un mal si banal qu’il n’émeut plus personne devant son écran. S’il « n’est pas de pensées dangereuses », mais si « c’est la pensée qui est dangereuse » [25] alors on pourrait interpréter sa stérilisation en calcul comme une énième manifestation de l’entreprise de mise en sécurité du monde. Et l’IA-réservoir-à-mazout comme ultime faiseuse de paix, faiseuse de Bien. Tous les ouvrages en dressant les louanges m’apparaissent, en tout cas, comme des théodicées contemporaines.
Voilà donc esquissés quelques liens entre technologie, perversion ordinaire, banalité du mal et absence de pensée. Mais il faut, pour conclure, me risquer à la définir (en attendant qu’un-e autre cherche une phrase qui pour moi est impossible, troue ma nécessité).
Penser signifie désirer l’Autre, l’incalculable ; s’ouvrir à son insu.
Tristan Pellion
