Voici donc un livre capital que publient les excellentes éditions MF en cette rentrée d’automne. Un livre capital pour qui veut saisir ce que fait vraiment à nos vies (aussi bien : ce que ne fait pas) la montée en puissance de l’automatisation machinique. Saisir, dans le brouillard de la désinformation et de la surinformation, dans le « brouillard d’inintelligibilité » [p. 34], la manière dont le récent virage technologique s’oriente exclusivement vers la défense et le profit. Saisir la manière dont ce tournant refaçonne notre psychisme : depuis notre manière d’exprimer le monde jusqu’à la scansion la plus intime de notre intériorité. Saisir la manière dont l’IA sous régime capitaliste fait craquer nos modes de vie et, ultimement, nos imaginaires. C’est un livre capital et foisonnant qui fait un usage tactique de ce foisonnement en multipliant les angles et les « prophéties » : pour refendre notre imaginaire et l’ouvrir à des futurs que nous n’avons plus l’audace de rêver. C’est un livre capital qui ose déborder son lecteur, le secouer, l’ébranler par des expérimentations formelles, le perdre dans le but de réactiver sa vivacité, de réveiller les pouvoirs de la métaphore et de la clameur poétique : montrer par l’exemple, de manière exemplaire, qu’il est nécessaire, pour faire passer un filet d’air, d’ébrécher les significations à sens unique, dépourvues de doublure, des phrases comme celle que produisent les corrélations statistiques de la machine.
Si l’on préfère, le livre de Frédéric Neyrat se présente, et c’est une bonne chose, comme une armurerie où chacun.e trouvera à assembler les armes théoriques qui lui permettront de perfectionner ses tirs. On y trouve des constats visant au consensus. Au choix, la survenue à marche forcée (forcée, car il faut un « supplément de tyrannie policière pour y parvenir » [p. 11]) d’un régime global de délégation de la décision dans lequel les êtres humains consentent sans opposition à l’automatisation de la prise en charge de leur vie. Des machines communicantes utilisant les humains comme outils, voire comme amorces, leur épargnant, dans un confort irresponsable, l’angoisse du choix – entendre : la liberté – et donc le problème de savoir ce que l’on (se) veut. La pince du Capital et du pouvoir politique, convulsivement crispée sur l’espérance portée par un messianisme transhumaniste croyant à une solution technique universelle au profit d’un happy few (prêt à se retrancher dans un bunker en cas d’apocalypse). Les dérégulations permettant l’exploitation, « l’expropriation et la privatisation » [p. 105] de parts toujours nouvelles de l’être. Les guerres hyperrapides et permanentes comme existe déjà le trading à haute fréquence. La surveillance, l’engloutissement du monde à l’intérieur de son double de « data » sur fond d’écocide. Le branchement du téléphone directement dans le cerveau.
In fine, cela ne fait plus réagir parce que c’est déjà entré dans notre sphère d’acceptabilité. Face à cette démence induite, F. Neyraz s’oblige à rouvrir l’unique questionnement qui vaille : « que faire pour se défaire » [p. 209] ? Et d’abord pour se défaire de l’avenir, lorsque celui-ci prend une direction univoque si peu désirable ? L’auteur suggère en conclusion (je divulgâche) qu’il faut contester non pas l’existence même des machines (position « luddiste »), mais du « trop » de machines [p. 92], ce qui reviendrait alors à se demander : que ne voulons-nous pas déléguer ?
Plus audacieux sont les développements consacrés au point de singularité que pourrait atteindre l’IA. Un point qui ne devrait pas être imaginé, selon F. Neyrat, comme l’allumage d’une conscience dans les réseaux de neurones artificiels, fantasme qui relèverait encore d’un tropisme anthropomorphique, Mais comme la possibilité d’un devenir-alien de la machine qui se séparerait d’elle-même, mutilant son propre code, s’élaborant moins sur ses pouvoirs que sur ses manques. Parvenant enfin à devenir une singularité vraiment singulière, c’est-à-dire inhumaine. C’est donc cette hypothèse du « traumatisme » fondateur, de l’angoisse originelle au cœur de l’être et, donc, de la machine, qui vient donner son titre à l’ouvrage.
Je laisse cette dernière spéculation de côté pour en venir au problème linguistique posé de manière contrainte par la génération de texte. Car ce problème nous implique au premier chef, nous, l’état du monde, nos pensées, l’époque donc, et le changement anthropologique qui s’engage avec, bientôt, l’infiltration totale des machines dans toutes les couches de l’épaisseur biologique. Avec l’irruption d’un nouveau (non-)monde dont bien peu, y compris parmi les tenants du technosolutionnisme, seraient capables de dire en quoi il est désirable. Sera-t-il seulement habitable ? Il y a, il faut le redire, dans le livre de F. Neyrat un important travail d’élaboration pour parvenir à saisir l’intelligence artificielle comme une forme d’intelligence spécifiquement capitaliste. Cela consiste à ne jamais oublier que la condition d’extension généralisée de l’IA est le « surcapitalisme » [p. 216]. Que le progressisme béat qui accompagne le cortège de l’actualité scientifique est un leurre afin d’éviter de thématiser les pouvoirs exorbitants concentrés entre les mains d’une poignée seulement d’acteurs de l’innovation aussi bien en termes de retombées financières que de contrôle des populations. Pour une vie sauvée par diagnostic médicalement assisté combien de morts sous les bombes des drones ?
Mais le traumatisme est ailleurs. Il a déjà eu lieu et il est donc linguistique : on a touché au langage. Lorsque F. Neyrat rappelle comme une évidence que la machine « parlante » ne parle pas, il souligne en même temps que le fonctionnement et la nature statistique – nébuleuse – des modèles de langage que l’IA générative emploie est capable d’articuler du texte uniquement par corrélations. Or ces corrélations ne sont même pas des coïncidences sémantiques ou syntaxiques. Mais des assemblages de « tocken », autrement dit : de blocs infrasignificatifs de signes. La machine calcule ce qui vient le plus souvent après la lettre « z » et trouve : une espace. Et ça fait bloc.
Le langage est ainsi atomisé en particules, qui sont comme les ruines abstraites, les restes d’un saccage en amont de toute possibilité de langage. Même pas phonème : sans signification. Désarticulés à l’intersection où justement il n’y avait pas d’articulation, puis recollés selon des rapports de contiguïtés exclusivement probabilistes. Il viendra peut-être d’autres types de machines ; mais le cœur des IA génératives, quels qu’en soient les développements à venir, c’est ça. Uniquement ça. Et ces « textes », des réarticulations dépourvues d’intentions signifiantes, nous les recevons comme des paroles intégrables dans les chaînes de la construction de vérités ou de prises de décisions, sans interroger le statut « corrélatif » – tokens agglutinés par effet probabiliste de voisinage – et non causal ou déductif. Ainsi F. Neyrat a-t-il raison de dire que nous sommes « parlés » par les machines qui « prédisent » les comportements, c’est-à-dire complètent, en les révélant, des contenus latents en vue, toujours, de l’action : vide de l’information, vide du désir, vide de l’hésitation. Voir un algorithme devancer nos désirs de lecture en suggérant le livre que nous ne savions pas nous-mêmes vouloir lire a en effet quelque chose de glaçant.
Il y a plus d’un lustre, j’avançais modestement l’hypothèse que le jour – on y est – où la machine produirait, de manière acheiropoïète, non faite de main d’homme, des textes, cela tuerait le commentaire et la critique en neutraliserait les circuits de la reconnaissance, parce que « l’arrière-plan » (une notion empruntée à John Searle), qui créditait de valeur, en sélectionnant les textes intéressants, deviendrait inopérant pour formuler ce genre de critères de distinction [1]. Extinction par surabondance de la production ; lente mort par invisibilisation du processus créatif. Démantèlement du « périphérique extérieur de la valeur » [2] pour reprendre la métaphore de Pierre Vinclair. C’était une conclusion partielle et trop timorée en ce qu’elle occultait totalement la question de l’altérité et de sa désincarnation. Or l’altérité est consubstantielle à tout acte de communication humain, que ce soit en régime ordinaire ou littéraire. Aujourd’hui est en train de s’effacer la possibilité – et l’acceptabilité – de la portée énigmatique, prophétique, poétique ou métaphorique contenue dans n’importe quelle formulation adressée à autrui – partagée – d’une expérience subjective située. Formulation qui, toujours, manque à elle-même, s’enroulant autour de la notion de l’impossible, de l’infra, de la sous-conversation, cherchant à dire ce qu’on ne peut pas. Ne pouvant transmettre ce défaut d’origine que dans le jeu d’un double langage propre à l’énonciation ironique, visionnaire ou oraculaire.
Ce déclin cognitif est accéléré, dit F. Neyrat, par les communications automatiques des machines qui dispensent les interlocuteurs d’inventer leurs propres moyens d’expression en préremplissant ou en standardisant les échanges courants (émoticons, réponses automatiques, etc.) Autrement dit, en s’infiltrant à bas bruit dans les usages communs de la parole, en prenant en charge les interactions humaines élémentaires, en soulageant l’être humain de l’effort d’avoir à exprimer le monde, insidieusement, l’IA attaque le principe d’interprétation qui est l’indispensable complément, la réciproque nécessaire de tout acte de communication, puisqu’il permet justement d’interroger ce qui résiste. L’imagination est désactivée et, avec elle, la faculté d’aller chercher le surplus de sens au fond des régions les plus opaques et dans les recoins les plus obscurs. Avec « l’appauvrissement de la sensibilité » [p. 11], c’est donc la capacité à former des images, l’onirisme critique qui reflue. C’est l’adieu à la nuit, à l’infini, au cosmos, à la détresse, à la solitude, à la terreur, au mystère, aux mauvaises rencontres, à la confrontation avec ce qui est sans solution. Or, il n’aura pas échappé à qui sait lire que déjà sont repérables les indices de la montée de cette nouvelle esthétique de la réassurance – le refus du risque – sous laquelle se rallie plus ou moins lucidement une nouvelle génération d’auteurs et de lecteurs : « écrire clair et simple […] dans le sens où même un narrateur défaillant doit avoir un langage défaillant clair. » [3]
Il faut donc prendre très au sérieux le caractère « prédictif » de l’IA qui anticipe des choix pour le futur depuis un présent potentialisé. La décision qui doit être prise (d’abattre une cible, d’acheter un produit, d’accorder une croyance, etc.) est assumée (mais qu’est-ce que cela veut dire ?) par l’automatisme de la corrélation statistique, sorte de comparaison étendue à toutes les virtualités englobées dans un instant. C’est-à-dire que la décision est assurée par le jeu d’une concurrence malsaine entre tous les présents non advenus constituant désormais le seul passé. Le futur, écrit F. Neyrat, est désormais uniquement relatif « à un présent qui aurait pu être autre » [p. 117]. Dériver le futur à partir du présent en vue de provoquer une action ; contrôler les populations depuis l’avenir, c’est, d’une part, s’affranchir de l’histoire et, de l’autre, nier les vertus du non-agir, de la suspension, du doute sceptique.
Il faut prendre au sérieux la puissance prédictive des machines, car leur futur totalisant enterre définitivement les fantômes du passé, l’aura des ruines, la possibilité, avec Walter Benjamin, de hanter l’avenir depuis les zones d’oubli et les poches d’injustice de l’histoire. Si les rapports ne sont que de contiguïtés, de voisinage de sens, alors, en effet, les événements ayant eu lieu s’abolissent et cessent de faire signe, de supplier. Et ce qui était encore à peine là sous le régime de l’effacement ou de la trace, disparaît. Ce n’est pas une disparation-soustraction, ce n’est pas que les souffrances et les promesses du passé basculeraient à jamais dans le néant (cancelled), mais une disparition-désœuvrement : personne ne sait plus quoi faire de toutes ces pièces décorrélées, impossible à rabouter dans le nuage des probabilités présentistes. Et toutes ces pièces s’accumulent désormais comme une collection d’épaves. L’adieu au passé, c’est le passé revenant s’échouer au rivage, aussi indifférent qu’un essaim de méduses voué au pourrissement sous le soleil de la clarté.
C’est une possibilité à laquelle ne semble pas croire F. Neyrat, mais enfin c’est une possibilité : que les promesses non réalisées du passé ne reviennent plus jamais nous hanter. Encore une fois : « que faire pour se défaire » ? Pour se défaire de ce processus global d’anesthésie, de cette involution des interactions sociales, de cette régression des luttes politiques ? Contrairement aux fantômes qui reviennent pour forcer les êtres humains « à reconnaître l’existence du mal » [p. 149], l’imagination artificielle voit dans le recours à la force et la destruction une voie d’émancipation sécuritaire (!). Or, comme le défaitisme (« il n’y a rien à faire ») renforce insidieusement l’acception de cet état d’impuissance (« ne rien faire »), il ne reste plus qu’à sonder l’abîme de notre impuissance. Que peut la faiblesse (nous qui tenons par-dessus tout à ne pas être forts) ? Ralentir ? Dire : assez ! Rien de plus ! S’éduquer à la contrebande et à la piraterie ?
Bizarrement, je pense ici à Hamlet. Jadis, ce prince du Danemark, dépossédé, spolié de son futur comme de son passé, ayant appris à dissimuler sa faiblesse sous les dérangements de la folie, cessant de communiquer sur ses raisons et ses intentions pour enfumer l’adversaire, jadis donc, Hamlet fut enlevé par une bande de corsaires qui le traitèrent avec miséricorde, l’instruisirent, favorisèrent son retour et précipitèrent de la sorte la chute de l’ordre autoritaire inique. Ce gain ne fut pas obtenu au terme d’une lutte, mais au prix d’une indécision irrésolue. Par la négation de soi, par la descente dans le gouffre de son hésitation, par anti-héroïsme, le prince sans avenir, d’un même geste, venge l’injustice, meurt, pardonne et ouvre à la jeunesse les voies du rêve et de l’imagination.
Pure allégorie ? Possible. Quoi qu’il en soit, il y a urgence à lire et à faire lire l’excellent livre de Frédéric Neyrat.
Bernard Bourrit
