« La technique a en soi un certain nombre de conséquences, représente une certaine structure, certaines exigences, entraîne certaines modifications de l’homme et de la société, qui s’imposent qu’on le veuille ou non. Elle va d’elle-même dans un certain sens. [...] pour changer cette structure ou orienter différemment ce mouvement il faut un effort immense de prise en main de ce que l’on croyait mobile et orientable, il faut la prise de conscience de cette indépendance du système technicien, à quoi s’oppose la conviction rassurante de la neutralité technique. »
Jacques Ellul
« Ces derniers mois ont vu les laboratoires d’IA s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne — pas même leurs créateurs — ne peut comprendre, prédire ou contrôler de manière fiable ». Voici ce qu’indiquait, en préambule, le moratoire [1] signé le 22 mars dernier, préconisant une pause de 6 mois des recherches en IA, suite à l’avènement de ChatGPT et des IA génératives. Scientifiques de renom, sommités de la Silicon Valley et de la recherche en intelligence artificielle, de Yoshua Bengio [prix Turing] à Steve Wozniak [Apple], en passant par Stuart Russell et Elon Musk [Twitter], experts, universitaires, ingénieurs, nombreux sont ceux à avoir apposé leur signature. Ce moratoire, abondamment relayé dans les médias, prolongeant de manière ambiguë certaines inquiétudes dans la société, concernant l’intelligence artificielle, par une forme de surenchère, de délire millénariste : « Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? »
Cette pétition faisant écho au concept de singularité technologique : ce moment, théorisé à la fin du siècle dernier, où l’IA accèderait à l’autonomie, à une forme de conscience. À des capacités d’« intelligence » supérieures à l’homme, entraînant elles-mêmes un emballement technologique que l’homme ne serait plus en mesure de maitriser. [2]
Une question, assez nouvelle, aussi se posait : dissipant le discours admis d’une IA à visée utilitariste, comment maintenant se positionner par rapport à celui d’une technologie à laquelle on ne peut même plus se fier, devenue incompréhensible aux yeux mêmes de ses créateurs ?
Initiée par des chercheurs et ingénieurs en IA – et au cas où l’on n’aurait pas bien compris - une nouvelle pétition était lancée, fin mai, dont la forme même interroge - un simple appel : « Mitiger le risque d’extinction lié à l’IA devrait être une priorité mondiale au même titre que d’autres risques pour la société telles les pandémies ou la guerre nucléaire. » [SAFE AI Statement [3]]
Si beaucoup ont souligné l’hypocrisie de cette déclaration, peu semblent avoir relevé la nouveauté d’un discours faisant voler en éclats les considérations habituelles sur la technique : la technologie n’est pas neutre [4] (et, ici, encore moins « bonne »). Notons également ceci, au passage : si cette technologie semble déjà dangereusement échapper au contrôle de ses créateurs (un risque existe, mais on ne peut que le mitiger), cet élément d’hostilité, inhérent semble-t-il à cette technologie, n’est pas considéré comme un problème a priori, mais comme un risque a posteriori [risk of extinction].
Ce récit d’une machine intelligente se retournant contre l’homme, cette surenchère S-F, désamorçant d’une certaine façon toute approche plus rationnelle qui, en s’en tenant à une critique de la technique, ne verrait elle aussi en l’IA qu’une forme d’asservissement, une disqualification à venir de l’homme par cette technologie. Le mythe balaye tout.
Le sentiment qui semble s’instiller est désormais aussi celui, étrange, de vivre dans un monde de science-fiction instrumentalisant en son sein ses propres codes. Une sorte de méta-récit qui ne serait pas de la S-F à proprement parler, mais davantage un simulacre de S-F, instillé de façon diffuse, masquant un horizon dystopique, lui, tout à fait tangible et réel.
Il faudra aussi distinguer science-fiction et dystopie, genre et sous-genre, afin d’y voir plus clair, voir comment ces deux genres fictionnels ici se nourrissent l’un l’autre, agissent par une mise en abyme sur le réel, en un méta-récit où nous ne ferions que semblant de jouer avec leurs codes.
La singularité, c’est le mythe de Frankenstein compris de travers : l’allégorie prométhéenne est évacuée au profit, d’abord, d’une croyance en la toute-puissance de la technique, qui est un contresens complet vis-à-vis du mythe.
Mais il importe peut-être de resituer ici, à rebours de ce millénarisme, la singularité, non comme projection fantasmée d’un futur éventuel, mais comme allégorie de notre présent même, lui redonner ce sens métaphorique (et de se réapproprier ainsi ce récit).
C’est que le « mythe » de l’intelligence artificielle fait très largement écho au questionnement de Jacques Ellul, au siècle dernier, sur la place de la technique dans nos sociétés. Ce mythe traduit lui-même un impensé. Il est aussi un au delà possible de ce « système technicien » (1977) décrit si précisément par Ellul, une matérialisation des craintes qu’il anticipait, dès l’introduction de ce livre. Ce mythe de l’IA matérialisant, en négatif, le risque d’une société de type utopique, un système clos par la technique : une « Mégamachine » où l’individu lui-même, les rapports sociaux, seraient régis eux aussi en puissance par des principes techniques, remplaçables par des techniques (c’est à dire, finalement, réduits à des simulacres).
TECHNIQUE ET MYTHE
Le point de vue le plus « éclairé » sur l’IA - critique, ou non - tend généralement à négliger le mythe, à simplement évacuer cette question. Si elle se veut réalisation de ce qu’avait annoncé ou « prophétisé » la S-F, l’IA n’aurait dans les faits pas grand chose à voir avec cette vision millénariste. Par excès de rationalisme, on finit aussi par ne plus considérer le phénomène technique qu’en soi. La tentation est ainsi toujours grande de reléguer le mythe à une simple fantaisie, en finissant par occulter la construction mythique qui lie ensemble ce qui n’aurait sans ça, avec l’IA, plus que l’aspect d’un agrégat de techniques, d’applications, sans plus aucun rapport, fondement.
C’est à travers son rapport ambivalent avec le mythe que l’on comprend ce qu’est l’intelligence artificielle. Aussi, avant d’évoquer Jacques Ellul (qui a toujours pris soin lui-même de montrer quelles étaient les croyances et mythes de notre époque [5]), voyons déjà quelle est cette relation.
Il y a ainsi, même chez certains des plus fervents défenseurs de l’IA, la conviction qu’il faudrait séparer mythe et technique. L’efficience technique de l’intelligence artificielle, après tout, serait bien la preuve même de sa rationalité, située en dehors de tout système de croyance. Les attentes et craintes irrationnelles autour de l’IA n’auraient pour fonction, si ce n’est de nourrir une sorte de techno-folklore (on n’est jamais très loin, en fait avec l’IA, du phénomène de foire, du tour de prestidigitation), que de servir des intérêts privés, ne seraient que parasitaires !
Mais la vision simplement techniciste [j’emploierai ce terme, ici, plutôt qu’utilitariste, au sens un peu vieilli [6]]] aura beau jeu de considérer la singularité comme le fait d’illuminés et la technologie de l’IA comme un progrès, rien ne les sépare si franchement. Le mythe fait corps (nous verrons plus loin quel rôle, précisément, joue ce fantasme de science-fiction cauchemardesque).
Rien ne sert, du reste, de déconsidérer l’allusion à la singularité des pétitions évoquées plus haut, de la réduire à un simple coup marketing, même si c’est ce qu’elle est bien sûr également (l’insinuation d’une technologie si puissante... toute-puissante) : l’ambiguïté du mythe frappe. Ce sur quoi elle nous renseigne est non la question, secondaire, d’un pouvoir que l’on prêterait à la machine - et qu’il s’agirait simplement de réguler - mais celle, plus retorse et complexe, de la sacralisation de la technique (dont cette question du pouvoir qu’on délègue ou non à l’IA dépend).
Contrairement au mythe de la singularité, qui en est une extrapolation, le mythe de l’intelligence artificielle, nourri de l’imaginaire S-F, en reste à l’hypothèse de l’émergence possible, dans la « machine », d’une forme de conscience. C’est de ce mythe que je traiterai ici d’abord.
Mais de même que la singularité semblait décontenancer par avance toute critique de la technique, s’en tenir à une déconstruction du mythe semble ici tout aussi problématique : d’un côté, tous les arguments contre lui jouent pour lui, ce mythe ayant d’abord l’attrait d’une fantaisie ou faux-semblant (discours mythifiant et démythifiant tendent ainsi à se confondre [7]). De l’autre, le rationalisme de la technique semble se charger lui-même de cette démythification, quand bien même l’IA irait dans le sens d’une personnification de la technique.
Si cette contradiction apparente fait se dérober le mythe à l’analyse, mythe et « rationalisme » technique, nous verrons ceci, sont en réalité ici le produit l’un de l’autre : ils s’interpénètrent, s’amalgament, en une même croyance en la toute-puissance de la technique.
C’est à partir de cette apparente contradiction, du mythe et de la technique, que se construit l’intelligence artificielle, dans ce rapport qu’ils entretiennent l’un l’autre que l’on parvient à saisir cette technologie, plutôt que de traiter tour à tour isolément du mythe ou de la technique.
« Ce n’est plus la technique qui est subordonnée, c’est elle qui détermine la recherche scientifique. » (ST, p. 273) observe Jacques Ellul. Heidegger, autre penseur de la technique que n’appréciait guère Ellul, avait fait le même constat : « La technique (...) ne découle pas de la science, au contraire c’est la science qui ressortit à la technique et qui en est, en quelque sorte, le bras armé. » Avec cette évolution, science et technique semblent en réalité ne plus faire qu’un (le caractère prépondérant de la technique est important, mais nous verrons que c’est de l’ambivalence même de ce couplage dont l’IA tire sa substance, sa dynamique).
En tant que science, ou domaine de recherche, l’intelligence artificielle est prométhéenne, en tant que technique elle n’a pas ce sens prédéterminé. En effet, quel rapport peuvent bien avoir entre eux le GPS et ChatGPT, des techniques de détection de mélanomes et les systèmes d’armes létales autonomes [SALA], si ce n’est qu’ils utilisent l’IA ? Quel rapport, du coup, avec le mythe ?
La profusion des technologies de l’IA rend ce concept à première vue difficile à définir. L’IA étant généralement appréhendée, de manière graduelle, selon trois stades prédéfinis : IA faible, générale et forte. L’IA faible est celle que l’on connait, le terme induit une automatisation et une forme de complexité technologique (aide à la décision, neuro-science, systèmes de détection, modèles statistiques complexes, etc.) ; l’IA générale [IAG], une simulation de l’intelligence humaine (informatique émotionnelle, simulation cognitive, de la pensée, du langage, etc.) ; l’IA forte, située dans un futur hypothétique, et qui relève du mythe, correspondant à la création d’une véritable intelligence artificielle (intelligence égale ou supérieure à l’intelligence humaine, autonomie ; se confond avec l’IAG, mais introduction ici de la notion de conscience).
Cette typologie n’a bien sûr d’intérêt que dans la mesure où le milieu des ingénieurs et concepteurs en IA s’en fait écho, en termes de défis techniques, théoriques (les travaux sur les modèles de langage tournent tous par exemple autour de l’IAG). On pourrait opposer à ceci que le technicien, la technique, qui « détermine la recherche », qui n’est qu’un moyen (une puissance), jamais, dans les faits, ne s’assignent de buts si généraux : l’intelligence artificielle ne serait même, à y regarder de plus près, que la somme de ces différents chemins de traverse.
On voit bien là toute l’ambiguïté technicienne, dont l’IA fait son miel. Cette dernière n’est, nous verrons ceci, que le produit d’une dénaturation, mal comprise, de la technique par le mythe (qu’il sera ainsi vain de vouloir isoler du mythe). Les technologies de l’IA ayant, à rebours de cet « idéal » technicien, leur propre structure ou logique, très particulière.
Nous pourrions déjà distinguer une première classe d’IA se couplant à d’autres systèmes techniques déjà complexes : utilisation dans la fabrication de programmes et d’outils informatiques, usage logistique (gestion de flux, de stock, dans l’industrie, les transports, etc.), automatisation de certaines tâches dans des environnements technologiques élaborés, IA participant elles-mêmes à la conception d’intelligences artificielles, etc.
Automatisation, souci d’efficacité, ingéniosité technologique, on peut se demander avec cet usage de l’IA, qui reste le plus invisible (et le moins controversé), ce qui le caractèrise vraiment. Ici l’intelligence artificielle en tant que pure technique s’éloigne apparemment autant du mythe qu’il en révèle un aspect fondamental : l’autonomisation.
S’intégrant à des systèmes techniques déjà autonomes (logistique, environnements complexes) que l’homme ne peut que difficilement modifier, infléchir, dans un sens ou dans l’autre, cet usage de l’IA ne semble au fond que valider une tendance générale.
S’agissant de la création d’outils informatiques, et plus particulièrement avec la création d’IA par des IA, l’autonomisation met en perspective le geste « créatif » de l’informaticien lui-même : l’idée même d’informatique induit une forme d’autonomie (des programmes, des systèmes), mais l’informaticien, ici, laisse-t-il en quelque sorte les commandes à la machine ? Ou pousse-t-il tel système informatique à s’autonomiser encore davantage ? De même, dans le cas de la création d’IA par des IA, pousse-t-il cette technologie vers une forme d’autonomie, ou bien n’y a-t-il pas déjà une tendance « naturelle » de la technique informatique à s’autonomiser ? Il semble que ce soit ici un mélange des deux, plus exactement l’informaticien en IA comble ce que la technique lui destitue (à savoir : la technique, très vite, lui échappe), en investissant cette technologie d’une puissance virtuelle, à venir : un vocabulaire est d’ailleurs mobilisé, l’IA ainsi conçue est nommée « child » (le système Nasnet généré par AutoML de Google), et on l’imagine elle-même pouvoir inspirer en puissance d’autres modèles d’IA dans le futur (un appel est lancé afin que d’autres développeurs s’emparent de cette technologie, et la perfectionnent [8]).
La technologie de l’IA est donc ici une manière d’infléchir vers l’autonomisation une technique (l’informatique) dont le propre est déjà de s’autonomiser. Ce sera en outre l’investir d’un sens particulier, par une projection de l’homme sur l’objet technique.
La technique n’est plus appréhendée comme moyen de puissance, mais carrément comme puissance en tant que telle (comme pourrait l’être d’une certaine manière le feu ou l’électricité). La recherche en IA en fait systématise de manière ambiguë cette autonomisation, hisse au rang de sujet la technique. Elle augure aussi d’un constant rapport de pouvoir, de l’homme vers la technologie, et de la technologie vers l’homme (voir, sur ce problème, la notion d’« alignement des intelligences artificielles », j’y reviens à la fin de cet article).
Prises une à une, les technologies de l’IA n’apparaissent que comme destinées à un champ d’application précis, avec une raison interne, qui serait un certain degré d’efficacité, et en effet chacune, en tant que technique, se suffit à elle-même, ne s’embarrasse pas du mythe. Pour autant elles ne sont pas indépendantes les unes des autres, elles font « système ». Ce système, qu’on appellera par commodité celui de l’intelligence artificielle, les oriente dans un certain sens, dans les méthodes employées (le « deep learning », les « réseaux de neurones », tout un lexique en réalité), comme dans les buts visés (l’autonomisation, par exemple, évoquée plus haut).
De là naît cette confusion quand on parle d’intelligence artificielle : elle serait pour certains vierge, comme débarrassée du mythe, il n’y aurait que des techniques (avec cette idée, le plus souvent, de la neutralité de la technique, qui « ne dépend que de l’usage que l’on en fait »).
Mais pourquoi alors employer ce terme ? Et que signifierait, dans ce cas, la recherche en IA ?
Voyons ainsi quelle est cette recherche, et quelle est exactement l’origine de ce mythe.
Le concept d’intelligence artificielle est contemporain de l’invention de l’ordinateur. Il est frappant de voir à quel point, dès les années 1950 et l’élaboration de ce concept, avant qu’aucune technique ne vienne même encourager cette hypothèse, l’ambition était clairement démiurgique, prométhéenne : la recherche restait dans le domaine théorique, et l’optimisme des pionniers, d’Alan Turing à Marvin Minsky, en passant par Allen Newell et Herbert Simon, faisait d’une IA aux capacités similaires ou supérieures à l’intelligence humaine quelque chose d’envisageable à l’horizon de moins d’une génération [9]. Encore aujourd’hui, dans l’hypothèse d’une recherche sur l’IA sans plus aucunes visées pratiques (applications), l’idée démiurgique paraitrait alors avec évidence.
Le projet métaphysique, prométhéen, le questionnement sur la conscience, l’accès à une forme de conscience de l’ordinateur, sont ainsi à la base de la recherche en IA.
Le fameux test de Turing, dialectise ce problème de la conscience [10]. Cette imitation [le « jeu de l’imitation » de Turing] de l’intelligence humaine induit une forme d’illusionnisme. Dans l’idée de Turing, l’apprentissage se fait essentiellement par imitation. Cet apprentissage mimétique, chez l’enfant, est lié à des affects, mais chez Turing, il semble un pur simulacre. Mais l’imitation n’est en fait qu’une équivalence mathématique, une traduction en un langage informatique. Si l’on considère que l’opération est d’abord une opération technique, le simulacre ne semble qu’un effet indirect de cette opération, qui aboutit néanmoins à une destruction du symbolique (ici le langage). Le simulacre n’est ici ni figuration, ni illusion, mais une manière finalement de crypter l’existant, via un calcul, c’est à dire littéralement de le vider de toute matière ou substance.
L’avènement de la cybernétique, à la même époque que l’élaboration de ce concept d’IA, popularise l’idée d’une science intégralement technicisée, n’ayant plus recours qu’à des techniques ou raisonnements techniques pour tout à la fois élaborer, mettre à l’épreuve, et valider ses théories. Dans cette lignée, la théorisation scientifique de l’intelligence artificielle - l’intelligence assimilable à un calcul ou programme informatique - ne semble d’emblée rien d’autre qu’un défi technique : l’aspect théorique cède le pas à l’aspect technique, puis pratique, lesquels gardent néanmoins toujours avec eux cette coloration scientifique, expérimentale.
Dans ce couplage science-technique, la science impulse néanmoins une dynamique, elle fait de l’intelligence artificielle un domaine de recherche, unifie ces différentes technologies de l’IA, les oriente (au delà de l’hybridation des procédés techniques, il s’agit de parvenir à une synthèse), de même qu’elle unifie les différents corpus scientifiques en lien avec ce domaine de recherche (orientés ainsi vers une acception technique, fonctionnaliste).
Le mythe prométhéen de l’IA est le produit de cette technoscience, de cette science accaparée par la technique – le feu dérobé par la technique. L’intelligence comme programme informatique. Technique et recherche n’établissent en fait aucune frontière, et c’est dans cette mesure que la technique est traversée par le mythe : elle a ce caractère double, évolutif.
L’intelligence artificielle en tant que technologie [11] étant, par ce caractère double, à la fois technique et technique en puissance.
L’IA est une projection de l’homme sur l’objet technique (le mythe anthropomorphe), autant qu’une projection de la technique sur l’homme (le cerveau-machine comme postulat). Ces deux conceptions, inséparables bien qu’apparemment opposées, se répondent en miroir.
De l’objet théorique, métaphysique, à l’application technique, pratique, on a cela dit du mal à suivre le fil logique. Si l’intelligence artificielle et humaine fonctionnent théoriquement de manière semblable, on se demande dès lors ce qui pourrait faire de l’intelligence artificielle, pour l’homme, une technique. Quel usage pourrait-il en avoir ?
C’est la question que pose le penseur John Searle, qu’il ne faut pas prendre comme une question philosophique, mais comme une question pratique, de bon sens : « If we are to suppose that the brain is a digital computer, we are still faced with the question, ‘And who is the user ?‘ »
Concevoir l’intelligence comme une opération mathématique, comme quelque chose de chiffrable, manipulable (à travers un langage informatique), c’est inscrire notre relation avec l’outil dans ce processus de réification. Fabriquer des outils dont on aura usage n’est en effet pas la même chose que fabriquer des outils censés refléter notre intelligence. Le rapport à l’outil n’est plus du tout le même, et devient réflexif. L’homme s’observe, se projette, à travers ce prisme technique.
Toute la question de l’IA, de la recherche en IA, se résume en fait à ce refus initial de penser notre rapport à cette technique. Pur délire démiurgique, elle devient, idéalement, une technique sans usage, une vue de l’esprit. Ou bien, concrètement, dans les applications qui lui sont trouvées, finira par engager l’homme, par ce simple jeu de miroir, dans un processus réifiant. La grande question du remplacement, qui est une fausse question, découle directement de cette absence de perspective initiale quant à l’usage de la technologie de l’IA, appréhendée d’abord comme un objet métaphysique, comme technique en puissance, ou comme une pure puissance.
Structure vide, illusoire [qui fait illusion], appréhendée comme un simple calcul, il y a en fait identité entre le modèle (l’intelligence humaine) et sa traduction en langage informatique : passée dans le domaine technique, l’intelligence artificielle devient elle-même modèle, une fois tel ou tel processus formalisé. Elle est modélisée, autant qu’elle modélise.
Le principe de l’intelligence « augmentée », via l’intelligence artificielle, présupposera lui-même un réductionnisme de l’intelligence humaine, comme technique ou calcul.
La deuxième catégorie, que l’on pourrait établir, regroupe ainsi toutes ces technologies de l’IA qui tendent à modeler l’intelligence humaine. Elles constituent en un sens l’envers du mythe.
On peut en effet concevoir ces différentes technologies, les différents types d’IA, comme autant de modèles. « L’IA est ce qui n’a pas encore été fait » selon le chercheur Douglas Hofstadter. Technologie évolutive, l’IA est aussi une tendance, qui suit cette idée selon laquelle l’intelligence humaine serait transposable, c’est à dire falsifiable, en un langage informatique.
Aussi l’IA vise à une synthèse (IA générale ou IA forte) : il faut d’abord la voir comme quelque chose en cours, en évolution constante (prolongeant ici la « Loi de Moore » [12]), voir ce qu’elle cherche à être, en puissance (dans l’élaboration de ce mythe), et ce qu’elle est réellement.
De manière empirique, la recherche en IA, dans cette idée de l’intelligence appréhendée comme technique, vise à morceler, puis recomposer entre elles, nos modes de pensée, nos facultés de percevoir, de raisonner, d’énoncer, de communiquer, de décider, etc., traduits en langage informatique en termes de tâches [tasks] [13]. Beaucoup d’applications, certes encore embryonnaires, peuvent être perçues comme découlant de cette idée, les différentes technologies de l’IA constituant comme autant de fils et ficelles de cette « science » marionnettiste.
Cette idée, fondatrice de l’IA, qui est celle aussi d’un remplacement de l’homme par la machine pour certaines tâches que l’ordinateur finirait par exécuter mieux ou plus efficacement, déconnecte d’une certaine façon absolument ces techniques de notre rapport avec ces techniques. Mais, bien qu’elles puissent se substituer à l’humain, c’est encore l’humain qui interagit avec elles, le renvoyant à une conception plus essentielle de l’homme comme machine : usage militaire (système d’armes létales autonome (SALA)), dans la police (prévention, contrôles d’identité automatisés, gestion des rassemblements, surveillance, etc.), mais aussi usage de l’IA dans la santé (diagnostic, la médecine comme « système expert »), usage possible dans le domaine politique (administration) et du droit (accéleration et simplification des décisions de justice), de l’éducation (modèles, techniques de science cognitive), IA dans les secteurs du tertiaire, des services (assistance en ligne automatisée), du recrutement, agents conversationnels, etc.
Cette conception de l’intelligence comme accomplissement d’une suite de tâches, ou calculs, s’étend en réalité avec l’IA potentiellement à une infinité de techniques, le mythe s’immiscant, sans paraître établir de rapport direct avec celui-ci, dans un discours purement techniciste.
Ainsi, Kaplan et Haenlein définissent par exemple l’intelligence artificielle comme la « capacité d’un système à correctement interpréter des données externes, apprendre de ces données, et se servir de cet apprentissage pour accomplir certains objectifs et tâches spécifiques en s’adaptant de manière flexible. » [14] Voilà un discours apparemment tout à fait clair et technique sur l’IA comme système, avec cette idée par ailleurs d’apprentissage (le machine ou deep learning), d’adaptation et d’évolution autonome, qui caractèriseraient bien une forme d’intelligence !
Cette définition minimale tente de réduire l’IA à un outil, destiné à une application donnée. Mais on ne comprendra évidemment rien à cette technologie si on ne tient pas compte par ailleurs de toutes les applications que l’IA génère, et du fait qu’on l’appréhende comme puissance en tant que telle. Ce ne sont plus alors des « objectifs et tâches spécifiques » mais au contraire un champ très vaste d’applications, en développement constant, obtenues par des procédés en tous points similaires (le « système » algorithmique de l’intelligence artificielle).
Dans cette définition, l’anthropomorphisation ou personnification de la technique n’a a priori, non plus, aucune part, elle interviendra en amont par un discours, une conceptualisation des outils techniques [15], par le développement de technologies anthropomorphes (à travers, par exemple, le maniement du langage), et plus généralement par l’orientation de la recherche en IA vers l’autonomisation. C’est ce dernier point sans doute le plus important, et il a un aspect trompeur de pure technicité. L’IA est, de façon générale, la projection en la technique d’une puissance. Elle est une croyance en l’omnipotence de la technique [16], matérialisée par cette quête paradoxale d’autonomisation, qui n’est rien d’autre ici, finalement, qu’une sacralisation de la technique.
L’IA procède d’un va-et-vient constant entre mythe et application technique. Discours « rationaliste » technicien et mythifiant sont en réalité indifféremment utilisés, se renforçant l’un l’autre, de façon dynamique, dans l’idée d’une technologie évolutive, toujours en tant que telle inachevée.
Les deux catégories d’IA, évoquées plus haut, ne sont pas étanches, et font elles-mêmes système. L’intelligence artificielle est plus généralement une manière d’ordonner le réel, selon une norme (assimilable techniquement par la machine) ou (re) programmation informatique. Elle fournit un modèle unifié, autonome, dont la particularité est de se diffuser ici, dans le domaine informatique, sans plus aucun frein : IA dans la finance (trading algorithmique, systèmes de prévision du marché, qui a leur tour conditionnent le marché, l’économie), algorithmisation des médias (production et suggestion de contenus), traduction automatisée (selon l’idée d’une langue unique, réduite à un calcul), gestion de datas (extraction, exploitation), technologies du numérique (gestion personnalisée, modération, suggestion de contenus), etc.
Fortement caractérisé dans son principe originel (l’horizon démiurgique de la « recherche en IA »), l’intelligence artificielle tend ainsi dans la pratique à se diluer jusqu’à coïncider avec l’ensemble du système informatique en un cybernétisme généralisé. Modèle cybernétique de la société qui ne conserve du mythe qu’une image en miroir : celle sur laquelle l’homme vient buter, se fixer.
Ces technologies restent ainsi la plupart du temps invisibles, en toile de fond. Enjeu d’apparence strictement technique, s’inscrivant dans un environnement déjà fortement technicisé, elles participent, plus largement, de la virtualisation à l’œuvre dans nos sociétés où l’homme, les interactions sociales, ne sont plus appréhendés également qu’en tant qu’enjeux techniques.
Le principe de l’IA n’est pas tant de remplacer l’homme par la machine, que de faire que l’homme se comporte, agisse comme une machine [le penseur Eric Sadin parle d’un « tournant injonctif de la technique »], que la société dans son ensemble se technicise, par un jeu subtil, tour à tour de normalisation et d’imitation.
L’IA induit de manière sous-jacente une représentation technique de notre société, au travers de laquelle l’homme tend à s’inscrire comme quantité numérique (et où il n’a, à ce titre, plus aucune importance).
Efficacité et représentation sont ainsi intrinsèquement liés avec l’IA : l’algorithme – ou « agent intelligent » [agent-based model] dans le jargon anthropomorphe de la recherche en IA – opérant un constant réajustement, via le deep learning, des tâches qu’il est censé exécuter, mais également de la représentation de l’environnement [model-based agent] avec lequel il est en interaction. Le monde devient ainsi mesure, statistique en temps réel. Par l’accumulation de données, l’IA optimise dans une acception techniciste cette représentation (de systèmes ou phénomènes sociaux, comportementaux, etc.). Il est aussi dans la nature de ce système ensuite, par l’opération technique qu’il fait, de mieux faire se conformer cette « représentation » à ce calcul [17] : le système technique n’est pas celui de l’intelligence artificielle, mais celui plus global de l’intelligence artificielle dans un environnement social donné, qu’il tend insensiblement à modifier, techniciser.
Antoinette Rouvroy, qui voit dans cette organisation statistique de la société une forme de « gouvernementalité algorithmique », analyse bien le nouvel ordre auquel nous avons affaire : celui de la perpétuation d’un modèle social, du pouvoir technicien (le capital, dans ce monde numérisé, est devenu accumulation de données [18]). Cette gestion par les algorithmes vise à une « neutralisation de l’incertitude » [19], des émergences, à une régulation de type cybernétique qui anticipe et bannit toute forme d’accident, par analyse granulaire des comportements et préemption. Il s’agit d’« adapter la normativité à la sauvagerie des faits », ces systèmes statistiques algorithmiques se nourrissant aussi constamment de l’erreur.
On est là dans une technologie du réflexe, du double : un dispositif en miroir [Agamben] [20]. Le temps lui-même devient celui de l’ordinateur, le futur immédiat, décontenancé, est comme doublé par les algorithmes. Avec le trading algorithmique, géré par l’intelligence artificielle, les algorithmes ne prédisent pas l’avenir mais le produisent ; le droit n’est potentiellement plus qu’une corrélation entre des faits, administration statistique [21] ; tout comme la science médicale, etc.
Rouvroy note que ces algorithmes, par leur abstraction, demeurent insaisissables, car ne traitant plus d’individus mais directement de données (n’ayant ainsi plus rien à voir avec les systèmes statistiques traditionnels). L’autonomisation échappe à un moment aux gouvernants, au capitalisme technicien. Elle n’est plus qu’une expression de l’ordre, d’une organisation cybernétique de la société. Ce système de gouvernementalité algorithmique devient son propre référent.
Mais si cet empirisme cybernétique prend en compte l’erreur et continuellement l’ajuste dans son système, le principe statistique du deep learning reste, à la fin, peu fiable (la limite du calcul appliqué au vivant). L’important, ce qui reste, n’est au fond que le modèle lui-même, miroir, spectre ou prisme technique : ce régime d’apparence, systématisé par la technique.
Plus elles s’invisibilisent, plus le mythe semble s’effacer, plus les techniques de l’IA sont efficaces (mais dans le sens de la normalisation d’un système : elle-même, à son tour, générant quantité d’aberrations). Ce que la technique réalise est une forme d’utopie cybernétique, non la figure de l’androïde, qui n’a ici qu’un rôle accessoire. Dans ce dispositif en miroir, l’IA ne semble renvoyer qu’après-coup une image de l’homme technicisé (ChatGPT n’a fait que révéler en ce sens une pensée déjà assistée technologiquement, et comme en partie robotisée, dans le monde du travail notamment – voir le problème du journalisme et du copier-coller, pour ne prendre qu’un seul exemple).
Mais le mythe toujours fait corps : à cette disparition apparente du mythe, là où l’IA est pourtant le plus répandue, à son invisibilisation dans le système informatique, répond une inflation de ce mythe dans l’imaginaire collectif. Un certain discours ambiant, imprégné des clichés de la S-F, ainsi que les avancées les plus spectaculaires dans le domaine de la recherche en IA, se chargent de leur côté de faire, dans l’imaginaire social, de l’intelligence artificielle un récit, un horizon.
C’est un conditionnement progressif de la société à l’usage des IA (marchés potentiels, extension du domaine de la gouvernementalité algorithmique, etc.).
L’inflation du mythe, dans un double mouvement, dissimule l’aliénation générale par la technique, l’IA tendant, de façon sous-jacente, à coïncider avec l’ensemble du système informatique (l’IA n’étant jamais qu’une personnification, ou conceptualisation algorithmique, de l’ordinateur – voir les travaux de Turing). Ce retournement est à l’opposé du rêve prométhéen de l’IA : l’omnipotence de l’intelligence artificielle ne réside finalement que dans son efficacité en tant que système, c’est à dire - très loin de la réalisation de la créature démiurgique, toute-puissante – comme dispositif assimilant l’être humain à une statistique, intégrée à ce système technique.
Chaque technique de l’IA se présente comme une démythification, et contribue en réalité à la fabrication du mythe. Alors que l’IA semble se diviser en une infinité de techniques, la recherche, elle, opère cependant de manière synthétique (avec le mythe comme horizon). Ces synthèses successives mettent en perspective l’idée prométhéenne de machine intelligente. Elles correspondent à une avancée d’ordre technique, se présentent d’abord comme telle, mais toujours avec cette identification anthropomorphique (le plus souvent sur un mode ludique, de manière ambiguë) [22].
La dernière catégorie que l’on pourrait distinguer est celle aujourd’hui de cette synthèse, celle des modèles de langage, apparus récemment tel ChatGPT.
La fonction proprement technique des modèles de langage n’est pas très claire. Ils semblent d’abord des gadgets, ont d’abord été appréhendés comme tels. La spéculation autour de ces modèles est significative. Ils seraient destinés à une multitude d’applications pratiques, et donc à une multitude de techniques (pouvant servir, par exemple, dans les tâches de travail ou dans l’apprentissage). Ces modèles s’approchent du mythe (l’IAG) [23], et sont davantage que des techniques à proprement parler, des techniques en puissance (en roue libre, Yann Le Cun, le prix Turing inventeur du deep learning, voit en eux, comme application prochaine, de futurs assistants personnels, entrant ainsi bientôt pour chacun dans un usage courant [24]).
L’IA n’est pas la réalisation d’un rêve prométhéen, et l’opération technique se fait toujours sur l’homme : l’efficacité de ces modèles de language, qui passerait par la « réduction » d’un temps de travail assimilé à une tâche, induit par principe une confusion entre l’homme et son « simulacre ».
Pour terminer, on voit bien le problème que pose le mythe de l’intelligence artificielle, qui reste une vue de l’esprit : s’il devenait réel, celle-ci cesserait aussitôt d’être une technique. Une IA réellement autonome suppose par définition qu’elle ne soit plus réductible à une technique. Elle devient pur artifice - automate, dont on aurait en quelque sorte égaré le mode d’emploi. La technique est essentiellement une opération ou calcul : une fonction en vue d’obtenir un résultat. L’intelligence artificielle, par son processus d’autonomisation, joue ainsi avec l’idée que ce résultat puisse à un moment devenir douteux, sans plus d’objet.
L’intelligence artificielle est une virtualisation de la technique. Elle est la technique à la limite, tire sa substance de cette limite. Si le mythe s’incarnait, il n’y aurait tout simplement plus d’intelligence artificielle (en tant qu’objet de recherche), plus de technique ou d’usage possibles.
Quel est alors le rôle du mythe de l’IA, de ce millénarisme technologique ? À quoi correspond finalement cette identification du mythe avec la technique ? L’IA va bien au delà de l’ancien mythe du progrès, du perfectionnement incessant des techniques, de la science. Ce fantasme, par la technique, d’une fin de la technique, révèle ici un nœud. Cette aporie de l’outil algorithmique, de la machine, qui s’émancipent de l’homme, et accèdent à la conscience, semble ne faire que masquer cette idée plus terre à terre, en miroir, de l’homme devenant lui-même technique.
En attendant le soulèvement des machines, l’intelligence artificielle n’est en somme qu’une opération en miroir sur l’homme (qui croit l’être sur la machine).
Cette idée du cerveau comme machine est bien après tout l’idée première, absurde, de l’intelligence artificielle. Pure vue de l’esprit, que semble constamment vouloir actualiser la technique, qui est l’horizon dystopique de cette technique.
Plus l’intelligence artificielle se perfectionne, plus l’homme ne fait en réalité que se conformer à cette idée première. La technique s’en tient de manière très pratique au substrat de la théorie, du mythe – elle réalise comment l’homme se conçoit.
ELLUL ET L’IA
Dès 1954, au moment même où s’élaborent les premières « machines pensantes », Ellul publie son livre fondateur, La Technique, ou l’enjeu du siècle. Sa thèse ne trouve alors aucun écho dans le contexte de guerre froide de l’époque, les idéologies capitaliste ou post-marxiste n’ayant selon lui plus aucune importance : la productivité, les gains de productivité (le profit), l’économie, sont déterminés par le développement de la technique [25], le système technicien qui se met en place (voir : Le Système Technicien, 1977).
Pour Ellul, la Technique, ou le phénomène technique [26], est devenu le facteur déterminant, celui qui - plus que tous les autres - modèle, structure toutes nos sociétés. Ellul fait remonter ce phénomène spontané d’autonomisation de la technique à la première moitié du 20e siècle, dans le prolongement de la révolution industrielle et du « machinisme », puis en un « système technicien », aux années 1950, avec l’apparition des premiers ordinateurs [27] : ce qui paraît essentiel pour Ellul, la difficulté centrale pour comprendre notre société, c’est qu’aussi toutes les anciennes grilles de lecture (idéologique, politique, économique, etc.) s’en trouvent ainsi en quelque sorte dépassées, à présent se dérobent. [28]
La Technique s’institue aujourd’hui dans nos sociétés comme sa propre cause, forme son propre « milieu », où le moyen est devenu fin (il n’y a pas l’idée d’un progrès mais plutôt d’une complexification ou « autoaccroissement » : dans ce système qui s’auto-génère, tout se résoud à la fin par la Technique – il est lui-même résolution de problèmes causés par la Technique). Elle a son autonomie propre, s’est autonomisée en un « système technicien », en une interdépendance entre différentes techniques, différents sous-systèmes. Vecteur de standardisation, « rationalisation » que sous-tend une croyance en la neutralité de la technique [29], ce système dévaste, aplanit tout, et est à présent universel. Aussi, la recherche de la seule efficacité, la prédominance de critères techniques, en tous points, à tous les niveaux et dans tous les domaines, invisibilise, dénature ou détruit peu à peu tout ce qui ne relève pas de la Technique.
Participant ainsi à un processus d’artificialisation générale, ce système technicien est devenu le régime de rationalité suprême, vers et par lequel tout se conforme, s’agrège, et qui pour l’être humain constitue l’expérience première [30], en même temps que la source de son aliénation.
Ellul décrit très précisément ce qu’est la Technique, mais ne nous dit pas ce qu’elle représente au fond, de quoi elle serait le signe. Nul anthropomorphisme ici, Ellul n’humanise pas la Technique, encore moins ne la divinise [31]]. Elle a « l’aspect d’une étrange sécheresse » (ST, p. 237). Elle est comme une ironie. Elle est le désir de puissance de l’homme [32], mais le réduit à l’impuissance. Elle est ce par quoi il a voulu se rendre maître, mais la Technique, rendue autonome, est ce qui l’asservit.
La Technique est une abstraction qui nous gouverne. Alors que le champ du Politique, qui a perdu son autonomie, se rétrécit toujours davantage, soumis au règne de la Technique dans ce système technicien, l’État, en tant que structure elle-même technicienne, coordinatrice, ne cesse d’amplifier son domaine d’action en proportion, au service de cette technique. Mais l’Homme doit d’abord prendre conscience de ce phénomène. Car ce système technicien nous est en quelque sorte dissimulé, nous n’avons plus que « l’appréhension très vive et colorée d’un non-réel sans autre fonction que de nous cacher le mécanisme et nous satisfaire du « miracle-mirage ». »
Là où cette autonomisation du système technicien était subie et mal appréhendée, voire totalement niée, elle prend avec l’avènement et les progrès de l’IA un aspect anthropomorphique et semble comme voulue, désirée (dans le sens de la cybernétique). Le « fait » technicien se substitue au droit, l’IA et la « gouvernementalité algorithmique » à la décision humaine [33]. La prise de conscience de l’autonomie du système technicien était avec Ellul un préalable à toute action. Tandis que l’intelligence artificielle, avec son millénarisme, repousse, réduit cette réalité de l’indépendance du système technicien à un futur, un fantasme de science-fiction, sur lequel l’humain n’aurait par ailleurs, par cette dimension surnaturelle, plus aucune prise.
En d’autres termes, cet impensé du phénomène technique dans nos sociétés prend avec l’intelligence artificielle une tournure plus raffinée, elle semble une sophistication de ce refoulement, par le biais de la fiction, d’une construction imaginaire d’ordre mythique.
L’intelligence artificielle tend à coïncider avec ce système technicien unifié par les réseaux informatiques, lui-même déjà en rupture complète avec « l’ancien monde » : « La seule fonction de l’ensemble informatique est de permettre la jonction, souple, informelle, purement technique, immédiate et universelle entre les sous-systèmes techniques. C’est donc un nouvel ensemble de fonctions nouvelles, d’où l’homme est exclu, non par concurrence mais parce que personne jusqu’ici ne les a remplies. Bien entendu, cela ne veut pas dire que l’ordinateur échappe à l’homme, mais que se met en place un ensemble qui est strictement non humain. » (ST, p. 112)
L’IA est la substitution de cette « spontanéité nouvelle » [34] - dont on pourrait dire après Ellul que la caractéristique principale semble d’être ignorée par l’homme - par un horizon mythique.
Elle est, par la personnification de la Technique, un horizon doublement non humain : fétichiser, à présent, ce « nouvel ensemble » informatique, par l’illusion d’un accès à une forme d’intelligence, de conscience, c’est en effet lui accorder des « droits », une autonomie supplémentaire que l’ordinateur, encore, n’avait pas.
Ce qu’amène l’IA, dans ce système technicien que décrit Ellul, c’est en outre l’image de l’homme technicisé, c’est à dire, à travers la technique, son modèle, l’homme qui n’est plus que fonction, vecteur technique : une image qu’on pourrait qualifier de subliminale, de manipulatoire, si ce simulacre produit par l’IA n’était pas aussi un retournement, ironique, de la technique sur l’homme.
Dans ce système où la technique s’est autonomisée – jusqu’à substituer en un sens le monde informatisé au monde réel [35] - l’IA semble constituer pour l’homme à la fois son horizon le plus probable et le plus irréel : un horizon que l’on tend souvent à qualifier de dystopique (sans jamais pourtant considérer ce que ce terme ici réellement recouvre).
Ce phénomène dystopique semble lui-même une tendance de fond aujourd’hui dans nos sociétés, dont la mise en place progressive de l’IA ne serait qu’une des manifestations (voir sur ce chapitre de la dystopie la gestion biopolitique, sur fond de « sécurité sanitaire », de la « crise du Covid » [36]).
Il procède, dans notre société technicienne, d’une mise en abyme ou recyclage des thématiques, clichés et mythes de la science-fiction (dont la dystopie est précisément l’un des genres fondateurs). Ce lieu commun d’une science-fiction devenue réalité (et non l’inverse) tend à occulter l’instrumentalisation dont ce genre est l’objet, en vue d’asseoir un modèle de société. Ce qui apparaît comme le fait le plus accompli (« prophétisé » par la S-F) n’est ainsi au fond le plus souvent que construction d’ordre mythique, idéologique (IA, dystopie, scénarios du pire post-apocalyptiques, modèles dickiens prédictifs, novlangue... tout est bon à recycler).
La posture est ici celle d’une société nourrie de l’imaginaire S-F, faussement consciente d’elle-même, de sa puissance technique, alors que la réalité derrière est précisément une destruction de l’imaginaire et une aliénation, finalement, par la technique [37].
L’IA, dans ce processus dystopique, semble cependant jouer un rôle bien particulier. L’idée d’une domination de la technique, ou de la machine, sur l’homme, est en partie assumée, ou du moins envisagée (ce qu’avance par exemple le dogme de la singularité). Ainsi, le système technicien tend à se clôturer par cette sacralisation de la technique - ce que précisément semblait craindre Jacques Ellul. Le mythe « divertissant » de l’IA tendant à masquer cette auto-aliénation de l’homme (non tant finalement par la technique que par cette sacralisation).
Dans un monde où prédomine dans les rapports sociaux l’outil informatique, et une certaine anarchie des « réseaux », la dystopie fournit par ailleurs un certain nombre de règles, elle ne semble devenir plus qu’un élément de jeu (voir à ce sujet la série « Black Mirror »). Là est sans doute la différence fondamentale dans la manière aujourd’hui d’appréhender la dystopie, ce qui ne pouvait encore être le cas à l’époque d’Orwell ou d’Huxley, et même de Dick.
« Designing and implementing new combinations of technologies, human skills, and capital assets to meet customers’ needs requires large-scale creativity and planning. It is a task that machines are not very good at. That makes being an entrepreneur or a business manager one of society’s most rewarding jobs in the age of Machine Learning. », Harvard Business Review [38]
L’horizon mythique est ici exactement le même que l’horizon dystopique, mais il en dissimule la logique, le mécanisme. Avant de voir comment procède ce jeu d’occultation, voyons d’abord, cependant, par quels moyens se propage le mythe : prouesse technologique (les synthèses successives de la recherche en IA) et profusion elle-même des technologies de l’IA, discours (technicien, ou d’ordre plus théorique – évidemment le Transhumanisme), couverture médiatique, nombreux débats, fictions (sans vouloir distinguer bonne et mauvaise science-fiction, il suffira ici de constater que l’IA, de plus en plus, y est servie à toutes les sauces), etc.
C’est également, bien sûr, une économie générale (avec l’idée d’un gain de productivité par un remplacement de l’homme par l’ordinateur) : les GAFAM, les « géants de la tech », l’industrie du numérique, profitent aujourd’hui massivement de l’avènement des IA génératives (une capitalisation boursière de plusieurs milliers de milliards ! [39]), des sommes d’argent délirantes sont aujourd’hui investies dans l’IA. Tout à fait central, évidemment ici, est le pouvoir de cette industrie, leur immense force d’influence dans ce domaine, le discours technoscientifique qu’ils tiennent par rapport à ce mythe, qui correspond à la fabrication d’un récit, la manipulation en l’occurence d’outils narratifs, de concepts issus de la science-fiction.
Il y a pourtant ici quelque chose, au delà de cette manipulation, qui relève plutôt d’un inconscient : le mythe parfaitement ambigu de l’IA semble révéler une aliénation à l’intérieur même du discours professé, ce n’est pas un discours à proprement parler politique (notons ici que les politiques semblent les premiers eux-mêmes à se défendre du mythe [40]) mais technicien, qui ne se fixe que sur des moyens, et sur un pari à court terme (celui, si ce n’est du profit généré par l’intelligence artificielle, du développement futur, très aléatoire, des techniques).
Par parenthèse, il n’y a pas d’ailleurs nécessairement cynisme, dans ce discours, et la croyance en ce mythe n’est pas qu’une posture (les figures aujourd’hui les plus influentes de la « recherche » en IA, les prix Turing Bengio, Le Cun et Hinton, tous se posent sincèrement la question du mythe, de l’IA générale ou forte, et de la singularité – Hinton au point de finir par démissionner de Google).
Aussi, si d’un certain point de vue la question du mythe peut sembler abstraite et n’intéresser qu’une élite technicienne, elle travaille la société dans son ensemble, et agit comme un inconscient. Le terme même, parfaitement ambigu, de recherche en IA est à considérer du point de vue d’une quête (prométhéenne) et semble renvoyer à un inconscient collectif. La question de la dilution de la responsabilité, dans le système technicien, et de l’autonomie de la technique, y est à la fois centrale et occultée par la puissance du mythe.
À la fameuse conférence de Dartmouth de 1956, où fut conceptualisée l’IA, John McCarthy proposa le terme intelligence artificielle, afin notamment de se distinguer du terme cybernetics, trop selon lui connoté, par l’emprise qu’avait alors son père fondateur, le célèbre mathématicien Norbert Wiener, sur ce mouvement [41]. Le terme de cybernetics renvoie à l’idée d’une société comme machine, comme système cybernétique de communication.
Les deux hommes partagent la même croyance en l’avènement alors d’une machine intelligente : tandis que McCarthy travaille à cet avènement, Wiener, plus distant, exprime les craintes qu’une machine intelligente ne transforme notre monde en cauchemar de science-fiction, si on ne la contrôlait pas, se plaçant par ailleurs sur le terrain dystopique, avec sa société cybernétique.
Ces deux visions semblent se combiner d’une certaine façon entre elles, avec l’IA, en une tendance dystopique, matinée de cybernétisme, c’est à dire l’utopie rêvée de Wiener.
Robot maléfique et horizon dystopique n’ont en réalité toujours fait qu’un, se répondant en miroir : reflets comme en creux, métaphoriques l’un de l’autre, où la machine remplace l’homme, et où l’homme se fait machine.
Aussi pouvons-nous parler, avec ces technologies de l’IA qui se mettent en place, seulement d’un horizon (ou tendance) dystopique et non d’une dystopie bien réelle ?
La dystopie est ici davantage un processus qu’une forme fixe. Elle est une forme de dystopie utilisant le récit de science-fiction, la fiction, comme outil de perfectionnement, de conformation, vers un idéal de société purement techniciste.
Le site Wikipédia rappelle que « dans une dystopie, l’évolution technologique n’est pas un facteur déterminant », et que les « postulats scientifiques surnaturels ou métaphysiques n’y ont tout simplement pas leur place » [42] : ils peuvent constituer un horizon, mais pas une condition. Pour autant l’idéologie dystopique peut se servir de techniques narratives (et même du mythe – ici l’intelligence artificielle), pour parvenir à l’établissement, la mise en forme d’un système dystopique (et ce même de manière assez inconsciente – je veux dire non formulée en ces termes).
La dystopie, plus profondément, ne serait pas qu’un genre (narratif), et donc pas nécessairement de la science-fiction. Elle est un système politique, social, de type utopique, qui aurait mal tourné.
On aurait tort, en outre, de penser - suivant un certain cliché véhiculé par la S-F - que le sentiment dystopique naîtrait avec l’IA du fait de n’avoir affaire, en lieu et place de l’homme, qu’à des machines ou interfaces robotisées (c’est en réalité déjà en partie le cas, sans qu’on ait à convoquer pour cela l’intelligence artificielle). Ce sentiment apparaît ici plutôt dans une société ayant fait sien ce principe de n’être plus régie que par des techniques (on sait, depuis La Boétie, que la servitude ne consiste, dans le corps social, qu’en un certain degré d’intégration, ou d’acceptation).
La modernité est parsemée de fables, en lien avec les avancées techniques, que l’homme, pour vendre ou tirer profit des machines, a façonnées. Des fables qu’on pourrait qualifier de positives. Fait sans précédent, avec l’IA nous avons affaire à la création d’un mythe, par ceux-là même en train d’élaborer cette technologie, où l’intelligence artificielle menacerait l’humanité d’« extinction » [43].
C’est aussi un retournement complet de ce la manière dont on nous présente en général les nouvelles technologies, qui dépendraient simplement au fond du bon usage que l’on en fait : bien qu’instillé de manière assez diffuse, avec la singularité technologique, mauvais rêve de la technique, nait ainsi une forme de fantasme de science-fiction cauchemardesque, de mythe perverti.
Que ce fantasme puisse être une crainte sincère (phobie), une posture intéressée ou même une attente réelle (mouvement Transhumaniste notamment), n’a au fond pas beaucoup d’importance. Ce fantasme repose, essentiellement, sur une sacralisation de le technique.
Sur l’effet des œuvres de science-fiction, présentant une invention technologique effrayante, sur les sociétés modernes, Ellul pointe ce problème : « La Technique n’étant pas celle qui nous a été montrée comme telle nous paraît parfaitement acceptable, rassurante : nous nous réfugions dans la société technique réelle pour échapper à la fiction que l’on nous a présentée comme étant la vraie technique. » (ST, p. 121) Le cas de l’intelligence artificielle, avec son horizon démiurgique, est certes plus ambigu, mais le constat reste le même : que certains puissent craindre la singularité, ou l’espérer, le présent de l’intelligence artificielle est quand même infiniment plus terre à terre.
L’utopie/dystopie techniciste, cybernétique, est elle bien en marche.
L’intelligence artificielle tend à modeler en puissance la totalité de notre société (jusqu’à notre manière de pensée, notre langage). Décorrélé de ses applications techniques, pris dans son abstraction, le mythe, pourtant, reste aussi bien un objet de dérision, de curiosité. Il pénètre d’autant plus qu’il est, comme j’ai tenté de le montrer, ambivalent, et pas entièrement assumé en tant que tel, qu’il paraît inoffensif. Sacralisée à l’extrême opposé, l’IA opère aussi en tant que faux-semblant.
Comme le précise Jacques Ellul, le monde s’est « unifié » par la Technique : le système technicien, « institué » par l’ordinateur, a trouvé, de même, dans l’informatique comme une structure universelle. Le risque, pour Ellul, était dès lors pour ce système, à la fois globalisé et globalisant, de glisser vers l’Utopie technicienne, cybernétique.
« Il n’y a pas d’autre Utopie que technicienne (…). L’Utopie est dans la société technicienne l’horizon de la Technique. Rien de plus. » (ST, p.31) Ellul rappelle aussi que « dans le passé, tous les Utopistes, sans en excepter un, ont présenté la société exactement comme une Mégamachine : il s’agit toujours d’une exacte répétition d’une organisation idéale, d’une parfaite conjonction entre les parties du corps social, etc. » La société utopique « parfaite » tend à être technicisée dans le corps social même. Dans ce système social, né de l’Utopie, l’IA occupe un rôle central : elle technicise les rapports humains, elle tend à ne faire des hommes plus que des vecteurs techniques, leur montre et leur soumet cette image. Ce mythe qui tend à se retourner, contre l’homme, en utopie cybernétique, y adjoint cet élément sacré, irrationnel, hérité de la science-fiction. Ce n’est plus une utopie voulue, pensée, désirée en tant que telle, mais qui s’impose de manière d’autant plus naturelle qu’elle semble émaner de l’inconscient d’une société donnée, de cette « croyance absolue du monde moderne » en la technique. Ce n’est pas non plus un utopisme figé, mais toujours un horizon : très exactement cet horizon dystopique que nous promet le millénarisme de l’IA.
On pourrait parler de dystopie en puissance, mais c’est véritablement un horizon dystopique, qui n’est pas virtuel, et s’actualise en proportion du développement de ces technologies.
La Chine incarne de même, pour l’Occident, cet horizon techno-dystopique. Elle apparaît, de manière en partie fabriquée, comme la réalisation de cette dystopie.
Le mythe n’y a ainsi pas la même fonction, ou influence, qu’en Occident. Une différence s’expliquant par la politique volontariste des autorités chinoises. Deux facteurs ont en effet déterminé là-bas le développement de l’IA : un « solutionnisme » technologique, mêlant transfert de technologies et innovations à tous crins plaquées sur quantité de problématiques que rencontre cette société, et défi technologique déterminé par la rivalité les opposant aux américains.
C’est ainsi en Chine, avec l’IA, une course à l’artifice. Le simulacre - comme image du progrès, du futur - y est ainsi prépondérant. Dans cette surenchère, la Chine tend ainsi à « précipiter » en quelque sorte le mythe, à réaliser l’intelligence artificielle (voir là-bas l’explosion des avatars/robots, intelligence artificielle devenue PDG, etc. [44]), sans s’embarrasser du millénarisme, proprement occidental, dont on peut douter qu’il trouve écho dans la société chinoise - que ce soit l’avènement d’une IA consciente ou, encore moins, le mythe négatif de la singularité.
La science-fiction, dans l’établissement des technologies de l’intelligence artificielle, n’y a ainsi pas non plus ce rôle prépondérant qu’il a dans notre société (mais le dystopisme chinois est lui-même perçu, depuis l’Occident, comme de la S-F, et alimente à son tour le mythe de l’IA : cette sorte de spontanéité de l’artifice, en Chine, qui à distance fascine l’Occident).
Observons enfin une limite, à présent, dans l’appropriation par la Chine de ces technologies : les modèles de langage appréhendés comme purs outils de propagande. Les différentes censures numériques, locale ou vis à vis du réseau mondial, ne permettent pas d’alimenter suffisamment en données ces « agents » (sans compter les différentes langues parlées en Chine, qui posent eux aussi un problème pour entraîner ces modèles) [45]. L’IA comme dispositif, particulièrement l’IA générative, repose en effet sur un jeu de miroirs, et l’image doit rester plausible (ChatGPT produit des textes qui « font illusion »), mais un système de censure absolue semble ici un frein au développement de ces technologies : l’image en miroir serait par trop déformée.
Il est ainsi permis, paradoxalement, de voir, en l’Occident davantage qu’en la Chine (bien que celle-ci subisse aujourd’hui ces technologies dans ce qu’elles ont de pire : crédit social, surveillance globale), une plus grande disposition au modèle dystopique global de l’intelligence artificielle. La Chine, en tant que dystopie techniciste, ne semblant pas faire totalement système (bien que principe fondamental de gouvernance, la technologie ne s’y substitue pas à l’État - le modèle chinois ne tend pas, via l’IA, à un cybernétisme : c’est encore l’État qui contrôle les algorithmes).
L’IA, toujours en puissance, serait ainsi dans notre société une préparation sans fin à la dystopie, à la « société technicienne » (régie plus que par des principes techniques). Mais l’intelligence artificielle n’est aussi qu’un rêve d’automate.
« La Technique entre forcément dans un monde qui n’est pas inerte » observe Ellul. « Elle ne peut se développer que par rapport à lui. Aucune Technique ne peut se développer hors d’un certain contexte économique, politique, intellectuel, si autonome qu’elle soit. Et là où ces conditions ne sont pas réalisées, la Technique avorte. » (ST, p. 42) L’illusion avec l’IA consiste au fond à croire qu’elle se développe dans un milieu à son image, totalement artificiel, inorganique.
De même Ellul précise à plusieurs reprises, par rapport à l’hégémonie du système technicien, que « dire que la Technique est le facteur déterminant ne signifie pas qu’il soit le seul. » (ST, p.29) L’horizon dystopique distillé par le mythe de l’IA - par l’appropriation des thèmes de la S-F par la technoscience – ne fait que perpétuer le règne de la technique, de la gouvernementalité algorithmique, du pouvoir en place, et n’est rien de plus.
La question très simple à poser, au fond, serait : combien de temps encore va-t-on courir après cette dystopie, c’est à dire après cette illusion ? Si l’on ne touche potentiellement jamais le fond avec l’IA, la panoplie d’éléments perturbateurs, qui viendront à un moment ou à un autre - sans même forcément y penser - gripper la machine, est elle aussi sans limites.
Dans ce tableau du rapport complexe entre IA et dystopie, il faudrait aussi voir en regard, dans une étude plus vaste, la question, importante, de l’art [46]. En tant que représentation humaine (les modèles de langage), l’IA est à la frontière de l’art et de la technique (l’automate). Mais elle est négation de l’art en ce sens qu’elle tend vers le simulacre pur, l’identité.
Dans sa relecture du mythe prométhéen - qui est d’une certaine façon l’art de la science-fiction, depuis Mary Shelley - on ajoutera que le chercheur en intelligence artificielle ne métaphorise pas mais réifie, réduit la métaphore à un défi technique, détruit tout symbolique.
« Tout se passe comme si le phénomène technicien possédait en lui une sorte de force de progression qui le fait s’orienter indépendamment de toute intervention extérieure, de toute décision humaine. Il obéit à un certain nombre d’automatismes. Mais nous disons bien : « Tout se passe comme si... », il n’est pas dans notre esprit de formuler la théorie d’une sorte de dynamisme, une mystique de la progression d’un être nouveau. […] » (ST, p. 240) Ainsi, renvoyer à l’inverse l’intelligence artificielle à cette métaphore - celle finalement du système technicien - c’est réduire à néant la fiction, ce millénarisme délétère, dont elle tire toute sa substance.
L’IA ne fait que traduire ce refus, de notre société, de penser le phénomène technique, l’autonomisation du système technicien, par cette projection mythique : sacralisation qui elle-même systématise l’aliénation de l’homme par la technique.
Mais sommes-nous si empêtrés dans le mythe qu’on ne puisse pas, en retour, subvertir ce récit ?
Ellul semble avoir décelé l’origine du problème central de l’autonomisation de la technique dans son essai Le Bluff Technologique (bien qu’il n’y fasse pas directement allusion, peut-être car il avait beaucoup été attaqué sur cette thèse de l’autonomie de la technique, dix ans plus tôt) : « C’est bien en effet la conviction fondamentale de tous que la technique peut accomplir tout notre désir de puissance, et qu’elle est, en elle-même, omnipotente », note-t-il, mais c’est aussi cette « croyance absolue du monde « moderne » qui implique le renoncement absolu de l’homme à la maîtriser : il lui délègue sa puissance ! » (p. 295) Ici se loge l’irrationalité du système technicien, mais aussi de l’intelligence artificielle, leur caractère fondamentalement illusoire. De l’idée de maîtrise (rationnelle) de la technique à l’idée de puissance par la technique, il y a là « une incroyable contradiction ».
Sur cette « mystérieuse » prééminence de la technique dans nos sociétés, on connaît la célèbre loi de Gabor : « Ce qui peut être fait techniquement le sera nécessairement » (1971) (qui fait écho à ce que disait déjà Ellul, dès les années 1950 : « Parce que tout ce qui est technique, sans distinction de bien et de mal, s’utilise forcément quand on l’a en main. Telle est la loi majeure de notre époque. » (La T., 1954)). Le rapport de l’homme à la technique déborde en réalité très largement le cadre du rationnel. La technique est devenue ainsi pour l’homme, grisé, l’objet d’une « transcendance noire » [Hottois], ce qui lui apparaît comme un « engendrement aveugle et muet du futur » [47].
C’est à partir du présupposé de la neutralité de la technique, affranchie en quelque sorte de toute espèce de questionnement moral, que s’enclenche le phénomène technicien : « la technique n’est rien en soi. Elle peut donc tout faire. Elle est vraiment autonome. » ((La T., 1954). La technique ayant - tout autant que son autonomie - sa raison ou logique propre. Elle est apparence de liberté, elle « peut tout faire », mais en se déchaînant nous enchaîne, ne s’avère être qu’une opération sur l’homme, une rationalisation systémique de son univers.
L’intelligence artificielle, et notamment le problème de l’alignement des intelligences artificielles, synthétisent cette ambivalence. La notion d’alignement est cette idée de contrôle de l’IA, de régulateur « éthique » (afin, au bout du compte, de rendre ces techniques viables, légales, de les « normaliser »). Elle résume bien cette contradiction, cette inadéquation absolue entre la croyance de l’homme en l’« omnipotence de la technique » et la prétention souveraine qu’il a à la maîtriser : vouloir construire des outils si puissants que l’on finit par ne plus comprendre leur fonctionnement, et d’un autre côté, ensuite, vouloir illusoirement canaliser cette toute-puissance. Rendre l’IA de plus en plus autonome, par toute une panoplie de trucages techniques, faire en sorte, en somme, qu’elle nous échappe, et dans le même temps la cribler de règles, de codes, l’accompagner d’un fatras de lois (qui ne seront au fond que le reflet de ce que l’homme en contrepartie s’impose, s’inflige).
Les différents moratoires sur l’IA du printemps dernier, les projets de loi, de l’UE notamment et du gouvernement américain, cette notion même d’alignement, ne visent qu’à intégrer l’intelligence artificielle, à en envisager concrètement les cas d’usages et pratiques.
Il n’y a pas du reste d’un côté l’« intelligence » artificielle, et de l’autre, l’intelligence humaine, mais avec l’IA, le projet, à travers l’outil informatique, d’une intelligence modelable, manipulable, c’est à dire l’idée d’une intelligence réduite à une quantité, à une norme. C’est de cela, sous couvert d’un questionnement « éthique », qu’il est débattu.
Visionnaire, Ellul anticipe l’emprise à venir des nouvelles technologies, notant que « l’univers chiffré de l’ordinateur devient progressivement l’univers tenu pour réalité dans lequel nous nous insérons. » (ST, p. 114) La société pixelisée a succédé à la société du spectacle [Debord], l’homme spectral à l’homme aliéné. Si ChatGPT a tant fait parler, ce n’est pas tant qu’il y ait un risque que l’intelligence artificielle remplace l’intelligence humaine, ou qu’elle constituerait pour nous une « atteinte narcissique » [48] (!), c’est que le sens même du langage, de ce qui nous constitue, y est réduit à néant, et c’est que nous faisons le constat que toute la production de ce monde numérisé, qui est devenu notre monde « réel », pourrait aussi bien n’être plus générée que par des ordinateurs.
C’est ainsi l’insinuation d’un remplacement qui est bien plus marquante ou significative ici qu’un remplacement en tant que tel par les machines, car cette petite musique chuchotée à nos oreilles depuis l’avènement de ChatGPT suppose, bien plus que cette disqualification éventuelle, une acceptation, une auto-persuasion de l’homme s’envisageant comme technique (l’IA ne fait initialement que suggérer ou « entériner » une équivalence entre l’homme et la technique, et elle s’avère n’être, rappelons-le, qu’une inversion du sens du mythe).
Pour des raisons civilisationnelles, métaphysiques, l’IA pose davantage la question du choix, de la responsabilité de l’homme, que ce que laissait penser Jacques Ellul vis à vis du phénomène technicien. L’IA est avant tout un dispositif en miroir, un prisme technique, statistique. Mais au sens le plus métaphysique, prométhéen, ce miroir semble pouvoir également amener à une réflexion de l’homme, à un possible questionnement sur son rapport à la technique. L’image renvoyée semble pouvoir ne venir qu’après-coup et n’être que la moins flatteuse pour l’homme, celle d’une réification par la technique. Ce millénarisme, qui viendrait en outre statuer d’un basculement anthropologique, est aussi, cependant, une illusion, un mirage qui s’efface à mesure que l’on s’approche.
L’IA ne « réfléchit » pas vraiment, et elle n’est qu’un fantasme de notre système technicien, une image qui à la fin se dissipe. Une technique finissante, sans plus d’usage.
Si la responsabilité de chacun (notamment sur le plan politique, des marchés) se dilue chaque jour davantage dans le système technicien mondialisé, c’est toujours, face à cet état de fait de la technique, la notion de liberté qui est en jeu (cette notion, chez Ellul, est centrale : s’il démontre, de manière si implacable, tout à la fois l’hégémonie et l’impasse de ce système, c’est pour mieux paradoxalement revenir à cette liberté, qui fonde sa pensée [49]).
Le débat sur le profit, l’utilité, d’une telle technologie est trompeur, et il n’y a qu’un choix à faire en réalité avec l’intelligence artificielle qui est de sacraliser ou non la technique. Ellul ne se posait d’ailleurs ni en technophile, ni en technophobe, mais refusait en revanche toute cette sacralisation de la technique. Il faut simplement voir ce que désacraliser veut dire.
Gabriel Azaïs
