- Commençons peut-être par la troisième partie de ton livre, puisque c’est de notre présent qu’il s’agit. Depuis quelques années la Chine suscite de nombreux fantasmes que la pandémie actuelle n’a fait qu’exacerber : contrôle omniprésent, État omnipotent, cybersurveillance, 5G, crédit social et docilité de la population ... Qu’en est-il réellement ? Ces technologies sont-elles si « efficaces » que cela ?
- Efficaces au regard de quels objectifs ? S’il s’agit de savoir à quel point des algorithmes de reconnaissance faciale sont capables dans n’importe quelles conditions et sans erreurs d’identifier un individu à tout moment sur un territoire, on peut rappeler l’expérience vécue il y a déjà quatre ans par un journaliste de la BBC (voir la vidéo), retrouvé en moins de 7 minutes par le système de surveillance de la ville de Guiyang à partir d’une simple photo. En quatre ans, le nombre de dispositifs et les capacités des algorithmes ont été décuplés. Mais la puissance d’une technologie ne se limite pas à sa dimension technique, mais aussi au discours qu’elle génère sur une population. De manière anecdotique, prenons Le Lac aux Oies Sauvages, sélectionné à Cannes en 2019, qui met en scène un petit gangster rattrapé par le système de surveillance. Ce que montre indirectement le film, c’est que ces dispositifs font désormais partie intégrante de la vie citadine en Chine. S’il s’agit de savoir si les systèmes que tu mentionnes permettent la surveillance la plus systématique et la censure la plus efficace de l’histoire, alors oui, ils sont d’une efficacité redoutable, parce qu’ils altèrent la perception et les comportements. Sur les réseaux sociaux Weibo ou Wechat, la censure n’a pas attendu les intelligences artificielles capables d’interpréter le langage naturel. Auparavant, le Parti Communiste Chinois avait déjà décentralisé la censure vers les entreprises elles-mêmes, les rendant responsables des contenus présents sur leur plateforme, et donc contraintes d’embaucher, déformer et surtout de définir elles-mêmes de ce qui ou non pouvait passer la censure. Si ta question est celle de l’efficacité, quoi de plus efficace que de forcer les individus et les organisations à penser elles-mêmes comme des censeurs ? Est-ce que l’existence même d’un système comme le crédit social ne joue pas exactement ce rôle : inciter les individus à se conformer ?
- Le crédit social est peut-être ce qui suscite le plus de crainte vu d’ici. Y-a-t il une chance de voir celui-ci s’imposer en France ou en Europe ? N’est-t-il pas, de manière insidieuse, déjà en train de s’imposer à travers la généralisation des systèmes de notation déjà utilisés pour l’octroi de prêts bancaires ou de polices d’assurance ?
- Les systèmes de notation de type credit rating existent aux États-Unis et au Royaume-Uni depuis les années 80. De ce point de vue, c’est plutôt l’élève chinois qui a dépassé le maître, ajoutant aux historiques financiers d’un individu les données disparates captées et produites par l’ensemble des dispositifs connectés à internet : réseaux sociaux, systèmes de surveillance, etc. A moins d’un basculement total des principes démocratiques en Europe, il est peu vraisemblable qu’un système officiel omniscient et omnipotent couvrant l’ensemble des activités numériques des citoyens ne voie le jour. Ce qui ne veut pas dire que des systèmes équivalents pour policer les comportements ne soient pas massivement déployés : certains asymétriques (notez votre chauffeur quand vous prenez un Uber, votre livreur quand vous recevez une commande...), d’autres symétriques (si vous ne respectez pas l’éthique de leurs plateformes, les algorithmes d’Instagram ou de Tinder ne mettront pas en avant votre profil). S’ils ne sont pas centralement orchestrés par un Parti unique, ces dispositifs ne sont à dire vrai pas si différents du système de crédit social. Sept ans après la publication du premier document décrivant son fonctionnement, il n’existe toujours pas de système de crédit social déployé uniformément dans le pays, mais bien un ensemble de prototypes développés par des autorités locales ou des acteurs privés, communiquant entre eux de manière obscure. Mais comme pour le dispositif de surveillance, le véritable enjeu du système ne réside pas dans son efficacité technique. Ce qui compte, c’est que les citoyens, de par la simple connaissance de l’existence du système, policent leurs comportements. En Occident, le système de crédit social a un rôle d’épouvantail ; il sert à distancer les dispositifs de contrôle présents de l’autre côté de la Grande Muraille, comme appartenant à un cyberespace qui n’aurait rien à voir avec le nôtre. Il n’est d’ailleurs pas anodin qu’il ait massivement investi l’imaginaire des spectateurs occidentaux au travers d’un épisode de Black Mirror produit et diffusé par Netflix, intitulé Nosedive.
-
Malgré tout, comment se fait-il que des technologies qui n’existaient pas il y a 20 ans (le smartphone par exemple) et étaient encore balbutiantes il y en a dix aient pu s’imposer aussi largement et aussi rapidement dans un pays comme la Chine ?
- Là encore, il y a deux niveaux de réponse pour expliquer l’émergence de ces technologies : des conditions techniques, ou disons techno-économiques, et des conditions sociétales. Au moment où explose l’usage du smartphone, il y a une douzaine d’années, la Chine est encore une société non-bancarisée : peu d’individus ont accès à des services bancaires, l’essentiel des paiements se fait en liquide. Les ordinateurs personnels étaient inaccessibles à l’essentiel de la population une décennie auparavant ; le smartphone devient le moyen d’offrir aux consommateurs tous les services pré-existant dans les économies occidentales, mais sans le poids de l’héritage et des infrastructures de technologies obsolètes : cartes de crédit, bureaucratie, etc. Ces services (banque, paiements, etc), peuvent être repensés à neuf, en incluant toutes les données (géolocalisation, réseaux sociaux) disponibles sur les utilisateurs. Et surtout, en étant délestés de toute contrainte réglementaire, puisque les lois, par exemple sur la protection de la vie privée, arrivent toujours avec quelques années, voire décennies, de retard sur les industries qu’elles réglementent. Le deuxième élément de réponse sur la dimension sociétale, c’est simplement le type de séquence que nous avons vu se dérouler à l’automne dernier en France. Tout à coup, au nom de la crise sanitaire, des technologies considérées comme tabou – au premier rang desquelles la reconnaissance faciale – ont leur place dans des débats à l’Assemblée Nationale pour parler de ce qui s’appelle alors loi de Sécurité Globale. En Chine, l’escalade sécuritaire a commencé par se déployer au Xinjiang en réponse aux émeutes de 2009, puis à la vague d’attentats terroristes de 2014. Le Xinjiang est une région trois fois plus étendue que la France pour vingt-cinq millions d’habitants, dont peinent aujourd’hui à sortir quelques images et témoignages de camps de concentration dans lesquels vivraient un million de Ouïghours. C’est bien au nom de la lutte contre le terrorisme qu’ont été acceptés de tels dispositifs de surveillance, dans une région périphérique, avant de se déployer dans l’ensemble du pays.
- Revenons maintenant un peu en arrière. Comment se fait-il qu’internet, qui, comme tu le décris dans le livre, naît, au moins pour partie dans l’ambiance contre-culturelle de la Californie de l’après-guerre et suscite beaucoup d’espoirs dans de nombreuses communautés hippies qui parsèment alors le sud-ouest des États-Unis, soit devenu aujourd’hui le socle même des dystopies les plus effrayantes ?
- Internet – de même que les intelligences artificielles, et plus tard l’ordinateur personnel, le web ou même les cryptomonnaies – naît à la confluence d’un certain nombre de mouvements de pensées, de théories, d’idéologies. L’une des plus importantes est la théorie cybernétique. Je pense que le terme n’évoque plus guère à la plupart des gens que des films de science-fiction un peu désuets ou des œuvres de futurologie mal vieillies. Mais la cybernétique a eu une influence primordiale dans les années 60 ; elle est structurante dans la manière dont on pense aujourd’hui l’écologie ou les sciences cognitives. Pour faire simple, la cybernétique est une approche qui consiste à modéliser n’importe quel système– y compris des organismes vivants, des écosystèmes, des sociétés – en termes d’actions, de réactions, et de transmission de signaux entre les différents nœuds du système. Appliqué au réseau internet, l’ensemble des nœuds du réseau – ordinateurs, serveurs, mais aussi les êtres humains qui interagissent à travers ce réseau – constitue donc un système dont on peut prédire et contrôler le comportement, à condition d’avoir le contrôle sur les informations et les signaux qui transitent à l’intérieur du réseau. On fait facilement le lien entre une telle vision et par exemple l’affaire Cambridge Analytica, ou encore le système de crédit social. Facebook est profondément cybernétique ; pour autant, lorsque Zuckerberg, à vingt ans, utilise les outils de programmation web disponibles en 2004 pour créer un réseau social, il n’est évidemment pas conscient de tout cet héritage idéologique. Mais c’est bien l’une des propriétés les plus puissantes des technologies : une fois en place, elles conditionnent notre manière de penser et de créer.
-
Dans ton livre, tu évoques de nombreuses figures littéraires bien connues comme George Orwell, Aldous Huxley ou William Gibson mais également Ayn Rand. Peu connue en France, elle a pourtant écrit un livre, Atlas Shrugged (La Grève), considéré comme l’un des plus influents aux États-Unis après la Bible. Quel rôle a-t-elle joué dans cette histoire et pourquoi l’évoquer dans ton livre ?
- Comme Zamiatine et Huxley, Ayn Rand a écrit, dix ans avant Orwell et donc avant la Seconde Guerre mondiale, un roman de science-fiction décrivant une contre-utopie totalitaire. Contrairement à eux, elle a aussi décrit l’idéologie politique qui, selon elle, constitue la réponse à la menace totalitaire : l’objectivisme, qui promeut l’individualisme et la liberté, notamment économique, à tout prix. Rand est une égérie pour le mouvement libertarien qui prend de l’ampleur aux États-Unis à la fin du XXe siècle, incarné par des figures comme Alan Greenspan, président de la Banque Fédérale de 1987 à 2006 – et qui vécut une histoire d’amour contrariée avec Rand dans sa jeunesse. Au début des années 90, la cyberculture se rapproche des mouvements libertariens ainsi que de Newt Gingrich, qui sera président de la Chambre des représentants de 1995 à 1999, les années où sera promulgué le Telecommunications Act. Sous les présidences de Greenspan et de Gingrich, la vague de dérégulations dans les télécoms aura un impact plus ou moins direct sur la constitution de la bulle internet, et sur la toute-puissance ultérieure des plateformes de contenus. Dans les années 2000, la plupart des figures emblématiques de la Silicon Valley se réclamaient du mouvement libertarien. Mais il n’est pas certain que cela dure. Cybernétique ou libertarianisme ne sont que deux des idéologies incorporées à l’intérieur du grand récit de la cyberculture. C’est d’ailleurs pour moi la caractéristique principale de la cyberculture, ce qui la rend si difficile à définir : plutôt qu’une idéologie fixe, elle opère par syncrétisme, à l’image de la religion romaine qui incorporait au fur et à mesure les croyances, religions et idéologies des peuples alliés comme des peuples conquis. Et l’idéologie a déjà commencé à muter : depuis déjà un certain nombre d’années, bien avant qu’elle ne devienne l’objet de programmes présidentiels en France en 2017, soutenir un Revenu Universel de Base était déjà devenu une position consensuelle dans la vallée. Une technologie est un objet pensé, qui répond à une idéologie : lorsque les faiseurs de technologies embrassent une idéologie, il faut comprendre pourquoi. C’est sur le terrain idéologique que doivent se dessiner les technologies.
