Cauchemars et facéties #48

Sur l’internet, on trouve...

Cauchemardos - paru dans lundimatin#76, le 10 octobre 2016

Un magicien. Un compteur électrique sans caméra espion mais qui espionne quand même. Et ne pas oublier qu’« en passant à une société hyper-fragmentée, nous devenons de plus en plus sensibles à une société de contrôle qui repose sur la puissance algorithmique qui produit des groupes sociaux distincts, influencés par une surveillance des données qui n’est plus centralisée par un Etat, mais encodée par tous ceux qui ont intérêt à contrôler nos comportements ». Et ouais !

Magie, magie

On ressort un vieil article de rue89, qui avait découvert un « ingénieur informatique américain formé à Stanford » qui « explique comment les entreprises de la Silicon Valley nous manipulent pour nous faire perdre le plus de temps possible dans leurs interfaces. »

Comment es-tu devenu conscient de ces problèmes ?

Ça a commencé quand j’étais magicien — je n’étais pas un magicien très sérieux, je n’ai donné qu’un spectacle en terminale (rire). Mais il y a une façon de penser que la magie t’enseigne. Au lieu de penser à ce que l’esprit peut faire, il faut trouver ces petites asymétries de perception. Ce qui veut dire qu’il y a des choses qu’un magicien fait et que le public ne verra pas. Même si, quelque part, c’est juste devant leur nez. Ça t’enseigne les limites de l’attention et du choix.

Plus tard, à l’université, j’étais un ingénieur traditionnel en informatique à Stanford, j’ai travaillé chez Apple dans les logiciels en tant que stagiaire, à 19 ans, et j’étais très enthousiaste à l’idée que la technologie nous donnerait du pouvoir — il y avait Steve Jobs qui disait que les ordinateurs pouvaient être des bicyclettes pour notre esprit, nous donner le pouvoir de penser et d’agir différemment.

L’ingénieur en question a longtemps travaillé chez Google, après avoir été formé à la « persuasion technologique » (à Standford donc).

Ma dernière année à Stanford j’ai choisi le cours pour devenir membre du laboratoire de persuasion technologique de Stanford. Qui était assez connu en fait pour enseigner aux étudiants comment entrer dans la psychologie des gens, et rendre les produits plus persuasifs et efficaces.

« Persuasifs », ça semble bizarre comme mot dans ce contexte, mais ça veut dire : comment tu conçois un formulaire pour que les gens le finissent ? Si tu veux que quelqu’un ouvre un mail, comment tu le fabriques pour que ça soit le cas ?

Discipline ésotérique ? Pas dans la Silicon Valley…

On a appris toutes ces techniques, qui ressemblent à celles des magiciens. Dans ce cours, un des fondateurs d’Instagram était mon partenaire projet, et aussi beaucoup de gens qui avaient rejoint Facebook, qui sont ensuite devenus des designers et des psychologues importants dans l’entreprise. Donc j’ai vu sous mes yeux cette connexion entre les étudiants qui s’entrainaient à toutes ces stratégies et ces entreprises, qui utilisent ces principes tout le temps. Parce que c’est la clé du succès économique, faire en sorte que les gens passent le plus de temps possible sur leurs services.

La question est : quelle est la morale derrière ? Comment tu définis le bien ? Parce que ces gens, qui n’ont pas de mauvaises intentions en soi, ne sont pas des philosophes de 90 ans, mais de jeunes designers vivant à San Francisco.

Une fois chez Google :

Là-bas, j’ai rencontré des gens qui concevaient la sonnerie du téléphone, j’allais à des réunions où les gens se disaient « envoyons une notification à chaque mail ». J’étais dans des équipes qui allaient façonner l’attention de milliards de personnes.

Parce que j’avais été magicien, que j’avais appris la persuasion technologique à Stanford, je voyais à quel point Google et d’autres compagnies dans la tech allaient affecter la vie des gens et ça me préoccupait.

Après un an là-bas donc, je pensais déjà à partir, et je sentais qu’il y avait ce débat qui manquait à Google. Donc avant de quitter l’entreprise, j’ai décidé de faire une présentation, un manifeste.

J’y ai expliqué comment une poignée de personnes, des hommes pour la plupart, vivant à San Francisco, décidaient de la façon dont des milliards de personnes dans le monde utilisaient leur attention.

Ce ratio n’a jamais existé auparavant : qu’un si petit nombre de personnes deviennent les architectes en chef de ces sortes de villes invisibles qui connectent des milliards de gens entre eux, pas par des routes mais par le design d’un téléphone.

C’était un gros succès et on m’a offert de rester, ce qui était très généreux, pour penser et travailler sur ce problème qui pourrait être résumé par : « Si un petit groupe de gens décide pour une masse de personnes, quelle éthique devraient-ils utiliser ? »

Sa tâche (rendre la manipulation de l’attention « éthique ») a échoué et il a quitté Google.

Campagne de recrutement de la police

Mouchard

Avec un peu de retard nous voulons signaler le très complet dossier de Canard PC sur le nouveau compteur électrique « intelligent » d’ErDF : Linky. Ce dossier est disponible gratuitement (en PDF) et il revient sur les Smart Grid, les composants qui équipent le compteur et bien entendu l’ensemble des données qui sont transmises par ce dernier à ErDF.

C’est en effet l’angle abordé par ce dossier : la polémique autour du déploiement de ce nouveau compteur s’est trop focalisée sur l’éventuel problème de santé publique (la question des ondes), pas assez sur le flicage qu’il permet.

Nous expliquerons d’abord comment fonctionnent les nouveaux réseaux intelligents de distribution d’électricité (Smart Grid), avant de détailler précisément le projet, ses répercussions et son financement. En exclusivité mondiale (!), nous vous proposons ensuite une analyse technique détaillée des entrailles d’un compteur Linky, en passant à la loupe chacun de ses composants internes. Nous passons ensuite en revue toutes les polémiques actuelles, en particulier celles liées à la santé et à la vie privée, afin de démêler le vrai du faux. Que vous apportera Linky exactement ? Comment fonctionne-t-il ? Peut-il devenir un mouchard numérique ? Provoque-t-il la sclérose en plaques, la maladie d’Alzheimer ou le cancer ? Risque-t-il de griller le cerveau des bébés ou d’invoquer Belzébuth ? Ces questions vous concernent tous !

A lire ici, avant qu’un technicien ne sonne à votre porte.

Comme ça

Nous on préfère Signal à Telegram.

Vérité

Encore une fois, un article intéressant d’internetactu (« La propagande des algorithmes ? Vraiment ? »), qui revient sur la polémique lancée par Katharine Viner, rédactrice en chef du Guardian, qui a publié un long article sur Comment la technologie bouleverse la vérité.

L’article de Katharine Viner nous explique qu’à l’heure des réseaux sociaux, la vérité ne compte plus. La journaliste prend notamment l’exemple du Brexit détaillant le fait que les arguments de ceux qui ont fait campagne pour la sortie du Royaume-Uni de l’Europe se sont écroulés le lendemain même de l’élection. « Le Brexit a été le premier scrutin d’une nouvelle ère, celle de la politique post-vérité. Les partisans du maintien du Royaume-Uni dans l’UE ont bien – mollement – tenté de démontrer les mensonges du camp adverse en s’appuyant sur des faits, mais ils ont vite découvert que les faits ne pesaient pas lourd dans les débats ».

Pour elle, « les réseaux sociaux notamment ont renforcé l’absence de consensus, l’absence de vérité partagée. Les rumeurs et les mensonges l’ont emporté sur les faits ». Or, « combattre cette escalade de désinformation nécessite des organes de presse fiables pour parvenir à dissiper les rumeurs ».

Impossible de synthétiser la trop longue réponse d’internetactu, mais permettons-nous d’en citer quelques extraits.

On ne peut considérer les « médias sociaux » sans regarder les algorithmes qui redistribuent l’information qui y transite :

Les algorithmes des médias sociaux qui nous enferment dans nos bulles de filtres nous proposent une vision du monde soigneusement sélectionnée pour aller dans le sens de nos croyances et de nos convictions, nous éloignant de toutes réfutations. Sur Facebook, Tom Steinberg (@steiny), le fondateur de MySociety, au lendemain du Brexit, disait : « Je cherche activement des gens qui se réjouissent de la victoire des pro-Brexit sur Facebook, mais les filtres sont tellement forts et tellement intégrés aux fonctions de recherche personnalisées sur des plateformes comme Facebook que je n’arrive pas à trouver une seule personne contente de ce résultat électoral, et ce alors que près de la moitié du pays est clairement euphorique aujourd’hui »… Pour lui, il y a là un facteur de division extrêmement grave de la société : « nous ne pouvons pas vivre dans un pays où la moitié des gens ne savent strictement rien de l’autre moitié ».

Pour Ruskoff, l’environnement des médias numériques est différent [de la télévision] : il repose d’abord sur la polarisation et la distinction. Les médias numériques valorisent des choix binaires : ce que vous appréciez ou n’appréciez pas, ce avec quoi vous êtes d’accord ou pas, noir ou blanc, riche ou pauvre. Leur fonctionnement favorise une boucle de rétroaction qui auto-renforce chaque choix que nous faisons, qui personnalise nos contenus et nous isole davantage dans nos propres bulles de filtre. « L’internet nous aide à prendre parti » – pourtant, il faut rappeler que cette question de la polarisation reste discutée. Ce qui est sûr, c’est que les médias numériques offrent un environnement très différent de celui de la télévision.

De plus, ce nouvel état de fait, dans lequel il deviendrait si difficile de combattre la rumeur et la désinformation, n’est pas à mettre uniquement sur le compte des réseaux sociaux, mais plus généralement sur la façon dont est produite et diffusée aujourd’hui l’information :

Pour le spécialiste Jayson Harsin, c’est un ensemble de conditions convergentes qui ont créé les conditions de ce nouveau régime de post-vérité explique-t-il dans un article publié dans la revue Communication, Culture & Critique. Pour lui, ces changements ne relèvent pas seulement de la responsabilité des réseaux sociaux. Mais tiennent aussi du développement de la communication politique professionnelle et du marketing politique. Ils relèvent également du développement des sciences cognitives et comportementales et du marketing qui permet l’utilisation stratégique des rumeurs et mensonges de manière toujours plus ciblés, de la fragmentation des médias et des gardiens de l’information centralisée ; de la surcharge d’information et son accélération ; ainsi que des algorithmes qui régissent, classent et personnalisent l’information à laquelle on accède. Un ensemble d’éléments convergents qui empêche un retour à des formes antérieures de journalisme, comme l’appelle Viner.

Comme le souligne Harsin, même l’explosion du fact checking, cette pratique de vérification des arguments, n’a pas été capable de rétablir l’autorité des médias. Pire, estime-t-il, les rumeurs prennent une place de plus en plus importante dans l’économie de l’attention… Pourtant, souligne le chercheur, la surcharge informationnelle et la démultiplication de l’information ne sont pas des explications suffisantes. « La géographie de l’information et de la vérité s’est déplacée comme la temporalité de la consommation de médias : elle n’est plus délivrée le matin ou le soir, mais elle est composée de millions d’alertes et de vibrations (…) et les informations se déplient dans une économie de l’attention de plus en plus chargée affectivement et constamment connectée ». Pour Harsin, c’est la marque d’un changement du régime de vérité au profit de marchés dédiés qui produisent, planifient et managent l’information par l’entremise de l’analyse prédictive. L’information tient désormais plus d’un marché que d’un espace public et citoyen.

Passé à la moulinette French Theory, cela donne :

Selon lui, pour comprendre cette évolution, il faut entendre la différence qu’il y a entre la société disciplinaire de Foucault et la société de contrôle de Deleuze. En passant à une société hyper-fragmentée, nous devenons de plus en plus sensibles à une société de contrôle qui repose sur la puissance algorithmique qui produit des groupes sociaux distincts, influencés par une surveillance des données qui n’est plus centralisée par un Etat, mais encodée par tous ceux qui ont intérêt à contrôler nos comportements. Pire, conclut-il, ces systèmes visent, par nature, à nous faire admettre qu’il n’y a plus de vérité vérifiable, notamment parce qu’il n’y a plus d’autorité de confiance. Au final, cette capture de l’attention démobilise en favorisant l’acceptation du statu quo ou au contraire surmobilise pour bloquer toute remise en question de l’action politique ou plus de justice sociale.

Enfin, sur la politique comme se fondant (et oeuvrant sur) des données, des chiffres, non des faits :

Nous sommes entrés dans une industrie de l’information, une industrie des faits, où la connaissance devient si morcelée et abondante qu’elle ne parvient plus à être vérifiée ou interprétée. Or, souligne Davies, nous sommes au milieu d’une transition qui nous fait passer d’une société de faits à une société de données. […]Pour Davies, nous sommes confrontés à un volume sans précédent de données, mais celles-ci sont surtout utilisées pour recueillir le sentiment des gens. Les marchés financiers eux-mêmes ne sont plus tant des faits que des outils d’analyse des sentiments des investisseurs.

Dans un autre article sur le sujet, William Davies rappelle que selon l’historienne Mary Poovey, les faits sont nés avec l’invention de la comptabilité à double entrée. Ces mesures et méthodes se sont alors normalisées, mais sont également devenues apolitiques, permettant aux chiffres de se déplacer librement dans le discours public. La politisation des sciences sociales, des mesures, le développement de l’administration de la politique et des statistiques ont politisé les chiffres. La tentative de transformer la politique en exercice purement scientifique a participé à cette déconstruction des faits, comme l’expliquent également les travaux d’Alain Desrosières. Pour Davies, les chiffres et les faits, produits par les organismes publics indépendants peinent à être encore considérés comme indépendants alors qu’ils ont été des instruments puissants pour imposer l’autorité politique des ces 35 dernières années.

Rappel

Rappel (bis)

A Rennes, et dans beaucoup d’autres endroits :

Cauchemardos est le véritable roi d'internet. Suivez-le sur son compte tweeter @cauchemardos
hot
Mad Max : Fury Road - Capture de l’autre-monde

Une logique de la réparation.

4 déc. 16 - Positions, Littérature - 26 min

au hasard
La conspiration - Présentation

Brève histoire du génie.
Et des ingénieurs.

13 sept. 15 - Positions, Histoire - 2 min

lundimatin c'est tous les lundi matin, et si vous le voulez,
Vous avez aimé? Ces articles pourraient vous plaire :