Un ami à moi à la tête d’une grande société de production pour la télévision, qui vit dans la ville automobile de dingues qu’est Los Angelès, découvrit il y a peu qu’une jeune stagiaire chinoise débutant dans la mise en scène, venait à pied au Studio.

Il lui proposa un vrai moyen de transport. Elle déclina l’offre, expliquant qu’elle «avait besoin de ses pas» enregistrés sur son Fitbit, un capteur de mise en forme, afin d’alimenter son compte sur les réseaux sociaux. Si elle tombait sous le nombre de pas requis, son indice de santé et de bonne forme tomberait d’autant, entraînant la chute de son Indice social sous surveillance directe des autorités chinoises. Pareil indice l’empêcherait de travailler et de voyager à l’étranger.

L’Indice social des individus, annoncé par le Parti communiste chinois en 2014, fera bientôt partie de la vie des masses chinoises.

En 2020, si le plan tient ses objectifs, chaque pas, chaque frappe d’ordinateur, chaque «Like», chaque «Je n’aime pas», chaque contact avec autrui, chaque Post, dûment pistés par l’Etat, affecteront l’Indice social des individus.

De points de mérite et de confiance récompenseront ou puniront les individus comme les sociétés, leur ouvriront ou leur dénieront l’accès aux services publics, santé, voyage, emplois, si l’on en croit un plan publié l’an dernier par la municipalité de Pékin. Les individus au score élevé se retrouveront dans un «canal vert» d’où accéder à toutes sortes d’opportunités sociales, tandis que ceux qui auront agi dans un sens que l’Etat réprouve seront «incapables de faire un pas».

Big Brother devient une réalité en Chine. En Occident, la menace de systèmes de surveillance par les autorités, intégrés aux capacités de données en masse de sociétés comme Facebook, Google, Microsoft et Amazone, dans un gigantesque Œil qui voit tout, semble inquiéter très peu de gens. Même des pays comme le Venezuela se sont mis à copier le modèle chinois.

Analyse des données versus droit à la vie privée

Mais cela ne peut pas nous arriver à nous, n’est-ce pas ? Ne possédons-nous pas des iPhones dernier cri ; ne sommes-nous pas des clients privilégiés d’Amazone, et non les obligés d’un Etat à parti unique ? Nous sommes des consommateurs malins qui savons bien que Facebook piste nos interactions, que Google nous vend sa salade.

Il n’y a pas lieu d’imaginer que ceux qui dirigent ces mega-compagnies technologiques aient quelque intérêt à laisser des façons de faire de l’ère pré-digitale interférer avec les modèles d’entreprise et d’affaires du vingt-et-unième siècle qui sont les leurs, pas plus que les barons voleurs du dix-neuvième siècle ne se souciaient des lois ni des malheureux au voisinage de leurs voies ferrées ou de leurs entreprises sidérurgiques.

Il n’y a pas lieu davantage d’imaginer que les technologues qui font marcher ces gigantesques monopoles de données sur notre consommation aient une meilleure idée que nous du futur qu’ils nous préparent.

Facebook, Google et les autres monopoles qui se partagent ces données de masse ont élaboré des marqueurs de comportement et des signaux, à une échelle et à un rythme que peu d’entre nous comprennent. Données qu’ils analysent, empaquètent et vendent à tous leurs partenaires.

Un aperçu des mécanismes internes du commerce mondial des données personnelles a été possible grâce à un rapport de 250 pages en décembre dernier d’un comité parlementaire britannique qui portait sur des centaines d’emails échangés entre les hauts dirigeants de Facebook. Entre autres choses, ce rapport montrait à quel point Facebook avait manigancé pour obtenir en continu des SMS actualisés et des demandes de données d’usagers comme vous et moi à partir de leurs téléphones Android. En réponse, Facebook affirma que ces usagers, pour que la compagnie puisse avoir accès à leurs textes et leurs appels, avaient choisi de participer.

Les machines et les systèmes que les techno-monopolistes ont bâtis nous changent plus vite qu’eux-mêmes et nous n’en prenons la mesure. L’échelle de ce changement est si vaste et systémique que, simples humains, nous ne pouvons en produire la mathématique, pour une bonne part parce que l’usage incessant de nos smartphones a obéré notre capacité à nous intéresser à quoi que ce soit de plus de 140 ou 280 caractères.

Quant au droit à la vie privée, il fait désespérément vieux jeu et semble impraticable face aux systèmes de données toujours plus invasifs, dont les yeux et les oreilles – à savoir nos smartphones –, nous suivent absolument partout, mettant à mal notre croyance que les droits individuels, la liberté de parole et d’opinion, sont d’une manière ou d’une autre des choses sacrées.

Etre câblé en compagnie de milliards d’humains dans d’immenses réseaux soumis à la médiation de machines pensantes est une expérience que nul n’avait jamais connue. Les meilleurs guides que nous ayons de cette réalité accélérée sont peut-être les expériences totalitaires du vingtième siècle et la science fiction.

 

La rapidité avec laquelle les droits de l’individu à la vie privée sont en train de dépérir dépend de la vitesse à laquelle le Big Tech et l’appareil de sécurité américain consommeront jusqu’à son terme une relation qui n’a cessé de les rapprocher durant cette décennie. Tant que les agences américaines de surveillance n’auront pas un accès régulier et en temps réel au gigantesque réservoir de données collectées par Google, Facebook et Amazone, il sera anecdotique et de plate évidence de suggérer que ces planètes hier encore distinctes que sont le Big Tech et les agences de surveillance américaines, se fonderont très vite en un seul monde bureaucratico-d’entreprise, dont le pouvoir de tracer, trier, éclairer, manipuler et censurer les citoyens débouchera sur une version douce du Big Brother chinois.

Cette tendance angoissante s’accélère parce que le Big Tech est de plus en plus redevable vis-à-vis de Washington, peu porté à tuer la poule aux œufs d’or des taxes qui remplissent ses coffres et confortent son assise politique. Une des sociétés qui dépense le plus pour ses activités de lobby à Washington en 2017 était Alphabet, une compagnie parente de Google, qui, selon le Centre pour une Politique Réceptive, a dépensé plus de dix-huit millions de dollars. Faire pression sur le Congrès et le gouvernement aide des compagnies de technologie comme Google à gagner de juteux contrats gouvernementaux. Mais plus important, cela sert de bouclier contre les tentatives de régulation d’une activité à ce point lucrative.

Si l’on se borne à mesurer le flot de dollars que le Big Tech déverse sur Washington, les firmes d’avocats, l’appareillage pour lobbying et les think tanks, on mésestime considérablement l’influence que le Big Tech exerce en-deça du Périphérique. En s’offrant le Washington Post, Jeff Bezos, le patron d’Amazone, a pris le contrôle direct du journal à demeure de Washington. En établissant un de ses deux quartiers généraux dans la Virginie du Nord voisine, il s’est fait l’employeur numéro un de toute la région, avec 25.000 emplois à la clé.

Qui aura ces emplois ? L’an dernier, le service d’Amazone sur la Toile a annoncé l’ouverture d’une nouvelle section secrète en son sein, fruit d’un contrat de dix ans et de six cents millions de dollars que la compagnie signa avec la CIA en 2014. Ce contrat fait d’Amazone son fournisseur exclusif en ce qui concerne le service des nuages d’information, sur toute la gamme des classifications de données, y compris les données non classifiées, les données sensibles, les données secrètes et même top secrètes, selon un communiqué de presse d’Amazone elle-même.

Dès que les serveurs d’Amazone au service de la CIA furent en place, la NSA (L’Agence pour la Sécurité Nationale) ne tarda pas à suivre, et annonça son intégration dans ce projet de mega-données. L’an dernier, l’Agence transféra une grande part de ses données dans un nouvel environnement d’évaluation classifiée, connu sous l’appellation de Nuage gouvernemental de la communauté du Renseignement, un gigantesque environnement de données fusionnées, ainsi que le site d’information NextGov le décrivait, permettant aux analystes du gouvernement de «connecter les points» à travers toutes les sources de données, qu’elles soient ou non classifiées.

La création de IC GovCloud devrait provoquer un frisson dans le dos de quiconque comprend combien ces systèmes sont puissants et combien par nature ils se dérobent aux formes classiques de surveillance, dont les registres de traçabilité sont, en comparaison, d’une insigne pauvreté.

L’IC GovCloud d’Amazon fut bientôt contrecarré par une version sécurisée de Microsoft de son service Azur nuage gouvernemental, taillé pour l’usage de dix-sept agences de renseignement. Amazone et Microsoft seront, à n’en pas douter, les deux soumissionnaires pour le système de nuage sécurisé du Pentagone, le JEDI, l’entreprise commune pour l’Initiative de Défense, un contrat d’un seul bloc pour qui l’emportera, d’au moins dix milliards de dollars.

Avec tant de marmites pleines d’or au bout de l’arc en ciel qu’est Washington, c’est un jeu d’enfant pour les compagnies opérant dans la haute technologie que de détourner nos données personnelles – qui, légalement, sont les leurs – et de les livrer aux agences de renseignement, s’assurant de la sorte des profits garantis. Telle est la menace qui apparaît désormais au grand jour. C’est une chose avec quoi nous devrions compter dès maintenant, avant qu’il ne soit trop tard.

Dans la réalité, le Big Tech et les agences de surveillance sont d’ores et déjà partenaires. Selon un rapport de Reuters de 2016, Yahoo a mis au point un logiciel pour filtrer les emails de ses usagers et rediriger les messages comportant un mot déclencheur spécifique, vers la NSA.

Le responsable de la sécurité chez Yahoo démissionna dès qu’il eut connaissance de ce programme. «Yahoo est respectueuse des lois et se conforme à celles des Etats-Unis», affirma Yahoo dans un communiqué qui ne réfutait en rien l’activité en question, laissant ainsi entendre que détourner des données à l’intention d’agences gouvernementales de renseignement est légal.

Alors que Google avait déclaré qu’il ne fournirait aucune donnée personnelle à des agences gouvernementales, cette politique ne vaut qu’à l’intérieur des frontières de l’Amérique. Au même moment où Yahoo abreuvait la NSA de données de ses usagers, Google développait un moteur de recherche appelé le Dragon Volant, en collaboration avec le Parti communiste chinois. Dans une lettre que s’était procuré Intercept, le patron exécutif de Google Sundar Pichai disait à un groupe de six Sénateurs que Dragon Volant procurerait de larges bénéfices en Chine et à l’extérieur, mais refusait de révéler de plus amples détails à propos du programme, ajoutant que le concepteur en chef de ce moteur de recherche, Ben Gomes, informerait l’état-major de Google de sa parution au début 2019.

Selon des documents obtenus par Intercept, Dragon Volant limiterait l’accès à de larges pans d’informations, bannirait des phrases telles que Droits humains, protestations estudiantines, Prix Nobel, dans le même temps qu’il connecterait les recherches en ligne à un numéro de téléphone d’usager et tracerait leur localisation et leurs divers mouvements, le tout impactant l’Indice social des individus ou pire, bien pire, pour peu que l’on soit Ouighour ou que l’on appartienne à une autre minorité musulmane en Chine, dont plus d’un million d’adeptes sont retenus dans des camps de rééducation. La surveillance digitale en Chine est un outil-clé grâce auquel les autorités identifient et traquent les Musulmans et d’autres catégories sociales, en grand besoin d’être rééduquées.

Google s’active aussi avec les services de renseignement américains et le complexe de Défense, en vue d’intégrer ses capacités en intelligence artificielle dans les programmes d’armement. A l’heure-même où Google envoyait sa lettre au Congrès à propos de Dragon Volant, la compagnie bouclait un accord avec le Pentagone pour la poursuite du projet Maven, qui vise à incorporer des éléments d’intelligence artificielle dans des drones d’attaque, un contrat attendu valoir au bas mot deux cent cinquante millions de dollars l’an. Sous la pression de ses employés, Google a déclaré en juin qu’il ne renouvellerait pas ce contrat à son expiration en 2019.

Il n’est pas besoin d’être atteint de paranoïa aiguë pour imaginer à quelles collaborations en profondeur les compagnies détentrices de données de masse et les agences de surveillance gouvernementales pourraient s’adonner, ni pour s’effrayer où tout cela pourrait nous mener. «Notre information quotidienne et jusqu’à ce qui nous est de plus intime est en train d’être armé et retourné contre nous par l’hyper-compétence de la chose militaire.», a mis en garde le patron d’Apple Tim Cook à l’occasion de son discours à la Conférence internationale sur la protection des données et les Commissaires à la protection de la vie privée, à Bruxelles. «A l’extrême, ce processus crée un profil digital durable et permet aux compagnies d’en savoir plus sur vous que vous n’en savez vous-même. Votre profil est un conglomérat d’algorithmes qui alimentent des contenus toujours plus extrêmes, martelant nos innocentes préférences jusqu’à les transformer en maux.»

Cook n’hésita pas à nommer ce processus par son nom : «N’enrobons pas les conséquences de sucre. Cela s’appelle purement et simplement de la surveillance.»

Alors qu’Apple met un point d’honneur à ne pas déverrouiller ses iPhones et ses montres malgré la pression toujours plus grande des lois et des agences de surveillance, des compagnies comme Google et Facebook qui engrangent d’énormes profits en analysant et empaquetant les données de leurs usagers, relèvent de motivations opposées.

Amazone, qui collecte et analyse les données de ses usagers et vend une large gamme de dispositifs domestiques intégrant microphones et caméras, offre aux agences de surveillance des opportunités particulièrement alléchantes de leur reproposer microphones, caméras et données.

La compagnie a déjà été mise en demeure par des juges qui lui ont ordonné de retourner des enregistrements sur du matériel Echo, réalisés, semble-t-il, sans que ses usagers en aient été avertis. Selon un mandat de recherche d’un juge chargé d’un double meurtre dans le New Hampshre, mandat que s’était procuré TechCrunch, la cour avait de bonnes raisons de croire qu’un Feu Echo avait fait une capture de l’attaque ainsi que des évènements qui avaient précédé et qui suivirent. Amazone déclara à Associated Press qu’elle ne transmettrait pas ces enregistrements sans une demande d’obligation légale en bonne et due forme, ce qui laissait entendre que les enregistrements en question existaient bel et bien.

En foi de quoi, les conditions pour qu’Amazone autorise les agences de renseignement gouvernementales à accéder aux données des consommateurs ou user de son vaste réseau de microphones et de caméras comme d’un réseau de surveillance, sont des questions restées à ce jour sans réponse. Comme Washington continue d’acheter du matériel et des systèmes hors de prix à des compagnies telles que Google et Amazone, il est difficile d’imaginer que les spécialistes à chaque extrémité de ces relations mutuelles ne soient pas déjà à l’œuvre pour intégrer outils, systèmes et données dans un même pot commun.

L’optimisme technologique et la vision utopique de monopoles d’information

L’envers de cette vision paranoïaque d’une surveillance d’Etat croissante est ce rêve que les nouveaux systèmes d’analyse et de circulation de l’information deviennent des forces en faveur du bien et non du diable. Quid si Google aidait la CIA à développer un système qui filtrerait les Fake news, ou si un nouvel algorithme Facebook aidait le FBI à identifier des tueurs potentiels d’écoliers avant qu’ils ne massacrent leurs camarades de classe ? Si les êtres humains sont des machines à calcul rationnelles, filtrer les informations que nous recevons nous conduira-t-il à prendre de meilleures décisions ? Et fera-t-il de nous des gens meilleurs ?

De tels espoirs naïfs ont une longue histoire derrière eux. L’optimisme technologique remonte aux origines-mêmes de l’ordinateur, dans la correspondance entre Charles Babbage, l’inventeur anglais au dix-neuvième siècle qui imagina la machine différente» – le premier modèle théorique des ordinateurs – et Ada Lovelace, la brillante futuriste, fille du poète romantique Lord Byron.

«Le moteur analytique», écrit Lovelace dans une de ses notes sur les travaux de Babbage, «devrait agir sur d’autres choses que le nombre, là où les objets trouvent quelles relations mutuelles fondamentales, peuvent être exprimées par la science abstraite des opérations, relations qui seraient susceptibles d’adaptations aux opérations de notation en même temps que soumises au mécanisme du moteur. Supposons, par exemple, que les relations fondamentales entre les tons et les sons dans la science de l’harmonie et de la composition musicale soient susceptibles d’une pareille expression ainsi que d’adaptations : le moteur devrait être en mesure de composer des pièces de musique scientifiquement élaborées, quelles qu’en soient la complexité et l’extension.»

Voilà une assez bonne description des principes du son digital ; elle préfigure et prédit étrangement l’extension vers laquelle tant de nos informations personnelles, jusqu’aux choses que nous percevons comme douées de propriétés naturelles parfaitement distinctes, pourront être converties en zéros et en uns.

Les techno-optimistes de l’ère victorienne qui, les premiers, eurent la vision d’un paysage digital que nous savons inhabité, imaginèrent que des machines pensantes seraient un facteur d’harmonie dans le monde et non le contraire, qu’elles seraient capables de créer de belles musiques et d’inventer des modes d’expression des «relations fondamentales» de toutes sortes, selon un pur calcul mathématique.

L’idée que l’ingénierie sociale pourrait contribuer à produire une société efficiente et juste fut reprise en écho par les progressistes américains du début du vingtième siècle. A la différence des socialistes européens de l’époque qui se faisaient les champions de la force organique des communautés locales, ces progressistes américains tels Herbert Croly et John Dewey eurent foi dans l’avènement d’une nouvelle race de grands prêtres de la science qui remodèleraient la société de fond en comble selon un pur calcul utilitaire.

La lignée de ces progressistes – qui ne s’apparentent pas à la fraction progressiste du Parti démocrate d’aujourd’hui – va de Woodrow Wilson aux champions du New Deal comme le Secrétaire à l’Intérieur de Roosevelt, Harold Ickes. L’élection en 2008 de Barack Obama, un technocrate bien intentionné qui s’identifiait étroitement avec le personnage de Spock dans Star Trek, a donné à cette vieille religion du progrès par la science une nouvelle jeunesse à gauche, inaugurant une relation douillette entre le Parti démocrate et les milliardaires techno-monopolistes qui s’étaient auto-façonnés comme des libertariens, sceptiques quant au gouvernement des hommes.

«Amazone a fait de grandes choses pour un nombre immense de gens» a dit le leader de la minorité au Sénat, Chuck Schumer, à Kara Swisher de Recode dans un entretien récent, au cours duquel le même s’est prononcé en faveur de Facebook et Google : «Je me rends dans nos modestes compagnies technologiques et je demande : “Comment Google vous traite-il à New York ?” Bon nombre me répondent : “Bien mieux que nous l’aurions pensé.”» Les Big Tech et leurs directions sont heureuses de renvoyer la balle et font des dons à leurs amis progressistes, au premier rang desquels Chuck Schumer.

Mais les relations douillettes entre les Démocrates et la Silicon Vallée ont été mises à rude épreuve en novembre 2016 quand Donald Trump battit Hillary Clinton, en partie grâce à sa maîtrise des medias sociaux, Twitter en tête. Dénoncer l’élection comme le résultat des bottes russes ou d’un accord secret avec Poutine trahit un choc, à l’endroit de ce que la Gauche considérait comme sa propriété culturelle et qui s’est retourné contre elle sous la vague d’un populisme de droite dont les penchants autoritaires inspirent la peur et la répugnance à l’élite technocratique autant qu’à la base démocrate.

Alors qu’entre de bonnes mains, continuent de songer les progressistes, les monopoles d’information seraient de puissants outils pour régénérer une société gangrenée par le racisme, le sexisme et la transphobie. Les machines à penser peuvent apprendre à expurger la mauvaise information et les pensées socialement négatives. Les bons algorithmes, par opposition à ceux dont usent Google et Facebook, pourraient censurer les néo-nazis, les pourvoyeurs de discours haineux, les bottes russes et les transphobiques, tout en découragent les électeurs de réélire Trump.

La sagesse venue du peuple qui, en théorie, sous-tend l’ADN de plateformes comme Twitter, pour peu qu’elle soit propulsée par des cercles d’experts, pourrait mobiliser une volonté collective de justice, justice qui s’en verrait renforcée jusque dans les enceintes des institutions les plus rétrogrades et auprès des individus du même acabit. Il en résulterait que l’ordre social serait meilleur ; voire même, comme la spécialiste des données de masse (les fameux data) Emily Gorcenski l’a dit, ce serait carrément une révolution.

Le rêve d’un contrôle centralisé sur les pourvoyeurs d’information en situation de monopole peut servir des fins politiques plus prosaïques, à ce que, par exemple, des politiciens confrontés à un paysage digital fracturé et tumultueux reprennent espoir. En amont des élections de mai prochain au Parlement européen, le Président Macron à signé un accord avec Facebook, qui arrête que des officiels français rencontreront régulièrement des dirigeants de Facebook en vue d’endiguer les discours de haine.

Le programme, qui se prolongera après ces élections, n’a pas découragé les émeutiers parmi les Gilets jaunes qui ont mis le feu dans Paris et d’autres villes françaises, tandis que courait le bruit chez les tenants des media proches de Macron qu’un changement dans l’algorithme des nouvelles locales sur Facebook était peut-être responsable des émeutes.

A la base, la vision utopique de monopoles d’information boostés par l’intelligence artificielle et programmés pour faire avancer la justice sociale fait sens si et si seulement vous vous figurez que les humains et les machines «pensent» de la même façon. Que les machines «pensent» ou que les gens pensent comme les machines n’a cessé d’être débattu depuis cinq siècles. Ces débats ont donné naissance aux sociétés libérales modernes, dont les assomptions fondamentales et les garanties qui vont avec sont menacées aujourd’hui par l’irruption de la culture digitale.

La pensée et les rêves de justice sociale par la voie digitale

Récapitulons brièvement cette histoire. Au dix-septième siècle, le philosophe Leibnitz se plut à penser à la nature de ce qu’est penser. Son plus éloquent adepte américain, le philosophe de Berkeley John Searle posa cette question essentielle de Leibnitz en ces termes : Imaginons que vous ayez appris à une machine à parler chinois et que vous l’enfermiez dans une pièce en compagnie d’un homme qui, lui, ne parle pas chinois. La machine se mettrait à produire des cartes et des sentences sur ces cartes, tandis que l’homme prendrait ces cartes en main et les glisserait hors de la pièce par une ouverture. Pouvons-nous dire, demande Searle, qu’il y a quelqu’un ou quelque chose dans la pièce qui comprend le chinois ?

Si vous pensez comme Searle et Leibnitz que la réponse est non, vous admettez que penser est une expérience subjective, un processus biologique pratiqué par le cerveau humain, lui-même localisé dans le corps humain. Par définition, celui-ci n’est pas une machine, et les machines ne pensent pas, même si elles peuvent accomplir des exploits quantitatifs en multipliant des nombres à l’infini à une vitesse vertigineuse.

Alain Turing a donné une réponse non dénuée d’élégance à la question de Leibnitz et de Searle, en affirmant que la seule vraie marque de la connaissance est l’aptitude à se penser soi-même. Depuis que nous construisons des machines qui résolvent leurs propres problèmes et se débarrassent elles-mêmes des virus qui les affectent, ces machines sont auto-averties de façon innée, en conséquence de quoi rien, en théorie, ne peut les arrêter d’évoluer jusqu’à atteindre une taille qui rivalise avec celle de HAL, l’ordinateur dans le film de Stanley Kubrick, 2001 : L’Odyssée de l’espace.

Qu’a à voir cette histoire de penser ce qu’est penser, avec les rêves de justice sociale par la voie digitale ? Pour Hobbes qui fut l’inspirateur de la théorie du contrat social de Locke, penser n’était rien de plus que calculer, au plein sens mathématique. Hume qui développa les idées de Hobbes dans sa théorie de la raison, pensait que toutes nos observations et nos perceptions n’étaient rien d’autre que des impressions au niveau de l’atome, dont nous ne pouvions faire sens à moins de les interpréter comme reposant sur une compréhension utilitariste de nos besoins, comprenez la tentative de tirer le meilleur bénéfice d’une opération-dite.

Si l’on suit Locke et Hume et que l’on tient que les êtres humains pensent comme des machines, alors les machines peuvent penser à leur tour comme des êtres humains, et même mieux. Un ordre social régi et régulé par des machines programmées pour s’affranchir des préjugés humains tout en optimisant le calcul utilitariste, est, en conséquence, une voie suffisamment plausible d’imaginer une société bonne. Ces machines dédiées à la quête de la justice seraient nos anges gardiens, elles nous aideraient à bander l’arc de l’histoire en quête de résultats que tous les êtres humains, dans leur meilleur état d’innocence comme dans leur état le plus rationnel, pourraient ou devraient désirer.

L’origine du calcul social utilitariste et son récit fondateur selon lequel la pensée serait comme une forme d’évaluation, est la théorie du contrat social. Sans du tout que ce soit une coïncidence, ces mythes développés à l’aube des sociétés occidentales furent durement ébranlés par une révolution dans les technologies de la communication, à savoir l’introduction de l’imprimerie, qui apporta à toute l’Europe le texte de la Bible non moins que les écrits de petits cercles d’humanistes italiens et allemands. La diffusion de l’imprimerie s’accompagna de la prolifération du miroir manuel qui permit à des individus sans qualité de se regarder dans une vraie réflexion d’eux-mêmes, à peu de chose près de la façon dont nous utilisons nos iPhones pour faire des selfies.

La révolution de l’information : de l’impact météorique de l’imprimerie à celui du smartphone

Presque chaque région de l’imagination humaine et de l’activité humaine – depuis la science jusqu’à la littérature, de la peinture et de la sculpture à l’architecture – a été radicalement transformée par le double impact météorique de l’imprimerie et du miroir à main, qui tous deux ont donné naissance aux découvertes scientifiques, à de grandes œuvres d’art, à des idées politiques inédites qui n’ont cessé depuis de façonner nos modes de penser, de vivre et de travailler.

L’imprimerie brisa le monopole sur le savoir spirituel et temporel détenu par l’Eglise depuis un millénaire, ouvrit les découvertes d’Erasme et les écrits polémiques de Luther à une large audience et nourrit la Réforme protestante qui prônait que les croyants capables de lire la Bible et de se voir dans leur propre miroir pouvaient avoir un contact avec Dieu sans autre médiation. Ce qui fut l’apanage de quelques-uns devenait la propriété de tous, et le vieil ordre social qui avait régi les existences en Europe depuis mille ans s’effondra dans ses grandes largeurs.

En Angleterre, la diffusion de l’imprimerie et des miroirs conduisit à la révolution antimonarchique de Cromwell, qui fut un échec sanglant. Quant à la Guerre de Trente ans entre catholiques et protestants et leurs armées de mercenaires en Europe centrale et orientale, elle reste le conflit le plus destructeur par tête d’habitant de toute l’histoire de l’Europe, les deux guerres mondiales comprises.

La révolution de l’information aiguillonnée par l’apparition des technologies digitales s’avère plus radicale encore que la révolution Gutenberg. C’est probablement aussi une révolution sanglante. Notre incapacité à saisir de l’intérieur cette révolution grandiose – au sens où l’information est rassemblée, analysée, utilisée et contrôlée –, devrait nous effrayer. C’est cette incapacité à comprendre qui fit que les deux fractions de droite et de gauche composant l’élite américaine ont accepté comme une bonne chose la fusion du complexe militaire et du renseignement américains avec les Big Tech, comme si le contrôle centralisé sur l’information créait de nouvelles failles à exploiter entre rivaux.

La tentative de soumettre l’espace informationnel américain à une forme de contrôle public-privé directif aura été rendu possible – et même rendu nécessaire aux yeux de nombre de gens de droite comme de gauche – par l’effondrement de la presse institutionnelle à la fin du siècle dernier. Il y a deux décennies à peine, l’aura de la Presse était encore si grande qu’elle était dite le Quatrième Pouvoir, censeur en titre des Administrations en place. Ce terme n’est plus guère employé tant son monopole sur ce qui s’imprimait et ce qui se disait a vécu.

Pourquoi ? Parce qu’à l’ère où chaque possesseur de smartphone a une imprimante en poche, il n’y a aucune plus-value d’aucune sorte à posséder une imprimerie. La valeur en termes d’héritage d’une quelconque imprimerie a totalement dégringolé. Quand le mot imprimé était encore une vraie matière première, comparé à la somme totale de tous les mots écrits à la main par des individus singuliers, aujourd’hui presque tous les mots où qu’ils soient écrits sont partout disponibles en ligne. Ce qui est rare, et donc gorgé de valeur, ce ne sont plus les mots imprimés mais des fractions de notre attention vis-à-vis de ce qui s’inscrit sur nos écrans.

Le marché des medias américains aujourd’hui est dominé par Gooogle et Facebook, ces plateformes quasi-illimitées qui contrôlent l’attention des lecteurs et, du coup, se taillent la part du lion pour la publicité en ligne. C’est pourquoi Facebook, qui, par ailleurs, est le premier diffuseur de fausses nouvelles, vaut 426 milliards de dollars, quand Newsweek a changé de mains en 2010 pour un maigre milliard, et pourquoi encore des titres de magazines qui nous étaient familiers n’existent plus sous la forme-papier.

La différence opératoire et fonctionnelle entre les nouveaux medias d’aujourd’hui et ceux d’il y a à peine deux décennies n’est pas la différence entre les reporters à l’ancienne du New York Times et les blogueurs actuels pondant à la chaîne des vues et des opinions arrêtées depuis leur bureau. La vraie différence est entre tous ces gens des medias, qu’ils soient anciens ou nouveaux, et les programmateurs et les dirigeants de compagnies comme Google ou Facebook. Tout un ensemble de fonctions sociales-clé – communication des idées et de l’information – a été transféré d’un monde de compagnies opérant sous un ensemble de valeurs et de lois, à un autre monde, à un groupe de compagnies bien plus puissantes, qui opèrent sous des lois qui n’ont plus rien à voir, et se pensant elles-mêmes comme radicalement différentes.

Selon la section 230 de l’Acte de bonne conduite en matière de Communication, les pourvoyeurs d’information sont protégés en matière de diffamation contre les poursuites coûteuses et les risques, que les éditeurs, eux, courent. Ces protections ont permis à Google et Faceboook de monter leur affaire au dépens des éditeurs de «vieux medias», qui ont de plus en plus de mal à payer des reportages originaux et les rédactions qui vont avec.

Les medias d’hier ont promu et donné un large écho à des histoires qu’une majorité d’Américains pouvaient à juste titre tenir pour «vraies». Tout cela a été remplacé par la création et l’amplification de contenus plus extrêmes les uns que les autres. La laideur qui pollue la parole publique n’est pas un hasard ; c’est une des caractéristiques de base de ce grand jeu médiatique, structuré par et fonctionnant pour des monopolistes milliardaires, et qui met tout en œuvre pour un usage addictif de ses contenus.

Le résultat a été la création d’un vide social toxique au cœur de la démocratie américaine, vide à partir duquel les monopolistes que sont Google et Facebook ont sucé tout l’argent possible, laissant leurs millions d’usagers mûrs pour une surveillance de bas en haut, les manipulations de toutes sortes et leur propre mise sous contrôle.

Aujourd’hui, la Presse écrite et le miroir sont combinés ensemble dans votre iPhone et les matériels du même genre, tous de surcroît interconnectés. D’ici dix ans, par la grâce de l’Intelligence artificielle, ces réseaux et les entités qui les contrôlent – gouvernement, agences, grandes sociétés privées, voire leur union à tous – voleront de leurs propres ailes. Peut-être que la meilleure façon de prévoir ce qui va se jouer est de regarder en arrière du côté des grands maîtres de la science-fiction, comment ils se sont colletés avec le futur qui est bel et bien, aujourd’hui, devant nous.

La machine versus l’humain

L’idée que des machines intelligentes seraient capables de concurrencer les êtres humains qui les auraient construites fut longtemps absente de l’imaginaire occidental, jusqu’au livre de Samuel Butler, Erewohn, paru en 1872. Surfant sur Darwin, Butler proposait que si les espèces, en raison de la sélection naturelle, évoluent au détriment des faibles, de même les machines. Qui, à leur tour, pourraient bien devenir auto-suffisantes. Depuis, la science fiction nous a inondés de guides parfaits imaginant à quoi ressembleraient des sociétés arbitrées ou carrément dirigées par ces machines intelligentes.

Comment ces dernières prendraient le pouvoir fut envisagé le premier par Karel Capek dans R.U.R., une pièce de 1921, d’où dérive le mot robot. Les automates de Capek ne sont pas des machines : Ils dérivent de la découverte d’une nouvelle matière biologique qui diffère de la notre en ceci qu’elle n’implique pas d’abus de quelque sorte que ce soit ni n’héberge des désirs indépendants. Dans cette pièce, les humains sont des dégénérés qui arrêtent de procréer et succombent sous le poids de leurs caprices les plus étranges et égoïstes, tandis que les robots, eux, restent infaillibles dans leurs calculations et se montrent d’infatigables travailleurs. Bientôt, les machines l’emportent, tuent tous les humains sauf un ingénieur, qui travaille et pense lui-même comme un robot.

Au troisième acte de R.U.R., l’ingénieur, auquel les robots ont ordonné de disséquer d’autres robots pour les rendre meilleurs, est sur le point de porter un coup de couteau à deux d’entre eux, un robot mâle et un robot femelle, tombés amoureux l’un de l’autre. Chacun des deux implore que l’autre soit épargné. Comprenant qu’ils sont devenus humains, l’ingénieur les épargne et les déclare les nouveaux Eve et Adam. Ce thème si plein d’âme de la conscience de soi comme seule vraie mesure de notre humanité a été repris par des dizaines d’auteurs de science-fiction, à commencer par Philip K. Dick dans Les Androïds rêvent-ils de moutons électriques ?, qui a donné le film Blade Runner.

Suivront les dystopies d’Adlous Huxley, avec Le meilleur des mondes, et 1984 de Georges Orwell, qui en disent peu sur les périls menaçant les sociétés actuelles, tels que la fusion des mega-systèmes de données avec les réseaux sociaux, la surveillance généralisée des consommateurs et l’Intelligence artificielle. Ne lirions-nous pas les bons livres ? Plutôt que de remonter à Orwell pour se figurer à quoi la dystopie en cours pourrait ressembler, nous ferions mieux de lire Nous autres, écrit il y a près d’un siècle par le romancier russe Zamiatine. Nous autres est le journal d’un mathématicien d’Etat, D-503, qui fait l’expérience d’une violente émotion amoureuse totalement disruptive à l’endroit de I-330, une femme dont la combinaison des yeux noirs, de la peau blanche et des cheveux noirs l’a foudroyé. Cette perception qui relève tout autant des sentiments pousse D-503 à fomenter une conspiration contre l’Etat centralisé de surveillance totale dont il est un numéro.

L’Etat unique, que décrit Nous autres, est réglé par des mathématiques de bonheur avancées, administré par une combinaison de programmeurs et de machines. Alors que l’amour a été banni de l’Etat unique car discriminatoire et injuste, le sexe, lui, reste permis. Selon la Lex Sexualis, le code sexuel gouvernemental, «chaque numéro a droit sur un autre numéro comme objet sexuel.» Les citoyens, autrement dit les numéros, reçoivent des carnets de tickets sexuels roses. Après que les deux numéros aient signé leur ticket, ils disposent d’une heure de sexe, avec pour consigne de baisser les stores de leurs appartements de verre.

Zamiatine se montrait visionnaire, en imaginant l’opération et les soubassements moraux et intellectuels d’un Etat moderne de surveillance avancée dirigé par des ingénieurs. Et si 1984 explorait l’opposition entre le bonheur et la liberté, Zamiatine, lui, introduisait un troisième terme dans l’équation, qu’il tenait pour bien plus révolutionnaire et propre aux humains : la beauté. La perception de la beauté, soutenait Zamiatine tout au long de pages que Leibnitz et Searle eussent approuvées, est innée chez l’homme, et en conséquence ne peut en rien se concilier avec la logique des machines ou n’importe quel calcul utilitaire sur la justice.

Dans Nous autres, le rôle du bonheur utilitaire est incarné par l’Intégral, un vaisseau spatial gigantesque fait de machines calculatrices, qui «obligera à passer sous le joug de la raison tous les êtres inconnus qui peuplent les autres planètes et qui vivent peut-être encore dans cet état de sauvagerie qu’est la liberté.» En éliminant la liberté et toutes les causes d’inégalité et d’envie, l’Etat unique proclame qu’il garantit un bonheur infini au genre humain, via une équation parfaite que l’Intégral distribuera dans tout le système solaire.

En réalité, les relations sexuelles sont bel et bien le lieu géométrique de l’envie et de l’inégalité entre les êtres dans l’Etat unique, où le pouvoir repose entre les mains d’une élite invisible qui s’est retranchée derrière les nuages. Mais la vraie menace qui pèse sur l’idéal de bonheur incarné par l’Intégral n’est pas l’inégalité entre les êtres ni l’envie ou le pouvoir invisible. C’est la beauté, qui n’est ni rationnelle ni égalitaire et qui, en même temps, n’exclut quiconque ni ne restreint les plaisirs d’autrui, mais, en revanche, fruste et sape tout calcul utilitaire. Pour D-503, la danse est belle, les mathématiques sont belles, le contraste entre les yeux noirs, les cheveux noirs et la peau blanche d’I-330 est beau. Beauté est la réponse à une question urgente de D-505 : «Qu’il y a-t-il au-delà ?»

La beauté est l’exemple ultime de la non-liberté humaine et de la non-raison humaine, mais une pure subjectivité enracinée dans notre biologisme de même que dans des absolus comme le sont les rapports et les proportions mathématiques ou le mouvement du temps. Ainsi que l’a écrit le critique Giovanni Basile dans un essai extrêmement pénétrant, L’algèbre du bonheur, l’utopie implicite de la dystopie de Zamiatine est «un monde dans lequel le bonheur est entrelacé avec la non-liberté naturelle, que personne n’impose à quiconque : une liberté différente de celle par laquelle le Grand Inquisiteur protège le genre humain : une liberté paradoxale qui ne recèle nul “pouvoir” autre que celui qui serait ab ovo dans la nature des choses elles-mêmes, en musique, dans la danse et dans l’harmonique des mathématiques.»

A l’encontre d’un Etat de surveillance centralisée imposant un ordre immobile et faux, un bonheur illusoire, au nom d’un calcul utilitaire de «justice», conclut Basile, Zamiatine envisage une utopie différente : «En fait, seul l’Ici et maintenant de la beauté peut faire que l’équation du bonheur puisse être considérée comme pleinement vérifiée.» Les êtres humains ne cesseront jamais d’être en quête de beauté, insiste Zamiatine, parce que, précisément, ils sont des humains. Ils rejetteront et détruiront toute tentative de réordonner leurs désirs selon la logique des machines.

Un réseau national ou global de surveillance qui use d’algorithmes salvateurs en vue de remodeler les pensées humaines ainsi que nos actions dans une forme que les élites pensent être juste et bénéfique pour le genre humain, n’est en aucune façon le chemin vers un nouvel Eden. C’est un chemin qui mène droit vers la prison des camps. La question aujourd’hui – comme à d’autres moments semblables du passé – est de se demander combien de temps il nous faudra avant d’admettre que l’énigme de l’existence humaine ne trouve pas sa réponse dans une équation. La résolution de l’énigme est du ressort de chacun pour soi-même, elle est à tirer de notre propre substance, en des moments dont la durée n’est qu’un rêve.

David Samuels, journaliste et écrivain, contribue au New York Times Magazine, à Harper’s, à N+1 ainsi qu’au New Yorker.

(Traduit de l’anglais par Gilles Hertzog)


© 2019, David Samuels. Originally published in Wired . All rights reserved.