C’est un succès d’édition inattendu : un premier ouvrage paru en février dernier, Technopolitique, vendu depuis à près de 10 000 exemplaires (Edistat). Mais c’est aussi un succès tout court. Asma Mhalla, fraîchement docteure en études politiques, n’était pas destinée à emprunter le chemin, volontiers arpenté par les geeks ou des hommes, de l’analyse des Big Tech, ces géants technologiques que l’on appelle aussi Gafam (Google, Apple, Facebook, Amazon et Microsoft). D’origine turque et tunisienne, arrivée en France après le baccalauréat pour fuir une situation personnelle difficile, Asma Mhalla a travaillé d’arrache-pied, connu la misère puis la banque d’affaires, avant de se reconvertir dans la recherche.
Ce que souhaite cette politologue, chercheuse au laboratoire d’anthropologie politique de l’EHESS, c’est comprendre les relations de pouvoir qui nous lient aux Big Tech, et imaginer les moyens d’en sortir. Ce faisant, elle ramène la technologie à ce qu’elle devrait être, un moyen au service d’autres fins, et non un prétexte à ne plus faire de la politique. Un dessein louable et bienvenu, servi avec passion et éloquence, et dont elle a débattu avec L’Express.
L’Express : D’où vient votre passion pour l’analyse politique de la technologie, et plus particulièrement des Big Tech ?
Asma Mhalla : Ce sujet concentre tout ce qui me fascine, la violence intrinsèque que nous portons, les rapports de pouvoir et de domination, l’emprise, l’injustice, l’incapacité que l’on peut avoir à se défendre dans certaines situations, la lâcheté. Cela fait écho à mon enfance chaotique et malmenée.
Que s’est-il passé ?
J’ai grandi en Tunisie. Je suis issue d’un couple mixte turco-tunisien qui s’est déchiré. Mon frère, ma sœur et moi avons été éduqués dans des conditions très difficiles par mon père seul, mort depuis. Et j’ai vécu des situations où j’étais une cible, où je n’avais pas le droit d’exister et de parler, et cela m’a forgée. Je retrouve ces enjeux dans la question technologique. C’est comme si j’essayais, par cette étude, de mieux comprendre l’âme humaine. Ce n’est pas tant la technologie en soi qui m’intéresse que l’idéologie – les visées des humains qui sont derrière cette dernière ! Sam Altman, Elon Musk, Larry Page [NDLR : le cofondateur de Google]… toutes ces firmes sont au passage très masculines, alors que les femmes se trouvent souvent du côté des lanceurs d’alertes, comme Frances Haugen, ancienne de Facebook.
Comment en êtes-vous venue à faire des recherches sur ce sujet ?
Afin d’échapper à ma situation personnelle, je suis partie en France après le bac. J’avais eu la chance d’étudier au lycée français, ce qui m’a permis d’obtenir une bourse de la France. Me voilà en classe préparatoire à Paris puis à l’ESCP. Je n’ai pas vraiment choisi ce parcours, je ne connaissais rien d’autre. Je m’y suis ennuyée ferme, mais ces études m’ont permis de sortir de la misère. En arrivant en France, je ne connaissais personne et il m’est arrivé de dormir dans la rue. Cela m’a construite. Ce qui m’a sauvée, c’est le travail. Et faire aujourd’hui partie du système, c’est extraordinaire. Personne ne me l’a donné et je n’ai demandé l’autorisation à personne, y compris quand il s’agit d’analyser la technologie, ce qui, je le sais, dérange certains, et en particulier certains hommes.
Après l’ESCP, j’ai fait de la banque d’affaires et du conseil en stratégie, ce qui m’a permis d’acquérir une grande rigueur. Mais en 2016, je suis tombée malade d’épuisement. Mon hospitalisation de plusieurs mois m’a poussée à opérer un changement radical. Je me suis alors plongée dans ce sujet qui m’attirait et que je manipulais déjà, la question technologique.
J’avais en effet mené de nombreux projets liés à l’innovation. Mais il me manquait la vision du “système”. C’est toute cette connaissance que je me suis attaché à combler, par exemple par l’intermédiaire de travaux comme ceux du juriste américain Bernard E. Harcourt qui interprète la mécanique des réseaux sociaux par le prisme de Michel Foucault.
Comme le suggère l’étymologie du mot “technologie”, qui viendrait du grec tekhnê, le savoir qui porte sur une méthode de fabrication, la technologie est d’abord un outil destiné à augmenter la puissance humaine, c’est-à-dire un moyen au service d’autres fins. Or à vous lire, nous sommes entrés dans une ère où les Big Tech, en faisant “système”, constituent une fin en soi.
De nombreux philosophes, comme Martin Heidegger et Jacques Ellul, ont constaté cette inversion des fins et des moyens, mais ils n’étaient pas les contemporains des géants technologiques. La nouveauté est là. Le “solutionnisme” technologique [NDLR : la confiance dans la technologie pour résoudre tous les problèmes] n’est pas nouveau, il est inhérent au capitalisme et à l’ambition de l’efficience. Notre erreur collective, face aux Big Tech, a été de les analyser à chaud et en silo, chaque pièce technique l’une après l’autre. On parle du métavers, puis des cyberattaques, puis des câbles sous-marins, puis de l’intelligence artificielle (IA) générative [NDLR : l’utilisation de l’IA pour créer du texte, des images, de la musique, de l’audio et des vidéos], puis des implants cérébraux, sans avoir d’approche globale portant sur les acteurs qui conçoivent, financent et possèdent ces outils. C’est le point de départ de ma réflexion.
Quand on commence à relier ces produits les uns aux autres, un autre tableau apparaît. Par exemple, Starlink [NDLR : fournisseur d’accès à Internet par satellite de la société SpaceX] appartient à Elon Musk, qui possède aussi X (ex-Twitter) et Tesla. Cela fait système et c’est problématique. D’autant que les propriétaires de ces produits se résument à quelques hommes. Il y a une privatisation et une accaparation de ce que j’appelle l’”infrasystème”, une infrastructure à partir de laquelle se déploie absolument tout le reste : le fait social, politique, militaire, médiatique. Quand la compétition géostratégique entre les Etats-Unis et la Chine se joue sur l’IA, les Big Tech sont en première ligne. Cela redéfinit obligatoirement les concepts traditionnels de la politique comme la souveraineté, la démocratie ou la liberté d’expression. Nos acceptions anciennes doivent être renouvelées.
Pourquoi les Big Tech sont-ils si peu nombreux ?
Dans le modèle américain, que j’étudie parce que nous en sommes extrêmement dépendants, des entrepreneurs ont inventé, dans les années 2000, des plateformes grâce à des infrastructures qui leur préexistaient, comme Internet, financées par la Darpa [NDLR : Defense Advanced Research Projects Agency, une agence du département de la défense des Etats-Unis chargée de la recherche et développement des nouvelles technologies destinées à un usage militaire]. Ces entreprises sont devenues des géants grâce à la captation de l’attention des usagers ou “captation cognitive”, permise par un “design” finement étudié, et aussi en raison du phénomène “winner-takes-all” [NDLR : phénomène économique selon lequel un produit ou un service préféré à ses concurrents, ne serait-ce que légèrement, reçoit une part disproportionnée des revenus d’un marché]. Ils ont amassé une telle puissance financière qu’ils ont pu ensuite déployer une concentration verticale et horizontale, et surtout capter le Web.
Or c’est une contradiction avec l’utopie première du Web, qui était celle d’un accès libre, gratuit, décentralisé, total, à la connaissance. Nous sommes passés de l’économie de la connaissance au “capitalisme cognitif”, selon le terme du philosophe Yann Moulier-Boutang, le modèle de ces plateformes étant par nature oligopolistique, pour ne pas dire monopolistique. Sur chacun de nos téléphones, nous avons tous les mêmes applications appartenant aux Big Tech : Facebook, Twitter, Instagram, LinkedIn… la situation est d’autant plus inquiétante que les Big Tech vont de pair avec des “Big States”, des Etats omnipotents.
Des Etats omnipotents ? L’Etat contemporain ne se caractérise-t-il pas plutôt par sa faiblesse ?
L’Etat d’aujourd’hui est fort dans la mesure où, en maniant l’infantilisation, il en arrive à prétendre tout nous donner, y compris le guidage d’”hommes providentiels”. Et pour trouver des sources d’auto-légitimation, ces Etats se tournent vers les garanties sécuritaires… que les Big Tech leur fournissent grâce à leurs logiciels. Big Tech et Big States s’allient alors et, sous prétexte d’assurer notre sécurité, minent les libertés politiques. Or moi, je défends le droit à l’anonymat, le droit de ne pas être repéré, identifié, ciblé, suivi, le droit de ne pas être prévisible. Je défends l’individu contre le “dividuel”, cet individu réduit à ses caractéristiques numériques. Je défends le droit au “in” de l’individu, de l’indivision, de l’irréductibilité.
Faut-il s’inquiéter de notre éventuelle dépendance à ces plateformes ?
Non, pas du tout. Le philosophe Raphaël Enthoven dit une chose avec laquelle je suis en profond désaccord : il parle à cet égard de notre “servitude volontaire” envers ces applications. Le terme est inadéquat. Quand on comprend que ces plateformes font système, on ne peut pas culpabiliser leurs usagers.
Vous posez la question de notre liberté vis-à-vis des Big Tech, qui se sont approprié le Web. On pourrait comparer notre situation à celle du tiers état avant la Révolution française, qui ne jouissait pas de droits civiques et politiques. Or il a bien fallu que le tiers état exige des droits pour que le régime change.
Vous posez la question de la méthode. Je pose d’abord celle du principe. Comme pour le climat : il ne sert à rien de responsabiliser les individus si le système lui-même reste dépendant des hydrocarbures. Et pour défaire un système, il faut d’abord le comprendre. Il faut regarder la réalité en face, même si elle nous fait mal. Or je suis estomaquée de voir à quel point les gens méconnaissent le fonctionnement de ce système. S’il y a une responsabilité, elle est collective. Quand nous discutons de ces sujets, nous les prenons par le petit bout de la lorgnette. Par exemple, si l’on discute de ChatGPT, on parlera des capacités de l’outil et de l’excentricité de son fondateur, Sam Altman, sans regarder l’idéologie qui le sous-tend. En d’autres termes, il y a une dépolitisation de l’usage. OpenAI, le créateur de ChatGPT, vient de conclure un partenariat avec le journal Le Monde, mais je n’ai pas vu de débat émerger sur la dissymétrie qui existe entre ce géant et ce journal, sur le fait que Le Monde, ce faisant, se positionne comme fournisseur de contenus. Et Le Monde y est allé solo, et non comme un syndicat, un corps intermédiaire de négociation collective. Cet épisode est grave.
Autre exemple : la start-up Mistral AI, qui était censée être l’équivalent français de ChatGPT, vient d’annoncer qu’elle lançait un partenariat avec Microsoft en fermant son modèle, qui ne sera plus “open source”. Autant d’exemples qui témoignent du fait que les Big Tech sont l’infrasystème à partir duquel se déploie tout le reste. Ces quelques acteurs américains ne sont plus des entreprises privées, elles sont des acteurs politiques. Or elles ne rendent de comptes qu’au marché, quand elles sont cotées, ou… à elles-mêmes. Elon Musk ne rend de comptes qu’à lui-même. Cela pose évidemment problème.
Mais quel est leur agenda politique ? Ne leur prêtez-vous pas un dessein que ces entreprises n’ont pas ?
Il y a cinq ans, on pouvait encore s’interroger sur l’ampleur de cet agenda, aujourd’hui, tout est clair. Tous, d’Elon Musk à Peter Thiel en passant par David Sacks ou Sam Altman, ont un projet politique. Leurs outils sont des véhicules de vision, de biais, d’arbitrage, qui mettent en valeur certaines données plutôt que d’autres en fonction de filtres “éthiques” que le public ne connaît pas.
Je défends l’individu contre le “dividuel”, cet individu réduit à ses caractéristiques numériques
L’idéologie de ces acteurs est également évidente. Musk, dont on peut aisément retracer la pensée via ses tweets, est isolationniste et pro-Trump. Thiel, Sacks, Altman, sont tous des hommes de droite, de l’alt-right même, qui n’hésitent pas à prendre comme repoussoir une Californie supposée woke. Ils ont érigé un nouveau capitalisme “anti-woke”. Musk a même lancé Grok, le ChatGPT “anti-woke” !
Un autre problème de taille existe : leur puissance militaire. Starlink en Ukraine et à Gaza, Microsoft en cyber-défense en Ukraine… Pour le dire autrement, des trocs de souveraineté ont lieu, qui posent de sérieuses questions pour le long terme.
Pour vous, le problème est-il qu’Elon Musk soit anti-woke ou qu’il fasse de la politique ?
Musk pense ce qu’il veut. Le problème est que tout le système que je vous ai décrit lui octroie une place disproportionnée dans le débat sans qu’il ait reçu la légitimité politique qui devrait aller avec. Musk est reçu par Donald Trump comme un acteur clé. Cela pose un immense problème de représentativité non pas des jeux de données, mais de l’opinion. En d’autres termes, le problème ne réside pas dans les algorithmes, la façon dont les données sont produites, mais dans leur gouvernance. Car nous n’avons pas consenti à cette représentation – consentir aux conditions générales d’utilisation d’un site, ce n’est pas reconnaître une légitimité au propriétaire de ce site comme acteur politique.
Nous sommes pris en otage d’agendas de personnes sur lesquelles rien n’a de prise. Un exemple récent : aux Etats-Unis, la famille Gonzalez, qui a perdu sa fille dans les attentats de novembre 2015 à Paris, a intenté un procès à Google aux Etats-Unis, accusant le moteur de recherche d’avoir participé indirectement à l’apologie du terrorisme parce qu’il n’a pas “modéré” les vidéos de Daech. La famille a perdu son procès à cause du premier amendement de la Constitution, renforcé par la section 230 de 1996, le Communications Decency Act, texte qui exonère les plateformes de toute responsabilité éditoriale et qui était censée permettre, à l’époque, de fluidifier l’innovation. Les débats juridiques de ce procès ont été très intéressants, ils portaient sur le statut juridique de Google. Ne fallait-il pas considérer que Google et les autres étaient des “common carriers”, des transporteurs publics, au même titre que les chemins de fer ou les fournisseurs d’électricité, des fournisseurs d’un bien public ?
Dans ce contexte, on aurait pu repenser leur gouvernance en ouvrant celle-ci, non pas en nationalisant l’entreprise, ce qui ne fonctionne pas, ni en la démantelant, ce qui est idiot car Google est une extension de puissance face à la Chine. Une gouvernance publique-privée permettrait de discuter les enjeux politiques qui émergent en amont de la construction d’un produit. L’enjeu n’est pas de faire sans les Big Tech, c’est de faire mieux avec eux. Cela implique de repenser le progrès, qui n’est pas l’innovation en soi mais la façon dont la technologie peut accompagner un projet de société. Malheureusement, cette discussion n’a pas abouti, et ce débat reste absent de la Silicon Valley, qui préfère s’interroger sur la possible extermination de l’humanité par des super-intelligences ou sur la représentativité des algorithmes. Or la vraie question est de savoir si nous acceptons ou non un avenir où quelques-uns vont privatiser la politique, pendant que nous vivoterons en consommateurs dépolitisés.
En effet, comme le veut le dicton, “si c’est gratuit, c’est toi le produit”…
C’est pire, nous devenons de la ressource, de la matière première.
Parmi les solutions auxquelles vous nous incitez à réfléchir, vous évoquez celle des nouveaux droits que le citoyen pourrait exiger face aux plateformes. Mais vous contestez en même temps que l’échelon national soit le mieux adapté pour penser cette question. Est-ce possible ?
Nos représentations politiques reposent encore sur une conception westphalienne de la souveraineté, celle de l’Etat-nation. Alors oui, on ne peut pas en faire abstraction, et la géopolitique conventionnelle, aujourd’hui, valide ce modèle, d’autant que, comme je l’ai mentionné, les Big Tech vont de pair avec des Big States. Cependant, les souverainistes ont tort de penser que la réponse nationale suffit, parce que les infrastructures qui nous font face sont américaines, pas seulement au sens géographique mais politique. Elles sont des véhicules de soft et de hard power, qui bénéficient en outre de l’extra-territorialité du droit américain. Elles dépensent des centaines de millions, chaque année, pour peser dans les négociations réglementaires au niveau européen, pour influencer la fabrique de notre droit. Réglementer les Big Tech ne peut donc se faire qu’au plan transnational, transatlantique en l’occurrence. Et c’est possible : on oublie souvent que le nucléaire civil français, par exemple, s’est développé grâce à une technologie américaine.
Ce qui est intéressant au niveau national, c’est l’articulation multi-échelles. Ce n’est pas le national ou le supranational, c’est tout à la fois. Ce qu’on peut faire aussi, c’est reconnaître les domaines où la France a perdu la bataille, et se demander comment elle peut continuer à exister dans d’autres. En 2017, Macron a parlé à raison d’”autonomie stratégique”, c’est-à-dire de la capacité à maintenir un rapport de force avec notre allié, les Etats-Unis. Qu’est-ce que l’Europe et la France ont à mettre sur la table pour être entendus ? Pour l’instant, pas grand-chose à part des consommateurs, parce que c’est ainsi que l’Europe s’est construite. Il va donc falloir réindustrialiser le pays – c’est le travail que Thierry Breton [NDLR : le commissaire européen au marché intérieur depuis 2019] a commencé. Dans ce contexte, il nous faut adopter une véritable stratégie, et ne pas nous contenter de suivre les Etats-Unis en cherchant à créer ex nihilo des géants de la tech européens, ce qui restera impossible car nous n’avons ni les finances ni la culture qui le permettent. Cela fait trente ans que nous essayons et cela ne fonctionne pas. Il faudra être plus malin. Et il faudra d’abord avoir une vision – tout comme la Chine, les Etats-Unis en ont une. Que voulons-nous être dans dix, vingt ans ?
Technopolitique. Comment la technologie fait de nous des soldats, par Asma Mhalla. Seuil, 288 p., 19,90 €.
