La Chine mène des “campagnes d’influence” grâce à des contenus générés par intelligence artificielle (IA), affirme un rapport de l’entreprise informatique américaine Microsoft, publié ce jeudi 4 avril. Alors que des élections vont avoir lieu en Inde, en Corée du Sud et aux États-Unis en 2024, “la Chine va, au minimum, créer et amplifier des contenus générés par l’IA pour servir ses intérêts”, précise le billet de blog du Centre d’analyse des menaces de Microsoft, qui présente le rapport. “Bien qu’il soit peu probable que ces contenus influent sur les résultats des élections, les expériences de plus en plus nombreuses de la Chine […] pourraient s’avérer plus efficaces à l’avenir”, alerte le document.
D’après ce dossier, des acteurs en ligne liés au gouvernement chinois utilisent de plus en plus l’IA pour recueillir des informations sur des sujets qui divisent l’opinion dans différents pays. Ils utilisent par exemple de faux comptes sur les réseaux sociaux pour “poser des questions litigieuses sur des sujets nationaux américains controversés afin de mieux comprendre les questions clés qui divisent les électeurs américains. Il pourrait s’agir de recueillir des renseignements et des précisions sur les principales caractéristiques démographiques des électeurs avant l’élection présidentielle américaine”, analyse le Centre d’analyse des menaces.
“Ces tactiques ont été utilisées dans des campagnes visant à attiser les divisions aux États-Unis et à exacerber les dissensions dans la région Asie-Pacifique, notamment à Taïwan, au Japon et en Corée du Sud”, détaille le rapport.
Désinformation et menace sur des élections
Plus concrètement, le rapport explique que ces comptes ont faussement affirmé que les incendies de Maui (Hawaï) d’août 2023 “ont été délibérément déclenchés par le gouvernement américain pour tester une’arme météorologique’de qualité militaire”, en utilisant des photos de feux géants générées par IA. Les posts de ce type demandent ensuite à leurs abonnés de réagir, ce qui permettrait de connaître leur profil et ce qu’ils pensent du sujet. Des informations qui pourraient être exploitées “afin d’améliorer la collecte de renseignements sur les principaux groupes démographiques qui votent aux États-Unis”, selon Microsoft.
L’élection présidentielle taïwanaise de janvier 2024 a également été marquée par “une forte augmentation de l’utilisation de contenus générés par l’IA” lors d’opérations menées par des acteurs affiliés au parti communiste chinois, précise Microsoft : “C’est la première fois que Microsoft Threat Intelligence constate qu’un acteur étatique utilise du contenu généré par l’IA pour tenter d’influencer une élection à l’étranger.” Une fausse bande audio générée par IA a ainsi été publiée sur Youtube le jour de l’élection, dans laquelle le candidat à l’élection Terry Gou, qui s’était retiré de la course en novembre 2023, soutenait un autre candidat pour la présidence – une déclaration qui n’existait pas.
En septembre 2023, déjà, le Centre d’analyse avait signalé que de faux comptes avaient commencé à se faire passer pour des électeurs américains dans le but d’influencer les élections américaines de mi-mandat de 2022.
Un impact limité, pour l’instant
Alors que les populations d’Inde, de Corée du Sud et des États-Unis se rendent aux urnes cette année, le rapport juge “probable que des cyberacteurs d’influence chinois” s’efforcent “de cibler ces élections”. Il rappelle toutefois que “l’impact de ce type de contenu sur le public reste faible”, mais que l’augmentation des expérimentations “pourrait s’avérer efficace à terme”.
Ce rapport intervient alors qu’une commission d’examen nommée par la Maison Blanche “a déclaré qu’une “cascade d’erreurs”, commises par Microsoft, avait permis à des cyber-opérateurs chinois soutenus par l’État de s’introduire dans les comptes de courrier électronique de hauts fonctionnaires américains”, rappelle le journal britannique The Guardian. En mars, les gouvernements américain et britannique ont accusé des hackeurs soutenus par la Chine d’avoir mené pendant des années une campagne de piratage d’ampleur visant des hommes politiques, journalistes et entreprises.
