OpenAI informe avoir banni un groupe de comptes, soupçonnés d’être liés à la Chine communiste et utilisant ChatGPT pour des campagnes d’influence. (Image : GoldenDayz / envato)
Le géant de l’intelligence artificielle OpenAI a publié un nouveau rapport de veille sur les menaces le 10 juin. Il indiquait avoir banni un groupe de comptes, soupçonnés d’être liés à la Chine communiste et utilisant ChatGPT pour des campagnes d’influence.
Utilisation de ChatGPT pour des campagnes d’influence
Ces comptes utilisaient ChatGPT pour générer un grand nombre de publications, commentaires, articles et caricatures politiques sur les réseaux sociaux, dans le but d’influencer le débat public américain sur l’intelligence artificielle, l’expansion des centres de données et la politique tarifaire, comme l’indique OpenAI dans son rapport de 14 pages publié en juin et intitulé Des opérations d’influence liées à la RPC ciblent les débats sur l’IA aux États-Unis.
OpenAI précise que ces activités se sont principalement déroulées entre fin 2025 et début 2026. Bien que leur ampleur globale soit restée limitée et qu’elles n’aient pas eu un large écho sur les réseaux sociaux, elles montrent que des opérations d’influence étrangères commencent à utiliser l’IA générative pour intervenir dans les débats politiques et économiques américains.
Selon OpenAI, l’une de ces opérations était baptisée Data Center Bandwagon. Les participants utilisaient des commandes en chinois pour inciter ChatGPT à générer du contenu en anglais, en chinois et dans d’autres langues, afin de promouvoir l’idée que la construction de centres de données aux États-Unis entraînerait une hausse des prix de l’électricité, une augmentation des dépenses énergétiques et des conséquences néfastes pour les ménages. Ce contenu était ensuite publié sur des plateformes de médias sociaux telles que X, YouTube et des forums en ligne.
Le rapport indique que ces comptes tentaient de se faire passer pour de simples citoyens américains, participant à des discussions sur les projets d’infrastructure d’IA sous une fausse identité. Ils cherchaient à susciter la polémique autour de questions telles que les pressions potentielles sur la demande d’électricité, les impacts environnementaux et la consommation de ressources publiques liés aux projets de centres de données.
« Campagne technologie et tarifs douaniers »
Une autre opération identifiée par OpenAI a été baptisée « Technologie et Tarifs douaniers ». Les comptes impliqués dans cette campagne utilisaient ChatGPT pour générer des caricatures politiques, des publications sur les réseaux sociaux et des commentaires multilingues critiquant les droits de douane imposés par le gouvernement américain sur les produits chinois, tout en tentant d’attiser le mécontentement populaire aux États-Unis concernant la politique commerciale.
Reuters a rapporté que certains contenus incluaient des caricatures satiriques et des commentaires ciblant la politique tarifaire du président américain Donald Trump, dans le but d’influencer l’opinion publique aux États-Unis concernant la politique commerciale et la concurrence dans le secteur technologique. Les enquêteurs d’OpenAI estiment que certaines de ces activités pourraient être liées à une entreprise technologique chinoise fournissant des services aux collectivités locales en Chine.
Ben Nimmo, enquêteur principal d’OpenAI, a déclaré que ces opérations n’avaient pas créé de nouvelles divisions sociales, mais visaient plutôt à exploiter les débats existants au sein de la société américaine et à les amplifier. Il a précisé que l’objectif était de « tirer parti des préoccupations publiques existantes et de les amplifier ».
Le rapport montre que les comptes concernés ont non seulement produit des contenus en anglais, mais aussi dans plusieurs langues, dont le chinois, le japonais et l’italien, afin d’élargir leur audience. OpenAI a indiqué que l’engagement global avec ces contenus était faible et leur influence limitée, mais cela démontre que l’intelligence artificielle générative est de plus en plus utilisée dans la guerre de l’information et les opérations d’influence.
OpenAI et la surveillance de l’utilisation des outils d’IA à des fins d’opérations d’influence
Récemment, certains membres du Congrès américain ont même demandé au FBI d’enquêter sur la possibilité que des acteurs étrangers instrumentalisent ces controverses pour entraver le développement de l’industrie américaine de l’intelligence artificielle. Certains parlementaires estiment que le Parti communiste chinois et d’autres concurrents pourraient tenter d’affaiblir la position dominante des États-Unis dans le secteur de l’IA par le biais de campagnes de propagande en ligne.
OpenAI a déclaré qu’elle continuerait de surveiller l’utilisation des outils d’IA à des fins d’opérations d’influence, de désinformation et de manipulation de l’information, et qu’elle prendrait des mesures telles que la suspension de comptes pour y remédier.
Avec la diffusion rapide des technologies d’intelligence artificielle, la guerre de l’information, la guerre cognitive et les opérations d’influence en ligne pourraient s’appuyer de plus en plus sur les outils d’IA pour générer du contenu, en étendre la diffusion et façonner l’opinion publique. Les cas révélés par OpenAI sont considérés comme l’un des exemples les plus récents d’utilisation de l’IA générative dans la compétition internationale pour l’information.
Pour améliorer votre expérience, nous (et nos partenaires) stockons et/ou accédons à des informations sur votre terminal (cookie ou équivalent) avec votre accord pour tous nos sites et applications, sur vos terminaux connectés.
