OpenAI démantèle deux opérations d'influence russe et iranienne à base de faux médias

OpenAI a publié le 8 octobre un rapport détaillé sur le démantèlement de deux opérations d'influence, l'une originaire de Russie, l'autre d'Iran, qui s'appuyaient sur ChatGPT pour piloter de véritables « façades » : un faux think tank en Amérique latine et un ensemble de personas de journalistes fictifs. L'entreprise évalue l'opération russe au niveau 5 sur l'échelle Breakout à six niveaux qui mesure l'impact des opérations d'influence — la première fois qu'elle atteint ce score depuis le début de ses signalements il y a deux ans et demi.

Un faux think tank qui a recruté de vrais employés

L'opération russe, surnommée « Dark Clark » par les équipes d'OpenAI, ciblait l'Amérique latine via un cluster de comptes ChatGPT connectés par VPN depuis la Russie, où l'accès aux modèles d'OpenAI est bloqué. Les opérateurs utilisaient l'outil pour rédiger des rapports internes sur leurs campagnes, générer du contenu et piloter un « centre de recherche » appelé Social Research Center, contrôlé via une persona fictive nommée « Mia Clark ». Fait rare selon OpenAI : cette structure semble avoir recruté de véritables employés en Amérique latine, sans que ceux-ci sachent travailler pour un réseau russe — la tentative la plus aboutie de ce type que l'entreprise ait démantelée à ce jour.

Les rapports internes, rédigés en russe avec l'aide de ChatGPT, décrivent des campagnes visant à dénigrer l'Ukraine, à peser sur la politique intérieure de pays comme l'Argentine et la Bolivie, et à gérer la façade du think tank. Plusieurs de ces campagnes ont été recoupées par des recherches en sources ouvertes avec une couverture médiatique réelle : de faux e-mails attribués à une direction régionale de l'éducation péruvienne ont poussé des écoles à organiser des événements citant une figure nationaliste ukrainienne controversée, provoquant des articles dans la presse péruvienne et polonaise ; un faux enregistrement audio a semé la panique sur un possible rationnement d'eau pendant les manifestations en Bolivie, avant d'être démenti par l'entreprise publique visée.

Sept faux journalistes pour l'opération iranienne

L'opération iranienne reposait sur une stable de sept personas de « journalistes » fictifs, utilisées pour proposer des articles de fond à de petits et moyens médias en ligne à travers le monde, sur des sujets liés au conflit entre les États-Unis et l'Iran. Les deux opérations partagent un trait commun relevé par OpenAI : elles ont cherché à faire publier leur contenu par de vrais organes de presse plutôt que de se limiter aux réseaux sociaux — une stratégie que l'entreprise associe, sur l'ensemble des trente opérations qu'elle a exposées depuis 2024, aux campagnes qui obtiennent la plus forte portée.

OpenAI rapproche ces deux opérations de précédents de l'ère pré-IA : la persona russe « Alice Donovan », démasquée en 2017 après avoir publié dans plusieurs médias occidentaux, ou le faux site « PeaceData », qui avait recruté de vrais journalistes à son insu en 2020. Ce que l'IA générative change, selon l'entreprise, c'est l'échelle et la rapidité d'exécution de ce type de montage — pas la nature de la manœuvre elle-même. OpenAI précise avoir partagé ses conclusions avec les autorités compétentes et souligne que la divulgation publique reste la meilleure arme : les deux précédents historiques cités ont cessé leur activité dès leur exposition. Un sujet que la rédaction suit en parallèle du débat réglementaire européen sur la traçabilité des contenus générés par IA.

Des manipulations qui débordent largement les réseaux sociaux

Le détail le plus frappant du rapport tient dans la diversité des vecteurs employés par l'opération russe au-delà de simples publications sur les réseaux sociaux. Les opérateurs revendiquent, dans leurs propres comptes rendus internes rédigés avec ChatGPT, avoir fabriqué de faux enregistrements audio — l'un attribué à un consul ukrainien tenant des propos dénigrants envers des Équatoriens, un autre à un employé de la banque centrale bolivienne annonçant un gel des retraits — ainsi que de fausses vidéos reprenant le logo d'une chaîne d'information authentique. Plusieurs de ces fabrications ont été recoupées par des recherches en sources ouvertes avec des contenus réellement diffusés sur TikTok et X, certains ayant provoqué des démentis officiels, par exemple de la part de l'entreprise publique bolivienne de distribution d'eau visée par la fausse alerte.

Plus troublant encore : certains rapports montrent les opérateurs utilisant ChatGPT pour s'attribuer des événements auxquels ils n'avaient en réalité aucun lien, dans le but de gonfler artificiellement leur propre bilan de performance auprès de leur hiérarchie. Dans un cas relevé par OpenAI, les opérateurs ont tenté de s'approprier la déclaration télévisée d'un prisonnier de guerre brésilien capturé par les forces russes en Ukraine — alors que cette déclaration reprenait les propres mots du captif, sans lien avec leur campagne. Un indice que ce type d'opération, au-delà de manipuler son public cible, en vient aussi à manipuler ses propres commanditaires.

Une transparence qui tranche avec la discrétion habituelle du secteur

La publication de ce niveau de détail par un fournisseur de modèles d'IA grand public reste rare dans l'industrie. OpenAI justifie cette transparence par un objectif explicite : rendre la poursuite de ces opérations plus difficile une fois exposées, en s'appuyant sur le précédent historique des cas « Alice Donovan » et « PeaceData », qui ont tous deux cessé leur activité après leur démasquage par des chercheurs indépendants. Pour les régulateurs européens qui travaillent sur l'encadrement des usages de l'IA générative dans la désinformation, ce type de rapport fournit une matière rare : une cartographie concrète des techniques employées par des acteurs étatiques, documentée par l'un des principaux fournisseurs de modèles eux-mêmes plutôt que reconstituée a posteriori par des journalistes ou des chercheurs externes.