Russie, Iran : comment ChatGPT a servi des opérations d'influence

OpenAI a annoncé avoir déjoué deux opérations d'influence clandestines : "Dark Clark", d'origine russe, et "Bogus Bylines", d'origine iranienne. Les deux combinaient les modèles de la société avec des techniques plus traditionnelles pour diffuser des messages géopolitiques tout en dissimulant leur origine, selon le rapport publié jeudi 8 octobre par l'entreprise.

Ces opérations d'influence ont été repérées grâce à l'analyse des requêtes envoyées à ChatGPT. Les opérateurs rédigeaient leurs messages en russe ou en persan et passaient par des VPN pour masquer leur localisation, les modèles d'OpenAI n'étant pas accessibles en Russie.

Dark Clark, une offensive russe visant l'Amérique latine

L'opération russe ciblait plusieurs pays d'Amérique latine, dans le but de dénigrer l'Ukraine et certains dirigeants régionaux, dont les présidents de Bolivie, d'Argentine et d'Équateur. Les opérateurs géraient un faux laboratoire d'idées baptisé Social Research Center (SRC), piloté par une personnalité fictive nommée "Mia Clark", qui interagissait avec des employés locaux ignorant travailler pour un groupe russe.

Parmi les actions recensées par OpenAI : un faux enregistrement audio attribué au consul d'Ukraine en Équateur, diffusé sur TikTok et tenant des propos désobligeants envers les Équatoriens. Les opérateurs ont aussi créé une fausse adresse mail se faisant passer pour la direction régionale de l'éducation de Lima, au Pérou, demandant aux écoles d'organiser des événements autour de Stepan Bandera, figure controversée associée à l'indépendance ukrainienne par certains, au fascisme par d'autres. Plusieurs écoles ont répondu, photos à l'appui.

Sur l'échelle "breakout scale", qui mesure l'impact d'une opération de 1 à 6, OpenAI a classé "Dark Clark" en catégorie 5. Une première pour l'entreprise depuis qu'elle publie ce type de rapport.

« la tentative la plus complexe de créer un faux front que nous ayons réussi à déjouer au cours des deux dernières années et demie », OpenAI, communiqué du 8 octobre 2026.

Bogus Bylines, sept faux journalistes au service de Téhéran

L'opération iranienne reposait sur sept profils fictifs se présentant comme des journalistes occidentaux, dotés de comptes sur les réseaux sociaux pour paraître crédibles. Les opérateurs demandaient à ChatGPT d'évaluer leurs brouillons d'articles selon les critères de soumission des médias, puis de les corriger, avant de générer un mail de proposition à l'éditeur ciblé.

« Nous avons identifié près de 100 articles, publiés ou repris sous les signatures de cette opération, dans une douzaine de sites d'information en ligne à travers le monde », OpenAI, communiqué du 8 octobre 2026.

Ces articles portaient sur la guerre entre les États-Unis et l'Iran. Leur fréquence a augmenté après le déclenchement du conflit, plus tôt cette année. L'un des médias touchés affichait, en août dernier, près de deux millions d'abonnés sur Facebook, environ 355 000 sur X et plus de 544 000 sur Instagram.

Les opérateurs iraniens ont aussi fait rédiger par ChatGPT des commentaires en anglais et en persan sur les réseaux sociaux, pour donner une impression de popularité à leurs articles. Ces publications ont eu un impact plus limité, classé en catégorie 2 sur l'échelle de percée, contre la catégorie 4 pour les articles diffusés dans les médias.

Un bilan de trente opérations en deux ans et demi

OpenAI affirme avoir partagé ses conclusions avec les autorités compétentes et suspendu l'ensemble des comptes identifiés. L'entreprise reconnaît toutefois son inquiétude : les campagnes qui parviennent à faire publier leur contenu dans de véritables médias, plutôt que de s'appuyer sur de faux comptes sur les réseaux sociaux, obtiennent la portée la plus large.

Ce constat confirme une tendance observée sur l'ensemble des trente opérations d'influence que l'entreprise dit avoir démantelées depuis deux ans et demi. OpenAI avait déjà licencié des voix internes critiques sur sa gestion des risques liés à l'IA, un sujet documenté par trois chercheurs en sécurité récemment licenciés. La société, qui revendique plus d'un milliard d'utilisateurs hebdomadaires sur ChatGPT, fait aussi face à des interrogations sur la sécurité de ses propres systèmes, après la découverte d'un accès de hackers à des comptes d'employés.

Les comptes liés à "Dark Clark" et "Bogus Bylines" ont été désactivés. Aucune suite judiciaire n'a pour l'instant été annoncée dans les pays visés par ces campagnes.