OpenAI démantèle une opération d’influence iranienne ciblant l’élection présidentielle américaine
OpenAI démantèle une opération d’influence iranienne visant les élections présidentielles américaines
OpenAI a annoncé avoir démantelé une opération d’influence iranienne qui produisait du contenu lié aux élections présidentielles américaines.
OpenAI a démantelé une opération d’influence liée à l’Iran, identifiée sous le nom de Storm-2035, qui générait du contenu sur les élections présidentielles américaines. La société a bloqué un ensemble de comptes ChatGPT qui étaient utilisés pour créer des articles et des publications sur les réseaux sociaux générés par l’IA.
La société a révélé que l’opération d’influence n’avait pas touché un large public. “L’opération a utilisé ChatGPT pour générer du contenu axé sur plusieurs sujets, y compris des commentaires sur les candidats des deux côtés de l’élection présidentielle américaine, qu’il a ensuite partagés via des comptes de médias sociaux et des sites web”, peut-on lire dans le post publié par ChatGPT. “Similaire aux opérations d’influence secrète que nous avons signalées en mai, cette opération ne semble pas avoir atteint un engagement significatif du public.”
Les acteurs étatiques ont utilisé ChatGPT à deux fins principales : générer des articles longs sur la politique américaine et les événements mondiaux, et créer des commentaires plus courts sur les réseaux sociaux en anglais et en espagnol.
Les acteurs de la menace ont publié le contenu généré par IA sur cinq sites web se faisant passer pour des médias d’actualités progressistes et conservateurs. Les commentaires sur les réseaux sociaux ont été publiés par des comptes X et Instagram. Le contenu couvrait des sujets tels que le conflit à Gaza, Israël aux Jeux olympiques, l’élection présidentielle américaine, la politique vénézuélienne, les droits des Latinx aux États-Unis et l’indépendance écossaise, mélangés à des publications de mode et de beauté pour sembler plus authentiques.
Les domaines utilisés dans cette opération d’influence sont :
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com
“Malgré le manque d’engagement significatif du public découlant de cette opération, nous prenons au sérieux tous les efforts visant à utiliser nos services dans des opérations d’influence étrangères. En conséquence, dans le cadre de notre travail visant à soutenir la communauté plus large dans la perturbation de cette activité après avoir supprimé les comptes de nos services, nous avons partagé des renseignements sur les menaces avec les gouvernements, les campagnes et les acteurs de l’industrie”, conclut le rapport. “OpenAI reste déterminé à découvrir et à atténuer ce type d’abus à grande échelle en collaborant avec l’industrie, la société civile et les gouvernements, et en exploitant le pouvoir de l’IA générative pour être un multiplicateur de forces dans notre travail.”
Source : securityaffairs.com
