OpenAI arrête des campagnes de manipulation en Russie, Chine, Iran et Israël
OpenAI déjoue cinq campagnes d’influence utilisant l’IA
OpenAI a annoncé jeudi avoir disrupté cinq opérations d’influence secrètes au cours des trois derniers mois, provenant de la Russie, de la Chine, de l’Iran et d’une entreprise privée en Israël.
Les acteurs menaçants ont tenté d’utiliser les modèles de langage puissants d’OpenAI pour des tâches telles que la génération de commentaires, d’articles, de profils de médias sociaux et le débogage de code pour des robots et des sites Web.
Des préoccupations avant les élections
Les entreprises comme OpenAI sont sous étroite surveillance en raison des craintes que des applications comme ChatGPT ou l’outil de génération d’images Dall-E puissent produire du contenu trompeur en quelques secondes et en grande quantité.
Opérations d’influence déjouées
Une opération, surnommée “Mauvaise grammaire”, était une campagne russe ciblant l’Ukraine, la Moldavie, les pays baltes et les États-Unis, utilisant les outils d’OpenAI pour créer des commentaires politiques courts en russe et en anglais sur Telegram.
Une autre opération chinoise, “Spamouflage”, a été arrêtée pour avoir abusé des modèles d’OpenAI pour rechercher des médias sociaux, générer du texte multilingue et déboguer du code pour des sites Web.
Un groupe iranien, l’Union internationale des médias virtuels, a également été perturbé pour avoir utilisé OpenAI pour créer des articles, des titres et du contenu publié sur des sites Web liés à l’État iranien.
Une entreprise israélienne commerciale, STOIC, qui semblait utiliser les modèles d’OpenAI pour générer du contenu sur Instagram, Facebook, Twitter et des sites Web affiliés, a également été arrêtée.
Des opérations sans audience significative
Ces campagnes ont été diffusées sur des plateformes telles que Twitter, Telegram, Facebook et Medium, mais aucune n’a réussi à engager un public important, selon OpenAI.
L’entreprise a souligné que la collaboration, le partage de renseignements et les mesures de sécurité intégrées dans ses modèles ont permis ces disruptions.
Source : www.ndtv.com
