Campagnes d’IA malveillantes : Meta et OpenAI identifient des acteurs liés à la Chine, Israël, Russie et Iran.
Généralités sur l’utilisation malveillante de l’IA par des acteurs liés à divers pays
Les entreprises OpenAI et Meta ont récemment dévoilé des informations concernant des campagnes malveillantes persistantes menées par des acteurs liés à la Chine, Israël, la Russie et l’Iran. Ces acteurs ont utilisé les services respectifs de ces entreprises pour propager de la désinformation et perturber la politique aux États-Unis et dans d’autres pays.
Détails fournis par Meta et OpenAI
Dans son dernier rapport trimestriel sur les menaces publié mercredi, Meta a souligné que l’IA générative est encore facilement détectable dans de telles campagnes. OpenAI, de son côté, a affirmé avoir intégré des défenses dans ses modèles d’IA, collaboré avec des partenaires pour partager des renseignements sur les menaces et utilisé sa propre technologie d’IA pour détecter et perturber les activités malveillantes.
Les campagnes identifiées
Plusieurs campagnes spécifiques ont été révélées par les deux entreprises. Par exemple, une campagne russe nommée “Mauvaise grammaire” a utilisé les systèmes d’OpenAI pour générer des commentaires dans plusieurs langues, tandis qu’une opération israélienne a exploité les modèles d’IA pour générer des commentaires dans le cadre de tactiques de désinformation ciblant l’Europe et l’Amérique du Nord.
Une campagne chinoise appelée “Spamouflage” a également utilisé les modèles linguistiques d’OpenAI pour propager des narrations sous prétexte de développer des logiciels de productivité. De son côté, une opération iranienne connue sous le nom d’Union internationale des médias virtuels (IUVM) a abusé des capacités de génération de texte d’OpenAI pour créer des publications multilingues soutenant des points de vue et des récits pro-Iran, anti-U.S. et anti-Israël.
Source : decrypt.co
