OpenAI bloque plus de 20 opérations malveillantes en 2024
Arcital fort de l’IA Chat-GPT, OpenAI, a récemment bloqué plusieurs campagnes malveillantes abusant de ses services. Selon un rapport, la société a bloqué plus de 20 opérations et réseaux trompeurs dans le monde entier en 2024 jusqu’à présent. Ces opérations variaient en nature, en taille et en cibles. Parfois, les malfaiteurs l’utilisaient pour déboguer des logiciels malveillants, et parfois ils l’utilisaient pour rédiger du contenu (articles de site web, fausses biographies pour des comptes de réseaux sociaux, fausses photos de profil, etc.).
Évolution des menaces
Bien que cela puisse sembler sinistre et dangereux, OpenAI affirme que les acteurs de la menace n’ont pas réussi à obtenir une traction significative avec ces campagnes : “Les acteurs de la menace continuent d’évoluer et d’expérimenter avec nos modèles, mais nous n’avons pas vu de preuves que cela ait conduit à des percées significatives dans leur capacité à créer des logiciels malveillants substantiellement nouveaux ou à construire des audiences virales”, a-t-il déclaré.
Utilisation détournée en période électorale
Mais 2024 est une année électorale – non seulement aux États-Unis, mais aussi ailleurs dans le monde – et OpenAI a vu ChatGPT être utilisé de manière abusive par des acteurs de la menace essayant d’influencer les campagnes pré-électorales. Il a mentionné plusieurs groupes, dont un appelé “Zero Zeno”. Cette entreprise commerciale basée en Israël a “brièvement” généré des commentaires sur les réseaux sociaux concernant les élections en Inde – une campagne qui a été perturbée “moins de 24 heures après son début”.
En juin 2024, juste avant les élections au Parlement européen, il a perturbé une opération appelée “A2Z”, qui se concentrait sur l’Azerbaïdjan et ses voisins. D’autres mentions notables incluaient la génération de commentaires sur les élections au Parlement européen en France, et sur la politique en Italie, en Pologne, en Allemagne et aux États-Unis.
Heureusement, aucune de ces campagnes n’a connu de progrès significatifs, et une fois qu’OpenAI les a bannies, elles ont été totalement arrêtées : “La majorité des publications sur les réseaux sociaux que nous avons identifiées comme étant générées à partir de nos modèles ont reçu peu ou pas de likes, de partages ou de commentaires, bien que nous ayons identifié quelques occasions où de vraies personnes ont répondu à ses publications”, a conclu OpenAI. “Après avoir bloqué son accès à nos modèles, les comptes de médias sociaux de cette opération que nous avions identifiés ont cessé de publier pendant les périodes électorales dans l’UE, au Royaume-Uni et en France.”
Source : www.techradar.com
