OpenAI lutte contre les cybercriminels avec ChatGPT
OpenAI, la société créatrice de ChatGPT, met en garde contre l’utilisation malveillante de son chatbot par des cybercriminels. Des mesures sont prises pour contrer ces activités néfastes, comme indiqué dans leur récent rapport. Faisons le point.
Des efforts pour lutter contre les utilisateurs malintentionnés
L’IA générative est exploitée à des fins malveillantes, comme le révèle le rapport d’OpenAI. Cependant, la société souligne qu’elle met en place des initiatives pour contrer ces pratiques.
“Depuis le début de l’année, nous avons interrompu plus de 20 opérations et réseaux frauduleux du monde entier qui tentaient d’utiliser nos modèles – y compris des activités que nous avons supprimées depuis notre rapport sur les menaces de mai 2024.”, indique le rapport d’OpenAI intitulé “Influence and cyber operations: an update”.
Utilisation malveillante de l’intelligence artificielle
Le développement de malwares, la création de campagnes de phishing, la recherche de vulnérabilités et la propagation de fausses informations sont autant d’exemples d’usages malveillants de l’intelligence artificielle, notamment de ChatGPT.
Les activités des cybercriminels vont de la rédaction d’articles pour des sites web à la création de contenus postés par de faux profils sur les réseaux sociaux, démontrant ainsi la diversité des actions que peut mener l’IA au service des pirates informatiques.
Acteurs malveillants chinois et iraniens
OpenAI surveille de près l’activité de son service ChatGPT pour lutter contre la cybercriminalité. Plusieurs groupes de pirates ont été identifiés, dont les célèbres SweetSpecter, CyberAv3ngers et Storm-0817.
Ces groupes ont utilisé les services d’OpenAI pour diverses activités, telles que la recherche de vulnérabilités, le développement de scripts ou encore le débogage de logiciels malveillants. Certains ont même utilisé ChatGPT pour rédiger des e-mails de phishing.
Collaboration avec les autorités
Face à cette menace, OpenAI a banni les comptes utilisés à des fins malveillantes et a transmis les informations collectées aux autorités compétentes. Les partenaires de cybersécurité de la société ont également été informés des adresses IP utilisées et des indicateurs de compromission.
Source : www.it-connect.fr
