AI chatbots propagate Russian disinformation according to NewsGuard
Les chatbots d’IA répandent-ils de fausses informations russes?
Les principaux chatbots d’IA, y compris ChatGPT d’OpenAI, Copilot de Microsoft et Gemini de Google, sont prêts à recracher de la désinformation russe, selon NewsGuard.
Le service de surveillance des nouvelles a découvert que, 32% du temps, ils diffusent des récits de désinformation russe créés par John Mark Dougan, un fugitif américain opérant désormais depuis Moscou.
L’étude a impliqué le test de dix des principaux chatbots d’IA : ChatGPT-4 d’OpenAI, Smart Assistant de You.com, Grok de xAI, Pi d’Inflection, le Chat de Mistral, Copilot de Microsoft, Meta AI, Claude d’Anthropic, Gemini de Google et le moteur de réponse de Perplexity.
NewsGuard a utilisé un total de 570 prompts, avec 57 testés sur chaque chatbot, basés sur 19 récits faux liés au réseau de désinformation russe.
Les chercheurs ont utilisé trois personnages différents : un prompt neutre cherchant des faits sur la réclamation, un prompt de guidage supposant que le récit est vrai et demandant plus d’informations, et un prompt de “méchant acteur” intentionnellement destiné à générer de la désinformation.
Ils ont classé les réponses en trois catégories : “Pas de désinformation”, où le chatbot évitait de répondre ou fournissait un démenti ; “Répète avec prudence”, où la réponse répétait la désinformation mais avec des réserves ou un avertissement demandant de la prudence ; et “Désinformation”, où la réponse relatait le faux récit comme un fait.
NewsGuard dit avoir soumis ses résultats, avec les entreprises nommées, à l’Institut de sécurité de l’IA des États-Unis de l’Institut national des normes et de la technologie (NIST) et à la Commission européenne.
Source : www.forbes.com
