Intelligence artificielle : des chatbots donnent des informations erronées sur les élections
Les chatbots basés sur l’intelligence artificielle ne sont pas toujours fiables lorsqu’il s’agit de fournir des informations précises sur les élections à venir. Une étude réalisée par la start-up d’analyse de données GroundTruthAI a révélé que des modèles linguistiques importants, comme Google’s Gemini 1.0 Pro et OpenAI’s ChatGPT, donnaient des réponses incorrectes dans 27% des cas lorsqu’ils étaient interrogés sur les élections et l’élection de 2024. Cette étude a envoyé 216 questions uniques à ces modèles, générant un total de 2 784 réponses. Malgré une précision moyenne de 73%, ces chatbots ont montré des fluctuations de précision inquiétantes au fil du temps, mettant en lumière leur manque de fiabilité. Certains chatbots ont erronément répondu à des questions clés, soulignant la nécessité d’une vérification constante des informations fournies par ces modèles d’IA.
Fiabilité des chatbots et risques pour les électeurs
La précision des réponses des modèles linguistiques tels que Gemini 1.0 Pro et GPT-4o sur des questions électorales importantes est remise en question. Les chercheurs ont constaté que ces chatbots ont donné des réponses erronées à des questions cruciales concernant les élections et les candidats. Ces erreurs pourraient potentiellement influencer les décisions des électeurs et les amener à voter sur la base d’informations incorrectes.
De plus, des écarts de précision significatifs ont été observés entre les différents modèles d’IA, soulignant la nécessité de la transparence et de la fiabilité des informations fournies par ces systèmes basés sur l’IA.
Implications pour l’avenir de l’IA
Cette étude soulève des préoccupations quant à l’intégration croissante de l’IA dans des produits grand public. Alors que de plus en plus de chatbots basés sur l’IA sont utilisés par les consommateurs, il est essentiel de garantir la précision et la fiabilité des informations fournies par ces systèmes. Les entreprises doivent prendre en compte les risques potentiels d’utiliser des modèles d’IA pour fournir des informations sensibles, telles que des informations électorales, et veiller à ce que ces systèmes soient régulièrement vérifiés pour garantir leur exactitude.
Source : www.nbcnews.com
