Le mystère autour de l’assistant d’OpenAI intrigue les internautes

OpenAI’s ChatGPT : Pourquoi un nom ne serait-il pas reconnu ?

Les internautes se sont retrouvés perplexes en constatant que le ChatGPT d’OpenAI refusait d’admettre l’existence du nom “David Mayer”. Interrogez le chatbot sur ce nom et il répond de manière déconcertante : “Je ne suis pas en mesure de produire une réponse”. La conversation se termine brusquement, obligeant les utilisateurs à ouvrir une nouvelle fenêtre pour continuer à utiliser l’assistant. Frustrant, OpenAI n’a toujours pas commenté l’affaire et les questions restent sans réponse. Le cas met en lumière notre méconnaissance du fonctionnement de ces grands modèles de langage, du type de contenu sur lequel ils ont été formés et des limites imposées par leurs créateurs. Nous avons vu de nombreux exemples de chatbots IA produisant des faits fantasmés, échouant dans des tâches simples, voire encourageant des comportements dangereux.

Alors que nous attendons des informations officielles d’OpenAI – Futurism a contacté l’entreprise pour obtenir des commentaires – de nombreux utilisateurs des médias sociaux ont cherché des réponses. Par exemple, l’investisseur en IA, Justine Moore, a trouvé au moins six autres noms qui ont déclenché une réponse similaire, y compris plusieurs personnes ayant déposé des demandes de protection des données générales (RGPD) “droit à l’oubli” dans l’UE. D’autres ont suggéré que le nom David Mayer aurait pu être bloqué en raison de l’existence d’un membre de l’ISIS tchétchène utilisant ce nom comme alias. De même, ChatGPT se bloque également lorsqu’on lui demande à propos de deux professeurs de droit nommés Jonathan Zittrain et Jonathan Turley.

Curieusement, Zittrain a rédigé un article dans The Atlantic sur la nécessité de “contrôler les agents IA maintenant”. Un utilisateur a même changé son nom en David Mayer dans ChatGPT, ce qui a conduit l’outil à refuser de reconnaître son nouveau nom. Le nom est-il bloqué en raison des garde-fous d’OpenAI conçus pour protéger la vie privée des individus ? David Mayer – qui qu’il soit – a-t-il déposé des documents légaux auprès de la société d’IA ? C’est un bug mystifiant qui met en lumière le caractère hermétique de ChatGPT. Et cela souligne une leçon constante avec les produits d’IA : ne prenez aucune de leurs réponses pour argent comptant.

Source : futurism.com