OpenAI accusé de diffamation par un Norvégien: ChatGPT le décrit comme un meurtrier condamné
Un bot IA accusé de diffamation
Une plainte portant sur la vie privée a été déposée contre OpenAI par un Norvégien qui affirme que ChatGPT l’a décrit comme un meurtrier condamné ayant tué deux de ses propres enfants et tenté d’en tuer un troisième. Arve Hjalmar Holmen dit qu’il voulait savoir ce que ChatGPT dirait de lui, mais s’est retrouvé confronté à la fausse affirmation selon laquelle il avait été condamné pour meurtre et tentative de meurtre, et purgeait 21 ans de prison en Norvège.
De manière inquiétante, la sortie de ChatGPT mélange des détails fictifs avec des faits, y compris sa ville natale et le nombre et le sexe de ses enfants. Un groupe de défense autrichien, Noyb, a déposé une plainte auprès du Datatilsynet norvégien au nom de Holmen, accusant OpenAI de violer les exigences de confidentialité des données du Règlement général sur la protection des données (RGPD) de l’Union européenne. Il demande que l’entreprise soit condamnée à une amende et à supprimer la sortie diffamatoire, tout en améliorant son modèle pour éviter des erreurs similaires.
“Le RGPD est clair. Les données personnelles doivent être exactes. Et si ce n’est pas le cas, les utilisateurs ont le droit de les faire modifier pour refléter la vérité”, déclare Joakim Söderberg, avocat en protection des données chez Noyb. “Montrer aux utilisateurs de ChatGPT une petite mention légale indiquant que le chatbot peut commettre des erreurs n’est clairement pas suffisant. On ne peut pas simplement diffuser de fausses informations et ajouter à la fin un petit avertissement disant que tout ce que vous avez dit pourrait ne pas être vrai.”
Noyb dépose une nouvelle plainte
Noyb et Holmen n’ont pas révélé publiquement quand la requête initiale auprès de ChatGPT a été faite, la précision étant incluse dans la plainte officielle, mais censurée pour sa publication publique, mais disent que c’était avant que ChatGPT ne soit mis à jour pour inclure des recherches sur le web dans ses résultats. Faites la même requête maintenant, et les résultats se rapportent tous à la plainte de Noyb. Il s’agit de la deuxième plainte officielle de Noyb concernant ChatGPT, bien que la première ait eu des enjeux moindres : en avril 2024, elle avait été déposée au nom d’une personnalité publique dont la date de naissance était inexactement rapportée par l’outil IA. À l’époque, Noyb critiquait la prétention d’OpenAI selon laquelle des données erronées ne pouvaient pas être corrigées, uniquement bloquées en relation avec des requêtes spécifiques, ce qui, selon Noyb, viole l’exigence du RGPD selon laquelle des données inexactes doivent être “effacées ou rectifiées sans délai”.
Source : www.theverge.com
