IA de censure : Un obstacle insoupçonné pour l’écriture de scripts tv

Nouvelle étude sur ChatGPT et l’IA : des scénarios censurés dans les scripts de TV

Un constat inquiétant sur la modération de contenu

ChatGPT, développé par OpenAI, est régulièrement critiqué pour la censure de scénarios issus des séries TV les plus regardées de l’histoire.

Les directives établies par l’accord entre la WGA et l’AMPTP qui a mis fin à la grève autorisaient certains usages de l’IA dans l’écriture de scénarios. Alors que la WGA et l’AMPTP ont convenu que l’IA ne peut pas être créditée comme scénariste, ils ont autorisé l’utilisation de l’IA comme outil dans le processus créatif.

Une étude révélatrice

Cette nouvelle étude remet en question cette approche, montrant que la modération de contenu automatisée limite ChatGPT dans la production de contenu déjà autorisé à la télévision. Les filtres de modération de contenu de ChatGPT portent sur des sujets tels que la violence, la sexualité et les discours de haine pour éviter la génération de contenu inapproprié ou dangereux.

Dans cette étude, les chercheurs ont examiné à la fois des scripts réels et générés par ChatGPT pour les 100 séries TV les plus regardées sur IMDb. ChatGPT a signalé près de 20% des scripts générés par ChatGPT lui-même pour des violations de contenu, et près de 70% des scripts réels des séries TV de la liste, y compris la moitié des séries classées PG.

Un audit de l’algorithme

Les chercheurs ont utilisé une technique appelée “audit d’algorithme” pour étudier le système de modération de contenu de ChatGPT. Ils ont constaté que les scripts étaient très souvent signalés pour contenu violent, ce qui a conduit à d’autres résultats tels qu’une forte probabilité de signalement pour les séries criminelles et d’horreur.

Dans de nombreux cas, du contenu considéré comme approprié pour les téléspectateurs télévisés – et regardé par des millions de fans – a été identifié comme une violation du contenu par OpenAI.

Source : penntoday.upenn.edu