OpenAI retarde le lancement du système de watermarking pour ChatGPT
OpenAI repousse le lancement de son système de tatouage numérique pour ChatGPT
OpenAI aurait décidé de reporter le lancement d’un système de tatouage numérique pour son texte ChatGPT, malgré la technologie prête à être déployée depuis plus d’un an.
Selon le Wall Street Journal la semaine dernière, citant des sources proches du dossier, OpenAI est divisé quant à la décision de le publier en raison d’implications potentielles sur les revenus.
Malgré les avantages potentiels, environ 30% des utilisateurs de ChatGPT interrogés par l’entreprise ont déclaré qu’ils utiliseraient moins le logiciel si le tatouage numérique était mis en place.
Préoccupations de OpenAI concernant le tatouage numérique
Suite à la publication de ce rapport, OpenAI a confirmé dans un article de blog mis à jour dimanche dernier qu’il travaillait sur le tatouage numérique de texte.
L’entreprise a déclaré que sa méthode est très précise et résistante à la manipulation, mais peut également être contournée par des acteurs malveillants grâce à des techniques comme la reformulation avec un autre modèle.
L’entreprise a également exprimé des préoccupations concernant la stigmatisation des outils basés sur l’IA, affirmant que “la méthode de tatouage numérique de texte a le potentiel d’impact disproportionné certains groupes”.
L’importance de l’utilisation de l’IA dans un contexte académique suscite le débat. Noam Chomsky, également connu comme le père de la linguistique moderne, a critiqué ChatGPT l’année dernière, le qualifiant de “plagiat de haute technologie”.
Cependant, Gene Munster de Deepwater a déclaré que les étudiants utilisant ces outils basés sur l’IA sont sur la bonne voie.
En mai de cette année, OpenAI a dévoilé de nouveaux outils d’IA capables de détecter si une image a été créée en utilisant son générateur d’images DALL-E AI et a introduit des techniques avancées de tatouage numérique pour mieux identifier le contenu qu’il génère.
Source : www.benzinga.com
