Des outils anti-AI pour protéger les artistes : Le point sur Glaze et Nightshade

Technologie et Intelligence Artificielle : Comment protéger les oeuvres d’art en ligne ?

Une peinture à l’huile représentant une femme se tenant sur un podium, son bras levé alors qu’elle tient une couronne de lauriers dans sa main. Un manteau écarlate se drapant sur sa poitrine alors qu’elle fixe le spectateur. A première vue, la peinture semble être une pièce normale dans un portfolio en ligne. Cependant, la version de la peinture téléchargée en ligne dissimule un système de défense caché – un outil appelé Glaze qui masque le style de l’artiste et protège l’art de l’utilisation par l’intelligence artificielle générative. Alors que l’IA génératrice d’images continue d’évoluer, les artistes luttent de plus en plus contre ce qu’ils perçoivent comme une menace existentielle à leur métier sur différents fronts : à travers des poursuites judiciaires, dans des déclarations publiques appelant à la réglementation et maintenant, avec des programmes visant à protéger leurs œuvres d’être récupérées et émulées sans leur autorisation.

Les outils de protection contre l’Intelligence Artificielle

Développés par des chercheurs de l’Université de Chicago, Glaze et un deuxième programme, Nightshade, empoisonnent essentiellement le puits de l’art téléchargé en ligne dans une tentative de brouiller ce que l’IA perçoit. Alors que Glaze modifie subtilement une image pour que l’IA la perçoive comme un style artistique différent, Nightshade est un outil plus “offensif” qui tente de confondre un modèle d’entraînement de l’IA sur ce qu’il y a dans une image. L’idée, ont déclaré les chercheurs universitaires, est de fournir une solution technique pour arrêter l’utilisation “malveillante” des modèles d’IA tout en protégeant les créateurs.

L’équipe travaillant sur Glaze et Nightshade a noté que leurs outils servent de garde-fou dans un espace qui manque de réglementation plutôt que comme une solution complète. Alors que les poursuites et les réglementations gouvernementales pourraient contraindre les géants de la tech comme Microsoft ou OpenAI à changer leur façon d’opérer, les plus petits acteurs de l’IA en dehors des États-Unis pourraient ne pas suivre le mouvement, ont déclaré les chercheurs. Dans ces cas, les outils de brouillage de l’IA resteront utiles.

Les enjeux pour les artistes face à l’IA

Les experts affirment que les outils anti-IA offrent une certaine protection en rendant plus difficile l’utilisation de l’IA pour imiter le style d’un artiste, mais ils n’éliminent pas le problème. Alors que les modèles d’IA évoluent, ils deviendront probablement plus difficiles à attaquer ou à déjouer. Il est important de soulever des questions sur l’efficacité de ces types d’outils afin de les améliorer.

Les artistes ne devraient pas “avoir une confiance aveugle” que tous leurs problèmes seront résolus par ces outils, a ajouté Shan, le chercheur de l’Université de Chicago.

Source : www.nwaonline.com