Lutter contre les deepfakes : comment rester vigilant sur internet

La montée en puissance de l’intelligence artificielle a pris l’industrie technologique par surprise. L’implémentation de l’IA a entraîné de nombreux résultats positifs, tels que des avancées significatives dans les technologies clés et le développement d’outils impressionnants auparavant impossibles. Cependant, cela a également posé certains défis qui, des années plus tard, sont toujours en train d’être correctement traités. Les méthodes d’escroquerie ou les tromperies basées sur les deepfakes alimentés par l’IA occupent une place privilégiée sur la liste des plus préoccupantes.

Qu’est-ce qu’un deepfake?

Peut-être n’êtes-vous pas encore entièrement sûr de ce qu’est un deepfake. Fondamentalement, il s’agit d’un contenu généré par des modèles d’IA où le visage ou le corps d’une personne est modifié numériquement, généralement en le superposant à quelqu’un d’autre. De cette manière, la victime semble impliquée dans des situations où elle n’était jamais présente. Cela s’applique également aux fichiers audio où des acteurs malveillants “clonent” la voix de quelqu’un pour lui faire dire ce qu’ils veulent.

Outils deepfake disponibles pour tous, pour le meilleur et pour le pire

Comme si cela ne suffisait pas, les entreprises ne se contentent pas seulement d’outils de génération d’images. Ces dernières années, nous avons même vu des modèles de génération de vidéos avec des résultats impressionnants. Ce mois-ci, ByteDance, la maison mère de TikTok, a lancé un modèle de génération de vidéos IA avec les résultats les plus réalistes que nous ayons jamais vus. Le modèle, appelé OmniHuman-1, promet des deepfakes vidéo jusqu’à 10 fois meilleurs qu’auparavant. Nous parlons d’un incroyable bond en avant en termes de qualité, et nous verrons des choses comme ça chaque année.

Améliorés deepfakes et démocratisation des outils d’IA ont conduit à plus de personnes utilisant ces plateformes. Les étudiants peuvent les trouver utiles pour obtenir des images complémentaires pour leurs projets ou présentations. Les artistes peuvent trouver de l’inspiration pour commencer à travailler. Vous pouvez également générer une image simplement pour vous amuser avec des amis.

Incidents liés aux tentatives d’escroquerie basées sur les deepfakes

Il y a eu d’innombrables cas d’escroqueries dans de multiples contextes où les deepfakes alimentés par l’IA ont été les protagonistes. Resemble.AI a une énorme base de données d’incidents liés à l’utilisation de l’IA générative. Parmi les cas les plus récents, on peut citer la promotion d’actions ou de crypto-actifs en utilisant le visage et la voix de l’investisseur Vijay Kedia. Il est également très courant d’utiliser l’image d’Elon Musk dans des vidéos où il est censé promouvoir une cryptomonnaie.

Un autre risque majeur lié aux deepfakes est la possibilité de chantages à caractère sexuel. Il s’agit d’une pratique où des tiers malveillants créent de faux nus pour essayer de faire chanter des personnes en menaçant de les diffuser publiquement ou de les envoyer à leur famille.

Les gens cherchent de plus en plus de moyens de détecter les deepfakes

Il y a d’innombrables cas de deepfakes utilisés pour tenter de tromper, escroquer ou menacer. Par conséquent, les gens devraient être de plus en plus prudents concernant les contenus multimédias qu’ils voient sur internet. En fait, l’inquiétude croissante se reflète déjà dans les statistiques. Les recherches en ligne liées aux “images deepfake” ont augmenté de 15 % dans le monde en 2024. Les pics surviennent juste après la diffusion de nouvelles sur des canulars ou des escroqueries impliquant des vidéos ou des images alimentées par l’IA.

Conseils pour éviter de tomber dans une escroquerie basée sur un deepfake d’IA

Alors que de nombreux deepfakes peuvent être indiscernables de la réalité, il existe quelques mesures que vous pouvez prendre pour éviter d’en être victime. La première est de rester sceptique à l’égard des contenus médiatiques impliquant des personnalités publiques. Si un acteur promeut une fausse cryptomonnaie ou si un politicien se trouve dans une situation surréaliste, votre première réaction devrait être de douter de l’authenticité du fichier.

Si le contenu provient apparemment d’une personnalité publique particulière, vérifiez leurs identifiants sur les réseaux sociaux. Souvent, les vidéos de personnalités publiques proviennent de leurs propres comptes de médias sociaux.

Enfin, il existe également des outils de détection de deepfakes auxquels vous pouvez vous tourner. Bien qu’ils puissent parfois échouer, ils sont généralement assez efficaces.

Source : www.androidheadlines.com