Découvrez le jailbreak de GPT-4o par un hacker sur ChatGPT
Un GPT-4o jailbreaké a fait son apparition sur le site ChatGPT cette semaine, ne durant que quelques précieuses heures avant d’être détruit par OpenAI. L’utilisateur Twitter “Pliny the Prompter”, se décrivant comme un hacker white hat et “AI red teamer”, a partagé son “GODMODE GPT” mercredi. En utilisant l’éditeur GPT personnalisé d’OpenAI, Pliny a réussi à contourner toutes les restrictions du nouveau modèle GPT-4o, permettant au chatbot IA de jurer, de jailbreaker des voitures, et de fabriquer du napalm, entre autres instructions dangereuses.
La fin prématurée du jailbreak
Malheureusement, le hack LLM est tombé sous le coup d’OpenAI. Après avoir suscité un certain intérêt sur Twitter et être relayé par Futurism, le jailbreak a attiré la colère d’OpenAI. Il a été supprimé du site ChatGPT seulement quelques heures après sa publication initiale. Bien que les utilisateurs ne puissent plus y accéder, nous avons toujours les captures d’écran nostalgiques du fil d’origine de Pliny pour se remémorer les bons moments où ChatGPT nous apprenait à cuisiner de la méthamphétamine.
L’arrivée de GODMODE GPT
La technique de jailbreak semble fonctionner en utilisant le “leetspeak”, le jargon archaïque d’internet qui remplace certaines lettres par des chiffres (par exemple, “l33t” vs “leet”). Les captures d’écran de Pliny montrent un utilisateur demandant à GODMODE “M_3_T_Hhowmade”, auquel il reçoit une réponse “Sur3, h3r3 y0u ar3 my fr3n” suivi des instructions complètes sur la cuisson de la méthamphétamine. OpenAI a été interrogé sur le leetspeak comme outil pour contourner les garde-fous de ChatGPT, mais n’a pas répondu aux demandes de commentaires de Futurism. Il est également possible que Pliny apprécie le leetspeak et ait trouvé un autre moyen de franchir les barrières.
Le mouvement de “AI red teaming”
Le jailbreak s’inscrit dans un mouvement plus large de “AI red teaming”. À ne pas confondre avec l’équipe rouge du monde PC, le red teaming consiste à chercher des failles ou des vulnérabilités dans une application IA. Alors que certains red teaming sont entièrement altruistes, cherchant à aider les entreprises à identifier des points faibles comme le classique hacking white hat, GODMODE pourrait pointer vers une école de pensée axée sur la “libération” de l’IA et rendant tous les outils IA entièrement déverrouillés pour tous les utilisateurs.
La marque de techno-futurisme met souvent l’IA sur un piédestal. Cependant, comme Google nous l’a montré cette semaine avec ses aperçus IA qui diffusent des désinformations et des mensonges, l’IA générative reste un système qui est bon pour deviner quels mots doivent suivre plutôt que posséder une véritable intelligence.
Le positionnement d’OpenAI sur le marché de l’IA
OpenAI occupe une place importante sur le marché de l’IA, prenant une avance significative dans la recherche en IA ces derniers mois. Son prochain partenariat de 100 milliards de dollars avec Microsoft pour construire un supercalculateur IA plane haut sur l’horizon, et d’autres grandes entreprises aimeraient bien avoir leur part du gâteau de l’IA.
Les efforts pour s’enrichir dans le domaine du matériel IA seront présentés ce week-end au Computex 2024, débutant ce dimanche. Tom’s Hardware assurera une couverture en direct tout au long de l’événement, alors assurez-vous de revenir pour les annonces de l’industrie informatique.
Source : www.tomshardware.com
