La nouvelle fonctionnalité de génération d’images AI par Black Forest Labs pour Grok dévoilée
Une nouvelle fonctionnalité de génération d’images AI a été lancée par Grok d’Elon Musk mardi soir. Cette fonctionnalité, tout comme le chatbot AI, ne dispose que de très peu de garde-fous. Cela signifie que vous pouvez générer de fausses images de Donald Trump fumant de la marijuana sur le plateau de Joe Rogan, par exemple, et les télécharger directement sur la plateforme X. Cependant, ce n’est pas vraiment la société d’IA d’Elon Musk qui alimente la folie; plutôt, une nouvelle startup – Black Forest Labs – est à l’origine de cette fonctionnalité controversée.
La collaboration entre Grok et Black Forest Labs
La collaboration entre les deux a été révélée lorsque xAI a annoncé qu’il travaillait avec Black Forest Labs pour alimenter le générateur d’images de Grok en utilisant son modèle FLUX.1. Black Forest Labs, une start-up d’IA d’images et de vidéos lancée le 1er août, semble partager la vision de Musk pour Grok en tant que “chatbot anti-“woke”, sans les garde-fous stricts que l’on trouve dans Dall-E d’OpenAI ou Imagen de Google. Le site de médias sociaux est déjà inondé d’images scandaleuses issues de la nouvelle fonctionnalité.
Black Forest Labs et ses modèles FLUX.1
Basé en Allemagne, Black Forest Labs est récemment sorti de l’ombre avec 31 millions de dollars de financement de démarrage, dirigé par Andreessen Horowitz, selon un communiqué de presse. D’autres investisseurs notables incluent le PDG de Y Combinator Garry Tan et l’ancien PDG d’Oculus, Brendan Iribe. Les cofondateurs de la start-up, Robin Rombach, Patrick Esser et Andreas Blattmann, étaient auparavant des chercheurs qui ont contribué à la création des modèles Stable Diffusion de Stability AI.
Les modèles FLUX.1 de Black Forest Labs
D’après Artificial Analysis, les modèles FLUX.1 de Black Forest Labs surpassent les générateurs d’images IA de Midjourney et OpenAI en termes de qualité, du moins selon les utilisateurs de leur domaine d’images.
Lancement controversé de Black Forest Labs
La startup affirme “rendre nos modèles accessibles à un large public”, avec des modèles de génération d’images IA open source sur Hugging Face et GitHub. La société prévoit également de créer bientôt un modèle texte-vidéo.
Manque de garde-fous
Black Forest Labs a immédiatement réagi à la demande de commentaire de TechCrunch.
En conclusion, l’absence de garde-fous dans les modèles AI de Grok et Black Forest Labs pourrait poser des problèmes. Cependant, Musk semble vouloir laisser circuler les informations trompeuses sur la plateforme, ouvrant ainsi un tuyau d’incendie de désinformation dirigé vers le fil d’actualité de tout le monde sur X.
Source : techcrunch.com
