OpenAI révèle Structured Outputs : l’IA garantit 100% de conformité aux schémas JSON.
OpenAI dévoile Structured Outputs, pour une compatibilité totale avec les schémas JSON
OpenAI a introduit une nouvelle fonctionnalité API appelée Structured Outputs, garantissant une conformité à 100% avec les schémas JSON fournis par les développeurs dans les réponses des modèles. Cette mise à jour répond à un défi de longue date dans le développement d’applications d’IA, où les formats de sortie incohérents entravaient souvent l’intégration fluide avec les systèmes existants.
La fonctionnalité fonctionne en contraignant le modèle à générer uniquement des jetons valides selon le schéma fourni, en utilisant une technique appelée décodage contraint dynamique. Cette approche convertit les schémas JSON en grammaires sans contexte, permettant des structures de données plus complexes et récursives que les méthodes précédentes.
Fonctionnalités de Structured Outputs
OpenAI propose Structured Outputs sous deux formes :
Appel de fonction : Les développeurs peuvent activer une conformité stricte au schéma pour les définitions d’outils, compatibles avec les modèles à partir de GPT-3.5-turbo-0613 et GPT-4-0613.
Option de format de réponse : Un nouveau paramètre json_schema permet des réponses structurées en dehors des appels de fonction, actuellement disponibles pour les derniers modèles GPT-4o.
OpenAI a également mis à jour ses SDK Python et Node avec une prise en charge native de Structured Outputs, simplifiant la mise en œuvre pour les développeurs utilisant ces langages.
Mécanisme de sécurité et modèle GPT-4o-2024-08-06
Les Structured Outputs d’OpenAI introduisent également un mécanisme de sécurité, permettant au modèle de détecter et de traiter de manière programmable les demandes non sécurisées. Si le modèle refuse une demande non sécurisée, une valeur de chaîne de refus sera incluse dans la réponse de l’API, facilitant l’identification et la gestion de telles instances par les développeurs.
L’entreprise a également introduit un nouveau modèle, GPT-4o-2024-08-06, qui obtient des scores parfaits dans les tests de conformité avec des schémas JSON complexes. Ce modèle s’accompagne de réductions de prix significatives :
Sorties 33% moins chères (10,00 $ par million de jetons)
Utilisation de Structured Outputs
En garantissant des sorties JSON cohérentes et précises, les développeurs peuvent construire des applications plus robustes qui interagissent de manière transparente avec leurs systèmes existants. Par exemple, les Structured Outputs peuvent être utilisés dans des applications telles que :
Alors que Structured Outputs offre une fiabilité accrue, OpenAI mentionne certaines limitations. La fonctionnalité prend en charge uniquement un sous-ensemble de JSON Schema, et la première demande avec un nouveau schéma peut entraîner une latence supplémentaire pour le prétraitement. Cependant, les demandes ultérieures utilisant le même schéma seront plus rapides.
Pour plus d’informations et pour commencer à utiliser Structured Outputs, les développeurs peuvent consulter la documentation officielle d’OpenAI.
Source : www.maginative.com
