OpenAI DevDay 2024: Réductions de prix et nouvelles fonctionnalités impressionnantes
OpenAI DevDay : Construisons des outils pour les développeurs, pas un Dieu numérique
Comparaison avec l’année dernière
L’événement de cette année était principalement axé sur les développeurs, contrairement à l’année dernière où le premier DevDay était axé sur les discussions. Plusieurs fonctionnalités intéressantes ont été dévoilées, telles que GPT-4o mini et la famille de modèles o1. Néanmoins, OpenAI semble adopter une approche de mise en ligne des fonctionnalités au fur et à mesure de leur développement, sans attendre d’événements particuliers.
Prompt caching, aka la grosse réduction de prix
OpenAI a introduit une réduction de prix intéressante avec un rabais de 50% sur les jetons d’entrée pour les prompts avec un préfixe commun. Cette réduction automatique est appliquée aux modèles pris en charge dès qu’un prompt dépasse 1 024 jetons, ce qui représente une économie significative pour les utilisateurs.
GPT-4o audio via la nouvelle API WebSocket en temps réel
La grande annonce de la conférence a été la nouvelle API en temps réel, permettant d’exploiter le support audio multimodal de GPT-4o. Cette API basée sur WebSocket offre des possibilités de streaming audio et de conversation bidirectionnelle, ouvrant la voie à des applications interactives vocales innovantes.
La distillation de modèles facilite le fine-tuning
OpenAI a annoncé des améliorations liées à la distillation de modèles, offrant une nouvelle manière de personnaliser les modèles de manière plus efficace. Le stockage des complétions et les évaluations de prompts intégrés sont des fonctionnalités qui semblent rendre le fine-tuning plus accessible aux développeurs.
Construisons des outils pour les développeurs, pas un Dieu numérique
La discussion finale de l’événement a mis en avant l’importance des outils pour les développeurs plutôt que de se concentrer sur l’intelligence artificielle générale. OpenAI semble s’orienter vers une approche axée sur l’expédition d’outils utiles et fiables pour les développeurs, ce qui est accueilli positivement par de nombreux acteurs de l’industrie.
Source : simonwillison.net
