OpenAI présente un comité expert sur la sécurité des produits IA
OpenAI annonce le lancement d’un Comité de Sécurité et de Protection pour offrir des orientations d’experts à l’entreprise d’intelligence artificielle (IA) sur l’utilisabilité des produits entrants. Dans un communiqué, OpenAI a déclaré que le nouveau comité sera l’organe principal chargé de formuler des recommandations à l’ensemble du conseil d’administration sur les décisions de sécurité suite à la fermeture de l’équipe de super alignement. Le comité, composé des directeurs de l’entreprise Bret Taylor, Adam D’Angelo, Nicole Seligman et du PDG Sam Altman, a pour mission d’élaborer une feuille de route de sécurité pour l’entreprise.
Examen approfondi des directives de sécurité
Le comité nouvellement formé devra évaluer et rendre compte des directives de sécurité actuelles de l’entreprise dans un délai de 30 jours, partageant ses recommandations avec le conseil d’administration. Plutôt que d’adopter une approche fermée, les recommandations du comité seront partagées avec le public pour recueillir les commentaires des consommateurs et d’autres parties intéressées.
L’équipe renforcée et lancement d’un nouveau modèle d’IA
Le scientifique en chef d’OpenAI Jakub Pachocki, le responsable de la sécurité Matt Knight, le responsable des systèmes de sécurité Lilian Weng, le responsable de la préparation Aleksander Madry, et le responsable de la science de l’alignement John Schulman renforceront le comité. L’entreprise prévoit également d’ajouter une série d’experts techniques à l’équipe alors qu’elle envisage des options externes. Pendant que le comité de sécurité se prépare à la tâche ardue qui l’attend, le bras technique de l’entreprise avance vers le lancement d’un nouveau modèle d’IA pour remplacer le GPT-4.
La nouvelle itération, largement annoncée comme la cinquième de la série, devrait disposer d’un mode vocal pour les fonctionnalités d’assistant numérique.
Le futur de l’IA chez OpenAI
Actuellement, OpenAI n’a pas encore publié de calendrier pour le lancement d’un successeur de GPT-4, mais les récentes sorties de Google, Meta et Anthropic pourraient contraindre l’entreprise à une sortie commerciale dans les mois à venir.
Alors qu’OpenAI affirme qu’elle sera transparente dans la conception du nouveau modèle de pointe, l’entreprise n’a pas encore divulgué d’informations sur un calendrier, des données d’entraînement ou une intégration avec d’autres technologies émergentes.
Démission et interrogations sur la politique de sécurité
La création d’un nouveau comité de sécurité fait suite à la démission de l’ancien chercheur d’OpenAI Jan Leike, après des problèmes liés à la politique de sécurité de l’entreprise. Leike a soutenu que l’entreprise reléguait la sécurité au second plan au profit de ses produits brillants, Altman concédant qu’OpenAI avait “beaucoup plus à faire.” L’entreprise a connu une série de démissions de haut niveau ces dernières semaines, y compris les départs de plusieurs membres clés de l’équipe dont l’ancien scientifique en chef Ilya Sutskever.
À peine un an après avoir lancé une équipe de superalignement avec Sutskever et Leike, OpenAI a fermé le projet, jetant le doute sur la position de l’entreprise en matière de sécurité.
Source : coingeek.com
