OpenAI forme un nouveau comité sur la sécurité de l’IA
Aperçu des changements à venir chez OpenAI
Un nouveau comité pour la sécurité et la sûreté chez OpenAI
OpenAI, la société derrière ChatGPT, annonce la formation d’un nouveau comité de sécurité et de sûreté pour guider son conseil d’administration sur les enjeux liés à la sécurité et à la sûreté de l’IA. De plus, la société a également évoqué une prochaine version améliorée de son chatbot actuel.
La création de ce comité fait suite à des départs importants au sein de l’équipe de sécurité d’OpenAI. Il s’agit d’un exercice délicat pour l’entreprise alors qu’elle doit jongler avec les défis du développement responsable de l’IA dans une industrie compétitive.
Le nouveau comité prend les rênes
OpenAI a également annoncé dans un article de blog publié le mardi 28 mai le démarrage de l’entraînement d’un nouveau modèle d’IA pour remplacer celui derrière ChatGPT. Ce nouveau modèle, qui succèdera à GPT-4, rapprochera la société de l’objectif de l’intelligence artificielle générale (AGI), la capacité hypothétique d’un système d’IA à comprendre ou apprendre n’importe quelle tâche intellectuelle qu’un être humain peut réaliser.
Le comité, dirigé par le PDG Sam Altman et les membres du conseil Bret Taylor et Nicole Seligman, a 90 jours pour évaluer et renforcer les processus de sécurité d’OpenAI. Il présentera ses recommandations au conseil et partagera une mise à jour avec le public.
Ce nouvel engagement d’OpenAI montre que l’entreprise reconnaît l’importance du développement responsable de l’IA. La timeline de 90 jours suggère une certaine urgence et un engagement. Cependant, les départs soulèvent des questions sur les dynamiques internes et la capacité à conserver les talents en matière de sécurité de l’IA.
OpenAI devra relever ces défis et veiller à ce que la sécurité de l’IA reste une priorité absolue. Cela signifie allouer des ressources et promouvoir une culture qui valorise la responsabilité tout en favorisant l’innovation.
Ce remaniement met également en lumière les défis plus larges de l’industrie de l’IA. Alors que l’IA devient de plus en plus puissante, des mesures de sécurité robustes et des lignes directrices éthiques sont cruciales. La course à l’AGI doit être équilibrée avec la réduction des risques et la garantie que l’IA profite à la société.
Le nouveau comité d’OpenAI devra naviguer à travers ces problématiques complexes. Il devra travailler à restaurer la confiance dans l’engagement de l’entreprise en matière de sécurité de l’IA et contribuer à la conversation plus large sur le développement responsable de l’IA dans une industrie en constante évolution.
Source : www.pymnts.com
