OpenAI renforce ses mesures de sécurité avec une nouvelle équipe dirigée par Sam Altman
OpenAI renforce sa sécurité et répond aux critiques en mettant en place une nouvelle équipe dédiée à la veille sécuritaire pour l’IA.
Une nouvelle équipe de sécurité pour OpenAI
Après certaines dissensions au sein de l’équipe de sécurité et le départ de cadres importants, OpenAI annonce la création d’une nouvelle équipe dirigée par le CEO Adam D’Angelo et la membre du conseil d’administration Nicole Seligman. Cette équipe, chargée de la veille sécuritaire, émettra des recommandations sur les projets de la société pour répondre aux critiques internes.
La priorité de cette équipe sera d’évaluer et d’améliorer les processus et les mesures de sécurité existants chez OpenAI. Une fois les conclusions présentées au conseil d’administration, celui-ci décidera des actions à entreprendre pour renforcer la sécurité.
Des départs clés à l’origine de cette initiative
Cette initiative intervient après le départ du co-fondateur et scientifique en chef Ilya Sutskever, qui avait précédemment soutenu le départ de Sam Altman. Leur équipe Superalignment, dédiée au contrôle et à l’analyse des systèmes d’IA avancés, a été dissoute à la suite de leurs démissions, mettant en lumière des préoccupations sur la façon dont OpenAI aborde les enjeux sociétaux liés aux IA “super-intelligentes”.
Outre les personnalités mentionnées, l’équipe de sécurité inclut d’autres experts tels que Aleksander Madry, Lilian Weng, John Schulman, Matt Knight et Jakub Pachocki. La participation d’Altman et des membres du conseil d’administration à cette nouvelle équipe soulève des interrogations sur l’engagement réel de OpenAI à garantir la sécurité de ses travaux, en réponse aux récentes départs de personnalités clés.
Source : kulturegeek.fr
