OpenAI nomme Zico Kolter, expert en IA, à son conseil d’administration
OpenAI a récemment fait l’objet de critiques croissantes concernant les préoccupations liées à la sécurité de l’IA. L’IA, de plus en plus adoptée par les entreprises, suscite des inquiétudes croissantes en matière de sécurité. OpenAI a nommé Zico Kolter, professeur et directeur du département d’apprentissage machine à l’Université Carnegie Mellon, à son conseil d’administration. Ce choix s’inscrit dans un contexte où le ChatGPT, capable d’engager des conversations humaines et de générer des images à partir de descriptions textuelles, soulève des préoccupations en matière de sécurité.
Zico Kolter rejoint le conseil d’administration d’OpenAI
Zico Kolter, dont le travail se concentre principalement sur la sécurité de l’IA, rejoindra également le comité de sécurité et de sûreté du conseil d’administration d’OpenAI. Ce comité, créé en mai, formule des recommandations en matière de sécurité pour l’ensemble des projets d’OpenAI.
L’équipe du comité de sécurité comprend également le PDG Sam Altman, ainsi que les directeurs Bret Taylor, Adam D’Angelo, Paul Nakasone et Nicole Seligman. Kolter, ancien data scientist en chef chez C3.ai, occupe actuellement le poste d’expert en chef chez Bosch et de conseiller technique en chef chez Gray Swan, une startup spécialisée dans la sécurité et la sûreté de l’IA.
Contributions de Zico Kolter à OpenAI
En 2023, Zico Kolter a contribué au développement de méthodes pour évaluer automatiquement la sécurité de grands modèles de langage, démontrant ainsi la capacité de contourner les mesures de protection existantes.
Microsoft, quant à lui, a renoncé à son siège d’observateur au conseil d’administration d’OpenAI en juillet, afin d’apaiser les inquiétudes des régulateurs américains et britanniques concernant l’étendue de son contrôle sur la startup, au moment où l’adoption de l’IA générative est en pleine expansion.
Source : www.ndtv.com
