Départ choc chez OpenAI: risque d’IA autonome ?
OpenAI : les enjeux liés à la sécurité
La démission d’Ilya Sutskever, symbole de tensions chez OpenAI
La semaine dernière, la communauté technologique a été surprise par la démission d’Ilya Sutskever, cofondateur d’OpenAI, qui avait brièvement mené une rébellion contre Sam Altman. Certains observateurs ont minimisé ce départ, notant que Sutskever n’était pas au bureau depuis des mois et qu’il semblait être parti dans de bons termes.
Cependant, les commentaires controversés d’un autre cadre démissionnaire ont soulevé des questions sur le laxisme de la société, l’un des principaux développeurs d’outils d’intelligence artificielle, en matière de sécurité. Jan Leike, qui a également démissionné d’OpenAI la semaine dernière, a écrit sur le réseau social X: “La culture et les processus de sécurité ont été relégués au second plan par rapport aux produits attractifs”.
Des tensions internes menacent la sécurité des produits
Le départ de Sutskever soulève des inquiétudes quant à la capacité d’OpenAI à développer une intelligence artificielle générale, aussi sophistiquée que le cerveau humain, qui serait “à la fois sûre et bénéfique pour l’humanité”. Toutefois, Leike s’est montré bien plus critique et a révélé les difficultés rencontrées par son équipe pour mener à bien des recherches cruciales, faute de ressources adéquates.
Certains anciens employés ont exprimé des doutes quant à la capacité de l’équipe dirigeante à assurer une gestion responsable de l’intelligence artificielle générale, ce qui a conduit à un climat de méfiance au sein de l’entreprise.
Quelles conséquences pour OpenAI et son avenir ?
L’inquiétude autour de la précipitation d’OpenAI à développer des technologies de plus en plus sophistiquées, ainsi que des accords avec des régimes autocratiques, soulève des questions sur la potentielle nécessité d’une réglementation renforcée. La perception d’un manque d’attention à la sécurité pourrait devenir un sérieux obstacle dans la course de la société contre ses concurrents, malgré le soutien de grands investisseurs comme Microsoft.
À l’heure où la sécurité et la responsabilité dans le domaine de l’intelligence artificielle sont au cœur des préoccupations, OpenAI se trouve à un tournant décisif pour assurer son avenir et la confiance de ses partenaires et employés.
Source : www.nytimes.com
