Tsunami d’IA menace OpenAI : CEO Sam Altman sous pression
La technologie et l’intelligence artificielle (IA) sont des domaines qui connaissent actuellement une période agitée. Au sein d’OpenAI, les départs de personnalités importantes et les inquiétudes des régulateurs quant à la sécurité ont mis le CEO Sam Altman sous les feux des projecteurs. Ce dernier a même exprimé sa frustration quant à la fin des dîners improvisés dans sa propre ville en raison de sa notoriété.
Départs majeurs chez OpenAI
Après une interview diffusée sur The Logan Bartlett Show, le co-fondateur d’OpenAI, Ilya Sutskever, a annoncé son départ, suivi de près par Jan Leike, qui co-dirigeait l’équipe de superalignement de l’entreprise.
Les préoccupations autour de la sécurité
La directrice du Fonds monétaire international, Dr Kristalina Georgieva, a déjà évoqué le “tsunami” qui frappe le marché du travail mondial alors que de plus en plus d’entreprises adoptent des technologies liées à l’IA.
Les défis de la sécurité pour OpenAI
Les divergences d’opinion au sein de la direction d’OpenAI ont été mises en lumière par le départ de Leike. Celui-ci a souligné l’importance d’accorder plus d’attention à la sécurité, à la surveillance et à l’impact sociétal, mettant en garde contre les dangers inhérents à la création de machines plus intelligentes que les humains.
Ces préoccupations ont conduit Greg Brockman, co-fondateur d’OpenAI, à souligner les mesures prises par l’entreprise pour garantir la sécurité lors du déploiement de technologies toujours plus avancées.
Les enjeux de la sécurité de l’IA
Face aux défis de sécurité qui se multiplient, OpenAI intensifie sa collaboration avec les gouvernements et les parties prenantes pour relever ces défis.
La semaine passée, le secrétaire britannique à la technologie, Michelle Donelan, a annoncé l’ouverture d’un bureau à San Francisco pour l’Institut britannique de sécurité de l’IA. Les conclusions de l’étude menée sur la sécurité des modèles d’IA ont révélé des lacunes inquiétantes en termes de vulnérabilités et de risques potentiels.
Alors qu’OpenAI faisait la une pour ses avancées dans le domaine de l’IA avec GPT-4o, la récente série de démissions et les critiques sur sa culture de la sécurité ont replacé l’entreprise sous les projecteurs, démontrant un enjeu majeur pour le secteur. Il devient impératif de repenser les enjeux de sécurité et de préparation face aux défis à venir dans le domaine de l’intelligence artificielle.
Source : www.theregister.com
