L’avenir de l’IA chez OpenAI : profits ou sécurité?
OpenAI et Google DeepMind : des employés insatisfaits dévoilent leur situation
Onze employés actuels et anciens d’OpenAI, ainsi que deux autres de Google DeepMind, ont publié une lettre ouverte aujourd’hui déclarant qu’ils ne peuvent pas exprimer leurs inquiétudes concernant les risques créés par leurs employeurs en raison d’accords de confidentialité. Les employés ont dévoilé des détails importants sur la gestion des risques chez OpenAI et Google DeepMind et ont soulevé des questions sur l’orientation actuelle de la conversation sur la sécurité de l’IA.
À plusieurs reprises, nous avons assisté à une dynamique similaire au sein d’entreprises telles que Meta, Google et Twitter. Tout d’abord, pour contrer les dommages potentiels créés par leurs plateformes, les entreprises embauchent des travailleurs idéalistes et leur confient la tâche d’intégrer des mesures de sécurité dans leurs systèmes. Pendant un certain temps, le travail de ces équipes est priorisé. Cependant, à terme, l’enthousiasme des dirigeants diminue, les incitations commerciales prennent le dessus et l’équipe est peu à peu privée de financement.
Lorsque ces obstacles se présentent, certains des employés idéalistes prendront la parole, que ce soit auprès d’un journaliste ou via une lettre ouverte comme celle publiée par les employés d’IA aujourd’hui. En réponse, l’entreprise réorganise l’équipe jusqu’à sa disparition, tout en publiant une déclaration affirmant que ce sur quoi l’équipe travaillait relève désormais de la responsabilité de chacun.
Le changement de cap d’OpenAI :
OpenAI s’est placé dans une situation particulière par rapport aux autres géants de la tech. En effet, il a été créé non pas comme une entreprise à but lucratif, mais comme un laboratoire de recherche à but non lucratif consacré à la construction sécurisée d’une intelligence artificielle générale.
La situation d’OpenAI en tant qu’organisation à but non lucratif relativement obscure a changé à jamais en novembre 2022. C’est à ce moment-là que l’entreprise a lancé ChatGPT, un chatbot basé sur la dernière version de son modèle de langage large, qui est rapidement devenu, selon certaines estimations, le produit grand public à la croissance la plus rapide de l’histoire.
L’évolution d’OpenAI :
ChatGPT a démocratisé une technologie auparavant réservée aux initiés, en la rendant accessible à tous, des enfants d’école élémentaire aux opérations d’influence étrangères soutenues par l’État. OpenAI ressemblait bientôt à peine à l’organisation à but non lucratif fondée par la crainte que l’IA représente un risque existentiel pour l’humanité.
Cette transformation, menée par le PDG Sam Altman, a provoqué un choc chez de nombreux salariés de l’entreprise. Elle a également été à l’origine des tensions qui ont conduit le conseil d’administration à licencier Altman l’année dernière, pour des raisons liées à la gouvernance.
Source : www.platformer.news
