OpenAI néglige l’équipe Superalignment, plusieurs départs dont Jan Leike
OpenAI: Départ de membres clés de l’équipe Superalignment
Négligence de l’équipe Superalignment
L’équipe Superalignment d’OpenAI, chargée de développer des méthodes pour contrôler des systèmes d’IA superintelligents, aurait été négligée, ce qui a entraîné plusieurs démissions, notamment celle du co-leader Jan Leike. L’équipe s’était vue promettre 20% des ressources de calcul de l’entreprise, mais se voyait souvent refuser même une fraction de cette promesse. Leike, ancien chercheur de DeepMind, a exprimé son désaccord avec la direction d’OpenAI concernant les priorités de l’entreprise, soulignant la nécessité de se concentrer davantage sur les modèles de nouvelle génération, la sécurité et les sujets liés à la sûreté.
Objectif ambitieux de l’équipe Superalignment
L’équipe Superalignment a été formée en juillet de l’année dernière avec pour objectif ambitieux de résoudre les défis techniques fondamentaux du contrôle de l’IA superintelligente dans les quatre prochaines années. Malgré la publication de recherches en matière de sécurité et l’octroi de millions de dollars de subventions à des chercheurs externes, l’équipe a rencontré des difficultés pour obtenir des investissements initiaux supplémentaires alors que les lancements de produits accaparaient davantage l’attention de la direction d’OpenAI.
Conflits internes
Des conflits internes, notamment un différend entre Ilya Sutskever, co-fondateur d’OpenAI et co-leader de l’équipe Superalignment, et le PDG d’OpenAI Sam Altman, ont compliqué davantage la situation de l’équipe. Suite aux départs de Leike et Sutskever, un autre co-fondateur d’OpenAI, John Schulman, a repris le travail de l’équipe Superalignment. Cependant, il n’y aura plus d’équipe dédiée; il s’agira plutôt d’un groupe de chercheurs associés de manière sporadique au sein de l’entreprise. Cela a soulevé des inquiétudes quant au fait que le développement de l’IA chez OpenAI pourrait ne pas être aussi axé sur la sécurité qu’il aurait pu l’être.
Source : web.swipeinsight.app
