Lettre ouverte des employés d’OpenAI : Des inquiétudes concernant l’avancée rapide de l’IA.
Les employés d’OpenAI expriment leurs inquiétudes concernant l’avancement rapide de l’industrie de l’intelligence artificielle, sans surveillance ou protection pour les lanceurs d’alerte. Les entreprises majeures telles qu’OpenAI, Google et Microsoft sont à la pointe d’une course à l’armement de l’IA générale, un marché estimé à dépasser 1 trillion de dollars de revenus dans les dix prochaines années.
Inquiétudes des employés d’OpenAI
Les employés actuels et anciens d’OpenAI ont soulevé des préoccupations importantes sur le manque de réglementation, la confidentialité des informations sur la technologie et les risques éventuels liés à l’IA. Ils pointent du doigt le manque de protections pour les lanceurs d’alerte et soulignent que la mise en place d’une confidentialité stricte n’encourage pas les employés à signaler les problèmes potentiels.
Les signataires de la lettre demandent aux entreprises d’IA de s’engager à ne pas imposer de clauses de non-dénigrement et à permettre un processus anonyme pour les employés actuels et anciens de signaler des problèmes. Ils soulignent également la nécessité d’une culture de la critique ouverte pour favoriser un environnement propice au dialogue.
Controverses pour OpenAI
OpenAI a récemment dû faire face à des controverses internes, notamment en revenant sur une décision controversée obligeant les anciens employés à choisir entre une clause de non-dénigrement perpétuelle ou le maintien de leurs actions acquises dans l’entreprise.
Parallèlement, des changements importants au sein de l’organisation ont conduit à la dissolution d’une équipe dédiée à l’évaluation des risques à long terme de l’IA, suscitant des interrogations sur les priorités de l’entreprise et la culture interne.
Malgré ces défis, OpenAI poursuit ses efforts pour étendre l’utilisation de ses chatbots populaires, comme en témoigne le récent lancement d’un nouveau modèle d’IA et d’une version de bureau de ChatGPT, malgré certaines controverses associées aux voix utilisées dans ces chatbots.
Source : www.cnbc.com
