Employés d’OpenAI et Google DeepMind alertent les dangers de l’IA de pointe
D’anciens employés de OpenAI et Google DeepMind ont publié une lettre ouverte demandant aux entreprises d’IA de permettre aux employés de soulever des préoccupations concernant la technologie sans craindre des représailles.
Des signataires expriment leurs inquiétudes sur l’IA
Le site Ars Technica rapporte que la lettre, intitulée “Un droit de mettre en garde sur l’Intelligence Artificielle avancée”, a été signée par 13 individus, dont certains de manière anonyme par crainte de représailles potentielles.
Les signataires soutiennent que les risques de l’IA incluent “l’enracinement accru des inégalités existantes, la manipulation et la désinformation, la perte de contrôle des systèmes autonomes d’IA pouvant entraîner l’extinction de l’humanité.”
Plus inquiétante est l’affirmation selon laquelle les entreprises d’IA détiennent des informations substantielles non publiques sur les capacités, les limitations et les niveaux de risque de leurs systèmes. Actuellement, elles ont peu d’obligations de partager ces informations avec les gouvernements, voire aucune avec la société civile, rapporte Ars Technica.
Des anciens employés réclament des principes clés
Les signataires non anonymes sont d’anciens employés de OpenAI tels que Jacob Hilton, Daniel Kokotajlo, William Saunders, Carroll Wainwright, et Daniel Ziegler, ainsi que d’anciens employés de Google DeepMind comme Ramana Kumar et Neel Nanda.
Le groupe demande quatre principes clés : ne pas imposer des accords interdisant la critique de l’entreprise pour des préoccupations liées aux risques, faciliter un processus anonyme pour que les employés soulèvent des inquiétudes, soutenir une culture de la critique ouverte, et ne pas prendre de représailles contre les employés qui partagent des informations confidentielles après l’échec d’autres processus.
Source : deadline.com
