Destruction par l’IA : une menace imminente selon les experts
Avertir des dangers de l’intelligence artificielle chez OpenAI
Défis de l’intelligence artificielle générale
Un groupe d’anciens et actuels employés d’OpenAI a récemment publié une lettre ouverte dans laquelle ils affirment être réduits au silence lorsqu’ils soulèvent des préoccupations concernant la sécurité de l’intelligence artificielle. L’un des signataires de la lettre a même prédit de manière terrifiante que l’humanité pourrait être détruite par l’IA.
Le chercheur en gouvernance de l’ancien OpenAI, Daniel Kokotajlo, met en garde contre les menaces posées par l’intelligence artificielle générale (AGI). Il accuse OpenAI d’ignorer les risques monumentaux car la société est fascinée par les possibilités de cette technologie.
OpenAI est très enthousiaste à l’idée de construire une intelligence artificielle générale et s’engage dans une course effrénée pour en devenir le premier créateur. Kokotajlo affirme même qu’il y a 70 % de chances que l’IA détruise l’humanité. Malgré des chances inacceptables pour tout événement majeur de la vie, l’entreprise continue de foncer.
Les avertissements des spécialistes
Après son arrivée chez OpenAI en 2022, Kokotajlo a été invité à prévoir les progrès de la technologie. Il est convaincu que l’industrie non seulement atteindra l’AGI d’ici 2027, mais qu’il existe une grande probabilité qu’elle nuise catastrophiquement à l’humanité.
La lettre ouverte publiée par Kokotajlo et ses camarades, dont Geoffrey Hinton, le soi-disant “parrain de l’IA”, met en avant leur “droit de prévenir” le public des menaces posées par l’IA. Kokotajlo a exhorté personnellement le PDG d’OpenAI, Sam Altman, à consacrer plus de temps à la mise en œuvre de défenses pour maîtriser la technologie au lieu de la rendre plus intelligente.
Après la publication de la lettre, OpenAI a exprimé sa confiance en son historique en matière de fourniture de systèmes d’IA les plus sûrs et les plus performants. L’entreprise croit également en son approche scientifique pour aborder les risques liés à la sécurité.
Qu’est-ce que l’intelligence artificielle générale?
L’intelligence artificielle générale est un domaine de recherche théorique en IA qui tente de construire des logiciels capables de s’auto-enseigner en utilisant une intelligence semblable à celle des humains. Ces systèmes visent à effectuer des tâches pour lesquelles ils n’ont pas été spécifiquement entraînés ou développés.
L’IA générale permet aux systèmes d’IA de posséder un degré raisonnable de compréhension, de contrôle autonome et de capacité à apprendre de nouvelles compétences. L’idée est qu’un système AGI puisse résoudre des problèmes dans différents domaines sans intervention manuelle, en représentant une intelligence artificielle complète avec des capacités cognitives humaines généralisées.
Pour l’instant, l’IA générale reste un concept théorique et un objectif de recherche.
Source : www.sciencetimes.com
