Les dangers de l’IA pour l’humanité : une probabilité de 99.9% selon un expert
Les récentes prévisions dans le domaine de l’intelligence artificielle laissent planer une ombre de doute sur l’avenir de l’humanité. Selon un chercheur en IA, il y a une probabilité de 99,9 % que l’IA mette fin à l’humanité en se basant sur p(doom). Ce chercheur propose la mise en place d’une machine de sécurité perpétuelle pour éviter que l’IA ne dégénère et ne mène à la destruction de l’humanité.
Les défis à relever avec l’IA
Nous nous trouvons au seuil de la plus grande percée technologique avec l’IA, malgré plusieurs obstacles potentiels à surmonter. Par exemple, OpenAI dépense 700 000 dollars par jour pour maintenir ses opérations ChatGPT en fonctionnement. À cela s’ajoute la quantité incroyable d’électricité nécessaire pour alimenter les avancées en matière d’IA et l’eau pour le refroidissement.
Les préoccupations concernant la vie privée et la sécurité entourant la technologie ont laissé une grande majorité d’utilisateurs inquiets. Des fonctionnalités controversées basées sur l’IA, comme le rappel de Windows de Microsoft, ont été qualifiées de “cauchemar pour la vie privée” et de “paradis des hackers” par des utilisateurs préoccupés.
Les défis de sécurité et de réglementation
Cependant, les garde-fous et les mesures de réglementation pour empêcher la technologie de dégénérer restent minces. Le PDG d’OpenAI, Sam Altman, admet qu’il n’y a pas de “gros bouton rouge” en place pour stopper la progression de l’IA. Malheureusement, des préoccupations et des prédictions ont été soulevées quant à l’IA devenant plus intelligente que les humains, prenant nos emplois et mettant éventuellement fin à l’humanité.
Un chercheur en IA affirme qu’il y a une probabilité de 99,9 % que l’IA mette fin à l’humanité, bien qu’Elon Musk, paraissant optimiste, ramène cette probabilité à 20 % et affirme que cela devrait être exploré de toute façon.
Source : www.windowscentral.com
