Risques de l’IA : Lettre ouverte de professionnels contre les géants tech.
Préoccupations des employés de l’IA aux États-Unis
Le 4 juin 2024, des employés actuels et anciens de plusieurs entreprises américaines spécialisées dans l’intelligence artificielle (IA) ont publié une lettre ouverte exprimant leurs préoccupations concernant les risques posés par cette technologie émergente. Selon un rapport de Reuters du 5 juin, les signataires de la lettre ouverte comprenaient d’anciens et d’actuels employés de la start-up américaine OpenAI et de DeepMind de Google, totalisant 13 individus. La lettre mettait en garde contre les risques liés à l’IA non réglementée, tels que la propagation de la désinformation, la perte d’autonomie des systèmes d’IA et l’approfondissement des inégalités sociales. Elle suggérait que ces risques pourraient conduire à “l’extinction de l’humanité” et critiquait les entreprises d’IA pour ne remplir qu’une “faible obligation” de partager des informations cruciales avec le gouvernement, affirmant qu’il ne fallait pas compter sur ces entreprises pour partager volontairement des informations.
Appels de l’industrie pour une réglementation de l’IA
Reuters a qualifié la lettre ouverte comme le dernier exemple d’insiders de l’industrie soulevant des inquiétudes concernant la sécurité de la technologie d’IA générative. La lettre exhortait les entreprises d’IA à permettre aux employés actuels et anciens d’exprimer leurs préoccupations concernant les risques de l’industrie.
Récemment, OpenAI a été critiqué pour avoir réduit au silence les voix concernant les risques de l’industrie. Le mois dernier, un article de Vox News a révélé qu’OpenAI avait menacé de retirer l’équité des employés s’ils ne signaient pas un accord les empêchant de critiquer l’entreprise. Cependant, le PDG d’OpenAI, Sam Altman, a récemment affirmé sur les médias sociaux qu’il n’était pas au courant d’un tel arrangement et a déclaré que l’entreprise n’avait jamais retiré l’équité à quiconque.
Controverses entourant ChatGPT d’OpenAI
En plein débat sur la liberté de parole des employés, le chatbot d’IA ChatGPT d’OpenAI a connu des interruptions de service le 4 juin. Selon Quartz News, la première panne a eu lieu à 3 heures du matin, heure de l’Est, suivie d’une autre à 10h33 le même jour. La page d’état d’OpenAI indiquait qu’il y avait eu une douzaine de pannes au cours des 90 derniers jours. Le rapport notait que les interruptions de service d’OpenAI étaient devenues assez fréquentes, rendant difficile pour les gens de compter sur ChatGPT pour leur travail. OpenAI affirme que ChatGPT compte environ 100 millions d’utilisateurs actifs par semaine, soulevant des inquiétudes quant aux conséquences de sa fiabilité médiocre.
Source : www.diskmfr.com
