OpenAI renforce la sécurité de l’IA GPT-4 avec un comité dédié.
OpenAI renforce sa sécurité avec la mise en place d’un comité dédié à la sécurité pour la formation de son dernier modèle d’intelligence artificielle, le système GPT-4 de son chatbot ChatGPT.
Renforcement de la sécurité de l’IA
Le comité comprendra Sam Altman, PDG d’OpenAI, des membres du conseil d’administration et d’autres dirigeants. Il passera les 90 prochains jours à renforcer les processus d’OpenAI et à protéger le développement avancé de l’IA contre les abus potentiels et l’exploitation.
Il fera des recommandations au conseil d’administration sur “les décisions critiques en matière de sécurité pour les projets et opérations d’OpenAI”, a déclaré la société dans un communiqué.
Départs clés
Cette annonce intervient quelques semaines après le départ de cadres clés de l’entreprise. Le chercheur Jan Leike, qui a démissionné d’OpenAI plus tôt ce mois-ci, a déclaré que la “culture de sécurité et les processus de l’entreprise ont été relégués au second plan par rapport aux produits attractifs.”
Ilya Sutskever, co-fondateur et scientifique en chef d’OpenAI, a également démissionné. “Je suis convaincu qu’OpenAI développera une IA générale [intelligence artificielle générale] qui soit à la fois sûre et bénéfique”, a-t-il déclaré sur le site de médias sociaux X, anciennement Twitter.
Superalignement abandonné
Leike et Sutskever ont dirigé conjointement l’équipe “superalignment” de l’entreprise, dédiée à la réduction des risques à long terme liés à l’IA, qui a été dissoute après leur départ.
Recommandations à venir
OpenAI a été critiqué pour des allégations selon lesquelles une voix de ChatGPT copiait celle de l’actrice Scarlett Johansson. La société a nié toute tentative d’impersonation de Johansson.
Le nouveau comité publiera publiquement ses recommandations pour l’entreprise à la suite de sa réunion avec le conseil d’administration à l’automne. “Nous accueillons un débat robuste à cette étape importante”, a déclaré le communiqué d’OpenAI.
Certaines informations pour ce rapport ont été fournies par The Associated Press et Agence France-Presse.
Source : www.voanews.com
