OpenAI dissout son équipe de sécurité en IA : les détails
OpenAI confirme vendredi qu’elle a dissous une équipe dédiée à atténuer les dangers à long terme d’une intelligence artificielle super intelligente. Il y a quelques semaines, OpenAI a commencé à dissoudre le groupe de “superalignement”, intégrant ses membres dans d’autres projets et recherches, selon l’entreprise basée à San Francisco. Les co-fondateurs de la société, Ilya Sutskever et Jan Leike, ont annoncé qu’ils quittaient cette semaine le créateur de ChatGPT. La dissolution d’une équipe d’OpenAI axée sur la maîtrise d’une intelligence artificielle sophistiquée intervient alors que cette technologie est de plus en plus scrutée par les régulateurs et que les craintes concernant ses dangers s’intensifient.
Importance de la sécurité dans l’intelligence artificielle
“OpenAI doit devenir une entreprise AGI (intelligence artificielle générale) axée sur la sécurité”, a écrit Leike vendredi dans un message sur X, anciennement Twitter. Leike a appelé tous les employés d’OpenAI à “agir avec la gravité” justifiée par ce qu’ils construisent. Le directeur général d’OpenAI, Sam Altman, a répondu au message de Leike avec le sien, le remerciant pour son travail au sein de l’entreprise et exprimant sa tristesse de le voir partir. “Il a raison, nous avons beaucoup à faire”, a déclaré Altman. “Nous nous engageons à le faire.” Altman a promis d’en dire plus sur le sujet dans les jours à venir.
Changements au sein d’OpenAI
Sutskever a déclaré qu’il quittait OpenAI après près d’une décennie passée au sein de l’entreprise, dont “la trajectoire n’a été rien de moins que miraculeuse”. “Je suis convaincu qu’OpenAI construira une AGI qui soit à la fois sûre et bénéfique”, a-t-il ajouté, faisant référence à la technologie informatique qui cherche à performer aussi bien que, voire mieux que la cognition humaine. Sutskever, scientifique en chef d’OpenAI, faisait partie du conseil qui a voté en novembre de l’année dernière pour l’éviction de son collègue directeur général, Altman. Ce renvoi a plongé la startup basée à San Francisco dans la tourmente, le conseil d’administration d’OpenAI ayant rengagé Altman quelques jours plus tard après une rébellion du personnel et des investisseurs.
Avancées technologiques chez OpenAI
En début de semaine, OpenAI a sorti une version plus performante et encore plus proche de l’humain de la technologie d’intelligence artificielle qui sous-tend ChatGPT, la rendant gratuite pour tous les utilisateurs. “Cela ressemble à de l’IA vue dans les films”, a déclaré Altman dans un billet de blog. Altman a précédemment cité le personnage de Scarlett Johansson dans le film “Her”, où elle prête sa voix à un assistant virtuel basé sur l’IA qui sort avec un homme, comme une inspiration pour là où il aimerait que les interactions avec l’IA se dirigent.
Source : www.yahoo.com
