Ilya Sutskever fonde Safe Superintelligence Inc. pour développer une IA sûre
Un expert en IA fonde une entreprise axée sur la sécurité
Un ancien fondateur d’OpenAI, impliqué dans une tentative infructueuse pour évincer le PDG Sam Altman, a annoncé la création d’une entreprise axée sur la sécurité des intelligences artificielles.
Ilya Sutskever, chercheur respecté dans le domaine de l’IA, a récemment quitté le créateur de ChatGPT pour se consacrer à une entreprise nommée Safe Superintelligence Inc., en collaboration avec deux cofondateurs. L’objectif unique de cette entreprise est de développer en toute sécurité une «superintelligence» – faisant référence à des systèmes d’IA plus intelligents que les humains.
Les fondateurs ont affirmé que l’entreprise se concentrera exclusivement sur la sécurité et ne sera pas distrait par les contraintes de gestion ou de cycles de produits. Leur modèle d’affaires garantit que le travail sur la sécurité sera isolé des pressions commerciales à court terme.
Une entreprise américaine axée sur la technologie
Safe Superintelligence est une entreprise américaine ayant des bases à Palo Alto, en Californie, et à Tel Aviv, villes où les fondateurs disposent de solides réseaux et peuvent recruter des talents techniques de premier plan.
Sutskever faisait partie d’un groupe ayant tenté en vain de renverser Altman l’année dernière. Cette réorganisation au sein de la direction d’OpenAI, couplée à des tensions internes sur la priorisation des opportunités commerciales par rapport à la sécurité de l’IA, a poussé Sutskever à quitter l’entreprise.
Avant de quitter OpenAI, Sutskever dirigeait une équipe axée sur le développement sûr de l’IA dépassant les capacités humaines, également appelée intelligence artificielle générale. Il a quitté l’entreprise pour se consacrer à un projet personnel «très significatif», sans révéler de détails.
Sutskever a déclaré que son départ d’OpenAI était une décision personnelle, suivie de la démission de son collègue Jan Leike, qui a critiqué l’entreprise pour son manque d’attention à la sécurité au profit de produits attrayants. OpenAI a par la suite mis en place un comité dédié à la sécurité, principalement composé de membres internes.
Source : www.nwahomepage.com
