Nouvelle société promet une voie sûre vers la superintelligence artificielle
Une nouvelle société promet une voie sûre vers l’intelligence artificielle superintelligente (ASI). Appelée Safe Superintelligence Inc. (SSI), la société a pour mission de réaliser l’ASI en mettant l’accent sur la sécurité. “Nous abordons la sécurité et les capacités de concert, en tant que problèmes techniques à résoudre grâce à des percées scientifiques et en ingénierie révolutionnaires. Nous prévoyons de faire progresser les capacités aussi rapidement que possible tout en veillant à ce que notre sécurité reste toujours en avance”, indique le site web de SSI. Curieusement, la sécurité préoccupe seulement quelques laboratoires d’IA de pointe. Dans l’histoire récente, l’équipe de sécurité d’OpenAI a été sous les projecteurs pour avoir été négligée, et le responsable de la sécurité de l’entreprise, Jan Leike, a critiqué publiquement les pratiques de sécurité avant de partir chez Anthophic. Anthophic se concentre sur la fourniture de modèles d’IA sûrs, avec son Claude Opus étant l’un des modèles d’IA les plus avancés à ce jour. Que va-t-il sortir de SSI? Nous ne le savons toujours pas. Cependant, étant donné l’équipe d’Ilya Sutskever, Daniel Gross et Daniel Levy, nous supposons qu’ils ont attiré les meilleurs talents pour développer des modèles d’IA de nouvelle génération, en mettant l’accent sur la sécurité. Avec des bureaux à Palo Alto et Tel Aviv, SSI peut compter sur un vaste réseau de chercheurs en IA et de décideurs politiques pour établir une ASI sûre, à l’abri des pressions commerciales à court terme et axée sur la recherche et le développement. “Notre équipe, nos investisseurs et notre modèle d’entreprise sont tous alignés pour atteindre SSI”, déclare le site web de SSI.
Source : www.techpowerup.com
