L’intelligence artificielle de demain : personne n’est prêt
La démission d’un chercheur d’OpenAI souligne l’impréparation face à l’IA de niveau humain
Un chercheur d’OpenAI chargé de s’assurer que la société (et le monde) est prête pour l’avènement de l’intelligence artificielle générale (AGI) a démissionné – et met en garde contre le fait que personne n’est prêt pour ce qui va arriver.
Dans un billet sur sa page Substack personnelle, le tzar de la préparation à l’AGI fraîchement démissionné de l’entreprise, Miles Brundage, a déclaré qu’abandonner son “emploi de rêve” après six ans était difficile. Il affirme le faire car il ressent une grande responsabilité concernant l’intelligence artificielle de niveau humain que, selon lui, OpenAI est en train de créer.
“J’ai décidé,” a écrit Brundage, “que je veux influencer le développement de l’IA depuis l’extérieur de l’industrie plutôt que de l’intérieur.”
Niveaux et niveaux
Après cette déclaration audacieuse, Brundage a ajouté qu’il avait partagé son point de vue avec la direction d’OpenAI. Il a ajouté, pour ce que cela vaut, qu’il pense que “l’AGI est une expression surchargée qui implique plus une façon binaire de penser qui n’a pas vraiment de sens.”
Au lieu d’exister un cadre avant et après l’AGI, le chercheur a déclaré qu’il y a, pour citer de nombreux amateurs d’hallucinogènes, des niveaux à cette situation.
En effet, Brundage a affirmé qu’il a joué un rôle important dans la création de l’échelle de cinq niveaux de l’IA/AGI d’OpenAI qui a fuité à Bloomberg cet été. Sur cette échelle, qui se termine par une IA capable de “faire le travail d’une organisation,” OpenAI estime que le monde se situe actuellement au bord du niveau deux, caractérisé par une IA dotée de capacités de raisonnement de niveau humain.
Néanmoins, Brundage insiste sur le fait qu’OpenAI et le monde en général restent mal préparés pour les systèmes IA de nouvelle génération en cours de développement.
Il est important de souligner que Brundage reste convaincu que si l’AGI peut bénéficier à toute l’humanité, cela ne se fera pas automatiquement. Au contraire, les humains chargés de la création et de la régulation de l’AGI doivent agir délibérément. Cette mise en garde suggère qu’il pense peut-être qu’OpenAI n’est pas suffisamment délibérée dans sa manière d’aborder la gestion de l’AGI.
Avec le départ du chercheur senior, Brundage précise qu’OpenAI réaffecte les membres de son équipe de préparation à l’AGI à d’autres groupes au sein de l’organisation. Cette dissolution survient moins de six mois après la suppression de son équipe de sécurité en matière d’IA, ce qui n’augure guère bien alors que cette dernière grande démission secoue le leadership de l’entreprise.
Source : futurism.com
