OpenAI perd un membre clé qui met en garde sur l’IA généralisée
OpenAI perd un membre clé
OpenAI a perdu un autre membre seniors, et en partant, celui-ci a averti que l’entreprise – et toutes les autres entreprises en intelligence artificielle – ne sont tout simplement pas prêtes pour une intelligence artificielle générale.
Le département exécutif est Miles Brundage, qui cessera de travailler en tant que conseiller principal pour la préparation à l’IA générale. L’IA – intelligence artificielle générale – est le terme utilisé pour décrire une IA qui semble avoir les même capacités cognitives qu’un humain. Comme les humains, les IA générales pourraient théoriquement apprendre presque tout. Se préparer à l’arrivée de l’IA générale est considéré comme une action importante et responsable, étant donné que les IA générales pourraient faire mieux que les humains dans certains domaines.
Des lacunes préoccupantes
Brundage a révélé son départ dans une publication Substack dans laquelle il expliquait sa décision comme un désir de réfléchir à la préparation de L’IA générale d’OpenAI, et du monde, sans que son point de vue soit biaisé par son statut d’employé.
Dans sa publication, il a écrit qu’OpenAI a des “lacunes” dans sa préparation – mais cela est également vrai pour tous les autres laboratoires d’IA avancés.
Bien que l’état de non-préparation soit avéré, sa publication révèle que l’équipe de préparation à l’IA générale d’OpenAI sera dispersée parmi d’autres équipes, dans le cadre d’une réorganisation.
Des appels à l’action
Brundage a également affirmé que “l’IA et l’IA générale profitant à l’ensemble de l’humanité n’est pas automatique et nécessite des choix délibérés de la part des décideurs gouvernementaux, des organisations à but non lucratif, de la société civile et de l’industrie, choix qui doivent être informés par une discussion publique robuste.” Ces efforts doivent prendre en compte à la fois la sécurité et la distribution équitable des avantages, a-t-il suggéré.
Il soutient que la collaboration est importante – malgré sa conviction que “les pays occidentaux continueront probablement à surpasser considérablement la Chine en matière d’IA.” Nations et Chine disposent d’une technologie suffisante pour “développer des capacités très sophistiquées”, donc ne pas s’engager sur la sécurité gérerait le risque de manière dangereusement court-termiste.
Il affirme que la collaboration est importante – tout en voyant la présence de nombreuses raisons pour considérer la sécurité de l’IA.
Source : www.theregister.com
