La puissance de l’intelligence : Qui la contrôlera ?
Le pouvoir de l’intelligence. Mais qui contrôlera ce pouvoir ?
Théorie de la Frange
Un des pionniers de l’IA les plus influents au monde met en garde non seulement contre le fait que cette technologie de plus en plus puissante pourrait nuire au monde, mais aussi contre le danger que les personnes en charge de celle-ci pourraient être tout aussi dangereuses.
Dans une interview avec CNBC, le luminaire de l’informatique Yoshua Bengio a déclaré que des membres d’une élite technologique “marginale” souhaitent que l’IA remplace les humains. Le chef de l’Institut des Algorithmes d’Apprentissage de l’Université de Montréal a été parmi les signataires publics de la lettre ouverte “Droit d’Alerte” rédigée par des chercheurs de premier plan en IA chez OpenAI qui affirment être réduits au silence concernant les dangers de la technologie. Aux côtés des experts renommés Yann LeCun et Geoffrey Hinton, il est parfois appelé l’un des “parrains de l’IA”.
“Le pouvoir de l’intelligence. Mais qui va contrôler ce pouvoir ?”, a déclaré l’expert éminent en apprentissage automatique lors du Sommet One Young World à Montréal. Il a ajouté : “Il y a des gens qui pourraient vouloir abuser de ce pouvoir, et il y a des gens qui pourraient être heureux de voir l’humanité remplacée par des machines. Je veux dire, c’est une minorité, mais ces personnes peuvent avoir beaucoup de pouvoir, et elles pourraient le faire à moins que nous ne posions les bonnes balises dès maintenant.”
L’Argent Parle
Parce que les systèmes d’IA coûtent des milliards de dollars à construire, a noté l’expert en apprentissage profond, l’aspect financier du pouvoir ne peut être ignoré. “Très peu d’organisations et très peu de pays seront en mesure de le faire”, a déclaré le chef du laboratoire d’IA de l’Université de Montréal. “C’est déjà le cas.” Il a ajouté : “Il y aura une concentration du pouvoir : le pouvoir économique, qui pourrait être néfaste pour les marchés ; le pouvoir politique, qui pourrait être néfaste pour la démocratie ; et le pouvoir militaire, qui pourrait être néfaste pour la stabilité géopolitique de notre planète.”
Actuellement, les experts ne sont pas d’accord sur la question de savoir si l’intelligence artificielle générale, ou l’IA de niveau humain, est atteignable et quand cela pourrait se produire. Selon Bengio, si cela se produit avant que les politiques mondiales ne rattrapent le retard, nous sommes en difficulté. “Si c’est dans cinq ans, nous ne sommes pas prêts”, a-t-il conclu, “parce que nous n’avons pas de méthodes pour nous assurer que ces systèmes ne nuiront pas aux gens ou ne se retourneront pas contre les gens.”
Bien que loin d’être le premier expert en IA à mettre en garde contre les dangers de l’IA, Bengio a une gravité inhabituelle ; après tout, il a contribué à sa création.
Plus d’informations sur les mises en garde relatives à l’IA : les Experts de l’IA Terrifiés par la Crainte que la Singularité Ne Survienne Pendant le Mandat de Trump.
Source : futurism.com
