Un projet de loi controversé menace l’avenir de l’IA en Californie
Réglementation des grands modèles d’IA pour prévenir les dommages critiques
En dehors des films de science-fiction, il n’y a pas de précédent de systèmes d’IA tuant des gens ou étant utilisés dans des cyberattaques. Cependant, certains législateurs veulent mettre en place des mesures de sécurité avant que des acteurs malveillants ne rendent ce futur dystopique une réalité. Un projet de loi californien, connu sous le nom de SB 1047, tente d’empêcher les catastrophes du monde réel causées par les systèmes d’IA avant qu’elles ne se produisent, et il se dirige vers un vote final au Sénat de l’État plus tard en août.
Quelles sont les dispositions de la SB 1047?
La SB 1047 vise à empêcher les grands modèles d’IA d’être utilisés pour causer des “dommages critiques” à l’humanité. Le projet de loi donne comme exemples de “dommages critiques” un acteur malveillant utilisant un modèle d’IA pour créer une arme entraînant des victimes en masse, ou l’orchestration d’une cyberattaque causant plus de 500 millions de dollars de dommages. Le projet de loi rend responsables les développeurs (c’est-à-dire les entreprises qui développent les modèles) de la mise en œuvre de protocoles de sécurité suffisants pour éviter des résultats de ce type.
Ces règles s’appliqueraient uniquement aux plus grands modèles d’IA du monde. Très peu d’entreprises ont actuellement développé des produits d’IA publics assez larges pour répondre à ces exigences, mais des géants de la tech comme OpenAI, Google et Microsoft le feront très probablement prochainement.
Qui appliquerait ces règles et comment?
Une nouvelle agence californienne, la Division des Modèles Frontaliers (FMD), superviserait les règles. Chaque nouveau modèle d’IA public répondant aux critères de la SB 1047 devrait être certifié individuellement avec une copie écrite de son protocole de sécurité.
Si un développeur ne respecte pas l’une de ces dispositions, la SB 1047 permet au procureur général de la Californie d’intenter une action civile contre le développeur.
Arguments des partisans et des opposants
Le sénateur d’État de Californie, Scott Wiener, auteur du projet de loi, affirme que la SB 1047 est une tentative d’apprendre des échecs passés des politiques concernant les médias sociaux et la confidentialité des données, et de protéger les citoyens avant qu’il ne soit trop tard.
De leur côté, un nombre croissant d’acteurs de la Silicon Valley s’opposent à la SB 1047. Des voix influentes dans le domaine de l’IA, comme Fei-Fei Li et Yann LeCun, ainsi que de grandes entreprises de la tech comme Meta et Google, rejettent le projet de loi pour diverses raisons.
La prochaine étape pour la SB 1047 est son passage devant l’Assemblée du Sénat de Californie, où des amendements pourraient être approuvés. En cas de passage, le projet de loi sera soumis au gouverneur de la Californie, Gavin Newsom, pour une éventuelle signature avant la fin août.
Source : techcrunch.com
