Le débat sur l’IA en 2024: AI Doom contre Techno-optimisme
L’avenir de la technologie IA en 2024 et au-delà
Depuis quelques années, les technologistes ont lancé des alertes sur le potentiel de systèmes d’IA avancés à causer des dommages catastrophiques à la race humaine.
Cependant, en 2024, ces appels d’alerte ont été éclipsés par une vision pratique et prospère de l’IA générative promue par l’industrie technologique – une vision qui a également profité à leurs portefeuilles.
La vision positive de l’IA générative en 2024
Ceux qui mettent en garde contre les risques catastrophiques de l’IA sont souvent appelés “les doomers de l’IA”, bien que ce ne soit pas un nom qu’ils affectionnent. Ils craignent que les systèmes d’IA prennent des décisions pour tuer les gens, soient utilisés par les puissants pour opprimer les masses ou contribuent à la chute de la société de différentes manières.
En 2023, on semblait être au début d’une ère de renaissance pour la régulation de la technologie. L’IA doom et la sécurité de l’IA – un sujet plus large qui peut englober des hallucinations, une modération de contenu insuffisant, et d’autres manières dont l’IA peut causer du tort à la société – sont passés d’un sujet de niche discuté dans les cafés de San Francisco à une conversation apparaissant sur MSNBC, CNN et les premières pages du New York Times.
Pour résumer les avertissements émis en 2023 : Elon Musk et plus de 1 000 technologistes et scientifiques ont appelé à une pause dans le développement de l’IA, demandant au monde de se préparer aux risques profonds de la technologie. Peu de temps après, les principaux scientifiques de OpenAI, Google et d’autres laboratoires ont signé une lettre ouverte disant que le risque de l’IA causant l’extinction de l’humanité devrait être pris plus au sérieux. Quelques mois plus tard, le président Biden a signé un décret exécutif sur l’IA avec pour objectif général de protéger les Américains des systèmes d’IA. En novembre 2023, le conseil sans but lucratif derrière le principal développeur d’IA au monde, OpenAI, a renvoyé Sam Altman, affirmant que son PDG avait une réputation de mensonge et ne pouvait être digne de confiance avec une technologie aussi importante que l’intelligence artificielle générale, ou AGI – autrefois le point final imaginé de l’IA, signifiant des systèmes qui montrent réellement une conscience de soi.
Pour un moment, on aurait dit que les rêves des entrepreneurs de la Silicon Valley céderaient la place à la santé globale de la société.
L’opposition aux doomers de l’IA
Cependant, pour ces entrepreneurs, le récit autour de l’IA doom était plus préoccupant que les modèles d’IA eux-mêmes.
En réponse, l’un des cofondateurs de a16z, Marc Andreessen, a publié en juin 2023 un essai de 7 000 mots intitulé “Pourquoi l’IA sauvera le monde”, démontant le programme des doomers de l’IA et présentant une vision plus optimiste de comment la technologie va se dérouler.
Dans sa conclusion, Andreessen a donné une solution pratique à nos craintes d’IA : “avancer vite et casser des choses” – essentiellement la même idéologie qui a défini toute autre technologie du XXIe siècle (et leurs problèmes associés).
Il a affirmé que les grandes entreprises de la Silicon Valley et les startups devraient être autorisées à développer l’IA aussi rapidement et aussi agressivement que possible, avec peu ou pas de barrières réglementaires. Cela garantirait que l’IA ne tomberait pas entre les mains de quelques grandes entreprises ou gouvernements, et permettrait à l’Amérique de rivaliser efficacement avec la Chine.
Cependant, tout cela permettrait également à de nombreuses startups en IA de a16z de gagner beaucoup plus d’argent – et certains ont trouvé son techno-optimisme indécent à une époque d’extrême disparité de revenus, de pandémies et de crises du logement.
Source : techcrunch.com
