Les risques de la nouvelle génération d’IA pour les médias et la démocratie
Le rôle grandissant de l’IA dans les recherches d’informations sur internet
De plus en plus de preuves montrent que les nouveaux outils de recherche générative basés sur l’IA fournis par OpenAI, Google et Microsoft peuvent accroître le risque de renvoyer des informations fausses, trompeuses ou partiellement correctes.
Malgré les implications de cette situation pour l’industrie de l’information et une démocratie informée, le gouvernement néo-zélandais a décidé de ne pas prendre en compte les considérations liées à l’IA dans ses plans visant à relancer le projet de loi sur les communications numériques adopté par le gouvernement précédent.
Le projet de loi et l’impact sur les entreprises de presse
La loi proposée imposera à Google et Meta (qui gère Facebook et Instagram) de rémunérer les entreprises de presse pour leurs contenus. Alors que de nombreuses organisations de presse locales reçoivent de l’argent de Google, elles ne reçoivent pas de paiements de la part de Meta.
Le ministre des Médias et de la Communication, Paul Goldsmith, affirme que le projet de loi fera l’objet de quelques amendements, mais ceux-ci ne concerneront pas le rôle croissant de l’IA générative dans les recherches d’informations. La question plus large de l’IA sera examinée ultérieurement, explique-t-il.
Cependant, le projet de loi donnera au ministre le pouvoir de décider quelles entreprises seront incluses dans une nouvelle loi, ouvrant potentiellement la porte à la participation de Microsoft et OpenAI à la table des négociations.
Réponse des entreprises de presse
Des chatbots alimentés par l’IA comme Gemini de Google, Copilot de Microsoft et ChatGPT d’OpenAI répondent aux sollicitations des utilisateurs en fournissant des réponses basées sur des informations “scrappées” sur internet, y compris sur des sites d’actualités. Ils utilisent également du contenu d’actualité – ou tout autre contenu qu’ils peuvent trouver – pour “entraîner” leurs modèles IA.
Ainsi, il n’est pas étonnant que de nombreuses grandes entreprises de presse – dont News Corp, The Financial Times (appartenant à Nikkei) et Axel Springer en Allemagne – aient signé des accords commerciaux pour leurs contenus avec des entreprises d’IA.
En revanche, des entreprises comme The New York Times et Alden Global Capital (le deuxième plus grand propriétaire de journaux aux États-Unis) ont adopté une approche différente. Elles poursuivent en justice Microsoft et OpenAI pour “utilisation illégale d’articles de presse pour alimenter leurs chatbots IA”.
En 2023, le principal éditeur d’actualités néo-zélandais Stuff a empêché ChatGPT d’utiliser ses articles pour alimenter ses modèles logiciels. Depuis lors, mes nouvelles recherches montrent que le contenu d’actualités de Stuff a également diminué en visibilité dans les recherches de Google et de Microsoft.
La diminution de la diversité des informations
Une analyse des moteurs de recherche de Microsoft et Google et de leurs chatbots respectifs, Copilot et Gemini, a été réalisée pour étudier l’offre d’actualités.
En général, les moteurs de recherche renvoient des résultats basés sur les requêtes des utilisateurs, en proposant des liens vers des informations. Les chatbots utilisent de grands modèles de langage pour créer des réponses en extrayant des données de sources, souvent sans aucun lien vers une information.
Les résultats ont montré que la diversité des informations a diminué dans les recherches effectuées sur Google et Microsoft. Alors que les deux moteurs de recherche proposaient des actualités provenant de médias d’information traditionnels, la catégorie “autres sources” a progressé de manière spectaculaire entre 2023 et 2024.
Ce que ces moteurs de recherche alimentés par l’IA offrent comme sources d’informations est préoccupant. Ils renvoient de plus en plus vers des sources aléatoires, non liées à l’actualité, telles que des forums de l’industrie et des communiqués de presse.
De plus, les chatbots Google Gemini et Microsoft Copilot proposaient d’anciennes histoires comme actualités principales de la journée, sans donner de liens vers des articles spécifiques et sans mentionner de sources dans les réponses fournies.
Démocratie, actualités et IA
La relation avec les entreprises d’IA met les organisations de presse dans une situation difficile. Si elles ne concluent pas d’accords, elles risquent de perdre des revenus potentiels supplémentaires. Si elles le font, il n’y a aucune garantie sur la manière dont leur contenu apparaîtra dans les recherches génératives sur l’IA ou les chatbots.
En mai de cette année, par exemple, Google a confirmé que son moteur de recherche offrira plus de réponses basées sur l’IA que de liens vers des sites web. Cela signifie qu’il fournira des réponses détaillées en IA aux requêtes des utilisateurs, et des résumés sans lien vers aucune source d’information.
Si les liens disparaissent des réponses de recherche générées par l’IA, cela signifie potentiellement que Google et d’autres fournisseurs n’ont pas besoin de rémunérer les entreprises de presse pour les extraits et les liens qu’ils ont utilisés dans leurs services. Cela pourrait avoir des conséquences pour le projet de loi sur les communications numériques revisité.
D’un autre côté, les fournisseurs d’IA rémunèrent déjà certaines entreprises de presse pour leurs contenus actuels et archivés afin de former leurs chatbots, ce qui pourrait améliorer les résultats de recherche.
La manière dont tout cela se déroule aura des répercussions sur la démocratie autant que sur les revenus des médias, que mes recherches en cours visent à étudier.
Source : theconversation.com
