Apple alerte sur les dangers des photos AI modifiées
Apple exprime des préoccupations croissantes concernant l’impact de l’intelligence artificielle (IA) sur l’édition de photos et le risque d’érosion de la confiance dans les images. Lors d’une récente interview avec The Wall Street Journal, le responsable des logiciels d’Apple, Craig Federighi, a abordé la position de l’entreprise, notamment à mesure que la technologie de l’IA devient plus courante. Federighi a discuté de l’approche d’Apple en matière d’IA, et notamment de la manière dont elle entend gérer les fonctionnalités d’édition d’images dans la prochaine mise à jour iOS 18.1.
Apple s’inquiète de l’impact potentiel de l’IA sur la confiance envers les photos
La prochaine version d’iOS 18.1 d’Apple, qui devrait sortir bientôt, introduit une nouvelle fonctionnalité appelée “Clean Up”. Cet outil permet aux utilisateurs de supprimer des objets et des personnes indésirables des images. Bien que la fonctionnalité soit moins avancée que certains outils alimentés par l’IA de concurrents, Apple reste prudent quant à la manière dont une telle technologie peut modifier la perception publique des photos. Federighi a souligné que l’entreprise avait débattu des implications de cette fonctionnalité, illustrant les préoccupentions d’Apple concernant les photos générées par l’IA et leur impact sur l’authenticité.
Contrairement à des entreprises comme Google et Samsung, qui proposent des outils IA capables d’ajouter des éléments générés aux images, Clean Up d’Apple se montre plus mesuré. “La demande pour que les gens puissent supprimer des détails superflus sans altérer le sens de la photo a été très forte,” a déclaré Federighi. Cependant, il a ajouté que l’approche d’Apple reste prudente afin que les utilisateurs ne comptent pas sur l’IA pour créer des contenus irréalistes.
Les photos générées par l’IA et la confiance du public
Federighi a souligné un problème plus profond concernant la confiance du public dans les images. Alors que les outils d’intelligence artificielle deviennent de plus en plus courants, des inquiétudes grandissent concernant la manière dont les gens perçoivent les images éditées. Apple est particulièrement préoccupé par les photos générées par l’IA et la possibilité que les gens considèrent les photos modifiées comme des représentations moins fiables de la réalité.
Des concurrents ont déjà lancé des outils IA capables de manipuler significativement les images. Par exemple, la fonction Reimagine de Google permet aux utilisateurs d’ajouter des objets et même de créer entièrement de nouvelles scènes avec juste une instruction textuelle. Apple, en revanche, adopte une approche différente, axée sur la préservation de la confiance dans l’authenticité des photos.
Le rôle des photos générées par l’IA dans la désinformation
Apple a mis en place un système de balisage pour aborder le risque de désinformation. Les photos éditées avec l’outil Clean Up afficheront l’étiquette “Modifié avec Clean Up”, indiquant que l’image a été modifiée. Cette mesure vise à assurer la transparence concernant les photos éditées par l’IA et met en lumière les préoccupations concernant leur possible rôle dans la diffusion de contenus faux ou trompeurs.
Source : www.androidheadlines.com
