OpenAI dévoile sa nouvelle technologie de synthèse vocale: quels risques ?
OpenAI : explications concernant son outil texte-à-audio
Explications sur la technologie de OpenAI
Après avoir partagé son moteur vocal en fin d’année dernière, OpenAI a récemment expliqué son outil texte-à-audio, soulignant qu’il n’est pas encore largement disponible. Le moteur vocal de OpenAI utilise des entrées textuelles et des clips audio de 15 secondes de voix humaines pour générer une parole naturelle qui ressemble de près à l’orateur d’origine, dans plusieurs langues.
La société a déclaré qu’elle choisissait de prévisualiser la technologie sans la diffuser largement pour renforcer la résilience de la société contre la menace de modèles génératifs toujours plus convaincants.
En tant que partie de ces efforts, OpenAI travaille activement sur l’élimination de l’authentification vocale pour l’accès aux comptes bancaires, explore des politiques pour protéger l’utilisation des voix individuelles dans l’IA, éduque le public sur les risques de l’IA et accélère le développement du suivi du contenu audiovisuel pour que les utilisateurs sachent s’ils interagissent avec du contenu réel ou synthétique.
Inquiétudes persistantes malgré les efforts déployés
Malgré ces efforts, la peur de la technologie persiste. Le chef de l’IA du président Joe Biden, Bruce Reed, a déjà déclaré que le clonage vocal était la seule chose qui le préoccupait. La Federal Trade Commission a également signalé en mars que des escrocs utilisaient l’IA pour renforcer leur travail, en utilisant des outils de clonage vocal qui rendent plus difficile la distinction entre les voix générées par l’IA et les voix humaines.
Dans sa déclaration mise à jour, OpenAI a cherché à apaiser ces inquiétudes en indiquant qu’elle continuait à collaborer avec des partenaires aux États-Unis et à l’international pour intégrer leurs retours dans son développement. La société a également souligné qu’une fois que son moteur vocal sera équipé de son dernier modèle, le GPT-4o, de nouvelles menaces seront également présentes.
En interne, la société indique qu’elle mène une évaluation approfondie du GPT-4o pour identifier et aborder les risques connus et inattendus dans divers domaines tels que la psychologie sociale, les biais et l’équité, et la désinformation.
La grande question reste néanmoins de savoir ce qui se passera lorsque la technologie sera largement diffusée. Il semble que OpenAI se prépare également à cette éventualité.
Source : www.businessinsider.com
