Nouvel algorithme détecte les hallucinations de l’IA, un espoir pour l’avenir
Un nouvel outil pourrait révolutionner la détection des hallucinations dans les IA
Une détection des hallucinations dans les IA
Malgré l’impressionnante performance des AI telles que ChatGPT, Claude et même Gemini, ces grands modèles de langage ont tous un gros point faible en commun : ils hallucinent beaucoup. Ce problème est préoccupant dans le monde de l’IA, et même Apple s’inquiète de la façon dont elle gérera les hallucinations à l’avenir avec Apple Intelligence. Heureusement, un groupe de chercheurs a créé un détecteur d’hallucinations d’IA, capable de déterminer si une IA a inventé quelque chose. Ces hallucinations ont conduit à plusieurs erreurs embarrassantes et intrigantes, et continuent d’être l’une des principales raisons pour lesquelles des IA comme ChatGPT ne sont pas plus utiles.
Nous avons vu Google contraint de modifier ses aperçus de recherche IA après que l’IA ait dit aux gens qu’il était sûr de manger des rochers et de mettre de la colle sur une pizza. Nous avons même vu des avocats utiliser ChatGPT pour rédiger un mémoire judiciaire se voir infliger une amende car le chatbot avait halluciné des citations pour le document.
Une solution innovante
Ces problèmes auraient peut-être pu être évités s’ils avaient disposé du détecteur d’hallucinations d’IA décrit dans un nouvel article publié dans la revue Nature. Selon cet article, un nouvel algorithme développé par des chercheurs peut aider à déterminer si les réponses générées par l’IA sont factuelles environ 79 % du temps. Ce n’est évidemment pas un record parfait, mais c’est 10 % de plus que les autres méthodes leaders actuelles.
Les chercheurs disent que l’algorithme pourrait être ajouté aux chatbots comme ChatGPT via un bouton, permettant aux utilisateurs de recevoir un “score de certitude” pour les réponses fournies à leurs sollicitations. Avoir un détecteur d’hallucinations d’IA intégré directement au chatbot est séduisant, donc nous pouvons voir l’utilité d’ajouter un tel outil aux différents chatbots disponibles.
Source : bgr.com
