Exemple d'hallucination (ERREUR) typique de Chatgpt

Pour créer, rédiger et optimiser le SEO de vos pages web --> Contactez-nous


Alors que l'utilisation de l'IA se généralise, notamment dans la création de textes, de contenus web, force est de constater que les alertes sur les erreurs possibles (appelées à tort "hallucinations" alors que ce sont des erreurs) sont passées à la trappe.

QUI va vraiment vérifier s'il y a des erreurs ?

Personne n'a envie de faire le boulot de correcteur.

Personne n'a envie de payer pour ça.

Peu ont la ruse de "mandater" une autre IA pour vérifier ce que pond la première (alors que c'est un bon moyen de vérification).

Or, ChatGPT continue (Claude, Gemini, Notebooklm, etc..) aussi de faire des erreurs et logiquement de plus en plus puisqu'il "navigue" aussi sur le net, sans que l'on sache vraiment quand, comment et pour quelle(s) obscure(s) raison(s) quand on lui demande (prompt) quelque chose.

Ceci est d'autant plus frappant quand on le fait travailler sur un document.

Voici ce qui est arrivé par exemple ce matin.

Nous soumettons à ChatGPT (version payante, 4o en mode "canevas" - et pas Canva attention à la confusion) un pdf d'environ 100 pages pour nous en donner les points clés et pouvoir aller chercher ce qui est vraiment intéressant (Au passage, notebookLM de Google est souvent meilleur pour ça ).

Nous utilisons un prompt rodé qui fonctionne bien et normalement, la réponse de ChatGPT doit commencer par le titre du document et son auteur (C'est + facile ensuite pour le récupérer éventuellement dans l'historique).

Et là, si le titre est bon, l'auteur est complètement différent.

A la place de l'auteur du document, on a un autre auteur, qui existe vraiment. On vérifie s'il a un lien avec le document en question: aucun.

On vérifie si les 2 auteurs ont des liens: aucun.

On vérifie s'il peut y avoir confusion entre les mots des différents documents ou travaux des 2 auteurs: RIEN d'apparent, même en se torturant les méninges..

Comment et pourquoi, ChatGPT est allé chercher cet auteur ?

Mystère d'autant plus que sa réponse quand on lui demande, est toujours la même: "Je me suis trompé, je suis désolé, je vais recommencer"..

Une seule conclusion possible: si vous êtes dans un domaine "sensible" d'experts: FAITES attention et VERIFIEZ !

Ca rappelle quelque chose dans les mémoires du grand pianiste Arthur Rubinstein qui a eu en quelque sorte 2 carrières. La première, un peu bling bling et la seconde beaucoup plus "sérieuse" et axée sur la musique et l'excellence.

Alors qu'il faisait une tournée en Amérique du Sud et était pleinement conscient qu'il faisait parfois des fausses notes car dans des pièces brillantes, sa main gauche peinait de temps en temps, il s'est aperçu un jour que dans les salles pleines qui l'acclamaient, il y avait toujours quelque part une vieille dame, discrète, qui n'était pas dupe de son "jeu".

A partir de ce moment là, il a arrêté sa première carrière, a quasiment tout repris à 0 pour devenir un véritable pianiste virtuose et "vraiment" célèbre pour ce qu'il produisait et pas pour le "vent" qu'il faisait.

Bien évidemment, si vous faites du dropshipping ou êtes influenceur-ceuse ou vendez du vent sur le net, nul besoin de vérifier car la majorité des gens opine toujours du bonnet tant que les choses sont affirmées avec force (Les élections US viennent de le montrer).

 

 

Commentaires sur: Exemple d'hallucination (ERREUR) typique de Chatgpt

Poster un commentaire sur: Exemple d'hallucination (ERREUR) typique de Chatgpt







« Pourquoi pas mal de mails passent sans raison en spam ou en bounce ? | Accueil | IA, prompts et Droits d'auteur »



Besoin de SEO, de développement, de rédaction de contenu web ? Besoin d'un blog, de Wordpress, de Prestashop ou autres nouvelles "choses web" ? Envie de travailler dans ces domaines ? --> Contactez-nous