Hallucination
IA / LLM 🟢 JuniorDéfinition
Sortie fausse ou incohérente avec le contexte, produite avec assurance : chiffre inventé, API inexistante, citation fabriquée. C'est une conséquence directe de la prédiction de texte plausible. Les parades documentées par Anthropic : autoriser « je ne sais pas », exiger des citations mot pour mot, vérifier chaque affirmation, restreindre aux documents fournis.
Analogie
Un candidat qui invente une réponse plutôt que d'avouer qu'il ne sait pas.
Exemple de code
const msg = await client.messages.create({
model: 'claude-sonnet-5', max_tokens: 800,
system: `Réponds UNIQUEMENT à partir des documents fournis.
Pour chaque affirmation, cite la phrase exacte entre guillemets.
Si l'information n'y est pas, réponds : "Je n'ai pas cette information".`,
messages: [{ role: 'user', content: `<documents>${docs}</documents>
Quel est le délai de rétractation ?` }],
});
// Côté code : rejeter toute réponse sans citation trouvable dans docs
const quotes = [...msg.content[0].text.matchAll(/"([^"]{20,})"/g)];
const grounded = quotes.every(q => docs.includes(q[1]));Cas d'usage
Tout usage où une erreur coûte : juridique, santé, facturation, documentation technique.
Anti-pattern
Publier une sortie de LLM sans vérification humaine ou automatique parce que « ça a l'air juste ».
Termes liés
Fiche mise à jour le 2026-09-27