Tout détecteur d'hallucinations se ramène à la même question : chaque affirmation de cette réponse peut-elle être tracée jusqu'à une preuve ? Les implémentations varient — modèles d'inférence en langage naturel, décomposition des affirmations puis récupération, LLM-as-a-judge avec grille de fidélité, incertitude au niveau des tokens — mais toutes comparent le texte généré à une référence. Sans support, l'affirmation est signalée. C'est la vérification de l'ancrage, et c'est la bonne première couche pour tout système RAG en production.
L'angle mort apparaît dès que votre base de connaissances se contredit. Si votre politique de remboursement indique 14 jours dans une page Confluence et 30 jours dans un PDF SharePoint, un détecteur basé sur l'ancrage voit une affirmation clairement étayée et la valide. La réponse est fidèle. Elle est aussi fausse une fois sur deux, selon l'extrait récupéré. Aucune détection au niveau de la réponse ne corrige cela, car l'erreur n'a jamais été dans la génération.
La règle : la détection d'ancrage vous dit si le modèle a inventé quelque chose. La détection de conflits vous dit si vos connaissances sont fiables tout court. Les deux sont nécessaires, et la seconde doit tourner sur le corpus, pas sur la réponse.
Construire une détection qui tient en production
1. Décomposer les réponses en affirmations atomiques
Noter la réponse entière est trop grossier — une réponse de cinq phrases peut être correcte aux quatre cinquièmes et tromper malgré tout. Découpez chaque sortie en affirmations vérifiables et vérifiez-les séparément contre le contexte récupéré. La détection par affirmation donne des signalements précis et actionnables, et rend les faux positifs faciles à auditer.
2. Noter l'ancrage avec une grille explicite et une citation obligatoire
Utilisez un modèle juge ou un modèle NLI pour étiqueter chaque affirmation : étayée, contredite ou non étayée — et exigez le passage exact qui justifie l'étiquette. Imposer la citation réduit fortement le taux d'hallucination du juge lui-même et rend la sortie du détecteur vérifiable en quelques secondes.
3. Détecter les conflits dans tout le corpus, pas seulement la réponse
Comparez les passages qui répondent à la même question entre eux et à des sources désignées comme faisant autorité. Contradictions, doublons obsolètes et recouvrements partiels apparaissent ici — avant qu'un utilisateur ne pose la question. C'est la couche qui fait passer la détection du triage réactif à la prévention.
La détection n'est utile que si elle pointe un document
Signaler une réponse vous dit qu'une requête a échoué. Cela ne dit pas lequel de vos dix mille documents en est la cause, ni n'empêche les cent utilisateurs suivants de tomber sur la même contradiction. Alignode est la couche de fiabilité qui comble cet écart.
- Scanner en continu Confluence, Notion, SharePoint, Slack et Drive à la recherche d'énoncés contradictoires, obsolètes ou dupliqués.
- Tracer chaque conflit détecté jusqu'aux documents et aux responsables concernés.
- Réconcilier les passages contradictoires avec une source de vérité validée pour que la récupération arrête de renvoyer les deux.
Questions fréquentes
Qu'est-ce qu'un détecteur d'hallucinations ?
Un détecteur d'hallucinations est un système qui vérifie si les affirmations d'une sortie de modèle sont étayées par des preuves. Les implémentations typiques décomposent la réponse en affirmations atomiques et vérifient chacune contre le contexte récupéré via un modèle d'inférence en langage naturel ou un LLM-as-a-judge avec grille de fidélité, en les étiquetant étayée, contredite ou non étayée.
Comment détecter les hallucinations dans un système RAG ?
Comparez chaque affirmation de la réponse générée aux passages effectivement récupérés, en exigeant une citation pour toute affirmation jugée étayée. Puis, séparément, comparez les passages récupérés entre eux : si deux sources divergent, la réponse peut être fidèle à son contexte et fausse malgré tout. Les deux contrôles sont nécessaires.
Un détecteur d'hallucinations repère-t-il les informations obsolètes ?
Pas de manière fiable. La détection par ancrage demande seulement si une affirmation est étayée par le texte récupéré. Si le document récupéré est périmé, l'affirmation paraît parfaitement étayée. Détecter les réponses obsolètes exige d'évaluer la base de connaissances elle-même — fraîcheur, contradiction avec des sources plus récentes, propriété — et non la réponse seule.
Le LLM-as-a-judge suffit-il pour détecter les hallucinations ?
Il est efficace pour noter la fidélité quand la grille est explicite et que le juge doit citer le passage justificatif. Il ne suffit pas seul : le juge ne voit que la question, le contexte récupéré et la réponse — jamais le reste du corpus — il ne peut donc pas savoir qu'un autre document contredit celui qu'il lit.
Quelle précision attendre de la détection ?
Cela dépend bien plus de votre corpus que du détecteur. Dans des bases propres et cohérentes, les contrôles d'ancrage par affirmation sont très fiables. Dans des corpus remplis de documentation dupliquée et contradictoire, la précision s'effondre — non parce que la détection est faible, mais parce qu'il n'existe pas de réponse correcte unique. Nettoyer la couche de connaissances relève le plafond de toutes les métriques en aval.
Guides associés
Détectez le conflit avant que l'utilisateur ne le trouve.
Découvrez comment Alignode scanne votre base de connaissances pour repérer les contradictions et garder votre IA ancrée dans la vérité documentée.