Comment éviter les hallucinations dans un pipeline de documents : fondements, citations, seuils de confiance

Lorsqu'un document AI déclare avec assurance quelque chose qui ne figure pas dans la source, il s'agit d'une hallucination, et dans un pipeline de documents, c'est le mode de défaillance qui compte le plus. Le correctif n'est pas une meilleure invite. C’est structurel. Gardez le modèle basé sur le texte source récupéré, forcez-le à citer la provenance de chaque réponse, attachez un signal de confiance à chaque champ extrait et acheminez tout ce qui se trouve en dessous de votre seuil vers une personne. Ensemble, ces quatre contrôles transforment un modèle capable d'inventer des réponses en un système qui soit rapporte ce que dit le document, soit admet qu'il ne le sait pas. Aucun d’entre eux n’est exotique. Ils font la différence entre une démo qui se lit bien et un pipeline que vous pouvez présenter à un auditeur.

Qu'est-ce qui fait halluciner un document AI ?

Un modèle linguistique prédit un texte plausible. Laissé pour répondre de mémoire, il comblera les lacunes avec quelque chose qui semble juste plutôt que quelque chose qui se trouve dans votre document. Dans un pipeline, cela apparaît à des endroits prévisibles : un total que le modèle a déduit au lieu de lire, une date qui correspond à la mauvaise facture, un nom de fournisseur proche mais erroné, un champ signalé comme présent lorsque la page était vierge. Le modèle ne ment pas. On ne lui a jamais montré la contrainte que sa réponse doive provenir de la source qui se trouve devant lui. La plupart des techniques de production existent pour imposer exactement cette contrainte.

Comment la mise à la terre de récupération réduit-elle les hallucinations ?

La mise à la terre signifie que le modèle répond uniquement à partir du texte que vous lui avez réellement donné, et non à partir de sa formation. Au lieu de demander au modèle quel est le total sur une facture, vous récupérez les passages pertinents du document analysé et lui demandez de répondre en utilisant uniquement ces passages. Si la réponse ne figure pas dans le texte fourni, le résultat correct est « introuvable », et non une supposition.

En pratique, cela signifie que plusieurs éléments doivent fonctionner ensemble :

Analysez avant de demander. Extrayez le document en texte propre et structuré avec une mise en page préservée, afin que le modèle lise le contenu réel plutôt qu'une image floue.
Récupérez l'étendue appropriée. Pour un document long, extrayez la section qui doit contenir le champ et transmettez-la, plutôt que de vider l'intégralité du fichier et d'espérer.
Contraindre l'instruction. Indiquez clairement au modèle qu'il doit répondre uniquement à partir du texte fourni et renvoyer une valeur vide explicite lorsque le champ est absent.
Épinglez le schéma. Demandez une sortie structurée avec des champs nommés, il n'y a donc nulle part où ajouter des commentaires ou inventer des extras.

La mise à la terre à elle seule supprime une grande partie des réponses inventées. Le modèle peut encore être mal lu, c'est pourquoi les deux contrôles suivants existent. Nous nous appuyons fortement sur cette approche lors de la création de Pileform, notre outil de comptabilité AI, car un numéro fabriqué dans les comptes de quelqu'un n'est pas une erreur esthétique.

Pourquoi chaque réponse devrait-elle comporter une citation ?

Une citation relie chaque valeur extraite à l'endroit exact de la source d'où elle provient : une page, une ligne, un cadre de délimitation, un espace de caractères. Cela fait deux tâches à la fois.

Premièrement, cela rend la réponse vérifiable. Un réviseur, ou une règle automatisée, peut accéder directement à l'endroit précis de la page et confirmer la valeur en quelques secondes au lieu de lire l'intégralité du document. Deuxièmement, cela augmente le coût de l’hallucination pour le modèle lui-même. Lorsque le format de sortie nécessite un emplacement pour chaque champ, une réponse sans étendue de support est un défaut visible que vous pouvez détecter et rejeter automatiquement. Une valeur qui ne peut pas indiquer son emplacement dans le document est traitée comme introuvable.

La règle pratique est simple. Si un champ n'a pas de citation, il n'est pas écrit dans l'enregistrement. Cette seule contrainte capture une catégorie de réponses sûres mais non étayées avant qu'elles n'atteignent vos livres.

Comment les seuils de confiance et l'examen humain fonctionnent-ils ensemble ?

Les seuils de confiance déterminent les réponses auxquelles le système fait confiance et celles qu'il fait remonter. Chaque champ extrait porte un score. Vous fixez un seuil. Au-dessus, la valeur circule directement. En dessous, la valeur est conservée et envoyée à une personne, avec le document original et la réponse proposée côte à côte. Il s’agit de l’étape de l’intervention humaine, et c’est ce qui permet d’automatiser l’ensemble du pipeline en toute sécurité.

Confiance	Que fait le système	Qui agit
Élevé	Acceptez et publiez la valeur automatiquement	Personne
Limite	Indicateur pour confirmation rapide	Le réviseur examine, approuve ou corrige
Citation faible ou inexistante	Tenez le record, ne postez pas	Le critique lit la source et décide

Il ne s’agit pas de supprimer des personnes. Il s’agit de consacrer leur attention uniquement là où cela change le résultat. Un bon pipeline est confiant dans la grande majorité des champs et honnête dans le reste. Le scan taché, la disposition inconnue, la figure qui ne se réconcilie pas, c'est exactement là que l'œil humain gagne sa place, et les faire apparaître clairement vaut mieux que prétendre que le modèle a toujours raison. Au fil du temps, les corrections apportées par les utilisateurs deviennent des cas de test, de sorte que les seuils deviennent plus précis au lieu de dériver. Il s'agit du même modèle opérationnel derrière le travail sérieux du Document AI, et le contexte plus large est couvert dans notre guide du Document AI pour entreprise.

Le point pratique à retenir

Traitez l’hallucination comme une propriété du système et non comme une invite que vous pouvez perfectionner. Fondez le modèle sur le texte source récupéré, exigez une citation pour chaque champ, évaluez le niveau de confiance sur chaque valeur et acheminez les valeurs peu fiables vers une personne. Si une valeur ne peut pas dire d’où elle vient, elle n’est pas écrite. Construisez le pipeline de manière à ce que sa réponse honnête soit "Je ne suis pas sûr, vérifiez celle-ci", et vous obtenez un assistant qui gagne la confiance au lieu d'un assistant que vous devez deviner.