B2Shift · Publié le 27 août 2026 · Mis à jour le 27 août 2026
La génération augmentée par récupération (RAG) permet à un système de répondre à partir de vos documents au lieu des données de formation générales d'un modèle, avec une citation vers la source. L'idée est simple ; la variation des coûts dans la pratique vient d’un petit nombre de décisions prises tôt.
Ce que fait réellement un pipeline RAG
Les documents sont divisés en morceaux, convertis en intégrations vectorielles et stockés dans une base de données vectorielle. Une question est intégrée de la même manière, les morceaux correspondants les plus proches sont récupérés et le modèle répond en utilisant uniquement ces morceaux comme contexte – avec une citation du document source. Supprimez l'étape de citation et vous disposez d'un système que personne ne peut auditer lorsqu'il est erroné.
Qu'est-ce qui détermine le coût plus que le choix du modèle
Quatre éléments font varier le nombre plus que le modèle de langage que vous choisissez. Volume et format du document : les PDF numérisés nécessitent une OCR avant de pouvoir être fragmentés, et les erreurs d'OCR se propagent dans chaque réponse en aval. Stratégie de segmentation : la segmentation naïve de longueur fixe est peu coûteuse à créer et est souvent erronée sur des documents structurés tels que des contrats ou des tableaux. Qualité de récupération : une base de données vectorielle a de réels coûts d'infrastructure et de requêtes à grande échelle qui nécessitent un réglage, pas seulement une installation. Et évaluation : sans un ensemble de questions réelles et de réponses connues et correctes, vous ne pouvez pas dire si le système est précis – vous pouvez seulement dire s’il semble confiant, ce qui est une tout autre chose.
Là où la précision est réellement rompue
Les documents sources de mauvaise qualité sont l'échec le plus courant, et non les limitations du modèle : un système RAG ne peut pas répondre correctement à un document qui est lui-même erroné ou ambigu. Les tableaux, l'écriture manuscrite numérisée et les mises en page à plusieurs colonnes nécessitent un traitement spécial ; une extraction naïve les supprime ou les brouille silencieusement. Et la récupération basée sur les autorisations est aussi importante que la précision : un système capable de récupérer un document qu'un utilisateur ne devrait pas voir est un bug de sécurité, pas un bug de précision.
Ce que comprend une construction réaliste
Un pipeline RAG de production a besoin d'un seuil de confiance défini en dessous duquel le système dit "Je n'ai pas de réponse fiable" au lieu de deviner, d'une file d'attente de révision pour les cas de faible confiance et d'un rapport d'exactitude mesuré par rapport à votre propre ensemble de tests - pas une référence générique, car vos documents ne sont pas les documents de référence. Voir Document Automation & RAG pour savoir comment nous définissons cela.