RAG (Retrieval-Augmented Generation)

Par  Clovis Durand · Mis à jour le

En résumé

Le RAG (Retrieval-Augmented Generation) permet à un modèle de langage d'aller chercher les bons extraits dans vos documents avant de répondre, au lieu de s'en remettre à sa mémoire d'entraînement. C'est la brique par défaut pour brancher l'IA générative sur les données d'un produit ou d'une entreprise.

Le RAG (Retrieval-Augmented Generation, ou génération augmentée par récupération) est une technique qui permet à un modèle de langage (LLM) d’aller chercher des informations dans vos propres documents avant de répondre. Au lieu de puiser uniquement dans ce qu’il a mémorisé pendant son entraînement, le modèle reçoit avec la question les extraits les plus pertinents et rédige sa réponse à partir d’eux. Il ne connaît pas vos documents par cœur : il les consulte, et peut citer ses sources.

C’est la technique qui transforme un modèle généraliste en assistant qui connaît votre produit, vos contrats et vos procédures. Sans RAG, un LLM intégré dans un SaaS ignore tout de l’entreprise qui l’utilise et comble les trous en inventant. Avec RAG, il répond à partir de la documentation réelle, dans l’état où elle se trouve au moment de la question.

D’où vient le RAG et pourquoi il s’est imposé

Le terme vient d’un article de recherche publié en 2020 par une équipe de Facebook AI Research (aujourd’hui Meta) menée par Patrick Lewis. L’idée : coupler un modèle de génération de texte à un index de Wikipedia dans lequel il pioche les passages utiles avant de répondre. Sujet de laboratoire à l’époque, le RAG devient un sujet d’entreprise fin 2022, quand ChatGPT montre à tout le monde ce qu’un LLM sait faire, et surtout ce qu’il ne sait pas : il ignore vos données, ses connaissances s’arrêtent à la date de son entraînement, et il invente avec aplomb quand il ne sait pas.

Le RAG règle ces trois problèmes sans toucher au modèle. Selon l’enquête Menlo Ventures de 2024 auprès de 600 décideurs IT américains, 51 % des entreprises l’utilisaient en production, contre 31 % l’année précédente, alors que le fine-tuning ne concernait que 9 % des modèles déployés. L’édition 2025 du même rapport le place toujours en deuxième position, derrière le travail sur le prompt. Pour un éditeur de logiciel, c’est devenu la brique par défaut dès qu’une fonctionnalité IA doit s’appuyer sur des données métier.

Comment fonctionne le RAG, étape par étape

Un système RAG travaille en deux temps : une phase de préparation, qui tourne en arrière-plan, et une phase de réponse, déclenchée à chaque question.

La préparation : découper, vectoriser, indexer

Les documents sources (documentation, FAQ, contrats, tickets résolus, pages web) sont d’abord découpés en segments de quelques centaines de mots, appelés chunks. Chaque segment passe ensuite dans un modèle d’embedding, qui le convertit en une suite de nombres, un vecteur, représentant son sens. Deux passages qui disent la même chose avec des mots différents obtiennent des vecteurs proches. Ces vecteurs sont stockés dans une base de données vectorielle, à côté du texte d’origine et de ses métadonnées : source, date, droits d’accès.

La réponse : chercher, enrichir, générer

Quand un utilisateur pose une question, celle-ci est convertie en vecteur à son tour, et le système cherche les segments dont le vecteur est le plus proche. C’est la recherche sémantique : elle trouve « comment réduire ma facture d’hébergement » dans un article qui parle d’optimisation d’infrastructure sans jamais employer le mot « facture ». Les meilleurs extraits, souvent entre trois et vingt, sont ensuite insérés dans le prompt envoyé au LLM avec la question et une consigne du type « réponds uniquement à partir des extraits fournis, et cite-les ». Le modèle rédige alors sa réponse. Cette étape relève du prompt engineering : la façon de présenter les extraits change beaucoup la fidélité du résultat.

Les briques d’une architecture RAG

Le modèle d’embedding. OpenAI, Mistral, Cohere, Google et Voyage AI en proposent via leur API, et des modèles à poids ouverts tournent sur vos propres serveurs. Le choix compte pour le français : tous ne se valent pas hors de l’anglais.

La base vectorielle. Pinecone, Qdrant, Weaviate ou Milvus sont des bases spécialisées. Pour la plupart des produits, PostgreSQL avec l’extension pgvector suffit, et évite d’ajouter un composant à l’infrastructure.

La recherche hybride et le reranking. La recherche sémantique rate parfois les correspondances exactes, comme une référence produit ou un numéro de contrat. Les bons systèmes la combinent avec une recherche par mots-clés classique (BM25), puis font reclasser les résultats par un modèle de reranking, qui juge plus finement la pertinence de chaque extrait.

L’orchestration. LangChain, LlamaIndex ou du code maison enchaînent les étapes. Les grands fournisseurs vendent aussi le tout clé en main (recherche de fichiers chez OpenAI, Knowledge Bases chez Amazon Bedrock, RAG Engine chez Google Vertex AI). Pratique pour un prototype, moins pour garder la main sur les données et les coûts.

RAG, fine-tuning ou tout mettre dans le prompt ?

Trois approches permettent de spécialiser un LLM, et elles ne répondent pas à la même question.

ApprocheCe qu’elle changeQuand elle convient
Tout dans le promptLe modèle lit l’intégralité des documents à chaque requêteCorpus petit et stable, quelques centaines de pages au plus
RAGCe que le modèle sait au moment de répondreCorpus volumineux ou qui change souvent, besoin de citer les sources et de gérer des droits d’accès
Fine-tuningLa façon dont le modèle répond : ton, format, vocabulaireComportement à stabiliser sur des milliers de requêtes, format de sortie strict

Les modèles récents acceptent plusieurs centaines de milliers de tokens, parfois plus d’un million, ce qui a relancé le débat « le RAG est-il encore utile ? ». Pour une petite base documentaire, non : Anthropic recommande de tout mettre dans le prompt en dessous de 200 000 tokens. Au-delà, relire tout le corpus à chaque question coûte cher, ralentit la réponse et dégrade la précision, car un modèle retient mal ce qui se trouve au milieu d’un très long texte. Le RAG reste la bonne réponse dès que le corpus est gros, bouge, ou n’est pas accessible à tout le monde.

RAG avancé : au-delà de la recherche simple

Le RAG « naïf », une recherche puis une génération, plafonne vite sur les questions complexes. Trois techniques le prolongent.

La récupération contextuelle. Un segment isolé perd son contexte : « le taux passe à 3 % » ne dit ni de quel produit ni de quelle année il s’agit. Anthropic a proposé en septembre 2024 de faire rédiger par un LLM, pour chaque segment, une courte phrase de contexte ajoutée avant la vectorisation et l’indexation par mots-clés. Sur ses tests, la part de questions pour lesquelles le bon passage n’est pas retrouvé baisse de 49 %, et de 67 % avec un reranking en plus.

Le GraphRAG. Microsoft Research a publié en 2024 une approche qui extrait des documents un graphe d’entités et de relations, puis en résume les grands ensembles. Elle répond aux questions globales du type « quels sont les thèmes principaux de ces mille retours clients ? », là où la recherche par similarité ne ramène que des fragments. Le prix est une indexation bien plus coûteuse.

Le RAG agentique. Un agent IA décide lui-même des sources à interroger, reformule la question si les résultats sont faibles, enchaîne plusieurs recherches et croise les réponses. Le protocole MCP standardise l’accès à ces sources (base documentaire, CRM, outil de ticketing), ce qui fait de la base vectorielle un outil parmi d’autres et non plus le centre du système.

Les cas d’usage concrets en SaaS

Le premier, et de loin, est le support client : un chatbot qui répond à partir de la documentation, de la FAQ et des tickets déjà résolus, avec un lien vers l’article source. C’est le premier cas que nous recommandons dans notre guide sur l’intégration de l’IA dans un SaaS, parce que les données existent déjà et que la baisse des tickets de niveau 1 se mesure vite.

Viennent ensuite la recherche interne qui comprend le sens d’une requête et pas seulement ses mots, l’analyse de gros volumes de documents (contrats, clauses, retours utilisateurs) et le copilote métier qui aide un commercial ou un juriste à retrouver la bonne information dans un corpus que personne ne lit en entier.

Sécurité et confidentialité des données

Un RAG met vos documents à portée d’un modèle, donc potentiellement d’un utilisateur qui n’aurait pas dû y accéder. Le filtrage des droits doit se faire au moment de la recherche : un commercial qui interroge l’assistant ne doit jamais voir remonter un document RH. Les extraits récupérés partent ensuite chez le fournisseur du LLM, ce qui pose la question du contrat (pas d’entraînement sur vos données) et de l’hébergement. Début 2026, 90 % des cahiers des charges que nous recevions demandaient un hébergement en France, et un RAG s’y prête bien : modèle d’embedding et LLM européens, base PostgreSQL sur un cloud français. Chaque réponse doit enfin rester reliée aux extraits qui l’ont produite, pour l’audit et pour corriger vite une erreur.

Les erreurs courantes avec le RAG

Sous-estimer le travail sur les données. C’est l’erreur numéro un. Des PDF scannés et mal océrisés, des doublons, des versions obsolètes qui cohabitent avec les versions à jour : le RAG les indexera tous, et répondra avec le mauvais. Sur nos projets, le pipeline de données (nettoyage, structuration, métadonnées) représente parfois 70 % du temps, contre 30 % pour l’IA elle-même. Nous détaillons ce point dans les erreurs classiques d’un agent IA sur mesure.

Découper sans réfléchir. Un segment trop court perd son contexte, un segment trop long noie l’information dans du bruit, et un découpage qui coupe un tableau au milieu produit des réponses incohérentes. La taille et les frontières de découpage se testent sur le corpus réel, pas sur un exemple.

Oublier de réindexer. La documentation change, les prix bougent, une procédure est remplacée. Un RAG dont l’index n’est pas synchronisé avec les sources répond avec des informations périmées, et les cite avec la même assurance.

Croire que le RAG supprime les hallucinations. Il les réduit fortement, mais le modèle peut toujours mal lire un extrait ou extrapoler. Il faut des garde-fous : ne répondre qu’à partir des sources, les afficher, et renvoyer vers un humain quand la recherche ne ramène rien de pertinent.

Mesurer la qualité d’un RAG

Deux familles de métriques se suivent séparément, car les causes d’échec diffèrent. Côté recherche : les bons extraits sont-ils retrouvés, et en bonne position ? Côté génération : la réponse est-elle fidèle aux extraits, sans ajout, et répond-elle à la question posée ? Des outils comme RAGAS ou DeepEval automatisent ces mesures sur un jeu de questions de référence, souvent avec un grand modèle utilisé comme juge. S’y ajoutent la latence (la recherche prend quelques dixièmes de seconde, la génération plusieurs secondes, d’où l’intérêt d’afficher la réponse au fil de l’eau) et le coût par requête. Ces mesures doivent tourner en continu, car un RAG se dégrade en silence quand les données vieillissent ou que les questions des utilisateurs changent.

FAQ RAG

Combien coûte la mise en place d’un RAG ?

L’usage est bon marché : quelques centimes par question pour les appels au modèle d’embedding et au LLM, et le stockage des vecteurs pèse peu. L’investissement est dans le développement et surtout dans la préparation des données. Comptez quelques semaines pour un assistant branché sur une documentation propre, plusieurs mois pour un système intégré au produit avec gestion des droits, réindexation automatique et suivi de qualité.

Faut-il une base vectorielle dédiée ?

Pas au départ. PostgreSQL avec pgvector gère des millions de segments, et vous l’avez probablement déjà. Une base spécialisée se justifie à partir de dizaines de millions de vecteurs ou pour des contraintes de latence très fortes.

Le RAG remplace-t-il le fine-tuning ?

Non, les deux ne font pas la même chose. Le RAG apporte des connaissances à jour, le fine-tuning modifie la façon dont le modèle répond. Le fine-tuning est d’ailleurs un mauvais moyen d’apprendre des faits à un modèle, qui retiendra le style de vos fiches produit, pas leurs prix. Les deux se combinent bien, et dans la grande majorité des produits un RAG bien construit suffit.

Comment Polara Studio construit un RAG

Chez Polara Studio, le RAG est la première brique que nous posons dès qu’un produit doit répondre à partir de données métier : chatbot de support, recherche intelligente, assistant interne. Nous commençons par les données (inventaire des sources, nettoyage, découpage testé sur le corpus réel, métadonnées de droits d’accès), puis vient l’architecture, le plus souvent PostgreSQL et pgvector avec une recherche hybride et un reranking, hébergée en France quand le client le demande.

Nous livrons avec le système un jeu de questions de référence, un pipeline de réindexation automatique et un tableau de bord de qualité, parce qu’un RAG sans maintenance se dégrade. Le client voit où le système se trompe et fait évoluer ses données sans repasser par nous.

Prêt à transformer votre idéeen produit ?

Programmez un entretien découverte avec nos experts pour définir ensemble vos priorités et identifier la meilleure approche pour votre projet.

Discutons de votre projet