RAG vs. LLM : analyse technique (définitions, différences, cas d’usage)

Les LLM génèrent des réponses en utilisant des paramètres appris à partir de modèles présents dans leurs données d’entraînement. Comme ces paramètres peuvent ne pas refléter des informations récentes ou complètes, le RAG, qui signifie génération augmentée par récupération, complète le processus en ajoutant des données provenant de sources externes au contexte d’entrée du LLM. Un outil d’IA récupère des informations externes pour augmenter le processus de génération du LLM.

En réalité, votre choix ne se situe pas entre le RAG et un LLM. Il se situe entre une approche hybride et une approche qui n’utilise qu’un LLM.

Le RAG est nécessaire lorsqu’un LLM doit accéder à la documentation d’une entreprise, à des bases de données ou à des informations qui évoluent rapidement. Une approche reposant uniquement sur un LLM convient à certaines tâches administratives, de traitement de données et de création de contenu, lorsque toutes les entrées peuvent être fournies par l’utilisateur.

RAG vs. LLM : quelles sont les principales différences ?

• Le RAG et les LLM sont des systèmes complémentaires. Vous pouvez utiliser un modèle d’IA sans RAG (dans ce cas, il s’appuie exclusivement sur ses paramètres existants), mais vous ne pouvez pas utiliser un système RAG sans modèle.
• Le RAG a été introduit pour surmonter trois problèmes clés des LLM : des informations obsolètes, des réponses hallucinées et l’absence de vérification auprès de sources tierces.
• Le RAG rend l’IA beaucoup plus efficace dans les situations professionnelles réelles, car il relie les LLM à de la documentation interne vérifiée, à des bases de données et à des points de terminaison d’API.
• Les principaux cas d’usage du RAG incluent les chatbots de support client, les requêtes fondées sur des données qui changent rapidement (comme l’actualité du secteur) et les domaines spécialisés, comme la médecine et le droit, où la précision et la vérification des sources sont importantes.
• Il existe trois grands types de RAG : le RAG naïf, le RAG modulaire et le RAG avancé. Le RAG naïf se comprend le mieux comme une récupération d’information simple, tandis que le RAG modulaire et le RAG avancé ajoutent des fonctionnalités supplémentaires comme la réécriture de requêtes et l’optimisation des segments.

Qu’est-ce qu’un grand modèle de langage (LLM) ?

Un LLM, ou grand modèle de langage, est un système qui génère du contenu en utilisant des paramètres affinés. Ces paramètres déterminent les probabilités attribuées à tous les jetons du vocabulaire d’un LLM, indiquant quel jeton est le plus susceptible de venir ensuite dans une séquence donnée.

Pour mieux comprendre le fonctionnement du RAG (et en quoi il diffère des) LLM, il est utile d’examiner le fonctionnement de l’IA générative à un niveau fondamental :

1. Tokenisation : Le prompt d’un utilisateur est découpé en jetons, qui peuvent être des mots, des parties de mots ou des caractères uniques.
2. Intégration : Les jetons sont convertis en intégrations, représentations numériques (chaînes de nombres) appelées vecteurs, que le réseau neuronal, qui inclut un décodeur, peut traiter.
3. Décodage : Les couches du décodeur (qui constituent une grande partie du réseau neuronal du LLM) manipulent ces vecteurs en utilisant un processus appelé attention pour en capturer le sens. Ce processus détermine la force avec laquelle chaque jeton doit être lié aux autres jetons de la séquence.
4. Notation : Le modèle attribue une probabilité de compatibilité à chaque jeton de son vocabulaire préexistant et sélectionne un jeton suivant probable pour la séquence.

Le point important est qu’un LLM ne peut produire des sorties qu’à partir de ses paramètres existants et des jetons présents dans sa fenêtre de contexte. Pendant l’entraînement, un LLM est chargé des milliards de fois de terminer des portions de texte incomplètes, et ses paramètres sont ajustés jusqu’à ce qu’il attribue de manière fiable des probabilités aux jetons (et complète donc le texte).

Imaginez, par exemple, que vous posiez à un modèle d’IA la question suivante : « Que dit la politique de remboursement 2026 de notre entreprise ? » Le LLM ne peut prédire les jetons suivants qu’en fonction de ses paramètres existants, qui n’ont pas été affinés à l’aide de votre documentation de support. Si vous lui posez cette question sans contexte supplémentaire, il sera tout simplement incapable de répondre de manière pertinente ou produira une hallucination en donnant une réponse incorrecte.

Qu’est-ce que la génération augmentée par récupération (RAG) ?

Le RAG (génération augmentée par récupération) est le processus par lequel des informations provenant de systèmes externes sont incluses dans un prompt de LLM.

Le processus sous-jacent du LLM, qui implique l’intégration et l’appariement probabiliste des jetons, reste le même. Le RAG introduit une étape préliminaire au cours de laquelle le prompt de l’utilisateur est enrichi de données supplémentaires.

Voici un aperçu du fonctionnement du RAG :

1. Préparation des connaissances : Une source de connaissances est préparée. Il peut s’agir d’un ensemble de documents, d’une base de données vectorielle, d’un graphe de connaissances ou d’un index en temps réel (par exemple pour la recherche IA).
2. Prompting : Un utilisateur saisit un prompt, par exemple : « Dois-je faire une promenade à Londres aujourd’hui ? »
3. Récupération : La source d’information externe est interrogée par le récupérateur de l’outil d’IA. Il peut intégrer le prompt, le transformer en vecteur, puis interroger une base de données vectorielle. Il peut aussi utiliser une autre méthode, comme un appel d’API, une correspondance par mots-clés ou une traversée de graphe de connaissances.
4. Insertion : Ces informations sont ajoutées au prompt d’origine de l’utilisateur. Dans l’exemple de la question sur la promenade à Londres, cela pourrait inclure les informations météorologiques à Londres et l’accessibilité actuelle des itinéraires de promenade populaires.
5. Génération de réponses : Le LLM génère une réponse de la manière habituelle à l’aide du prompt enrichi.

En coulisses, le texte récupéré est ajouté au contexte d’entrée, tokenisé et intégré. Le modèle traite ensuite ce contexte supplémentaire dans son décodeur, ce qui modifie les probabilités des jetons de sortie.

De manière générale, le RAG peut être divisé en trois sous-types. Le RAG naïf suit le processus RAG de base, en récupérant les informations et en les injectant dans le prompt. Le RAG avancé ajoute des fonctions supplémentaires comme la réécriture de requêtes et plusieurs passes de requête. Le RAG modulaire désigne un type d’architecture dans lequel différentes fonctionnalités avancées peuvent être traitées comme des composants et combinées selon les besoins.

RAG vs. LLM : aperçu des cas d’usage

Le RAG offre aux utilisateurs un accès à des données à jour. Cela se traduit par des sorties de LLM moins susceptibles de contenir des hallucinations et des lacunes informationnelles. Si vous devez voir les sources des informations utilisées dans une sortie, le RAG est également essentiel, car les réponses de LLM non fondées n’incluent pas d’attributions.

Agrandir

Cas d’usage du RAG

• Demandes d’informations sensibles au temps : Toute requête portant sur des informations qui deviennent rapidement obsolètes, qu’il s’agisse d’un simple bulletin météo ou d’une analyse détaillée d’un sujet d’actualité émergent, doit s’appuyer sur des sources tierces validées.
• Documentation d’entreprise : Les chatbots d’IA internes ou destinés aux clients, pour lesquels les utilisateurs posent des questions liées à la documentation de l’entreprise ou du produit, doivent être dotés du RAG, surtout si la documentation est souvent mise à jour.
• Support client : Les chatbots clients ont besoin d’accéder à une documentation de support à jour et détaillée pour fournir des réponses précises.
• Domaines spécialisés (médecine, droit, finance, etc.) : Les LLM qui n’ont pas été entraînés sur des corpus propres à un domaine (en particulier les modèles grand public) ont généralement du mal à saisir la nuance des prompts spécialisés.

Cas d’usage des LLM

• Tâches administratives : Les LLM peuvent accomplir des tâches de base avec un minimum de latence. Le RAG est inutile pour les tâches de rédaction et d’administration basiques, comme la correction orthographique ou la synthèse, lorsque des informations externes ne sont pas nécessaires.
• Tâches créatives : Certaines tâches créatives, comme la génération d’une nouvelle ou d’une image, n’ont besoin que des informations fournies dans le prompt d’origine.
• Tâches de raisonnement et basées sur les données : Si vous travaillez avec un grand ensemble de données, un LLM n’a pas besoin d’accéder à des informations externes pour appliquer des fonctions de raisonnement et d’analyse.
• Codage général : Bien qu’un flux de travail de codage puisse nécessiter l’accès à une base de code privée ou à de la documentation, les LLM sont très performants pour exécuter des tâches de codage générales, comme corriger des bogues et créer des fonctions, sans recourir à des sources externes.

RAG vs. LLM à long contexte, IA agentique et ancrage

Trois concepts connexes sont pertinents pour distinguer le RAG des LLM. Il s’agit des LLM à long contexte, de l’IA agentique et de l’ancrage.

Les LLM à long contexte peuvent parfois être utilisés à la place des systèmes dotés de RAG, tandis que l’IA agentique et l’ancrage en sont synonymes ou fonctionnent en complément.

LLM à long contexte

Il s’agit de modèles dotés de grandes fenêtres de contexte, certains modèles commerciaux largement disponibles allant jusqu’à un million de jetons.

Si les éléments pertinents peuvent tenir dans la fenêtre de contexte d’un modèle et sont disponibles sous forme de texte, une approche reposant uniquement sur un LLM présente certains avantages. Elle peut réduire le risque d’erreurs de récupération, fournir un contexte plus complet et éliminer le besoin d’une configuration étendue de l’architecture RAG.

IA agentique

Un agent est un système qui s’appuie sur plusieurs outils, notamment des capacités de RAG, pour accomplir des tâches complexes. Le RAG est un composant de l’IA agentique, et un agent utilisera souvent différents types de méthodes de récupération (par exemple, recherche web ou recherche vectorielle) selon le contenu d’un prompt.

Ancrage

L’ancrage désigne le processus plus large consistant à utiliser des preuves ou des données pour améliorer la précision de la réponse d’un LLM, ou l’ancrer. Le RAG est une forme d’ancrage, mais l’ajout d’un document technique à une fenêtre de contexte compterait aussi comme de l’ancrage.

RAG vs. LLM : exemples concrets

Pour mieux comprendre le fonctionnement du RAG par rapport à l’utilisation d’un LLM sans RAG, nous pouvons examiner un exemple concret simple utilisant Perplexity et un cas d’entreprise hypothétique dans lequel une base de données vectorielle est consultée.

RAG vs. LLM avec un prompt simple

Voici la sortie (limitée à deux phrases) lorsque Perplexity est interrogé par « Dois-je faire une promenade à Londres aujourd’hui ? » avec la recherche web par IA (une forme de RAG) désactivée :

Oui — si le temps est raisonnablement sec et que vous avez le temps, une promenade à Londres aujourd’hui pourrait constituer un agréable changement de cadre. Choisissez un itinéraire le long du South Bank, du Regent’s Canal ou à travers Hyde Park, et emportez une légère veste imperméable au cas où.

Comparez cela au prompt lorsque le LLM peut consulter des sources externes :

Oui, c’est une bonne journée pour une promenade à Londres : les prévisions annoncent des températures douces autour de 19 à 21 °C, des éclaircies et une chance de pluie très faible. Avec un ciel partiellement nuageux et une légère brise, les conditions sont agréables pour explorer les parcs ou des itinéraires en bord de rivière comme le South Bank.

Il existe des similitudes entre les deux, car le LLM utilise le même processus sous-jacent de notation des jetons. Cependant, le deuxième exemple inclut des informations météorologiques détaillées, ce qui le rend beaucoup plus utile.

RAG vs. LLM avec une base de données vectorielle d’entreprise

Imaginez qu’un utilisateur pose la question suivante au chatbot intégré à une application bancaire : « Où puis-je télécharger mon relevé le plus récent ? »

La banque qui gère l’application a créé une base de données contenant des intégrations de sa documentation produit à jour et l’a reliée au pipeline RAG du chatbot. La documentation se compose d’environ 1 000 documents sources, qui sont découpés en segments plus petits et ont été convertis en vecteurs pour la récupération.

La requête de l’utilisateur est envoyée à un modèle d’intégration, et l’application envoie ce vecteur à la base de données, qui renvoie les segments pertinents.

Le modèle d’intégration recevrait une requête comme celle-ci :

Le modèle d’intégration renvoie l’intégration vectorielle suivante :

La base de données vectorielle reçoit alors une requête comme la suivante :

Dans cet exemple (fortement simplifié), la base de données renvoie les cinq segments les plus pertinents pour la requête de l’utilisateur, lesquels sont envoyés à l’application et inclus dans le prompt du LLM.

Quand choisir le RAG plutôt qu’un LLM, et quand les combiner

Les LLM et le RAG sont des systèmes complémentaires. Ainsi, la question « Quand devrais-je choisir un LLM et quand le RAG ? » est mal posée. Il faut plutôt demander : « Quand un LLM suffit-il et quand le RAG est-il optimal ? »

Quand utiliser un LLM sans RAG activé

• Le modèle d’IA que vous avez choisi dispose d’une grande fenêtre de contexte : S’il est plus simple d’inclure dans votre prompt toutes les informations ou données nécessaires pour obtenir une réponse précise, par exemple en téléversant un document, cela peut réduire la latence et éviter les problèmes liés à la récupération.
• Raisonnement et flux de travail d’analyse de données : Les flux de travail d’analyse et de raisonnement qui ne font référence qu’aux données fournies dans un prompt n’ont pas besoin des capacités du RAG.
• Génération de code : Le RAG n’est généralement pas nécessaire pour les travaux de codage généraux, bien qu’il soit habituellement utilisé pour des tâches spécifiques à un projet, comme la récupération de correctifs antérieurs ou d’API et de documentation de fournisseurs.

Quand utiliser un LLM avec le RAG activé

• Vous avez besoin d’accéder à des informations à jour : Si une application d’IA doit accéder à des sources externes d’informations à jour pour générer une réponse précise, veillez toujours à activer les capacités du RAG.
• Vous travaillez dans un domaine spécialisé : Pour des secteurs comme la médecine, le droit, l’éducation, etc., où la précision, le niveau de détail et la vérification des sources sont importants, une utilisation reposant uniquement sur un LLM sera souvent insuffisante.
• Les sorties doivent faire référence à des fichiers internes de l’entreprise : Si vous utilisez l’IA, en interne ou dans une application destinée aux clients, pour générer du contenu à partir de documents internes de l’entreprise, qu’il s’agisse de données, d’une charte graphique, de documentation ou de fichiers, le RAG donne accès à ces informations.

Le RAG et les LLM sont des technologies complémentaires et en évolution

Le RAG a représenté une innovation majeure dans l’évolution de l’IA. Il répond à trois problèmes majeurs : des informations obsolètes, une mémoire limitée du modèle et des lacunes informationnelles dues à un manque de données d’entraînement pertinentes, ce qui se traduisait souvent par des hallucinations. Bien sûr, les LLM ne se sont pas totalement affranchis de ces problèmes, mais leur incidence a fortement diminué avec l’avènement du RAG.

Le RAG n’est pas une technologie statique. On s’attend à ce qu’il s’améliore dans plusieurs domaines, notamment le reranking, la latence lors de la récupération et l’utilisation de jetons, les défenses de sécurité contre les sources de données dangereuses, l’intégration de données récupérées provenant de plusieurs sources, et bien plus encore. À mesure que les LLM et l’IA agentique continuent d’évoluer, les systèmes RAG qui les prennent en charge évolueront eux aussi.