Què és l'arquitectura RAG? Una definició completa amb exemples pràctics detallats

La RAG, sigla en anglès de generació augmentada per recuperació (retrieval augmented generation), és un procés en què els LLM utilitzen informació externa per ampliar i millorar les seves respostes. L'arquitectura RAG és el conjunt de components i connexions que fa possible la RAG.

Hi ha diverses categories de RAG, i cadascuna funciona amb una arquitectura pròpia i única. En essència, l'arquitectura d'un sistema RAG determina la manera particular en què la informació s'emmagatzema, es recupera i es proporciona a un LLM.

Què és l'arquitectura RAG?

L'arquitectura RAG és la configuració subjacent de components (i les seves capacitats associades) que fa funcionar un sistema RAG determinat. Totes aquestes arquitectures es basen en una plantilla fonamental, sovint anomenada RAG «simple» o «ingènua».

Aquesta és una visió general de l'arquitectura RAG fonamental:

• Font d'informació: és on s'emmagatzema la informació externa. Pot ser un índex de cerca, una base de dades vectorial que representa grans quantitats d'informació o un repositori de documents en brut.
• Component de recuperació: és el mecanisme mitjançant el qual es consulta la font d'informació. Un sistema RAG pot, per exemple, utilitzar una cerca simple per paraules clau per trobar fragments de text rellevants, o bé consultes vectorials més complexes per fer una cerca per similitud.
• Component d'orquestració: aquesta capa és la part de l'aplicació basada en LLM que inicia el pipeline de RAG per a una indicació de l'usuari, conjuntament amb l'LLM o de manera independent. També compila la informació recuperada en una indicació ampliada.

Els components de l'arquitectura RAG solen organitzar-se en dos camins. El camí d'ingesta pren dades i les organitza en una font d'informació en què es pot cercar. Les bases de dades vectorials, en què grans quantitats de text es converteixen en un repositori consultable d'incrustacions vectorials, són una de les aplicacions més utilitzades.

El camí de recuperació pren la indicació de l'usuari i genera una consulta amb què cercar a la font d'informació. Després, l'orquestrador afegeix la informació recuperada al context d'entrada de l'LLM. En les arquitectures RAG agèntiques i híbrides, hi pot haver diversos camins de recuperació.

Tipus d'arquitectura RAG

És enganyós pensar en la RAG com un conjunt d'arquitectures completament diferenciades. La majoria d'enginyers adopten un enfocament modular i implementen components separats per adaptar-se a casos d'ús específics. Tot i que és possible traçar uns límits aproximats, cal tenir en compte que hi ha una superposició considerable entre els models d'arquitectura.

1. RAG bàsica

La RAG bàsica, també anomenada RAG «ingènua» o «simple», és la plantilla arquitectònica de la resta de tipus de RAG.

El procés subjacent és relativament senzill: l'usuari introdueix una indicació, l'orquestrador determina si cal informació externa (de manera independent o conjuntament amb l'LLM) i, en conseqüència, formula i envia una consulta de recuperació.

La font d'informació externa sol ser una base de dades vectorial, però també pot ser una base de dades SQL, una API web, un graf de coneixement o fins i tot un repositori de documents «en brut». Després, aquesta informació addicional s'afegeix al context d'entrada de l'LLM.

A banda de les consultes SQL i les API, hi ha dos grans tipus de mètodes de recuperació:

• Cerca lèxica (cerca per paraules clau): és una forma senzilla de RAG en què s'extreuen paraules clau de la consulta de l'usuari i es comparen amb passatges de text que les contenen. Per fer-ho, en els pipelines moderns l'orquestrador pot executar el que s'anomena una consulta de vectors dispersos, que no capta el significat.
• Cerca de vectors densos (cerca semàntica): les incrustacions de vectors densos capten el significat. Un orquestrador pot consultar una base de dades de vectors densos de manera que es capti el significat tant de la indicació de l'usuari com de la informació d'origen.

L'ús de la memòria també és una part important de l'arquitectura RAG. Fa referència a com un LLM utilitza el context de converses anteriors per construir una consulta de recuperació i, així, l'ancora en el context més ampli d'una conversa (o de diverses converses). La RAG conversacional és la norma en la majoria de xatbots, tot i que alguns casos d'ús, com les respostes a tiquets d'assistència, poden utilitzar la RAG de pregunta única.

2. Híbrida

La RAG híbrida combina dos tipus diferents de recuperació, normalment la recuperació per paraules clau i la semàntica. La cerca per paraules clau troba termes coincidents, i la cerca vectorial troba passatges amb un significat relacionat.

També es poden utilitzar altres formes de recuperació, com el recorregut de grafs de coneixement o les consultes a bases de dades SQL. Sovint, el procés es guia per una lògica d'encaminament, ja sigui en forma de regles programades o de la classificació de la pregunta que fa un model (tot i que també es poden executar diversos pipelines simultàniament).

L'orquestrador fusiona els resultats i pot reordenar-los abans de passar-los a l'LLM. La reordenació és el procés d'assignar puntuacions de rellevància als fragments recuperats perquè l'LLM prioritzi la informació més pertinent.

3. RAG adaptativa

En la RAG adaptativa, un component d'encaminament selecciona una estratègia de recuperació en funció dels requisits de la indicació de l'usuari, i després l'orquestrador executa el flux de treball seleccionat.

En el marc original (Adaptive-RAG), un model més petit actuava com a classificador i triava entre no fer cap recuperació, fer una recuperació d'un sol pas o fer una recuperació de diversos passos. Actualment, algunes arquitectures utilitzen en canvi models generatius o heurístiques basades en regles.

És una arquitectura popular perquè assigna la capacitat de processament segons la complexitat i els requisits de cada indicació, cosa que redueix els passos de recuperació innecessaris en les indicacions més senzilles. És habitual en assistents que gestionen diversos tipus de preguntes.

4. RAG correctiva (CRAG)

La RAG correctiva avalua la informació recuperada abans d'afegir-la al context d'entrada de l'LLM. Un avaluador de recuperació valora si la informació recuperada és rellevant i útil. El tret arquitectònic distintiu és l'etapa explícita d'avaluació i correcció abans de generar la resposta.

Si la informació es considera incompleta o no aplicable a la indicació, s'activen sol·licituds addicionals. Aquestes poden incloure mètodes de recuperació diferents dels utilitzats en la sol·licitud original, com ara la cerca web o el recorregut de grafs de coneixement.

La RAG correctiva és habitual en àmbits en què la precisió és important, com la medicina i el dret. Tanmateix, requereix una font d'informació addicional que pugui complementar els passatges recuperats originalment.

5. Self-RAG

En la Self-RAG, el model pot iniciar sol·licituds després de rebre el context d'entrada inicial. Les respostes generades s'avaluen en funció de les proves recuperades mitjançant tokens de reflexió, i s'envien més sol·licituds a través de l'orquestrador si cal. Per contra, l'LLM també pot decidir que no cal fer cap recuperació.

Es diferencia de la RAG correctiva en el fet que l'LLM jutja les seves pròpies respostes, determina si cal fer una recuperació i si el text recuperat és útil, i supervisa les seves respostes, que modifica si cal. La RAG correctiva, en canvi, avalua la qualitat de la informació recuperada abans de la generació.

Aquesta arquitectura és especialment útil per a indicacions complexes de l'estil d'una investigació profunda. Com que integra avaluacions de rellevància (de la informació recuperada) en la generació de respostes, és una bona opció per a indicacions que requereixen respostes basades en proves.

6. RAG agèntica

La RAG agèntica fa referència a qualsevol forma de RAG que s'executa en el context d'una plataforma agèntica. El model utilitza les seves capacitats de raonament per determinar quin tipus d'informació necessita i tria entre les opcions de recuperació disponibles.

La recuperació es pot activar diverses vegades segons calgui, i el model té l'opció d'assignar agents per a consultes més complexes. Per exemple, un LLM podria sol·licitar una cerca en una base de dades per identificar un proveïdor, activar una cerca de documents per trobar els contractes rellevants i acabar amb una cerca web per verificar les dades de contacte a partir de fonts públiques.

La RAG agèntica és la principal implementació d'arquitectura en els xatbots més coneguts, com Perplexity, ChatGPT o Claude, entre d'altres. Com que aquestes plataformes donen al model principal accés a diverses eines i pipelines de RAG, aquest pot seleccionar quina forma de recuperació s'adapta millor a cada indicació.

7. RAG multimodal

La RAG multimodal recupera context de diferents tipus de contingut multimèdia. És una forma important de RAG perquè posa a l'abast dels LLM informació que, d'altra manera, seria inaccessible, com ara gràfics i enregistraments d'àudio.

L'arquitectura subjacent és la mateixa que en qualsevol altre sistema. Per exemple, un pipeline d'indexació pot preparar imatges per a la cerca convertint-les en incrustacions directes. Després, un sistema de RAG agèntica podria recuperar aquestes imatges juntament amb text semànticament rellevant i proporcionar-ho tot a un model de visió i llenguatge per a un processament dual.

8. GraphRAG

GraphRAG utilitza grafs de coneixement juntament amb la cerca vectorial per recuperar informació sobre entitats. Normalment, l'orquestrador troba les entitats inicials rellevants, també anomenades nodes, mitjançant l'extracció de paraules clau o, de vegades, una cerca vectorial preliminar. Un recuperador de grafs recorre un graf de coneixement per construir un context més ampli.

Per exemple, davant una sol·licitud d'anàlisi detallada d'una categoria de productes, un LLM pot activar una cerca vectorial per identificar entitats concretes (productes). Després, l'orquestrador activarà una cerca al graf de coneixement per trobar entitats relacionades, com ara proveïdors, punts de venda, ressenyes, etc.

9. RAG ramificada

Mentre que una arquitectura RAG híbrida té la capacitat d'utilitzar diferents mètodes de recuperació, la RAG ramificada fa referència al procés d'executar alhora diverses consultes, anomenades branques. Cada branca pot consultar una font d'informació diferent, o bé les branques poden consultar la mateixa font en paral·lel amb consultes o filtres diferents. L'arquitectura RAG agèntica sovint utilitza la RAG ramificada.

10. HyDE (Hypothetical Document Embeddings, incrustacions de documents hipotètics)

HyDE és una forma innovadora de RAG en què un LLM crea un document de text hipotètic que mostra com podria ser una resposta òptima. Després, aquest «document hipotètic» s'utilitza per crear una consulta que permeti una recuperació més precisa. Tot i que els coneixements rellevants no estan representats en els paràmetres de l'LLM, la lògica és que un passatge semblant a una resposta pot coincidir millor amb els documents rellevants que una pregunta breu o una indicació ambigua.

Exemple d'arquitectura RAG simple: base de dades vectorial

La RAG bàsica és el fonament de tipus d'arquitectura més complexos. En el cas d'un sistema RAG simple que utilitza una base de dades vectorial, la documentació d'origen es divideix en parts més petites (fragments) i es converteix en incrustacions denses. Quan l'usuari introdueix una indicació, l'orquestrador genera una consulta, la codifica i consulta la base de dades per trobar passatges rellevants.

Aquest és el procés pas a pas:

1. Es converteixen grans quantitats de text en vectors mitjançant un pipeline d'ingesta automatitzat i un model d'incrustació com BERT.
2. L'aplicació de base de dades organitza, indexa i emmagatzema els vectors per permetre una cerca ràpida.
3. L'usuari introdueix una indicació en un xatbot (com Perplexity).
4. L'orquestrador de l'aplicació codifica la indicació (amb un model d'incrustació) per recuperar informació rellevant de la base de dades vectorial.
5. La base de dades vectorial retorna els fragments rellevants, i l'orquestrador els afegeix al context d'entrada (la «indicació gran») i el proporciona a l'LLM.
6. L'LLM utilitza el context addicional per generar una resposta amb els seus coneixements interns (emmagatzemats en els seus pesos paramètrics).

Amplia

Exemple d'arquitectura RAG avançada: RAG agèntica

La RAG agèntica fa referència a l'arquitectura subjacent dels sistemes RAG dins d'una plataforma agèntica. Els fluxos de RAG agèntica solen ser complexos perquè els agents d'IA poden invocar diferents eines i pipelines segons la naturalesa de la indicació, i desplegar diversos agents si cal.

Aquest és un exemple pràctic del procés:

1. L'usuari introdueix una pregunta complexa que requereix una investigació profunda sobre un tema. En aquest exemple, suposem que la indicació és: «Fes una previsió dels beneficis de l'empresa per als pròxims sis mesos tenint en compte l'activitat geopolítica més rellevant».
2. L'LLM raona que caldrà una combinació de consultes RAG en diferents tipus de contingut.
3. Es despleguen tres agents diferents per a: (a) la cerca vectorial, (b) la fonamentació web i (c) la cerca d'imatges (multimodal).
4. Els agents cerquen informació rellevant, com ara notícies i dades financeres internes, a través de l'orquestrador amb les eines de recuperació disponibles.
5. L'LLM compara els resultats recuperats amb la pregunta d'investigació de cada agent i els classifica per rellevància.
6. L'LLM avalua la informació i activa cerques addicionals mitjançant agents individuals allà on falta informació.
7. Un cop s'ha recuperat prou informació, l'LLM genera previsions d'escenaris basades en les xifres financeres existents (recuperades de la documentació interna) i crida una eina de càlcul per projectar els beneficis de cadascun.
8. L'LLM genera una resposta final amb la informació recuperada i els càlculs, i cita les fonts quan cal.

Amplia

Quin és el futur de la RAG?

Les innovacions actuals se centren a aportar profunditat i velocitat a les arquitectures RAG existents, millorar la precisió de la recuperació multimèdia i construir sistemes dissenyats per treballar amb informació actualitzada al minut.

Aquestes són tres tendències que actualment marquen la direcció de la recerca:

• Investigació profunda a partir de diverses fonts: es tracta d'una arquitectura RAG capaç de planificar cerques, executar diverses branques en fonts dispars, avaluar les proves recuperades i optimitzar per si mateixa les respostes generades. La RAG agèntica capaç d'executar totes aquestes tasques és cada vegada més ràpida i rendible.
• Aplicacions multimodals: els pipelines de recuperació treballen cada vegada millor amb imatges i vídeo. Cada cop són més capaços de localitzar tipus específics d'informació en dades multimodals complexes, com ara vídeos de llarga durada i diagrames avançats.
• Fonamentació de les respostes en informació en canvi constant: les aplicacions basades en LLM poden recórrer a fonts d'informació en directe (com ara fluxos de vídeo i sensors) per proporcionar context d'entrada. Els sistemes també poden generar xarxes d'informació multidimensionals, com en el cas de GraphRAG, per interpretar aquestes dades.

La RAG és fonamental en el funcionament de les aplicacions basades en LLM. Permet a usuaris molt diversos, des de consumidors corrents fins a empreses que treballen en àmbits especialitzats, superar problemes relacionats amb les al·lucinacions, les dades d'entrenament incompletes i la manca d'accés a coneixement intern especialitzat.

Per això els sistemes RAG i la seva arquitectura subjacent són una de les àrees de recerca en IA que avancen més de pressa i que resulten més apassionants.