9 exemples de RAG basats en casos d'ús i arquitectures reals

El RAG s'utilitza àmpliament tant en contextos de consum com empresarials. Exemples reals i quotidians de RAG inclouen la cerca web, l'atenció al client i les compres impulsades per IA. L'accés al coneixement intern i l'assistència en la codificació són alguns dels exemples comercials més destacats.

L'arquitectura RAG també pot variar segons el cas d'ús. Dues de les implementacions més comunes són el RAG híbrid, que combina la coincidència de paraules clau tradicional amb la cerca vectorial o de grafs de coneixement, i el RAG agèntic, en què un LLM dirigeix el procés de recuperació.

Què és la generació augmentada per recuperació (RAG)?

El RAG, o generació augmentada per recuperació, permet a les aplicacions d'IA accedir a informació emmagatzemada en sistemes externs per complementar les respostes generades per un LLM.

És una tecnologia potent perquè aborda tres problemes principals de la IA generativa: les al·lucinacions, la informació desactualitzada i la manca d'accés a dades no incloses en el context d'entrada.

Aquest és l'aspecte d'un procés RAG bàsic:

1. L'usuari introdueix una indicació en llenguatge natural.
2. L'aplicació d'IA determina si cal fonamentació, de vegades amb la participació d'un LLM.
3. S'envia una sol·licitud a una font d'informació externa, com ara una base de dades.
4. La informació recuperada s'afegeix al context d'entrada del LLM.
5. El LLM genera una resposta basada en la indicació augmentada.

Tot i que poden variar pel que fa a la implementació específica, aquests passos representen un flux de treball RAG típic. Les diferències entre els diversos tipus d'arquitectura solen centrar-se en com l'aplicació client gestiona les sol·licituds i en la naturalesa de la informació que es recupera.

Una visió general de l'arquitectura RAG

El terme "generació augmentada per recuperació" va aparèixer per primera vegada en un article del 2020 titulat Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicat per investigadors de Meta AI (aleshores Facebook AI Research) juntament amb col·laboradors de l'University College London i la Universitat de Nova York.

Els primers enfocaments de recuperació seguida de generació, anomenats informalment "RAG ingenu", han evolucionat des d'aleshores fins a formar un assortiment de diferents tipus d'arquitectura, molts dels quals se solapen.

RAG ingenu

El RAG ingenu utilitza un pipeline senzill de recuperació i generació, que continua sent adequat per a moltes sol·licituds bàsiques. L'exemple més comú de RAG ingenu és la conversió d'una consulta en una llista ordenada de números anomenada incrustació vectorial o, senzillament, vector. A continuació, la incrustació de la consulta es fa coincidir amb altres vectors que representen fragments, porcions de contingut d'una base de dades o índex (anomenat índex semàntic).

RAG avançat

El RAG avançat optimitza les etapes prèvies i posteriors a la recuperació. Les tècniques inclouen l'ampliació de consultes, el filtratge de metadades i la compressió de context. Bàsicament, aquestes milloren la rellevància de la informació que es recupera i com es modifica abans d'afegir-la al context d'entrada d'un LLM.

RAG agèntic

El RAG agèntic és l'execució de pipelines RAG per part d'un agent basat en un LLM. L'agent "decideix" quines eines s'adapten millor a una indicació determinada i dirigeix la recuperació, de vegades de manera iterativa, per generar una resposta rellevant.

RAG de grafs

El RAG de grafs recupera informació d'un graf de coneixement, que representa entitats (com ara objectes, conceptes i esdeveniments) i les relacions entre elles. Això resulta útil quan la resposta a una indicació requereix que el LLM combini informació sobre entitats diferents.

RAG multimodal

El RAG multimodal estén la recuperació a continguts com ara imatges i àudio durant tant la consulta com la recuperació. Aquests pipelines RAG utilitzen codificadors especials per convertir text, imatges o àudio en incrustacions.

RAG híbrid

El RAG híbrid combina la cerca de paraules clau, o recuperació lèxica, amb la recuperació vectorial o els grafs de coneixement, i fusiona els resultats. Això és útil perquè la coincidència de paraules clau pot ser altament precisa (més que altres mètodes) en determinats contextos.

RAG correctiu

El RAG correctiu avalua la informació o les dades retornades per determinar-ne la rellevància respecte a la consulta. Pot refinar o complementar els fragments recuperats o substituir-los completament executant una altra sol·licitud.

Exemples de RAG per cas d'ús i aplicació industrial

Hi ha nombrosos exemples de RAG tant en l'àmbit de consum com en l'empresarial. Això es deu en gran part al fet que els pipelines RAG s'han integrat a la majoria d'eines principals. A més, molts proveïdors ofereixen integracions preconfigurades, com ara per a xats de servei d'atenció al client, la qual cosa n'ha facilitat l'adopció.

1. Cerca web

La cerca web és un dels exemples de RAG més estesos. Cada dia, milions de persones utilitzen eines d'IA per generar respostes fonamentades en informació recuperada del web.

Com funciona: L'aplicació d'IA cerca en un índex web, com ara l'índex de Google Search, mitjançant la recuperació basada en paraules clau i semàntica. El contingut rellevant de la pàgina s'inclou juntament amb la pregunta de l'usuari a l'entrada del LLM. A continuació, el LLM genera una resposta, normalment amb citacions de les fonts.

Exemple del món real: Si un usuari escriu una consulta senzilla a la interfície de xat de Perplexity, com ara "Quin temps fa a Chicago?", el LLM durà a terme una cerca web per trobar informació actualitzada. Perplexity utilitza un índex web propi juntament amb API de cerca de socis.

Amplia

2. Atenció al client

Els xats integrats a aplicacions i llocs web s'han convertit en un cas d'ús empresarial important del RAG. Aquests sistemes solen combinar-se amb vies d'enrutament tradicionals, la qual cosa redueix la necessitat de la intervenció d'agents de suport.

Com funciona: Quan un client fa una pregunta, l'aplicació cerca a la base de coneixements de l'empresa, sovint mitjançant un pipeline híbrid. Els fragments recuperats es proporcionen al LLM, que genera una resposta. Normalment, també hi ha processos correctius i de derivació per validar la resposta i, si cal, redirigir-la a un agent.

Exemple del món real: Diverses plataformes d'atenció al client, com ara Zendesk (a la imatge següent) i Intercom, ofereixen xats d'atenció al client llestos per utilitzar que s'integren amb la documentació existent i les bases d'atenció al client.

Amplia

3. Assistents personals

Els assistents personals utilitzen el RAG agèntic per accedir als correus electrònics, fitxers i calendari d'un usuari. Aquests assistents normalment poden executar múltiples pipelines RAG.

Com funciona: Com que els assistents personals sovint requereixen accés a múltiples fonts d'informació, utilitzen una combinació d'API, cerca per paraules clau, cerca vectorial i grafs de coneixement. L'aplicació envia diferents descripcions d'eines al LLM, que després selecciona les més adients.

Exemple del món real: Google Gemini serveix com a bon exemple d'una aplicació que pot actuar com a assistent d'IA generalista i personal (com passa amb la majoria d'assistents avui dia). S'integra amb un ecosistema d'eines, com ara Gmail, Docs, Photos i Calendar.

Amplia

4. Gestió del coneixement empresarial

La gestió del coneixement empresarial permet als empleats fer preguntes sobre un ampli conjunt d'informació de l'empresa, incloent-hi polítiques, informes, documents de projectes, textos legals i fins i tot debats interns.

Com funciona: L'aplicació recupera contingut rellevant mitjançant un índex vectorial que s'actualitza a mesura que canvien els documents font. L'índex conté incrustacions que representen fragments de documents, amb enllaços al seu text i metadades associades.

Exemple del món real: Microsoft 365 Copilot accedeix a la informació organitzativa a través de Microsoft Graph, que exposa diverses API per a fonts de dades, i utilitza índexs lèxics i semàntics per recuperar contingut rellevant.

Amplia

5. Assistents de codificació

Els assistents de codificació apliquen el RAG a una base de codi. Tot i que el procés RAG subjacent és el mateix (normalment RAG agèntic), la diferència és que tracten específicament amb el context de codi.

Com funciona: Els assistents de codificació indexen fitxers de projectes locals i realitzen passades de cerca múltiples per trobar fragments de codi rellevants quan se'ls sol·licita. Aquests assistents també solen tenir connectors dedicats per ampliar l'accés, com ara a bases de coneixement corporatives.

Exemple del món real: GitHub Copilot és un exemple conegut d'assistent de codificació que s'integra directament amb projectes de desenvolupament. També pot fer referència a repositoris públics de GitHub per augmentar la precisió de les respostes.

Amplia

6. Resolució de problemes tècnics

La resolució de problemes tècnics integra un pipeline RAG de gestió del coneixement amb un bucle de diagnòstic. Un agent pot avaluar els resultats per refinar encara més les recomanacions de resolució de problemes segons sigui necessari.

Com funciona: Una aplicació recull els símptomes d'un problema tècnic de l'usuari o rep alertes de supervisió automatitzades. Activa una cerca de missatges d'error, registres tècnics i mètriques de rendiment per contrastar els símptomes. A continuació, recupera informació rellevant d'una base de coneixements interna per transmetre-la al LLM. El bucle de diagnòstic es produeix quan els resultats d'una reparació intentada s'introdueixen de nou al LLM, ja sigui des de l'usuari o des d'una eina de diagnòstic.

Exemple del món real: La plataforma d'observabilitat Datadog (a la imatge següent) recopila dades de totes les capes d'un sistema i senyalitza qualsevol problema a mesura que s'esdevé. Aquestes dades s'introdueixen posteriorment en un agent d'IA especialitzat anomenat Bits AI per solucionar possibles errors.

Amplia

7. Comerç agèntic

El comerç agèntic és un cas d'ús més ampli que normalment implica el RAG. Un agent de compres recupera detalls com ara especificacions de productes, ressenyes, preus i disponibilitat per comparar opcions i explicar recomanacions. A continuació, pot fer la compra automàticament sense que l'usuari hagi de sortir de la interfície.

Com funciona: El comerç agèntic és un autèntic RAG agèntic perquè les consultes particulars sovint requereixen diferents formes de recuperació, que el model dirigeix. Un agent pot recuperar dades de productes només de text a través de l'API d'un minorista, o pot utilitzar el RAG multimodal per fer coincidir productes en un índex semàntic basant-se en una fotografia de l'usuari.

Exemple del món real: Un agent de propòsit general com Perplexity pot recuperar diverses imatges i especificacions detallades de productes basant-se en una indicació. La funció de compra ràpida Instant Buy permet a l'usuari completar la compra un cop triat el producte.

Amplia

8. Dominios de coneixement especialitzats

Les eines d'IA que recuperen coneixement de dominis especialitzats han de gestionar formats de contingut complexos. A més, minimitzar les al·lucinacions i les llacunes d'informació sol ser una prioritat.

Com funciona: La diferència clau entre les arquitectures RAG generalistes i les especialitzades fa referència al material d'origen i a la configuració de recuperació. Normalment, només es consultarà un índex altament autoritzat, i la sol·licitud es configurarà per incloure terminologia específica per restringir les cerques.

Exemple del món real: L'eina d'investigació acadèmica Scite accedeix a un gran índex de treballs acadèmics i dades de citació que s'ha creat mitjançant acords amb editorials i fonts d'accés obert. També aplica verificacions posteriors a la recuperació, com ara la validació de fonts, abans de generar una resposta completa.

Amplia

9. Anàlisi de dades

El RAG per a l'anàlisi de dades s'ha convertit en un cas d'ús empresarial particularment potent perquè permet a un ampli ventall de professionals, especialment aquells sense formació en ciència de dades, consultar conjunts de dades mitjançant llenguatge natural. Això facilita la generació d'informes i la formulació de preguntes altament específiques.

Com funciona: Per a una pregunta com ara "Per què van caure les vendes el darrer trimestre?", l'aplicació podria consultar els registres de vendes i recuperar notes sobre escassetat d'estoc o canvis de preus. El LLM selecciona el càlcul adequat (que normalment es delega a una eina de càlcul) per a les dades recuperades abans de generar una anàlisi.

Exemple del món real: Google Analytics ofereix un xat d'IA "Ask Advisor" que pot accedir a dades d'analítica web i respondre a preguntes molt específiques i matisades dels usuaris. És un dels millors exemples del món real de RAG de sistema tancat a nivell empresarial.

Amplia

Què li espera a l'evolució del RAG?

El RAG va ser un avenç significatiu quan es va introduir per primera vegada. Va ajudar a abordar molts dels problemes inherents als LLM autònoms.

Tanmateix, està lluny de ser una tecnologia estàtica. La investigació actual se centra en una recuperació multimodal més profunda i en un processament més rigorós del context recuperat per garantir-ne la precisió i la correcció. A més, és probable que vegem una major integració del RAG en agents d'eines múltiples.

Fins i tot amb finestres de context extremadament grans, hi ha casos d'ús importants per al RAG tant en contextos personals com professionals, i moltes innovacions futures per arribar.