실생활 유스케이스와 아키텍처를 기반으로 한 9가지 RAG 예시

RAG는 소비자 및 기업 환경 모두에서 널리 사용됩니다. 실생활에서의 RAG 예시로는 웹 검색, 고객 지원, AI 쇼핑 등이 있습니다. 내부 지식 접근과 코딩 지원은 가장 두드러진 비즈니스 예시에 속합니다.

RAG 아키텍처는 유스케이스에 따라 다를 수 있습니다. 가장 흔한 두 가지 구현 방식은 기존 키워드 일치 방식과 벡터 또는 지식 그래프 검색을 결합한 하이브리드 RAG와, LLM이 검색 프로세스를 지휘하는 에이전틱 RAG입니다.

검색 증강 생성(RAG)이란 무엇인가요?

RAG(검색 증강 생성)를 사용하면 AI 애플리케이션이 외부 시스템에 저장된 정보에 접근하여 LLM이 생성한 답변을 보완할 수 있습니다.

이것이 강력한 기술인 이유는 생성형 AI의 세 가지 주요 문제점인 환각 현상, 최신 정보 부족, 그리고 입력 컨텍스트에 포함되지 않은 데이터에 대한 접근성 부족을 해결하기 때문입니다.

기본적인 RAG 프로세스는 다음과 같습니다:

1. 사용자가 자연어로 프롬프트를 입력합니다.
2. AI 애플리케이션이 (때로는 LLM의 개입을 통해) 그라운딩이 필요한지 여부를 판단합니다.
3. 데이터베이스와 같은 외부 정보 소스로 요청이 전송됩니다.
4. 검색된 정보가 LLM의 입력 컨텍스트에 추가됩니다.
5. LLM이 증강된 프롬프트를 기반으로 답변을 생성합니다.

구체적인 구현 방식은 다를 수 있지만, 이러한 단계들은 전형적인 RAG 워크플로우를 나타냅니다. 다양한 아키텍처 유형 간의 차이점은 주로 클라이언트 애플리케이션이 요청을 처리하는 방식과 검색되는 정보의 특성에 집중되는 경향이 있습니다.

RAG 아키텍처 개요

"검색 증강 생성"이라는 용어는 University College London 및 New York University의 협력 연구원들과 함께 Meta AI(당시 Facebook AI Research) 소속 연구원들이 발표한 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks라는 2020년 논문에서 처음 등장했습니다.

초기의 검색 후 생성 접근 방식은 느슨하게 “나이브 RAG(naive RAG)”라고 불렸으며, 이후 다양한 아키텍처 유형으로 발전해왔고 이 중 상당수가 서로 겹칩니다.

나이브 RAG

나이브 RAG는 간단한 검색 및 생성 파이프라인을 사용하며, 여전히 많은 기본 요청에 적합합니다. 나이브 RAG의 가장 흔한 예시는 쿼리를 벡터 임베딩 또는 줄여서 벡터라고 부르는 정렬된 숫자 목록으로 변환하는 것입니다. 그런 다음 쿼리 임베딩을 데이터베이스나 인덱스(시멘틱 인덱스라고 함) 내의 콘텐츠 조각인 청크를 나타내는 다른 벡터들과 일치시킵니다.

고급 RAG

고급 RAG는 검색 전후 단계를 최적화합니다. 여기에는 쿼리 확장, 메타데이터 필터링, 컨텍스트 압축 등의 기법이 포함됩니다. 이러한 기법들은 본질적으로 검색되는 정보의 관련성을 높이고 LLM의 입력 컨텍스트에 추가되기 전에 정보가 수정되는 방식을 개선합니다.

에이전틱 RAG

에이전틱 RAG는 LLM 기반 에이전트가 RAG 파이프라인을 실행하는 것입니다. 에이전트는 주어진 프롬프트에 가장 적합한 툴을 “결정”하고, 관련 답변을 생성하기 위해 때로는 반복 루프를 통해 검색을 지휘합니다.

그래프 RAG

그래프 RAG는 엔티티(객체, 개념, 이벤트 등)와 이들 간의 관계를 나타내는 지식 그래프에서 정보를 검색합니다. 이는 프롬프트에 대한 답변이 LLM에게 서로 다른 엔티티에 대한 정보를 결합할 것을 요구할 때 유용합니다.

멀티모달 RAG

멀티모달 RAG는 쿼리 및 검색 과정 모두에서 이미지나 오디오 같은 콘텐츠까지 검색 범위를 확장합니다. 이러한 RAG 파이프라인은 특수 인코더를 사용하여 텍스트, 이미지 또는 오디오를 임베딩으로 변환합니다.

하이브리드 RAG

하이브리드 RAG는 키워드 검색(또는 렉시컬 검색)을 벡터 검색 또는 지식 그래프와 결합하여 결과를 병합합니다. 이는 특정 상황에서 키워드 일치 방식이 (다른 방법보다) 매우 정확할 수 있기 때문에 유용합니다.

교정 RAG

교정 RAG는 반환된 정보나 데이터가 쿼리와 관련이 있는지 평가합니다. 검색된 구문을 정교화하거나 보완할 수 있으며, 다른 요청을 실행하여 완전히 교체할 수도 있습니다.

유스케이스 및 산업별 애플리케이션에 따른 RAG 예시

소비자 및 비즈니스 영역 전반에 걸쳐 RAG의 다양한 예시가 존재합니다. 이는 주로 RAG 파이프라인이 대부분의 주류 툴에 통합되었기 때문입니다. 또한 많은 공급업체가 고객 서비스 챗봇 등을 위한 기본 제공(out-of-the-box) 통합 기능을 제공하여 도입을 촉진했습니다.

1. 웹 검색

웹 검색은 RAG의 가장 보편적인 예시 중 하나입니다. 매일 수백만 명의 사람들이 웹에서 검색된 정보를 기반으로 응답을 생성하기 위해 AI 툴을 사용합니다.

작동 방식: AI 애플리케이션은 키워드 기반 및 시멘틱 검색을 사용하여 Google 검색 인덱스와 같은 웹 인덱스를 검색합니다. 관련 페이지 콘텐츠는 사용자의 질문과 함께 LLM의 입력에 포함됩니다. 그런 다음 LLM은 일반적으로 소스 출처 인용과 함께 답변을 생성합니다.

실생활 예시: 사용자가 Perplexity의 채팅 인터페이스에 “시카고 날씨 어때?”와 같은 간단한 쿼리를 입력하면, LLM은 최신 정보를 찾기 위해 웹 검색을 수행합니다. Perplexity는 파트너 검색 API와 결합된 자체 웹 인덱스를 사용합니다.

확대

2. 고객 지원

인앱 및 웹사이트 챗봇은 RAG의 주요 기업용 유스케이스로 부상했습니다. 이 시스템들은 대개 기존 라우팅 경로와 결합하여 고객 상담원의 개입 필요성을 줄여줍니다.

작동 방식: 고객이 질문하면 애플리케이션은 종종 하이브리드 파이프라인을 사용하여 회사의 지식 베이스를 검색합니다. 검색된 구문이 LLM에 공급되고, LLM이 답변을 생성합니다. 또한 답변을 검증하고 필요한 경우 상담원에게 라우팅하기 위한 교정 및 핸드오프 프로세스가 일반적으로 포함됩니다.

실생활 예시: Zendesk(아래 사진 참조)와 Intercom을 비롯한 다양한 고객 서비스 플랫폼은 기존 문서 및 고객 지원 베이스와 통합되는 즉시 사용 가능한 고객 지원 챗봇을 제공합니다.

확대

3. 개인 비서

개인 비서는 에이전틱 RAG를 사용하여 사용자의 이메일, 파일, 캘린더에 접근합니다. 이러한 비서는 일반적으로 여러 RAG 파이프라인을 실행할 수 있습니다.

작동 방식: 개인 비서는 종종 여러 정보 소스에 대한 접근이 필요하기 때문에 API, 키워드 검색, 벡터 검색, 지식 그래프를 혼합하여 사용합니다. 애플리케이션은 서로 다른 툴 설명을 LLM에 전송하고, LLM은 그 중 가장 적절한 툴을 선택합니다.

실생활 예시: Google Gemini는 범용 및 개인용 AI 비서 역할을 모두 수행할 수 있는 앱의 좋은 예입니다(요즘 대부분의 비서가 그렇듯이). Gmail, Docs, Photos, Calendar 같은 툴 생태계와 통합됩니다.

확대

4. Enterprise 지식 관리

Enterprise 지식 관리를 통해 임직원은 정책, 보고서, 프로젝트 문서, 법률 텍스트, 내부 토론을 포함한 광범위한 회사 정보 전반에 걸쳐 질문할 수 있습니다.

작동 방식: 애플리케이션은 소스 문서가 변경됨에 따라 업데이트되는 벡터 인덱스를 사용하여 관련 콘텐츠를 검색합니다. 인덱스에는 텍스트 링크 및 관련 메타데이터가 포함된 문서 청크를 나타내는 임베딩이 포함되어 있습니다.

실생활 예시: Microsoft 365 Copilot은 데이터 소스에 대한 다양한 API를 제공하는 Microsoft Graph를 통해 조직 정보에 접근하며, 렉시컬 및 시멘틱 인덱스를 사용하여 관련 콘텐츠를 검색합니다.

확대

5. 코딩 비서

코딩 비서는 코드베이스에 RAG를 적용합니다. 기본적인 RAG 프로세스는 동일하지만(보통 에이전틱 RAG), 차이점은 코드 컨텍스트를 구체적으로 다룬다는 점입니다.

작동 방식: 코딩 비서는 로컬 프로젝트 파일을 색인화하고 프롬프트가 입력되면 관련 코드 스니펫을 찾기 위해 다중 검색 패스를 수행합니다. 또한 이러한 비서는 일반적으로 기업 지식 베이스 등에 대한 접근을 확장하기 위한 전용 커넥터를 갖추고 있습니다.

실생활 예시: GitHub Copilot은 개발 프로젝트와 직접 통합되는 잘 알려진 코딩 비서의 예입니다. 또한 답변의 정확도를 높이기 위해 공개 GitHub 리포지토리를 참조할 수 있습니다.

확대

6. 기술 문제 해결

기술 문제 해결은 지식 관리 RAG 파이프라인과 진단 루프를 통합합니다. 에이전트는 결과를 평가하여 필요에 따라 문제 해결 권장 사항을 더욱 구체화할 수 있습니다.

작동 방식: 애플리케이션은 사용자로부터 기술적 문제의 징후를 수집하거나 자동화된 모니터링 경고를 받습니다. 그런 다음 징후를 교차 검증하기 위해 오류 메시지, 기술 로그, 성능 메트릭에 대한 검색을 트리거합니다. 이후 내부 지식 베이스에서 관련 정보를 검색하여 LLM에 전달합니다. 진단 루프는 사용유저나 진단 툴로부터 시도된 수정 결과가 LLM에 다시 피드백될 때 발생합니다.

실생활 예시: 관측 가능성(observability) 플랫폼 Datadog(아래 사진 참조)은 시스템의 모든 계층에서 데이터를 수집하여 문제가 발생할 때 이를 플래그합니다. 그런 다음 이 데이터는 잠재적인 수정 사항을 문제 해결하기 위해 Bits AI라는 특수 AI 에이전트로 피드됩니다.

확대

7. 에이전틱 커머스

에이전틱 커머스는 대개 RAG를 포함하는 더 넓은 범위의 유스케이스입니다. 쇼핑 에이전트는 제품 사양, 리뷰, 가격, 재고 등의 세부 정보를 검색하여 옵션을 비교하고 추천 이유를 설명합니다. 그런 다음 사용자가 인터페이스를 떠나지 않고도 자동으로 구매를 완료할 수 있습니다.

작동 방식: 에이전틱 커머스는 특정 쿼리가 모델이 지시하는 다양한 형태의 검색을 자주 요구하기 때문에 진정한 에이전틱 RAG입니다. 에이전트는 소매업체의 API를 통해 텍스트 전용 제품 데이터를 검색하거나, 사용자 사진을 기반으로 시멘틱 인덱스에서 제품을 일치시키기 위해 멀티모달 RAG를 사용할 수 있습니다.

실생활 예시: Perplexity와 같은 범용 에이전트는 프롬프트를 기반으로 여러 이미지와 상세한 제품 사양을 검색할 수 있습니다. Instant Buy 체크아웃 기능을 통해 사용자는 제품을 선택한 후 구매를 완료할 수 있습니다.

확대

8. 특화된 지식 도메인

특화된 도메인 지식을 검색하는 AI 툴은 복잡한 콘텐츠 형식을 다루어야 합니다. 또한 환각 현상과 정보 공백을 최소화하는 것이 종종 최우선 과제입니다.

작동 방식: 범용 RAG 아키텍처와 특화된 RAG 아키텍처 간의 핵심 차이점은 소스 자료와 검색 구성과 관련이 있습니다. 일반적으로 신뢰도가 매우 높은 인덱스만 쿼리되며, 검색 범위를 좁히기 위해 특정 용어가 포함되도록 요청이 구성됩니다.

실생활 예시: 학술 리서치 툴인 Scite는 퍼블리셔와의 계약 및 오픈 액세스 소스를 통해 구축된 방대한 학술 논문 및 인용 데이터 인덱스에 접근합니다. 또한 완전한 답변을 생성하기 전에 소스 검증과 같은 검색 후 검증을 적용합니다.

확대

9. 데이터 분석

데이터 분석을 위한 RAG는 광범위한 전문가들, 특히 데이터 과학 교육을 받지 않은 사람들이 자연어를 사용하여 데이터셋을 쿼리할 수 있게 해주기 때문에 특히 강력한 기업용 유스케이스가 되었습니다. 이를 통해 보고서 작성과 매우 구체적인 질문 제기가 더욱 쉬워집니다.

작동 방식: “지난 분기 매출이 떨어진 이유는 무엇인가요?”와 같은 질문에 대해 애플리케이션은 매출 기록을 쿼리하고 재고 부족이나 가격 변동에 대한 메모를 검색할 수 있습니다. LLM은 분석을 생성하기 전에 검색된 데이터에 적절한 계산(일반적으로 계산 툴에 위임됨)을 선택합니다.

실생활 예시: Google Analytics는 웹 분석 데이터에 접근하여 사용자의 매우 구체적이고 미묘한 질문에 답변할 수 있는 AI “Ask Advisor” 챗봇을 제공합니다. 이는 기업 수준의 폐쇄형 시스템 RAG의 가장 좋은 실생활 예시 중 하나입니다.

확대

RAG의 진화 과정에서 다음 단계는 무엇인가요?

RAG는 처음 도입되었을 때 중요한 발전이었습니다. 이는 독립형 LLM에 내재된 많은 문제를 해결하는 데 도움이 되었습니다.

그러나 이는 정적인 기술과는 거리가 멀습니다. 현재 리서치는 더 깊은 멀티모달 검색과 정확성 및 무결성을 위한 검색된 컨텍스트의 더욱 엄격한 처리에 초점을 맞추고 있습니다. 또한 멀티툴 에이전트에 RAG가 더욱 깊이 통합되는 것을 보게 될 가능성이 높습니다.

컨텍스트 창이 극도로 커지더라도 개인 및 전문 환경 모두에서 RAG에 대한 중요한 유스케이스가 존재하며, 앞으로도 많은 혁신이 일어날 것입니다.