Gerçek Dünya Kullanım Senaryoları ve Mimarilere Dayalı 9 RAG Örneği

RAG hem tüketici hem de kurumsal bağlamlarda yaygın olarak kullanılmaktadır. Gerçek dünyadan günlük RAG örnekleri arasında web araması, müşteri desteği ve yapay zeka destekli alışveriş yer alır. Dahili bilgi erişimi ve kodlama yardımı, en belirgin iş örnekleri arasındadır.

RAG mimarisi kullanım senaryolarına göre de değişiklik gösterebilir. En yaygın iki uygulama; geleneksel anahtar kelime eşleştirmesini vektör veya bilgi grafiği aramasıyla birleştiren hibrit RAG ve bir LLM'in getirme (retrieval) sürecini yönlendirdiği ajan tabanlı (agentic) RAG'dir.

Getirme destekli üretim (RAG) nedir?

RAG veya getirme destekli üretim (retrieval-augmented generation), yapay zeka uygulamalarının LLM tarafından üretilen yanıtları desteklemek için harici sistemlerde depolanan bilgilere erişmesini sağlar.

Üretken yapay zekadaki üç büyük sorunu (halüsinasyonlar, güncel olmayan bilgiler ve girdi bağlamına dahil edilmeyen verilere erişim eksikliği) ele aldığı için güçlü bir teknolojidir.

Temel bir RAG süreci şu şekildedir:

1. Kullanıcı, doğal dilde bir istem girer.
2. Yapay zeka uygulaması, bazen LLM katılımıyla temellendirmenin gerekli olup olmadığını belirler.
3. Bir veritabanı gibi harici bir bilgi kaynağına istek gönderilir.
4. Alınan (retrieved) bilgiler LLM'in bağlam girdisine eklenir.
5. LLM, genişletilmiş isteme dayalı bir yanıt üretir.

Özel uygulamalarında farklılık gösterebilseler de, bu adımlar tipik bir RAG iş akışınu temsil eder. Çeşitli mimari türleri arasındaki farklar, isteklerin istemci uygulama tarafından nasıl işlendiği ve alınan bilgilerin doğası etrafında şekillenme eğilimindedir.

RAG mimarisine genel bakış

"Retrieval-augmented generation" terimi ilk olarak Meta AI (o zamanki adıyla Facebook AI Research) araştırmacılarının yanı sıra University College London ve New York University'den iş birlikçilerin yayımladığı Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks adlı 2020 tarihli bir makalede yer almıştır.

Gevşek bir şekilde "saf RAG" olarak anılan erken dönemde getir-ve-üret yaklaşımları, o zamandan beri birçoğu örtüşen farklı mimari türlerine dönüşmüştür.

Saf RAG

Saf RAG, birçok temel istek için hala uygun olan basit bir getir ve üret boru hattı (pipeline) kullanır. Saf RAG'in en yaygın örneği, bir sorgunun vektör yerleştirmesi (embedding) veya kısaca vektör adı verilen sıralı bir sayı listesine dönüştürülmesidir. Sorgu yerleştirmesi daha sonra bir veritabanındaki veya indeksteki (anlamsal indeks olarak adlandırılır) içerik parçalarını temsil eden diğer vektörlerle eşleştirilir.

Gelişmiş RAG

Gelişmiş RAG, getirme öncesi ve sonrası aşamaları optimize eder. Teknikler arasında sorgu genişletme, meta veri filtreleme ve bağlam sıkıştırma yer alır. Bunlar temel olarak getirilen bilgilerin ilgililik düzeyini ve bir LLM'in girdi bağlamına eklenmeden önce nasıl değiştirildiğini iyileştirir.

Ajan Tabanlı RAG

Ajan tabanlı RAG, LLM tabanlı bir ajan tarafından RAG boru hatlarının yürütülmesidir. Ajan, ilgili bir yanıt üretmek için belirli bir isteme hangi araçların en uygun olduğuna "karar verir" ve bazen bir döngü içinde getirme işlemini yönlendirir.

Grafik RAG

Grafik RAG, varlıkları (nesneler, kavramlar ve olaylar gibi) ve bunlar arasındaki ilişkileri temsil eden bir bilgi grafiğinden bilgi alır. Bu, bir isteme verilen yanıtın LLM'in farklı varlıklar hakkındaki bilgileri birleştirmesini gerektirdiği durumlarda yararlıdır.

Çok Modlu RAG

Çok modlu RAG, hem sorgu hem de getirme sırasında görseller ve ses gibi içerikleri kapsayacak şekilde getirme işlemini genişletir. Bu RAG boru hatları, metin, görseller veya sesi yerleştirmelere dönüştürmek için özel kodlayıcılar kullanır.

Hibrit RAG

Hibrit RAG, anahtar kelime aramasını veya sözcüksel getirmeyi vektör getirme ya da bilgi grafikleriyle birleştirir ve sonuçları birleştirir. Bu kullanışlıdır çünkü anahtar kelime eşleştirmesi belirli bağlamlarda (diğer yöntemlere göre daha fazla) yüksek düzeyde doğru olabilir.

Düzeltici RAG

Düzeltici RAG, döndürülen bilgileri veya verileri sorguyla ilgililik açısından değerlendirir. Alınan pasajları iyileştirebilir veya destekleyebilir ya da başka bir istek yürüterek bunları tamamen değiştirebilir.

Kullanım senaryosu ve endüstri uygulamasına göre RAG örnekleri

Hem tüketici hem de iş dünyası alanlarında birden fazla RAG örneği bulunmaktadır. Bunun büyük ölçüde nedeni, RAG boru hatlarının çoğu ana akım araca entegre edilmiş olmasıdır. Ek olarak, birçok satıcı, benimsenmeyi kolaylaştıran müşteri hizmetleri sohbet botları gibi kullanıma hazır entegrasyonlar sunmaktadır.

1. Web araması

Web araması, RAG'in en yaygın örneklerinden biridir. Her gün milyonlarca insan, web'den alınan bilgilere dayandırılan yanıtlar üretmek için yapay zeka araçlarını kullanmaktadır.

Nasıl çalışır: Yapay zeka uygulaması, anahtar kelime tabanlı ve anlamsal getirme kullanarak Google Arama indeksi gibi bir web indeksinde arama yapar. İlgili sayfa içeriği, bir kullanıcının sorusuyla birlikte LLM'in girdisine dahil edilir. LLM daha sonra genellikle kaynak alıntılarıyla birlikte bir yanıt üretir.

Gerçek dünya örneği: Bir kullanıcı Perplexity'nin sohbet arayüzüne “Şikago'da hava nasıl?” gibi basit bir sorgu yazarsa, LLM güncel bilgileri bulmak için bir web araması gerçekleştirir. Perplexity, iş ortağı arama API'leri ile birlikte tescilli bir web indeksi kullanır.

Büyüt

2. Müşteri desteği

Uygulama içi ve web sitesi sohbet botları, RAG'in önemli bir kurumsal kullanım senaryosu olarak ortaya çıkmıştır. Bu sistemler genellikle geleneksel yönlendirme yollarıyla eşleşerek müşteri temsilcilerinin katılımı ihtiyacını azaltır.

Nasıl çalışır: Bir müşteri bir soru sorduğunda uygulama, genellikle hibrit bir boru hat kullanarak şirketin bilgi tabanında arama yapar. Alınan pasajlar, bir yanıt üreten LLM'e sağlanır. Yanıtı doğrulamak ve gerektiğinde bir temsilciye yönlendirmek için genellikle düzeltici ve devretme süreçleri de devreye girer.

Gerçek dünya örneği: Zendesk (aşağıda gösterilmektedir) ve Intercom dahil olmak üzere çeşitli müşteri hizmetleri platformları, mevcut belgeler ve müşteri destek tabanlarıyla entegre olan tak-çalıştır müşteri desteği sohbet botları sunar.

Büyüt

3. Kişisel asistanlar

Kişisel asistanlar, bir kullanıcının e-postalarına, dosyalarına ve takvimine erişmek için ajan tabanlı RAG kullanır. Bu asistanlar genellikle birden fazla RAG boru hattı çalıştırabilir.

Nasıl çalışır: Kişisel asistanlar genellikle birden fazla bilgi kaynağına erişim gerektirdiğinden API'lerin, anahtar kelime aramasının, vektör aramasının ve bilgi grafiklerinin bir karışımını kullanırlar. Farklı araç açıklamaları uygulama tarafından LLM'e gönderilir ve LLM ardından en uygun olanları seçer.

Gerçek dünya örneği: Google Gemini, genel amaçlı ve kişisel bir yapay zeka asistanı olarak hareket edebilen bir uygulamanın iyi bir örneğini sunar (günümüzde çoğu asistanın yaptığı gibi). Gmail, Docs, Photos ve Calendar gibi araç ekosistemleriyle entegre olur.

Büyüt

4. Kurumsal bilgi yönetimi

Kurumsal bilgi yönetimi, çalışanların politikalar, raporlar, proje belgeleri, yasal metinler ve hatta dahili tartışmalar dahil olmak üzere geniş bir şirket bilgisi yelpazesinde sorular sormasına olanak tanır.

Nasıl çalışır: Uygulama, kaynak belgeler değiştikçe güncellenen bir vektör indeksini kullanarak ilgili içeriği alır. İndeks, metinlerine ve ilişkili meta verilerine bağlantılar içeren, belge parçalarını temsil eden yerleştirmeler barındırır.

Gerçek dünya örneği: Microsoft 365 Copilot, veri kaynakları için çeşitli API'ler sunan Microsoft Graph aracılığıyla kurumsal bilgilere erişir ve ilgili içeriği almak için sözcüksel ve anlamsal indeksler kullanır.

Büyüt

5. Kodlama asistanları

Kodlama asistanları RAG'i bir kod tabanına uygular. Temel RAG süreci aynı olsa da (genellikle ajan tabanlı RAG), fark özellikle kod bağlamı ile ilgilenmeleridir.

Nasıl çalışır: Kodlama asistanları yerel proje dosyalarını indeksler ve istendiğinde ilgili kod parçacıklarını bulmak için çoklu arama geçişleri gerçekleştirir. Bu asistanlar ayrıca genellikle kurumsal bilgi tabanları gibi erişimi genişletmek için özel bağlayıcılara sahiptir.

Gerçek dünya örneği: GitHub Copilot, geliştirme projeleriyle doğrudan entegre olan tanınmış bir kodlama asistanı örneğidir. Yanıt doğruluğunu artırmak için genel GitHub depolarına da referans verebilir.

Büyüt

6. Teknik sorun giderme

Teknik sorun giderme, bir bilgi yönetimi RAG boru hattını teşhis döngüsüyle entegre eder. Bir ajan, gerektiğinde sorun giderme önerilerini daha da geliştirmek için sonuçları değerlendirebilir.

Nasıl çalışır: Bir uygulama, kullanıcıdan teknik bir sorunun belirtilerini toplar veya otomatik izleme uyarıları alır. Belirtileri çapraz kontrol etmek için hata mesajlarının, teknik günlüklerin (log) ve performans ölçümlerinin aranmasını tetikler. Ardından LLM'e aktarmak üzere dahili bir bilgi tabanından ilgili bilgileri alır.

Gerçek dünya örneği: İzlenebilirlik platformu Datadog (aşağıda gösterilmektedir) bir sistemin tüm katmanlarından veri toplar ve ortaya çıktıklarında tüm sorunları işaretler. Bunlar daha sonra potansiyel düzeltmelerde sorun gidermek için Bits AI adlı özel bir yapay zeka ajanına beslenir.

Büyüt

7. Ajan tabanlı ticaret (Agentic commerce)

Ajan tabanlı ticaret, genellikle RAG içeren daha geniş bir kullanım senaryosudur. Bir alışveriş ajanı; seçenekleri karşılaştırmak ve önerileri açıklamak için ürün özellikleri, incelemeler, fiyatlar ve kullanılabilirlik gibi ayrıntıları alır. Ardından kullanıcı arayüzünden ayrılmadan satın alma işlemini otomatik olarak gerçekleştirebilir.

Nasıl çalışır: Ajan tabanlı ticaret gerçek bir ajan tabanlı RAG'dir çünkü belirli sorgular genellikle modelin yönlendirdiği farklı getirme biçimleri gerektirir. Bir ajan, bir perakendecinin API'si aracılığıyla yalnızca metin içeren ürün verilerini alabilir veya bir kullanıcı fotoğrafına dayalı olarak anlamsal bir indeksteki ürünleri eşleştirmek için çok modlu RAG kullanabilir.

Gerçek dünya örneği: Perplexity gibi genel amaçlı bir ajan, bir isteme dayanarak birden fazla görsel ve ayrıntılı ürün özellikleri alabilir. Hızlı Satın Al (Instant Buy) ödeme özelliği, kullanıcının bir ürün seçtikten sonra satın alma işlemini tamamlamasına olanak tanır.

Büyüt

8. Özelleşmiş bilgi alanları

Özelleşmiş alan bilgisini alan yapay zeka araçlarının karmaşık içerik formatlarıyla başa çıkması gerekir. Buna ek olarak, halüsinasyonları ve bilgi boşluklarını en aza indirmek genellikle bir önceliktir.

Nasıl çalışır: Genel amaçlı ve özelleşmiş RAG mimarileri arasındaki temel fark, kaynak materyal ve getirme yapılandırmasıyla ilgilidir. Tipik olarak yalnızca son derece yetkili bir indeks sorgulanacak ve istek, aramaları daraltmak için belirli terminolojiyi içerecek şekilde yapılandırılacaktır.

Gerçek dünya örneği: Akademik araştırma aracı Scite, yayıncı anlaşmaları ve açık erişim kaynakları aracılığıyla oluşturulmuş geniş bir akademik makale ve alıntı verisi indeksine erişir. Ayrıca tam bir yanıt üretmeden önce kaynak doğrulama gibi getirme sonrası kontroller uygular.

Büyüt

9. Veri analizi

Veri analizi için RAG, özellikle veri bilimi konusunda eğitimi olmayan çok sayıda profesyonelin doğal dili kullanarak veri kümelerini sorgulamasına olanak tanıdığı için son derece güçlü bir kurumsal kullanım senaryosu haline gelmiştir. Bu, raporlar oluşturmayı ve son derece spesifik sorular sormayı kolaylaştırır.

Nasıl çalışır: "Satışlar geçen çeyrekte neden düştü?" gibi bir soru için uygulama, satış kayıtlarını sorgulayabilir ve stok kıtlıkları veya fiyat değişiklikleri hakkındaki notları alabilir. LLM, bir analiz üretmeden önce alınan veriler için uygun hesaplamayı (genellikle bir hesaplama aracına devredilir) seçer.

Gerçek dünya örneği: Google Analytics, web analitiği verilerine erişebilen ve kullanıcılardan gelen son derece spesifik, incelikli soruları yanıtlayabilen bir yapay zeka "Ask Advisor" sohbet botu sunar. Kurumsal düzeyde, kapalı sistem RAG'in en iyi gerçek dünya örneklerinden biridir.

Büyüt

RAG'in evriminde sırada ne var?

RAG ilk tanıtıldığında önemli bir gelişmeydi. Tek başına duran LLM'lerin içindeki birçok sorunun ele alınmasına yardımcı oldu.

Ancak statik bir teknolojiden uzaktır. Mevcut araştırma daha derin çok modlu getirmeye ve doğruluk için alınan bağlamın daha titiz bir şekilde işlenmesine odaklanmaktadır. Ek olarak, RAG'in çok araçlı ajanlara daha fazla entegre edildiğini görmemiz muhtemeldir.

Son derece büyük bağlam pencerelerinde bile, hem kişisel hem de profesyonel bağlamlarda RAG için önemli kullanım senaryoları ve henüz gelecek birçok yenilik bulunmaktadır.