Retrieval-Augmented Generation (RAG): Definisi, Kasus Penggunaan, dan Contoh Praktis
Retrieval-augmented generation (RAG) memungkinkan alat AI mengambil informasi eksternal sebagai dasar jawabannya, dan panduan ini membahas cara kerjanya, jenis-jenis utamanya, serta kasus penggunaannya di dunia nyata, mulai dari pencarian web hingga basis pengetahuan perusahaan.

RAG, atau retrieval-augmented generation, adalah proses yang digunakan alat berbasis LLM untuk mengakses informasi eksternal. Informasi ini, yang tidak terkandung dalam parameter pelatihan LLM, ditambahkan ke konteks input yang relevan dan digunakan dalam pembuatan jawaban.
RAG adalah salah satu komponen terpenting dalam sistem AI modern. RAG digunakan oleh semua alat agentik arus utama (ChatGPT, Claude, Perplexity, dll.) dan memiliki beragam kasus penggunaan bagi konsumen maupun perusahaan. RAG telah mengalami beberapa inovasi sejak pertama kali digunakan secara luas dan terus berkembang dengan cara yang menarik.
Apa itu retrieval-augmented generation (RAG)?
Retrieval-augmented generation (RAG) adalah metode untuk meningkatkan output model bahasa besar (LLM) dengan memberikan informasi eksternal yang relevan kepadanya.
“Pipeline” RAG pada umumnya, istilah yang digunakan untuk merujuk pada arsitektur RAG yang mendasarinya secara luas, memiliki dua jalur, yaitu jalur ingesti dan jalur pengambilan. Jalur ingesti mengambil data dan mengubahnya menjadi format yang dapat dicari. Jalur pengambilan menyusun permintaan berdasarkan prompt pengguna dan mengkueri sumber informasi.
Sering kali, sistem RAG dibangun di sekitar basis data vektor. Dalam skenario ini, komponen orkestrator dari alat LLM, yang mengelola prompt pengguna, mengirim kueri, dan mengambil hasil dari indeks yang dapat dicari, akan menghasilkan embedding vektor. Embedding ini digunakan untuk mengkueri basis data vektor yang merepresentasikan data yang telah diingesti. Kemudian, orkestrator akan menambahkan informasi yang diambil ke input konteks yang ada untuk LLM beserta instruksi tentang cara menggunakannya untuk menghasilkan output.
RAG tidak hanya merujuk pada jenis pencarian vektor padat yang dijelaskan di atas. Penelusuran graf pengetahuan, pencarian semantik, pencarian basis data tradisional, atau kombinasi apa pun dari metode-metode ini juga termasuk RAG.
Manfaat RAG
Salah satu alasan RAG menjadi begitu populer adalah karena RAG mengatasi dua masalah inti dalam pembuatan jawaban yang hanya mengandalkan LLM: halusinasi dan kurangnya akses ke informasi yang tidak terdapat dalam materi pelatihan.
Pemeriksaan fakta dan grounding
LLM dikenal sering kesulitan dalam hal akurasi faktual. Sering kali, jika tidak dapat menjawab pertanyaan secara andal, LLM akan berhalusinasi dengan penuh keyakinan. Hal ini dapat terjadi karena informasinya tidak terdapat dalam materi pelatihan atau karena materi pelatihan itu sendiri mengandung ketidakakuratan. Proses pemeriksaan fakta berbasis RAG melibatkan grounding jawaban pada informasi dari sumber pihak ketiga yang tepercaya.
Informasi terkini
LLM hanya dapat menjawab pertanyaan tentang topik hingga batas akhir data pelatihannya, yang disebut batas pengetahuan (knowledge cut-off). Sistem RAG dapat terhubung ke sumber informasi yang sangat mutakhir, seperti materi berita menggunakan API pencarian web atau basis data internal berisi informasi produk terbaru. Hal ini memungkinkan pembuatan respons tentang topik yang tidak tercakup dalam data pelatihan.
Akses ke data eksternal yang bersifat privat
Sistem RAG memungkinkan perusahaan menghubungkan infrastruktur AI ke sumber informasi yang sensitif, milik perusahaan sendiri, dan spesifik domain yang tidak dapat mereka bagikan secara publik. Banyak alat populer, seperti Perplexity, kini menyertakan opsi untuk mengunggah data rahasia dan membangun basis pengetahuan privat, dan ini merupakan kasus penggunaan yang umum di perusahaan.
Ikhtisar dan evolusi RAG: Jenis-jenis utama arsitektur
Meskipun istilah spesifik retrieval-augmented generation pertama kali muncul dalam makalah penting tahun 2020 berjudul Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, sistem pengambilan informasi telah digunakan selama beberapa dekade sebelumnya. Mesin pencari generasi awal adalah contoh yang baik. Namun, inovasi AI yang sesungguhnya adalah menggabungkan pengetahuan parametrik model dengan indeks vektor padat (makalah tersebut menggunakan Wikipedia untuk membangunnya).
Berikut ikhtisar jenis-jenis utama RAG:
- RAG dasar: Juga disebut naive RAG, RAG dasar adalah iterasi paling sederhana dari pipeline RAG. RAG dasar mengikuti alur ambil lalu hasilkan, dengan pencarian basis data vektor sebagai kasus penggunaan utamanya. Jenis ini masih cocok untuk membangun implementasi RAG yang sederhana, terutama untuk penggunaan internal yang terbatas.
- RAG hibrida: Jenis ini menggabungkan lebih dari satu jenis RAG. Biasanya, istilah ini merujuk pada kombinasi pencarian kata kunci sederhana dan pengambilan vektor padat.
- RAG korektif: Bentuk RAG yang informasi hasil pengambilannya dievaluasi oleh model yang telah di-fine-tune untuk menentukan relevansinya dengan prompt pengguna.
- Self-RAG: Meskipun mirip dengan RAG korektif, dalam self-RAG, LLM mengevaluasi output-nya sendiri dan memulai pengambilan jika diperlukan. Untuk melakukannya, self-RAG menggunakan token refleksi khusus.
- RAG agentik: RAG agentik merujuk pada cara platform AI agentik dapat memanggil berbagai metode pengambilan. LLM dapat bernalar dan memilih dari berbagai opsi RAG melalui orkestrator.
- RAG multimodal: Jenis RAG ini memasukkan bentuk media lain, seperti gambar dan audio, ke dalam pipeline ingesti dan pengambilannya.
- GraphRAG: GraphRAG memanfaatkan penelusuran graf pengetahuan (pencarian entitas) untuk mengambil informasi. Ini dapat dikombinasikan dengan pengambilan vektor padat, tetapi tidak harus.
- RAG bercabang: Arsitektur RAG ini menjalankan beberapa kueri pengambilan secara bersamaan, sering kali menggunakan pola arsitektur yang berbeda. RAG bercabang adalah fitur umum dalam alat AI yang menjalankan alur kerja kompleks.
- HyDE (Hypothetical Document Embeddings): Embedding dokumen hipotetis adalah respons buatan AI yang menyimulasikan seperti apa jawaban ideal untuk prompt pengguna. Embedding ini digunakan untuk menyempurnakan kueri RAG, sehingga meningkatkan akurasi informasi yang diambil.
Kasus penggunaan RAG teratas beserta contohnya
Seperti apa RAG di dunia nyata? Jika Anda pernah mengajukan pertanyaan kepada chatbot AI tentang topik yang sensitif terhadap waktu, bertanya kepada bot layanan pelanggan, atau menggunakan asisten pribadi untuk tugas administratif, Anda telah memanfaatkan RAG.
Contoh RAG teratas dalam konteks konsumen dan perusahaan adalah pencarian web, asisten pribadi (termasuk dalam pemrograman), asisten pemrograman, layanan pelanggan, dan manajemen pengetahuan perusahaan.
Pencarian web
Pencarian web adalah bentuk RAG yang banyak digunakan dan bisa dibilang merupakan aplikasi berorientasi konsumen yang paling luas penggunaannya. Semua chatbot arus utama menawarkan fungsi pencarian web, yang memungkinkan LLM menggunakan sumber terkini untuk melengkapi informasi yang terkandung dalam materi pelatihannya.
Orkestrator dalam alat AI terhubung ke mesin pencari pihak ketiga menggunakan panggilan API, dan hasilnya, dalam bentuk cuplikan, ditambahkan ke jendela konteks LLM. Hal ini memungkinkan pengguna mengakses peristiwa terkini, penelitian terbaru, informasi produk, dan topik lain yang informasinya sering berubah.
Secara praktis, permintaan API-nya mungkin terlihat seperti berikut:
{
"query": "latest US inflation news",
"max_results": 1,
"language": "en",
"country": "US"
}Informasi yang dikembalikan akan mencakup sumber dan cuplikan:
{
"query": "latest US inflation news",
"results": [
{
"title": "US inflation rises slightly in latest report",
"url": "https://example.com/us-inflation-report",
"snippet": "Consumer prices increased in the latest monthly data, with
housing and energy contributing to the rise.",
"published_date": "2026-11-05"
}
]
}Asisten AI pribadi
Asisten pribadi menggunakan RAG untuk terhubung ke sumber informasi dalam lingkungan pribadi atau lingkungan perusahaan bersama. Contoh sumber informasi meliputi email, file, kalender, dan basis data milik pengguna.
Karena informasi dapat disimpan dengan berbagai cara, asisten pribadi paling tepat dipahami sebagai sistem RAG yang sepenuhnya agentik. Asisten ini dapat menggunakan panggilan API, pencarian kata kunci, pengambilan vektor padat, atau penelusuran graf pengetahuan, bergantung pada prompt-nya.
Sistem RAG perusahaan akan semakin sering mengodekan pengetahuan ke dalam basis data vektor agar mudah diambil oleh asisten pribadi yang digunakan di seluruh perusahaan, dan banyak produk AI perusahaan dirancang dengan mempertimbangkan hal ini.
Asisten pemrograman juga patut dicatat karena merupakan kasus penggunaan utama lainnya. Asisten kode, seperti GitHub Copilot, dapat terhubung ke repositori dan dokumentasi khusus proyek untuk mengambil file, fungsi, simbol, panduan, API, dan riwayat commit yang relevan.
Layanan pelanggan
Layanan pelanggan adalah kasus penggunaan RAG utama lainnya, dan adopsi chatbot AI telah meningkat pesat dalam beberapa tahun terakhir. Dalam laporannya yang berjudul State of AI Customer Support, Crisp menemukan bahwa 40% percakapan terselesaikan tanpa memerlukan bantuan manusia, yang menunjukkan tingkat efektivitas yang tinggi.
Saat pengguna mengajukan pertanyaan kepada bot layanan pelanggan, orkestrator biasanya akan mencari di basis pengetahuan internal perusahaan. Untuk memastikan akurasi, RAG korektif dan self-RAG juga sering digunakan, dengan pengalihan ke petugas manusia bila diperlukan.
Basis pengetahuan perusahaan
Peluncuran alur kerja AI dan alat AI generatif di berbagai bisnis menengah dan besar berjalan seiring dengan pembangunan basis pengetahuan internal. Hal ini memungkinkan asisten di seluruh perusahaan mengakses data internal sambil tetap menjaga privasi, baik itu informasi pelanggan yang sensitif, data korporat yang bersifat privat, maupun pengetahuan domain khusus.
Sistem ini biasanya dibangun di sekitar basis data vektor, tetapi metode RAG lainnya juga digunakan. Microsoft 365 Copilot, misalnya, memiliki lapisan API yang mengekspos berbagai sumber informasi, termasuk basis data vektor, graf pengetahuan, dan indeks semantik, untuk memberikan akses luas ke data perusahaan.
Sistem RAG ini juga biasanya terintegrasi dalam paket perusahaan dari alat agentik serbaguna. Perplexity Enterprise, misalnya, memungkinkan pengguna mengunggah dokumentasi dalam jumlah besar untuk penggunaan internal yang aman.
Pengguna juga dapat mengunggah file mereka sendiri dalam proyek mandiri, yang pada dasarnya menciptakan sistem RAG mini. Pencarian dapat dipadukan dengan bentuk RAG lainnya, seperti pencarian web, untuk augmentasi hibrida.
Apa perbedaan antara RAG dan LLM?
Model bahasa besar (LLM) hanya dapat menghasilkan output menggunakan informasi yang terepresentasi dalam parameternya. LLM menetapkan probabilitas pada kosakata internal untuk memprediksi kata, atau token, berikutnya dalam suatu urutan. Karena itu, LLM tidak dapat memberikan jawaban yang akurat jika parameternya tidak dilatih dengan informasi yang relevan.
Dalam platform AI serbaguna atau khusus, pipeline RAG berfungsi berdampingan dengan satu LLM atau sekelompok LLM. Pipeline ini terhubung ke sumber informasi eksternal untuk melengkapi konteks input yang diberikan kepada model bahasa, dan inilah inti perbedaan antara RAG dan LLM.
Keputusan apakah akan mengambil informasi tambahan atau hanya mengandalkan pengetahuan parametrik dapat ditentukan di tingkat orkestrator, biasanya menggunakan logika berbasis aturan, atau bahkan oleh LLM itu sendiri.
Apa perbedaan antara RAG dan MCP?
RAG dan model context protocol (MCP) paling tepat dipahami sebagai teknologi yang saling melengkapi. MCP adalah standar terbuka untuk membangun arsitektur yang memungkinkan alat AI mengakses fungsionalitas, sumber daya, dan prompt eksternal menggunakan satu endpoint.
Saat alat AI terhubung ke server MCP, server tersebut mengekspos semua primitif (alat MCP, sumber daya, dan prompt) yang boleh diakses oleh klien. Klien adalah komponen yang membangun koneksi antara orkestrator di sisi klien dan server. Terkadang, hal ini mungkin melibatkan pengeksposan basis data dan sumber informasi, dan dalam hal ini MCP berperan sebagai perantara di lapisan pengambilan pada pipeline RAG.
Apa perbedaan antara RAG dan API?
API adalah antarmuka terdefinisi yang dapat digunakan oleh dua aplikasi untuk saling mengirim permintaan. RAG adalah proses yang memungkinkan LLM mengakses informasi eksternal untuk meningkatkan dan memperluas output-nya.
RAG sering menggunakan panggilan API untuk mengambil informasi. Dalam pengambilan informasi melalui pencarian web, misalnya, orkestrator akan merumuskan permintaan API ke mesin pencari yang relevan berdasarkan prompt pengguna.
Mengapa RAG penting dan bagaimana RAG akan terus berkembang
RAG penting karena LLM pada dasarnya dibatasi oleh data pelatihannya. Ada banyak sekali informasi, mulai dari peristiwa terkini hingga pengetahuan privat perusahaan, yang tidak dapat diakses oleh LLM. RAG mengatasi masalah ini tanpa memerlukan sumber daya dalam jumlah yang sangat besar.
Namun, pengambilan informasi saja tidak cukup, dan inilah alasan RAG akan terus berkembang. RAG merupakan komponen besar dari penelitian AI terkini dan berfokus pada peningkatan sistem agar dapat mengembalikan informasi yang tepat dalam berbagai format serta menilai dan memprioritaskannya secara efektif.
Seiring RAG menjadi semakin canggih, kegunaan sistem AI di berbagai aplikasi penting bagi konsumen dan perusahaan juga meningkat. Aplikasi tersebut meliputi dukungan pelanggan, pencarian web, pemrograman, asisten pribadi, penelitian khusus, dan banyak lagi.