สถาปัตยกรรม RAG คืออะไร? คำจำกัดความฉบับสมบูรณ์พร้อมตัวอย่างการใช้งานจริงโดยละเอียด

RAG ย่อมาจาก Retrieval-Augmented Generation (การสร้างคำตอบโดยเสริมด้วยการดึงข้อมูล) เป็นกระบวนการที่ LLM ใช้ข้อมูลภายนอกเพื่อขยายและปรับปรุงผลลัพธ์ของตน สถาปัตยกรรม RAG คือชุดของส่วนประกอบและการเชื่อมต่อที่ทำให้ RAG เกิดขึ้นได้

RAG มีหลายประเภท และแต่ละประเภทก็ทำงานบนสถาปัตยกรรมเฉพาะของตนเอง โดยสาระสำคัญแล้ว สถาปัตยกรรมของระบบ RAG เป็นตัวกำหนดวิธีการเฉพาะในการจัดเก็บ ดึง และป้อนข้อมูลให้กับ LLM

สถาปัตยกรรม RAG คืออะไร?

สถาปัตยกรรม RAG คือการกำหนดค่าพื้นฐานของส่วนประกอบต่างๆ (และความสามารถที่เกี่ยวข้อง) ที่ขับเคลื่อนระบบ RAG หนึ่งๆ สถาปัตยกรรมทั้งหมดนี้สร้างขึ้นบนแม่แบบพื้นฐานเดียวกัน ซึ่งมักเรียกว่า “Simple RAG” หรือ “Naive RAG”

ภาพรวมระดับสูงของสถาปัตยกรรม RAG พื้นฐานมีดังนี้:

• แหล่งข้อมูล: คือที่จัดเก็บข้อมูลภายนอก ซึ่งอาจเป็นดัชนีการค้นหา ฐานข้อมูลเวกเตอร์ที่แทนข้อมูลจำนวนมหาศาล หรือคลังเอกสารดิบ
• ส่วนประกอบการดึงข้อมูล: คือกลไกที่ใช้ในการคิวรีแหล่งข้อมูล ตัวอย่างเช่น ระบบ RAG อาจใช้การค้นหาด้วยคีย์เวิร์ดแบบง่ายเพื่อหาส่วนย่อยของข้อความที่เกี่ยวข้อง หรือใช้คิวรีเวกเตอร์ที่ซับซ้อนกว่าเพื่อค้นหาตามความคล้ายคลึง
• ส่วนประกอบการประสานงาน (orchestration): เลเยอร์นี้เป็นส่วนหนึ่งของแอปพลิเคชันที่ใช้ LLM ซึ่งทำหน้าที่เริ่มต้นไปป์ไลน์ RAG สำหรับพรอมต์ของผู้ใช้ ไม่ว่าจะทำงานร่วมกับ LLM หรือทำงานอย่างอิสระ นอกจากนี้ยังรวบรวมข้อมูลที่ดึงมาให้เป็นพรอมต์ที่ขยายแล้ว

โดยทั่วไป ส่วนประกอบของสถาปัตยกรรม RAG จะถูกจัดเป็นสองเส้นทาง เส้นทางการนำเข้าข้อมูล (ingestion path) จะรับข้อมูลและจัดระเบียบให้เป็นแหล่งข้อมูลที่ค้นหาได้ ฐานข้อมูลเวกเตอร์ ซึ่งแปลงข้อความจำนวนมากให้เป็นคลังเวกเตอร์เอ็มเบดดิงที่ค้นหาได้ เป็นหนึ่งในรูปแบบการใช้งานที่แพร่หลายที่สุด

เส้นทางการดึงข้อมูล (retrieval path) จะรับพรอมต์ของผู้ใช้และสร้างคิวรีสำหรับค้นหาในแหล่งข้อมูล จากนั้นออร์เคสเตรเตอร์จะเพิ่มข้อมูลที่ดึงมาลงในบริบทอินพุตของ LLM สำหรับสถาปัตยกรรม RAG แบบเอเจนต์และแบบไฮบริด อาจมีเส้นทางการดึงข้อมูลหลายเส้นทาง

ประเภทของสถาปัตยกรรม RAG

การมอง RAG ว่าเป็นสถาปัตยกรรมที่แยกขาดจากกันโดยสิ้นเชิงนั้นอาจทำให้เข้าใจผิด วิศวกรส่วนใหญ่จะใช้แนวทางแบบโมดูลาร์ โดยนำส่วนประกอบแยกกันมาใช้ให้เหมาะกับกรณีการใช้งานเฉพาะ แม้จะสามารถขีดเส้นแบ่งคร่าวๆ ได้ แต่สิ่งสำคัญคือต้องตระหนักว่าโมเดลสถาปัตยกรรมต่างๆ มีส่วนที่ทับซ้อนกันอยู่มาก

1. RAG แบบพื้นฐาน (Basic RAG)

RAG แบบพื้นฐาน หรือที่เรียกว่า “Naive RAG” หรือ “Simple RAG” เป็นแม่แบบทางสถาปัตยกรรมสำหรับ RAG ประเภทอื่นๆ

กระบวนการเบื้องหลังค่อนข้างตรงไปตรงมา: ผู้ใช้ป้อนพรอมต์ ออร์เคสเตรเตอร์จะพิจารณาว่าจำเป็นต้องใช้ข้อมูลภายนอกหรือไม่ (ไม่ว่าจะพิจารณาเองหรือร่วมกับ LLM) จากนั้นจึงสร้างและส่งคิวรีการดึงข้อมูลตามนั้น

แหล่งข้อมูลภายนอกมักเป็นฐานข้อมูลเวกเตอร์ แต่ก็อาจเป็นฐานข้อมูล SQL, Web API, กราฟความรู้ หรือแม้แต่คลังเอกสาร “ดิบ” ได้เช่นกัน จากนั้นข้อมูลเพิ่มเติมนี้จะถูกเพิ่มลงในบริบทอินพุตของ LLM

นอกเหนือจากคิวรี SQL และ API แล้ว วิธีการดึงข้อมูลแบ่งออกได้เป็นสองประเภทกว้างๆ ดังนี้:

• การค้นหาเชิงคำศัพท์ (การค้นหาด้วยคีย์เวิร์ด): เป็นรูปแบบง่ายๆ ของ RAG ที่จะดึงคีย์เวิร์ดออกจากคิวรีของผู้ใช้ แล้วนำไปจับคู่กับข้อความที่มีคีย์เวิร์ดเหล่านั้น ในไปป์ไลน์สมัยใหม่ ออร์เคสเตรเตอร์อาจใช้สิ่งที่เรียกว่าคิวรีเวกเตอร์แบบเบาบาง (sparse vector query) ซึ่งไม่ได้จับความหมาย เพื่อทำงานนี้
• การค้นหาเวกเตอร์แบบหนาแน่น (การค้นหาเชิงความหมาย): เวกเตอร์เอ็มเบดดิงแบบหนาแน่นสามารถจับความหมายได้ ออร์เคสเตรเตอร์จึงสามารถคิวรีฐานข้อมูลเวกเตอร์แบบหนาแน่นในลักษณะที่จับความหมายของทั้งพรอมต์ของผู้ใช้และข้อมูลต้นทางได้

การใช้หน่วยความจำ (memory) ก็เป็นส่วนสำคัญของสถาปัตยกรรม RAG เช่นกัน ซึ่งหมายถึงวิธีที่ LLM ใช้บริบทจากแชทก่อนหน้าเพื่อสร้างคิวรีการดึงข้อมูล ทำให้คิวรีนั้นยึดโยงกับบริบทที่กว้างขึ้นของการสนทนา (หรือการสนทนาหลายครั้ง) RAG แบบสนทนาเป็นมาตรฐานของแชทบอทส่วนใหญ่ แม้ว่าบางกรณีการใช้งาน เช่น การตอบกลับทิกเก็ตฝ่ายสนับสนุน อาจใช้RAG แบบคำถามเดียว

2. RAG แบบไฮบริด (Hybrid)

RAG แบบไฮบริดผสานการดึงข้อมูลสองประเภทเข้าด้วยกัน ซึ่งโดยทั่วไปคือการดึงข้อมูลด้วยคีย์เวิร์ดและการดึงข้อมูลเชิงความหมาย การค้นหาด้วยคีย์เวิร์ดจะค้นหาคำที่ตรงกัน ส่วนการค้นหาด้วยเวกเตอร์จะค้นหาข้อความที่มีความหมายเกี่ยวข้องกัน

อาจมีการใช้การดึงข้อมูลรูปแบบอื่นด้วย เช่น การท่องกราฟความรู้ หรือการคิวรีฐานข้อมูล SQL กระบวนการนี้มักถูกกำหนดทิศทางด้วยตรรกะการกำหนดเส้นทาง (routing logic) ไม่ว่าจะอยู่ในรูปของกฎที่เขียนโปรแกรมไว้ หรือการจัดประเภทคำถามโดยโมเดล (แม้ว่าไปป์ไลน์หลายรายการจะสามารถทำงานพร้อมกันได้ด้วย)

ออร์เคสเตรเตอร์จะรวมผลลัพธ์เข้าด้วยกันและอาจจัดอันดับใหม่ (rerank) ก่อนส่งต่อให้ LLM การจัดอันดับใหม่คือกระบวนการกำหนดคะแนนความเกี่ยวข้องให้กับส่วนย่อยที่ดึงมา เพื่อให้ LLM ให้ความสำคัญกับข้อมูลที่ตรงประเด็นที่สุดเป็นอันดับแรก

3. RAG แบบปรับตัว (Adaptive RAG)

ใน RAG แบบปรับตัว ส่วนประกอบการกำหนดเส้นทางจะเลือกกลยุทธ์การดึงข้อมูลตามความต้องการของพรอมต์ผู้ใช้ จากนั้นออร์เคสเตรเตอร์จะดำเนินการตามเวิร์กโฟลว์ที่เลือก

ในเฟรมเวิร์กดั้งเดิม (Adaptive-RAG) โมเดลขนาดเล็กกว่าจะทำหน้าที่เป็นตัวจำแนกประเภท และเลือกระหว่างการไม่ดึงข้อมูล การดึงข้อมูลขั้นตอนเดียว หรือการดึงข้อมูลหลายขั้นตอน ปัจจุบันสถาปัตยกรรมบางแบบหันมาใช้โมเดลเชิงสร้างสรรค์ (generative model) หรือฮิวริสติกที่อิงตามกฎแทน

สถาปัตยกรรมนี้ได้รับความนิยมเพราะจัดสรรกำลังประมวลผลตามความซับซ้อนและความต้องการของพรอมต์ ช่วยลดขั้นตอนการดึงข้อมูลที่ไม่จำเป็นสำหรับพรอมต์ที่ง่ายกว่า จึงพบได้บ่อยในผู้ช่วยที่ต้องรับมือกับคำถามหลายประเภท

4. RAG แบบแก้ไข (Corrective RAG หรือ CRAG)

RAG แบบแก้ไขจะประเมินข้อมูลที่ดึงมาก่อนเพิ่มลงในบริบทอินพุตของ LLM โดยตัวประเมินการดึงข้อมูลจะตรวจสอบว่าข้อมูลที่ดึงมามีความเกี่ยวข้องและเป็นประโยชน์หรือไม่ จุดเด่นเฉพาะทางสถาปัตยกรรมของ RAG แบบนี้คือขั้นตอนการประเมินและแก้ไขที่ชัดเจนก่อนการสร้างคำตอบ

หากพบว่าข้อมูลไม่ครบถ้วนหรือไม่ตรงกับพรอมต์ ระบบจะส่งคำขอเพิ่มเติม ซึ่งอาจใช้วิธีการดึงข้อมูลที่แตกต่างจากคำขอเดิม เช่น การค้นหาเว็บหรือการท่องกราฟความรู้

RAG แบบแก้ไขพบได้ทั่วไปในสาขาที่ความแม่นยำมีความสำคัญ เช่น การแพทย์และกฎหมาย อย่างไรก็ตาม RAG แบบนี้จำเป็นต้องมีแหล่งข้อมูลเพิ่มเติมที่สามารถเสริมข้อความที่ดึงมาในตอนแรกได้

5. Self-RAG

ใน Self-RAG โมเดลสามารถเริ่มส่งคำขอได้เองหลังจากได้รับบริบทอินพุตเริ่มต้น คำตอบที่สร้างขึ้นจะถูกประเมินเทียบกับหลักฐานที่ดึงมาโดยใช้โทเค็นสะท้อนกลับ (reflection token) และจะมีการส่งคำขอเพิ่มเติมผ่านออร์เคสเตรเตอร์ตามความจำเป็น ในทางกลับกัน LLM ก็อาจตัดสินใจว่าไม่จำเป็นต้องดึงข้อมูลเลย

Self-RAG แตกต่างจาก RAG แบบแก้ไขตรงที่ LLM จะตัดสินผลลัพธ์ของตนเอง พิจารณาว่าจำเป็นต้องดึงข้อมูลหรือไม่และข้อความที่ดึงมามีประโยชน์หรือไม่ รวมถึงตรวจสอบคำตอบของตนเองและปรับแก้ตามความจำเป็น ส่วน RAG แบบแก้ไขจะประเมินคุณภาพของข้อมูลที่ดึงมาก่อนการสร้างคำตอบ

สถาปัตยกรรมนี้มีประโยชน์อย่างยิ่งสำหรับพรอมต์ที่ซับซ้อนในลักษณะการวิจัยเชิงลึก เนื่องจากผสานการประเมินความเกี่ยวข้อง (ของข้อมูลที่ดึงมา) เข้ากับการสร้างคำตอบ จึงเป็นตัวเลือกที่ดีสำหรับพรอมต์ที่ต้องการคำตอบซึ่งอิงหลักฐาน

6. RAG แบบเอเจนต์ (Agentic RAG)

RAG แบบเอเจนต์หมายถึง RAG รูปแบบใดก็ตามที่ทำงานภายในบริบทของแพลตฟอร์มแบบเอเจนต์ โมเดลจะใช้ความสามารถในการให้เหตุผลเพื่อพิจารณาประเภทของข้อมูลที่ต้องการ และเลือกจากตัวเลือกการดึงข้อมูลที่มีอยู่

การดึงข้อมูลสามารถเกิดขึ้นได้หลายครั้งตามความจำเป็น และโมเดลยังสามารถมอบหมายเอเจนต์ให้จัดการคิวรีที่ซับซ้อนกว่าได้ ตัวอย่างเช่น LLM อาจขอให้ค้นหาในฐานข้อมูลเพื่อระบุซัพพลายเออร์ สั่งค้นหาเอกสารเพื่อหาสัญญาที่เกี่ยวข้อง และปิดท้ายด้วยการค้นหาเว็บเพื่อยืนยันรายละเอียดการติดต่อจากแหล่งข้อมูลสาธารณะ

RAG แบบเอเจนต์เป็นสถาปัตยกรรมหลักที่ใช้ในแชทบอทกระแสหลักอย่าง Perplexity, ChatGPT, Claude และอื่นๆ เนื่องจากแพลตฟอร์มเหล่านี้ให้โมเดลหลักเข้าถึงเครื่องมือและไปป์ไลน์ RAG ได้หลายรายการ โมเดลจึงสามารถเลือกรูปแบบการดึงข้อมูลที่เหมาะสมที่สุดกับพรอมต์ได้

7. RAG แบบมัลติโมดัล (Multimodal RAG)

RAG แบบมัลติโมดัลดึงบริบทจากสื่อหลายประเภท ถือเป็น RAG รูปแบบสำคัญเพราะช่วยให้ LLM เข้าถึงข้อมูลที่ปกติแล้วไม่สามารถเข้าถึงได้ เช่น แผนภูมิและไฟล์บันทึกเสียง

สถาปัตยกรรมเบื้องหลังเหมือนกับระบบอื่นๆ ตัวอย่างเช่น ไปป์ไลน์การทำดัชนีอาจเตรียมรูปภาพสำหรับการค้นหาโดยแปลงเป็นเอ็มเบดดิงโดยตรง จากนั้นระบบ RAG แบบเอเจนต์ก็สามารถดึงรูปภาพเหล่านี้มาพร้อมกับข้อความที่เกี่ยวข้องเชิงความหมาย แล้วป้อนให้โมเดลภาษาและการมองเห็น (vision-language model) ประมวลผลทั้งสองส่วนควบคู่กัน

8. GraphRAG

GraphRAG ใช้กราฟความรู้ร่วมกับการค้นหาเวกเตอร์เพื่อดึงข้อมูลเกี่ยวกับเอนทิตี โดยทั่วไป ออร์เคสเตรเตอร์จะค้นหาเอนทิตีเริ่มต้นที่เกี่ยวข้อง หรือที่เรียกว่าโหนด โดยใช้การดึงคีย์เวิร์ด หรือบางครั้งใช้การค้นหาเวกเตอร์เบื้องต้น จากนั้นตัวดึงข้อมูลกราฟ (graph retriever) จะท่องไปในกราฟความรู้เพื่อสร้างบริบทที่กว้างขึ้น

ตัวอย่างเช่น เมื่อได้รับคำขอให้แจกแจงรายละเอียดของหมวดหมู่ผลิตภัณฑ์ LLM อาจสั่งการค้นหาเวกเตอร์เพื่อระบุเอนทิตีเฉพาะ (ผลิตภัณฑ์) จากนั้นออร์เคสเตรเตอร์จะสั่งการค้นหาในกราฟความรู้เพื่อหาเอนทิตีที่เกี่ยวข้อง เช่น ซัพพลายเออร์ สาขาร้านค้าปลีก รีวิว และอื่นๆ

9. RAG แบบแตกแขนง (Branched RAG)

ในขณะที่สถาปัตยกรรม RAG แบบไฮบริดสามารถใช้วิธีการดึงข้อมูลที่แตกต่างกันได้ RAG แบบแตกแขนงหมายถึงกระบวนการเรียกใช้คิวรีหลายรายการ หรือที่เรียกว่าแขนง (branch) ในเวลาเดียวกัน แต่ละแขนงสามารถคิวรีแหล่งข้อมูลที่แยกกัน หรือหลายแขนงอาจคิวรีแหล่งข้อมูลเดียวกันควบคู่กันด้วยคิวรีหรือตัวกรองที่ต่างกัน สถาปัตยกรรม RAG แบบเอเจนต์มักใช้ RAG แบบแตกแขนง

10. HyDE (Hypothetical Document Embeddings)

HyDE เป็น RAG รูปแบบล้ำสมัยที่ LLM จะสร้างเอกสารข้อความสมมติขึ้นมาว่าคำตอบที่ดีที่สุดน่าจะมีลักษณะอย่างไร จากนั้นจึงนำ “เอกสารสมมติ” นี้ไปสร้างคิวรีเพื่อให้ดึงข้อมูลได้แม่นยำยิ่งขึ้น แม้ว่าความรู้ที่เกี่ยวข้องจะไม่ได้อยู่ในพารามิเตอร์ของ LLM แต่หลักการคือข้อความที่มีลักษณะคล้ายคำตอบอาจจับคู่กับเอกสารที่เกี่ยวข้องได้ดีกว่าคำถามสั้นๆ หรือพรอมต์ที่กำกวม

ตัวอย่างสถาปัตยกรรม RAG แบบเรียบง่าย: ฐานข้อมูลเวกเตอร์

RAG แบบพื้นฐานเป็นรากฐานของสถาปัตยกรรมประเภทที่ซับซ้อนกว่า ในกรณีของระบบ RAG แบบเรียบง่ายที่ใช้ฐานข้อมูลเวกเตอร์ เอกสารต้นทางจะถูกแบ่งออกเป็นชิ้นส่วนเล็กๆ (chunk) และแปลงเป็นเอ็มเบดดิงแบบหนาแน่น เมื่อผู้ใช้ป้อนพรอมต์ ออร์เคสเตรเตอร์จะสร้างคิวรี เข้ารหัสคิวรีนั้น แล้วคิวรีฐานข้อมูลเพื่อค้นหาข้อความที่เกี่ยวข้อง

ต่อไปนี้คือรายละเอียดของกระบวนการทีละขั้นตอน:

1. ข้อความจำนวนมากจะถูกแปลงเป็นเวกเตอร์โดยใช้ไปป์ไลน์การนำเข้าข้อมูลอัตโนมัติและโมเดลเอ็มเบดดิงอย่าง BERT
2. แอปพลิเคชันฐานข้อมูลจะจัดระเบียบ ทำดัชนี และจัดเก็บเวกเตอร์เพื่อให้ค้นหาได้รวดเร็ว
3. ผู้ใช้ป้อนพรอมต์ลงในแชทบอท (เช่น Perplexity)
4. ออร์เคสเตรเตอร์ของแอปพลิเคชันจะเข้ารหัสพรอมต์ (โดยใช้โมเดลเอ็มเบดดิง) เพื่อดึงข้อมูลที่เกี่ยวข้องจากฐานข้อมูลเวกเตอร์
5. ฐานข้อมูลเวกเตอร์จะส่งคืนส่วนย่อยที่เกี่ยวข้อง และออร์เคสเตรเตอร์จะเพิ่มส่วนย่อยเหล่านี้ลงในบริบทอินพุต (“พรอมต์ขนาดใหญ่”) แล้วป้อนให้กับ LLM
6. LLM ใช้บริบทเพิ่มเติมนี้ร่วมกับความรู้ภายในของตน (ซึ่งจัดเก็บอยู่ในค่าน้ำหนักพารามิเตอร์) เพื่อสร้างคำตอบ

ขยาย

ตัวอย่างสถาปัตยกรรม RAG ขั้นสูง: RAG แบบเอเจนต์

RAG แบบเอเจนต์หมายถึงสถาปัตยกรรมเบื้องหลังของระบบ RAG ภายในแพลตฟอร์มแบบเอเจนต์ โฟลว์ของ RAG แบบเอเจนต์มักมีความซับซ้อน เพราะเอเจนต์ AI สามารถเรียกใช้เครื่องมือและไปป์ไลน์ต่างๆ ได้ตามลักษณะของพรอมต์ และสามารถใช้งานเอเจนต์หลายตัวได้หากจำเป็น

ต่อไปนี้คือตัวอย่างการใช้งานจริงของกระบวนการ:

1. ผู้ใช้ป้อนคำถามที่ซับซ้อนซึ่งต้องอาศัยการวิจัยเชิงลึกในหัวข้อหนึ่ง สำหรับตัวอย่างนี้ สมมติว่าพรอมต์คือ “จัดทำการคาดการณ์ผลประกอบการของบริษัทในช่วงหกเดือนข้างหน้า โดยพิจารณาจากสถานการณ์ทางภูมิรัฐศาสตร์ที่สำคัญ”
2. LLM วิเคราะห์แล้วพบว่าจำเป็นต้องใช้คิวรี RAG หลายแบบผสมกันซึ่งครอบคลุมเนื้อหาหลายประเภท
3. มีการใช้งานเอเจนต์สามตัวที่แตกต่างกันสำหรับ (a) การค้นหาเวกเตอร์ (b) การอ้างอิงข้อมูลจากเว็บ (web grounding) และ (c) การค้นหารูปภาพ (มัลติโมดัล)
4. เอเจนต์จะค้นหาข้อมูลที่เกี่ยวข้อง เช่น ข่าวและข้อมูลทางการเงินภายใน ผ่านออร์เคสเตรเตอร์โดยใช้เครื่องมือดึงข้อมูลที่มีอยู่
5. LLM จะเปรียบเทียบผลลัพธ์ที่ดึงมากับคำถามวิจัยของเอเจนต์แต่ละตัว และจัดอันดับตามความเกี่ยวข้อง
6. LLM จะประเมินข้อมูลและสั่งให้เอเจนต์แต่ละตัวค้นหาเพิ่มเติมในส่วนที่ยังขาดข้อมูล
7. เมื่อดึงข้อมูลได้เพียงพอแล้ว LLM จะสร้างการคาดการณ์ตามสถานการณ์ต่างๆ โดยอิงจากตัวเลขทางการเงินที่มีอยู่ (ซึ่งดึงมาจากเอกสารภายใน) และเรียกใช้เครื่องมือเครื่องคิดเลขเพื่อประมาณการผลประกอบการของแต่ละสถานการณ์
8. LLM สร้างคำตอบสุดท้ายโดยใช้ข้อมูลที่ดึงมาและผลการคำนวณ พร้อมอ้างอิงแหล่งที่มาตามความจำเป็น

ขยาย

อนาคตของ RAG จะเป็นอย่างไร?

นวัตกรรมในปัจจุบันมุ่งเน้นไปที่การเพิ่มความลึกและความเร็วให้กับสถาปัตยกรรม RAG ที่มีอยู่ การปรับปรุงความแม่นยำในการดึงข้อมูลมัลติมีเดีย และการสร้างระบบที่ออกแบบมาเพื่อรับมือกับข้อมูลที่อัปเดตแบบนาทีต่อนาที

ต่อไปนี้คือแนวโน้มสามประการที่กำลังกำหนดทิศทางการวิจัยในปัจจุบัน:

• การวิจัยเชิงลึกจากหลายแหล่ง: คือสถาปัตยกรรม RAG ที่สามารถวางแผนการค้นหา เรียกใช้หลายแขนงกับแหล่งข้อมูลที่หลากหลาย ประเมินหลักฐานที่ดึงมา และปรับปรุงคำตอบที่สร้างขึ้นได้ด้วยตนเอง RAG แบบเอเจนต์ที่ทำงานทั้งหมดนี้ได้กำลังรวดเร็วและคุ้มค่ามากขึ้นเรื่อยๆ
• การใช้งานแบบมัลติโมดัล: ไปป์ไลน์การดึงข้อมูลทำงานกับรูปภาพและวิดีโอได้ดีขึ้นเรื่อยๆ และสามารถระบุข้อมูลบางประเภทได้อย่างแม่นยำมากขึ้นในข้อมูลมัลติโมดัลที่ซับซ้อน เช่น วิดีโอขนาดยาวและแผนภาพขั้นสูง
• การอ้างอิงคำตอบจากข้อมูลที่เปลี่ยนแปลงอยู่ตลอดเวลา: แอปพลิเคชันที่ใช้ LLM สามารถดึงข้อมูลจากแหล่งข้อมูลแบบเรียลไทม์ (เช่น ฟีดวิดีโอและเซ็นเซอร์) มาใช้เป็นบริบทอินพุตได้ นอกจากนี้ ระบบยังสามารถสร้างเครือข่ายข้อมูลที่มีหลายมิติ เช่น ด้วย GraphRAG เพื่อตีความข้อมูลเหล่านี้

RAG เป็นรากฐานของการทำงานของแอปพลิเคชันที่ใช้ LLM ช่วยให้ผู้ใช้หลากหลายกลุ่ม ตั้งแต่ผู้บริโภคทั่วไปไปจนถึงองค์กรที่ทำงานในสาขาเฉพาะทาง สามารถก้าวข้ามปัญหาที่เกี่ยวข้องกับอาการหลอน (hallucination) ข้อมูลการฝึกที่ไม่ครบถ้วน และการขาดการเข้าถึงความรู้ภายในเฉพาะทาง

ด้วยเหตุนี้ ระบบ RAG และสถาปัตยกรรมเบื้องหลังจึงเป็นหนึ่งในด้านการวิจัย AI ที่พัฒนาอย่างรวดเร็วและน่าตื่นเต้นที่สุด