RAG เทียบกับ LLM: การวิเคราะห์เชิงเทคนิค (คำจำกัดความ ความแตกต่าง กรณีการใช้งาน)

LLM สร้างการตอบกลับโดยใช้พารามิเตอร์ที่เรียนรู้มาจากรูปแบบในข้อมูลฝึกสอน เนื่องจากพารามิเตอร์เหล่านั้นอาจไม่สะท้อนข้อมูลที่เป็นปัจจุบันหรือครบถ้วน RAG ซึ่งย่อมาจาก retrieval-augmented generation จึงเข้ามาเสริมกระบวนการนี้โดยเพิ่มข้อมูลจากแหล่งภายนอกเข้าไปในบริบทขาเข้าของ LLM เครื่องมือ AI ดึงข้อมูล จากภายนอกเพื่อ เสริม กระบวนการสร้าง ของ LLM

ในความเป็นจริง ตัวเลือกของคุณไม่ได้อยู่ระหว่าง RAG กับ LLM แต่เป็นระหว่างแนวทางแบบไฮบริดกับแนวทางที่ใช้ LLM เพียงอย่างเดียว

RAG จำเป็นเมื่อ LLM ต้องเข้าถึงเอกสารของบริษัท ฐานข้อมูล หรือข้อมูลที่เปลี่ยนแปลงรวดเร็ว แนวทางที่ใช้ LLM เพียงอย่างเดียวเหมาะสำหรับงานด้านธุรการ งานประมวลผลข้อมูล และงานสร้างเนื้อหาบางประเภทที่ผู้ใช้สามารถให้ข้อมูลขาเข้าได้ทั้งหมด

RAG เทียบกับ LLM: ความแตกต่างสำคัญคืออะไร?

• RAG และ LLM เป็นระบบที่เสริมกัน คุณสามารถใช้โมเดล AI โดยไม่มี RAG ได้ (ซึ่งจะอาศัยพารามิเตอร์ที่มีอยู่เดิมของมันเท่านั้น) แต่คุณไม่สามารถใช้ระบบ RAG ได้หากไม่มีโมเดล
• RAG ถูกนำมาใช้เพื่อเอาชนะปัญหาสำคัญ 3 ประการของ LLM ได้แก่ ข้อมูลที่ล้าสมัย คำตอบที่เกิดภาพหลอน และการขาดการตรวจสอบกับแหล่งข้อมูลจากบุคคลที่สาม
• RAG ทำให้ AI มีประสิทธิภาพมากขึ้นอย่างมากในสถานการณ์ธุรกิจจริง เพราะเชื่อมโยง LLM เข้ากับเอกสารภายใน ฐานข้อมูล และปลายทาง API ที่ได้รับการตรวจสอบแล้ว
• กรณีการใช้งาน RAG ชั้นนำ ได้แก่ แชตบอตสำหรับการสนับสนุนลูกค้า คำถามที่อ้างอิงข้อมูลซึ่งเปลี่ยนแปลงรวดเร็ว (เช่น ข่าวในอุตสาหกรรม) และสาขาเฉพาะทาง เช่น การแพทย์และกฎหมาย ที่ความถูกต้องและการตรวจสอบข้อเท็จจริงจากแหล่งที่มาเป็นสิ่งสำคัญ
• RAG มีอยู่ 3 ประเภทหลัก ได้แก่ naive RAG, modular RAG และ advanced RAG โดย naive RAG เข้าใจได้ดีที่สุดว่าเป็นการดึงข้อมูลอย่างตรงไปตรงมา ขณะที่ modular และ advanced RAG เพิ่มความสามารถอื่นๆ เช่น การเขียนคำค้นใหม่และการปรับแต่งชิ้นข้อมูล (chunk)

โมเดลภาษาขนาดใหญ่ (LLM) คืออะไร?

LLM หรือโมเดลภาษาขนาดใหญ่ คือระบบที่สร้างเนื้อหาโดยใช้พารามิเตอร์ที่ปรับแต่งแล้ว พารามิเตอร์เหล่านี้กำหนดความน่าจะเป็นที่มอบให้กับโทเค็นทั้งหมดในคลังคำศัพท์ของ LLM ซึ่งบ่งบอกว่าโทเค็นใดมีแนวโน้มจะมาเป็นลำดับถัดไปมากที่สุดในลำดับหนึ่งๆ

เพื่อทำความเข้าใจให้ดียิ่งขึ้นว่า RAG ทำงานอย่างไร (และแตกต่างจาก) LLM อย่างไร จะเป็นประโยชน์หากมองดูว่า generative AI ทำงานในระดับพื้นฐานอย่างไร:

1. การแยกเป็นโทเค็น: พรอมต์ของผู้ใช้จะถูกแยกออกเป็นโทเค็น ซึ่งอาจเป็นคำ ส่วนของคำ หรืออักขระเดี่ยวๆ
2. Embedding: โทเค็นจะถูกแปลงเป็น embeddings ซึ่งเป็นการแทนค่าทางตัวเลข (สตริงของตัวเลข) ที่เรียกว่าเวกเตอร์ ซึ่งโครงข่ายประสาทที่มีดีโคดเดอร์รวมอยู่ด้วยสามารถประมวลผลได้
3. การถอดรหัส: ชั้นต่างๆ ของดีโคดเดอร์ (ซึ่งเป็นส่วนสำคัญส่วนใหญ่ของโครงข่ายประสาทของ LLM) จะจัดการเวกเตอร์เหล่านี้ โดยใช้กระบวนการที่เรียกว่า attention เพื่อจับความหมาย กระบวนการนี้กำหนดว่าแต่ละโทเค็นควรเกี่ยวข้องกับโทเค็นอื่นๆ ในลำดับมากน้อยเพียงใด
4. การให้คะแนน: โมเดลกำหนดความน่าจะเป็นของความเข้ากันได้ให้กับทุกโทเค็นในคลังคำศัพท์ที่มีอยู่เดิม และเลือกโทเค็นถัดไปที่มีแนวโน้มสำหรับลำดับนั้น

ประเด็นสำคัญคือ LLM สามารถสร้างผลลัพธ์ได้เพียงตามพารามิเตอร์ที่มีอยู่เดิมและโทเค็นในหน้าต่างบริบทของมันเท่านั้น ระหว่างการฝึกสอน LLM จะถูกสั่งให้เติมข้อความบางส่วนที่ไม่สมบูรณ์นับพันล้านครั้ง และพารามิเตอร์ของมันจะถูกปรับจนกระทั่งสามารถกำหนดความน่าจะเป็นให้กับโทเค็นได้อย่างเชื่อถือได้ (และด้วยเหตุนี้จึงเติมข้อความได้)

ลองนึกภาพว่า ตัวอย่างเช่น คุณถามโมเดล AI ด้วยคำถามว่า “นโยบายคืนเงินปี 2026 ของบริษัทเราระบุว่าอย่างไร?” LLM สามารถคาดการณ์โทเค็นถัดไปได้เพียงโดยอิงจากพารามิเตอร์ที่มีอยู่เดิม ซึ่งไม่ได้ผ่านการปรับแต่งด้วยเอกสารสนับสนุนของคุณ หากคุณถามคำถามนี้โดยไม่มีบริบทเพิ่มเติม มันจะไม่สามารถตอบได้อย่างมีความหมาย หรืออาจเกิดภาพหลอนให้คำตอบที่ไม่ถูกต้อง

การสร้างแบบเสริมด้วยการดึงข้อมูล (RAG) คืออะไร?

RAG (retrieval-augmented generation) คือกระบวนการที่ข้อมูลจากระบบภายนอกถูกใส่รวมเข้าไปในพรอมต์ของ LLM

กระบวนการพื้นฐานของ LLM ซึ่งเกี่ยวข้องกับการฝังเวกเตอร์และการจับคู่โทเค็นแบบความน่าจะเป็น ยังคงเหมือนเดิม RAG เพิ่มขั้นตอนเบื้องต้นที่พรอมต์ของผู้ใช้ถูกขยายด้วยข้อมูลเพิ่มเติม

นี่คือภาพรวมว่าระบบ RAG ทำงานอย่างไร:

1. การเตรียมฐานความรู้: เตรียมแหล่งความรู้ อาจเป็นชุดเอกสาร ฐานข้อมูลเวกเตอร์ กราฟความรู้ หรือดัชนีแบบสด (เช่น สำหรับ AI search)
2. การป้อนพรอมต์: ผู้ใช้ป้อนพรอมต์ เช่น “Should I go for a walk in London today?”
3. การดึงข้อมูล: แหล่งข้อมูลภายนอกจะถูกส่งคำถามโดยตัวดึงข้อมูลของเครื่องมือ AI โดยอาจฝังพรอมต์ก่อน แปลงเป็นเวกเตอร์ แล้วจึงค้นหาฐานข้อมูลเวกเตอร์ หรืออีกทางหนึ่งก็สามารถใช้วิธีอื่น เช่น การเรียก API การจับคู่คำสำคัญ หรือการไล่ผ่านกราฟความรู้
4. การแทรก: ข้อมูลนี้จะถูกเพิ่มเข้าไปในพรอมต์ต้นฉบับของผู้ใช้ ในตัวอย่างคำถามเกี่ยวกับการเดินเล่นในลอนดอน อาจรวมถึงข้อมูลสภาพอากาศในลอนดอนและความสามารถในการเข้าถึงของเส้นทางเดินยอดนิยมในปัจจุบัน
5. การสร้างคำตอบ: LLM สร้างการตอบกลับตามปกติโดยใช้พรอมต์ที่ขยายเพิ่มขึ้น

เบื้องหลัง ข้อความที่ดึงมาได้จะถูกเพิ่มเข้าไปในบริบทขาเข้า แปลงเป็นโทเค็น และฝังเป็นเวกเตอร์ จากนั้นโมเดลจะประมวลผลบริบทเพิ่มเติมนั้นผ่านดีโคดเดอร์ ซึ่งจะเปลี่ยนความน่าจะเป็นของโทเค็นขาออก

โดยภาพรวม RAG สามารถแบ่งออกเป็น 3 ประเภทย่อย Naive RAG ทำตามกระบวนการ RAG ขั้นพื้นฐาน โดยดึงข้อมูลและป้อนเข้าไปในพรอมต์ Advanced RAG เพิ่มฟังก์ชันเพิ่มเติม เช่น การเขียนคำค้นใหม่และการผ่านคำค้นหลายรอบ Modular RAG หมายถึงสถาปัตยกรรมประเภทหนึ่งที่ฟังก์ชันขั้นสูงต่างๆ สามารถมองเป็นคอมโพเนนต์และนำมารวมกันได้ตามต้องการ

RAG เทียบกับ LLM: ภาพรวมของกรณีการใช้งาน

RAG ช่วยให้ผู้ใช้เข้าถึงข้อมูลที่เป็นปัจจุบันได้ ซึ่งส่งผลให้ผลลัพธ์ของ LLM มีโอกาสเกิดภาพหลอนและช่องว่างของข้อมูลน้อยลง หากคุณต้องการดูแหล่งที่มาของข้อมูลที่ใช้ในผลลัพธ์ด้วย RAG ก็มีความสำคัญเช่นกัน เพราะคำตอบของ LLM ที่ไม่มีการยึดโยงกับข้อมูลจะไม่มีการอ้างอิงแหล่งที่มา

ขยาย

กรณีการใช้งานของ RAG

• คำขอข้อมูลที่อ่อนไหวต่อเวลา: คำถามใดๆ เกี่ยวกับข้อมูลที่ล้าสมัยอย่างรวดเร็ว ซึ่งอาจเป็นเรื่องง่ายๆ อย่างพยากรณ์อากาศ หรือซับซ้อนอย่างการวิเคราะห์อย่างละเอียดของข่าวที่กำลังเกิดขึ้นใหม่ จำเป็นต้องอิงจากแหล่งข้อมูลภายนอกที่ได้รับการยืนยันแล้ว
• เอกสารของบริษัท: แชตบอต AI ที่ใช้ภายในองค์กรหรือที่หันหน้าไปหาลูกค้า ซึ่งผู้ใช้ถามคำถามที่เกี่ยวกับเอกสารของบริษัทหรือผลิตภัณฑ์ ควรเปิดใช้ RAG โดยเฉพาะอย่างยิ่งหากเอกสารถูกอัปเดตบ่อย
• การสนับสนุนลูกค้า: แชตบอตสำหรับลูกค้าจำเป็นต้องเข้าถึงเอกสารสนับสนุนที่เป็นปัจจุบันและมีรายละเอียด เพื่อให้ตอบได้อย่างถูกต้อง
• สาขาเฉพาะทาง (การแพทย์ กฎหมาย การเงิน ฯลฯ): LLM ที่ไม่ได้รับการฝึกด้วยคลังข้อมูลเฉพาะโดเมน (โดยเฉพาะโมเดลกระแสหลัก) มักจะรับมือกับนัยละเอียดอ่อนของพรอมต์เฉพาะทางได้ยาก

กรณีการใช้งานของ LLM

• งานด้านธุรการ: LLM สามารถทำงานพื้นฐานได้โดยมีความหน่วงต่ำที่สุด RAG ไม่จำเป็นสำหรับงานเขียนและงานธุรการพื้นฐาน เช่น การตรวจการสะกดหรือการสรุปความ ซึ่งไม่ต้องใช้ข้อมูลภายนอก
• งานสร้างสรรค์: งานสร้างสรรค์บางประเภท เช่น การสร้างเรื่องสั้นหรือภาพ ต้องการเพียงข้อมูลที่ระบุไว้ในพรอมต์ต้นฉบับเท่านั้น
• งานการให้เหตุผลและงานที่อิงข้อมูล: หากคุณกำลังทำงานกับชุดข้อมูลขนาดใหญ่ LLM ก็ไม่จำเป็นต้องเข้าถึงข้อมูลภายนอกเพื่อใช้ฟังก์ชันการให้เหตุผลและการวิเคราะห์
• การเขียนโค้ดทั่วไป: แม้ว่าเวิร์กโฟลว์การเขียนโค้ดอาจต้องเข้าถึงโค้ดเบสส่วนตัวหรือเอกสารประกอบ แต่ LLM ก็มีความสามารถสูงมากในการทำงานเขียนโค้ดทั่วไป เช่น การแก้บั๊กและการสร้างฟังก์ชัน โดยไม่ต้องอาศัยแหล่งข้อมูลภายนอก

RAG เทียบกับ LLM ที่มีหน้าต่างบริบทแบบยาว, AI แบบเอเจนต์ และการยึดโยงกับข้อมูล

มีแนวคิดที่เกี่ยวข้อง 3 อย่างซึ่งเกี่ยวข้องกับความแตกต่างระหว่าง RAG และ LLM ได้แก่ LLM ที่มีหน้าต่างบริบทแบบยาว AI แบบเอเจนต์ และการยึดโยงกับข้อมูล

บางครั้ง LLM ที่มีหน้าต่างบริบทแบบยาวสามารถใช้แทนระบบที่เปิดใช้ RAG ได้ ขณะที่ AI แบบเอเจนต์และการยึดโยงกับข้อมูลก็เป็นคำพ้องความหมายหรือทำงานควบคู่ไปกับมัน

LLM ที่มีหน้าต่างบริบทแบบยาว

เหล่านี้คือโมเดลที่มีหน้าต่างบริบทขนาดใหญ่ โดยบางโมเดลเชิงพาณิชย์ที่มีให้ใช้อย่างแพร่หลายรองรับได้ถึงหนึ่งล้านโทเค็น

หากเนื้อหาที่เกี่ยวข้องสามารถใส่ลงในหน้าต่างบริบทของโมเดลได้ และมีให้ในรูปแบบข้อความ ก็มีข้อดีบางประการในการใช้แนวทางที่ใช้ LLM เพียงอย่างเดียว แนวทางนี้สามารถลดโอกาสเกิดข้อผิดพลาดในการดึงข้อมูล ให้บริบทที่ครอบคลุมมากขึ้น และตัดความจำเป็นในการตั้งค่าโครงสร้าง RAG ที่ซับซ้อนออกไป

AI แบบเอเจนต์

เอเจนต์คือระบบที่ใช้เครื่องมือหลายอย่าง รวมถึงความสามารถของ RAG เพื่อทำงานที่ซับซ้อน RAG เป็นองค์ประกอบหนึ่งของ AI แบบเอเจนต์ และเอเจนต์มักใช้วิธีการดึงข้อมูลหลายแบบ (เช่น การค้นเว็บ เทียบกับการค้นหาเวกเตอร์) ขึ้นอยู่กับเนื้อหาของพรอมต์

การยึดโยงกับข้อมูล

การยึดโยงกับข้อมูลหมายถึงกระบวนการที่กว้างกว่าในการใช้หลักฐานหรือข้อมูลเพื่อปรับปรุงความถูกต้องของคำตอบของ LLM (หรือทำให้คำตอบของ LLM ยึดโยงกับข้อมูล) RAG เป็นรูปแบบหนึ่งของการยึดโยงกับข้อมูล แต่การเพิ่มเอกสารทางเทคนิคเข้าไปในหน้าต่างบริบตก็ถือเป็นการยึดโยงกับข้อมูลเช่นกัน

RAG เทียบกับ LLM: ตัวอย่างในโลกจริง

เพื่อทำความเข้าใจให้ดียิ่งขึ้นว่า RAG ทำงานอย่างไรเมื่อเทียบกับการใช้ LLM โดยไม่มี RAG เราสามารถดูตัวอย่างจริงแบบง่ายๆ โดยใช้ Perplexity และกรณีสมมติในองค์กรที่มีการเรียกใช้ฐานข้อมูลเวกเตอร์

RAG เทียบกับ LLM ด้วยพรอมต์แบบง่าย

นี่คือผลลัพธ์ (จำกัดไว้ที่สองประโยค) เมื่อถาม Perplexity ว่า "Should I go for a walk in London today?” โดยปิดการใช้งาน AI web search (ซึ่งเป็นรูปแบบหนึ่งของ RAG):

ใช่—หากอากาศค่อนข้างแห้งและคุณมีเวลา การเดินเล่นในลอนดอนวันนี้อาจเป็นการเปลี่ยนบรรยากาศที่สดชื่น เลือกเส้นทางเลียบ South Bank, Regent’s Canal หรือผ่าน Hyde Park และพกร่มกันฝนแบบบางๆ ไปเผื่อไว้

เปรียบเทียบสิ่งนี้กับพรอมต์เมื่อ LLM สามารถตรวจสอบแหล่งข้อมูลภายนอกได้:

ใช่ วันนี้เป็นวันที่เหมาะแก่การเดินเล่นในลอนดอน: พยากรณ์อากาศระบุว่าอุณหภูมิอบอุ่นราว 19–21°C มีช่วงแดดออกและมีโอกาสฝนตกเพียงเล็กน้อยมาก ท้องฟ้ามีเมฆบางส่วนและลมพัดอ่อนๆ ทำให้สภาพอากาศสบายสำหรับการเดินสำรวจสวนสาธารณะหรือเส้นทางเลียบแม่น้ำอย่าง South Bank

ทั้งสองตัวอย่างมีความคล้ายกัน เนื่องจาก LLM ใช้กระบวนการให้คะแนนโทเค็นพื้นฐานเดียวกัน อย่างไรก็ตาม ตัวอย่างที่สองมีข้อมูลสภาพอากาศอย่างละเอียด ซึ่งทำให้มีประโยชน์มากกว่า

RAG เทียบกับ LLM ที่ใช้ฐานข้อมูลเวกเตอร์ระดับองค์กร

ลองจินตนาการว่าผู้ใช้ถามแชตบอตในแอปของแอปธนาคารด้วยคำถามต่อไปนี้: “ฉันจะดาวน์โหลดรายการเดินบัญชีล่าสุดได้ที่ไหน?”

ธนาคารที่ดูแลแอปได้สร้างฐานข้อมูลที่มี embeddings ของเอกสารผลิตภัณฑ์ที่เป็นปัจจุบันของตน และเชื่อมเข้ากับท่อประมวลผล RAG ของแชตบอต เอกสารประกอบด้วยเอกสารต้นฉบับราว 1,000 ฉบับ ซึ่งถูกแบ่งเป็นชิ้นเล็กลงและแปลงเป็นเวกเตอร์เพื่อใช้ในการดึงข้อมูล

คำถามของผู้ใช้จะถูกส่งไปยังโมเดล embedding และแอปพลิเคชันจะส่งเวกเตอร์นั้นไปยังฐานข้อมูล ซึ่งจะส่งคืนชิ้นข้อมูลที่เกี่ยวข้อง

โมเดล embedding จะได้รับคำขอประมาณนี้:

โมเดล embedding ส่งคืนการฝังเวกเตอร์ดังต่อไปนี้:

จากนั้นฐานข้อมูลเวกเตอร์จะได้รับคำขอประมาณดังนี้:

ในตัวอย่างนี้ (ซึ่งทำให้ง่ายลงมาก) ฐานข้อมูลจะส่งคืนชิ้นข้อมูล 5 ชิ้นที่เกี่ยวข้องกับคำถามของผู้ใช้มากที่สุด ซึ่งจะถูกส่งไปยังแอปพลิเคชันและรวมไว้ในพรอมต์ของ LLM

เมื่อใดควรเลือก RAG เทียบกับ LLM และเมื่อใดควรใช้ร่วมกัน

LLM และ RAG เป็นระบบที่เสริมกัน ดังนั้นคำถามที่ว่า “เมื่อใดฉันควรเลือก LLM และเมื่อใดควรเลือก RAG?” จึงเป็นการตั้งคำถามที่ไม่ตรงประเด็น แทนที่จะเป็นเช่นนั้น คุณควรถามว่า “เมื่อใด LLM จึงเพียงพอ และเมื่อใด RAG จึงเหมาะสมที่สุด?”

เมื่อใดควรใช้ LLM โดยไม่ได้เปิดใช้ RAG

• โมเดล AI ที่คุณเลือกมีหน้าต่างบริบทขนาดใหญ่: หากการใส่ข้อมูลหรือเนื้อหาทั้งหมดที่จำเป็นต่อการให้คำตอบที่ถูกต้องลงในพรอมต์ของคุณเป็นเรื่องง่ายกว่า เช่น การอัปโหลดเอกสาร การทำเช่นนั้นสามารถลดความหน่วงและป้องกันปัญหาที่เกี่ยวข้องกับการดึงข้อมูลได้
• เวิร์กโฟลว์การให้เหตุผลและการวิเคราะห์ข้อมูล: เวิร์กโฟลว์การวิเคราะห์และการให้เหตุผลที่อ้างอิงเฉพาะข้อมูลที่ให้มาในพรอมต์ไม่จำเป็นต้องใช้ความสามารถของ RAG
• การสร้างโค้ด: โดยทั่วไปงานเขียนโค้ดทั่วไปไม่จำเป็นต้องใช้ RAG แม้ว่ามักจะใช้กับงานเฉพาะโปรเจกต์ เช่น การค้นหาบั๊กที่เคยแก้ไขมาก่อน หรือ API และเอกสารของผู้ให้บริการ

เมื่อใดควรใช้ LLM ที่เปิดใช้ RAG

• คุณต้องเข้าถึงข้อมูลที่เป็นปัจจุบัน: หากแอปพลิเคชัน AI จำเป็นต้องเข้าถึงแหล่งข้อมูลภายนอกที่เป็นปัจจุบันเพื่อสร้างคำตอบที่ถูกต้อง ต้องตรวจสอบให้แน่ใจเสมอว่าได้เปิดใช้ความสามารถของ RAG
• คุณกำลังทำงานในสาขาเฉพาะทาง: สำหรับโดเมนอย่างการแพทย์ กฎหมาย การศึกษา และอื่นๆ ซึ่งความถูกต้อง รายละเอียด และการตรวจสอบแหล่งที่มาเป็นสิ่งสำคัญ การใช้ LLM เพียงอย่างเดียวมักไม่เพียงพอ
• ผลลัพธ์ควรอ้างอิงไฟล์ภายในของบริษัท: หากคุณใช้ AI ไม่ว่าจะภายในองค์กรหรือในแอปที่หันหน้าไปหาลูกค้า เพื่อสร้างเนื้อหาจากเอกสารภายในของบริษัท ไม่ว่าจะเป็นข้อมูล ชุดแบรนด์ เอกสาร หรือไฟล์ RAG จะช่วยเข้าถึงข้อมูลนั้นได้

RAG และ LLM เป็นเทคโนโลยีที่เสริมกันและพัฒนาไปด้วยกัน

RAG ถือเป็นนวัตกรรมสำคัญในการพัฒนา AI มันช่วยแก้ปัญหาใหญ่ 3 ประการ ได้แก่ ข้อมูลล้าสมัย หน่วยความจำของโมเดลที่จำกัด และช่องว่างของข้อมูลอันเนื่องมาจากการขาดข้อมูลฝึกสอนที่เกี่ยวข้อง ซึ่งมักส่งผลให้เกิดภาพหลอน แน่นอนว่า LLM ยังไม่ได้เอาชนะปัญหาเหล่านี้ทั้งหมด แต่ความถี่ของปัญหาลดลงอย่างมากเมื่อมี RAG เกิดขึ้น

RAG ไม่ใช่เทคโนโลยีแบบคงที่ คาดว่าจะพัฒนาต่อไปในหลายด้าน รวมถึง reranking, ความหน่วงระหว่างการดึงข้อมูลและการใช้โทเค็น, มาตรการป้องกันด้านความปลอดภัยต่อแหล่งข้อมูลอันตราย, การผสานข้อมูลที่ดึงมาจากหลายแหล่ง และอื่นๆ อีกมากมาย เมื่อ LLM และ AI แบบเอเจนต์ยังคงพัฒนาต่อไป ระบบ RAG ที่รองรับพวกมันก็จะพัฒนาตามไปด้วย