9 דוגמאות ל-RAG מבוססות על מקרי שימוש וארכיטקטורות בעולם האמיתי

RAG נמצא בשימוש נרחב הן בהקשרים צרכניים והן בהקשרים ארגוניים. דוגמאות אמיתיות ויומיומיות ל-RAG כוללות חיפוש באינטרנט, תמיכת לקוחות וקניות מבוססות בינה מלאכותית. גישה לידע פנימי וסיוע בכתיבת קוד הם בין דוגמאות העסקיות הבולטות ביותר.

ארכיטקטורת RAG עשויה להשתנות גם בהתאם למקרי השימוש. שתיים מהיישומים הנפוצים ביותר הם RAG היברידי, המשלב התאמת מילות מפתח מסורתית עם חיפוש וקטורי או מבוסס גרף ידע, ו-RAG סוכני (agentic RAG), שבו מודל שפה גדול (LLM) מנהל את תהליך שליפת הנתונים.

מהי יצירה מוגברת שליפה (RAG)?

RAG, או יצירה מוגברת שליפה (retrieval-augmented generation), מאפשר ליישומי בינה מלאכותית לגשת למידע המאוחסן במערכות חיצוניות כדי להשלים תשובות המופקות על ידי מודלי שפה גדולים (LLM).

זוהי טכנולוגיה עוצמתית מכיוון שהיא מטפלת בשלוש בעיות מרכזיות בבינה מלאכותית יוצרת: הזיות, מידע מיושן וחוסר גישה לנתונים שאינם כלולים בהקשר הקלט.

כך נראה תהליך RAG בסיסי:

1. המשתמש מזין הנחיה (prompt) בשפה טבעית.
2. יישום הבינה המלאכותית קובע אם נדרש עיגון (grounding), לעיתים קרובות תוך מעורבות של מודל שפה גדול.
3. בקשה נשלחת למקור מידע חיצוני, כגון מסד נתונים.
4. המידע שנשלף מתווסף לקלט ההקשר של מודל השפה הגדול (LLM).
5. מודל השפה הגדול מייצר תשובה על סמך ההנחיה המועשרת.

למרות שהם עשויים להשתנות ביישום הספציפי, שלבים אלו מייצגים תהליך עבודה טיפוסי של RAG. ההבדלים בין סוגי הארכיטקטורה השונים נוטים להתרכז באופן שבו הבקשות מטופלות על ידי יישום הלקוח ובאופי המידע המוחזר.

סקירה כללית של ארכיטקטורת RAG

המונח "יצירה מוגברת שליפה" הופיע לראשונה במאמר משנת 2020 בשם Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, אשר פורסם על ידי חוקרים ב-Meta AI (אז Facebook AI Research) יחד עם שותפים מ-University College London ומאוניברסיטת ניו יורק.

גישות מוקדמות של שליפה ואז יצירה, המכונות באופן רופף "RAG פשטני" (naive RAG), התפתחו מאז למגוון סוגי ארכיטקטורה שונים, שרבים מהם חופפים.

RAG פשטני (Naive RAG)

RAG פשטני משתמש בצינור עיבוד (pipeline) פשוט של שליפה ויצירה, אשר עדיין מתאים לבקשות בסיסיות רבות. הדוגמה הנפוצה ביותר ל-RAG פשטני היא המרת שאילתה לרשימה מסודרת של מספרים הנקראת הטמעה וקטורית (vector embedding), או פשוט וקטור. לאחר מכן, הטמעת השאילתה מותאמת לווקטורים אחרים המייצגים מקטעים, כלומר חלקי תוכן במסד נתונים או במפתח (המכונה מפתח סמנטי).

RAG מתקדם (Advanced RAG)

RAG מתקדם מבצע אופטימיזציה לשלבים שלפני ואחרי השליפה. טכניקות אלו כוללות הרחבת שאילתות, סינון מטא-דאטה ודחיסת הקשר. אלו משפרים בעצם את הרלוונטיות של המידע שנשלף ואת האופן שבו הוא עובר שינוי לפני הוספתו להקשר הקלט של מודל השפה הגדול.

RAG סוכני (Agentic RAG)

Agentic RAG הוא ביצוע של צינורות RAG על ידי סוכן מבוסס LLM. הסוכן "מחליט" אילו כלים הם הטובים ביותר עבור הנחיה נתונה ומכוון את שליפת הנתונים, לעיתים בלולאה, כדי לייצר תשובה רלוונטית.

RAG מבוסס גרף (Graph RAG)

RAG מבוסס גרף שולף מידע מגרף ידע, המייצג ישויות (כגון אובייקטים, מושגים ואירועים) ואת הקשרים ביניהם. גישה זו שימושית כאשר מענה על הנחיה דורש ממודל השפה לשלב מידע על ישויות נפרדות.

RAG מולטימודאלי (Multimodal RAG)

RAG מולטימודאלי מרחיב את השליפה לתכנים כמו תמונות ואודיו במהלך השאילתה והשליפה כאחד. צינורות עיבוד RAG אלו משתמשים במקודדים מיוחדים כדי להמיר טקסט, תמונות או אודיו להטמעות (embeddings).

RAG היברידי (Hybrid RAG)

RAG היברידי משלב חיפוש מילות מפתח, או שליפה לסיקונית (lexical retrieval), עם שליפה וקטורית או גרפי ידע וממזג את התוצאות. גישה זו שימושית מכיוון שהתאמת מילות מפתח יכולה להיות מדויקת מאוד (יותר משיטות אחרות) בהקשרים מסוימים.

RAG מתקן (Corrective RAG)

RAG מתקן מעריך מידע או נתונים שהוחזרו מבחינת הרלוונטיות שלהם לשאילתה. הוא עשוי לחדד או להשלים את הקטעים שנשלפו או להחליף אותם לחלוטין על ידי ביצוע בקשה נוספת.

דוגמאות לשימוש ב-RAG לפי מקרה שימוש ויישום תעשייתי

ישנן דוגמאות רבות לשימוש ב-RAG הן בתחום הצרכני והן בתחום העסקי. הדבר נובע במידה רבה מכך שצינורות עיבוד RAG שולבו ברוב הכלים המרכזיים. בנוסף, ספקים רבים מציעים אינטגרציות מוכנות מראש, כגון עבור צ'אטים של שירות לקוחות, מה שהקל על האימוץ שלהם.

1. חיפוש באינטרנט

חיפוש באינטרנט הוא אחת הדוגמאות הנפוצות ביותר ל-RAG. מדי יום, מיליוני אנשים משתמשים בכלי בינה מלאכותית כדי לייצר תגובות המעוגנות במידע שנשלף מהאינטרנט.

כיצד זה פועל: יישום הבינה המלאכותית מחפש במפתח אינטרנט, כגון מפתח Google Search, באמצעות שליפה מבוססת מילות מפתח ושליפה סמנטית. תוכן דף רלוונטי נכלל לצד שאלת המשתמש בקלט של מודל השפה הגדול. לאחר מכן, מודל השפה מפיק תשובה, בדרך כלל עם ציון מקורות.

דוגמה מהעולם האמיתי: אם משתמש מזין שאילתה פשוטה בממשק הצ'אט של Perplexity, כגון "מה מזג האוויר בשיקגו?", מודל השפה יבצע חיפוש באינטרנט כדי למצוא מידע מעודכן. Perplexity משתמשת במפתח אינטרנט קנייני בשילוב עם ממשקי API של שותפי חיפוש.

הגדלה

2. תמיכת לקוחות

צ'אטים בתוך אפליקציות ובאתרי אינטרנט הפכו למקרה שימוש ארגוני מרכזי של RAG. מערכות אלו משתלבות בדרך כלל עם נתיבי ניתוב מסורתיים, ובכך מצמצמות את הצורך במעורבות של נציגי שירות לקוחות.

כיצד זה פועל: כאשר לקוח שואל שאלה, היישום מחפש בבסיס הידע של החברה, לרוב תוך שימוש בצינור עיבוד היברידי. הקטעים שנשלפים מסופקים למודל השפה הגדול, אשר מפיק תשובה. בדרך כלל מעורבים גם תהליכי תיקון והעברה (hand-off) כדי לאמת את התשובה ובמידת הצורך לנתב לנציג אנושי.

דוגמה מהעולם האמיתי: פלטפורמות שירות לקוחות שונות, כולל Zendesk (בתמונה למטה) ו-Intercom, מציעות צ'אטים מוכנים לשימוש לתמיכת לקוחות המשתלבים עם תיעוד קיים ובסיסי תמיכת לקוחות.

הגדלה

3. עוזרים אישיים

עוזרים אישיים משתמשים ב-RAG סוכני כדי לגשת להודעות האימייל, לקבצים וללוח השעונים של המשתמש. עוזרים אלו מסוגלים בדרך כלל להפעיל צינורות עיבוד RAG מרובים.

כיצד זה פועל: מכיוון שעוזרים אישיים דורשים לעיתים קרובות גישה למקורות מידע מרובים, הם משתמשים בשילוב של ממשקי API, חיפוש מילות מפתח, חיפוש וקטורי וגרפי ידע. תיאורי כלים שונים נשלחים על ידי היישום למודל השפה, אשר בוחר לאחר מכן את הכלים המתאימים ביותר.

דוגמה מהעולם האמיתי: Google Gemini משמש כדוגמה טוב לאפליקציה שיכולה לתפקד כעוזר בינה מלאכותית כללי ואישי (כפי שקורה ברוב העוזרים כיום). הוא משתלב עם אקוסיסטם של כלים, כגון Gmail, מסמכים (Docs), תמונות (Photos) ויומן (Calendar).

הגדלה

4. ניהול ידע ארגוני

ניהול ידע ארגוני מאפשר לעובדים לשאול שאלות על פני גוף רחב של מידע חברתי, כולל מדיניות, דוחות, מסמכי פרויקט, טקסטים משפטיים ואפילו דיונים פנימיים.

כיצד זה פועל: היישום שולף תוכן רלוונטי באמצעות מפתח וקטורי המעודכן ככל שמסמכי המקור משתנים. המפתח מכיל הטמעות המייצגות מקטעי מסמכים, עם קישורים לטקסט שלהם ולמטא-דאטה המשויך.

דוגמה מהעולם האמיתי: Microsoft 365 Copilot ניגש למידע ארגוני באמצעות Microsoft Graph, החושף ממשקי API שונים עבור מקורות נתונים, ומשתמש במפתחות סיקוניים וסמנטיים כדי לשלוף תוכן רלוונטי.

הגדלה

5. עוזרי פיתוח קוד

עוזרי פיתוח קוד מיישמים RAG על בסיס קוד (codebase). בעוד שתוליך ה-RAG הבסיסי זהה (בדרך כלל RAG סוכני), ההבדל הוא שהם מתמודדים במיוחד עם בהקשר הקוד.

כיצד זה פועל: עוזרי פיתוח קוד ממפתח קובצי פרויקט מקומיים ומבצעים מעברי חיפוש מרובים כדי למצוא קטעי קוד רלוונטיים כאשר הם מתבקשים לכך. לעוזרים אלו יש בדרך כלל גם מחברים ייעודיים להרחבת הגישה, כגון לבסיסי ידע ארגוניים.

דוגמה מהעולם האמיתי: GitHub Copilot הוא דוגמה מוכרת לעוזר קוד המשתלב ישירות עם פרויקטי פיתוח. הוא יכול גם להתייחס למאגרים ציבוריים ב-GitHub כדי להגדיל את דיוק התשובות.

הגדלה

6. פתרון בעיות טכניות

פתרון בעיות טכניות משלב צינור עיבוד RAG לניהול ידע עם לולאת אבחון. סוכן יכול להעריך תוצאות כדי לחדד עוד יותר את המלצות פתרון הבעיות לפי הצורך.

כיצד זה פועל: יישום אוסף תסמינים של בעיה טכנית מהמשתמש או מקבל התראות ניטור אוטומטיות. הוא מפעיל חיפוש של הודעות שגיאה, יומני רישום טכניים (logs) ומדדי ביצועים כדי להצליב את התסמינים. לאחר מכן הוא שולף מידע רלוונטי מבסיס ידע פנימי כדי להעבירו למודל השפה הגדול. לולאת האבחון מתרחשת כאשר תוצאות של תיקון מנוסה מחוזקות חזרה למודל השפה, בין אם מהמשתמש או מכלי אבחון.

דוגמה מהעולם האמיתי: פלטפורמת התצפית (observability) Datadog (המוצגת למטה) אוספת נתונים מכל השכבות של מערכת, ומסמנת בעיות כאשר הן צצות. אלו מוזנות לאחר מכן לסוכן בינה מלאכותית ייעודי בשם Bits AI כדי לאתר פתרונות אפשריים.

הגדלה

7. מסחר סוכני (Agentic commerce)

מסחר סוכני הוא מקרה שימוש רחב יותר הכולל לרוב RAG. סוכן קניות שולף פרטים כמו מפרטי מוצר, ביקורות, מחירים וזמינות כדי להשוות אפשרויות ולהסביר המלצות. לאחר מכן הוא יכול לבצע את הרכישה באופן אוטומטי מבלי שהמשתמש יצטרך לעזוב את הממשק.

כיצד זה פועל: מסחר סוכני הוא RAG סוכני אמיתי מכיוון ששאילתות מסוימות דורשות לעיתים קרובות צורות שונות של שליפה, שאותן המודל מנהל. סוכן עשוי לשלוף נתוני מוצר טקסטואליים בלבד דרך ממשק ה-API של קמעונאי, או שהוא עשוי להשתמש ב-RAG מולטימודאלי כדי להתאים מוצרים במפתח סמנטי על בסיס תצלום משתמש.

דוגמה מהעולם האמיתי: סוכן כללי כגון Perplexity יכול לשלוף מספר תמונות ומפרטי מוצר מפורטים על סמך הנחיה. תכונת התשלום המהיר (Instant Buy) מאפשרת למשתמש להשלים את הרכישה לאחר בחירת מוצר.

הגדלה

8. תחומי ידע מתמחים

כלי בינה מלאכותית השולפים ידע תחום מתמחה חייבים להתמודד עם פורמטים מורכבים של תוכן. בנוסף, צמצום הזיות ופערים במידע הוא לרוב עדיפות עליונה.

כיצד זה פועל: ההבדל המרכזי בין ארכיטקטורות RAG כלליות למתמחות קשור לחומר המקור ולהגדרת השליפה. בדרך כלל, יישלחו שאילתות רק למפתח בעל סמכות גבוהה, והבקשה תוגדר כך שתכלול מינוח ספציפי כדי לצמצם חיפושים.

דוגמה מהעולם האמיתי: כלי המחקר האקדמי Scite ניגש למפתח גדול של מאמרים אקדמיים ונתוני ציטוטים שנבנה באמצעות הסכמי מוציאים לאור ומקורות גישה פתוחה. הוא גם מפעיל בדיקות לאחר שליפה, כגון אימות מקורות, לפני הפקת תשובה מלאה.

הגדלה

9. ניתוח נתונים

RAG לניתוח נתונים הפך למקרה שימוש ארגוני חזק במיוחד מכיוון שהוא מאפשר למגוון רחב של אנשי מקצוע, במיוחד כאלה ללא הכשרה במדעי הנתונים, לתשאל מערכי נתונים באמצעות שפה טבעית. הדבר מקל על הפקת דוחות ותשאול שאלות ספציפיות במיוחד.

כיצד זה פועל: עבור שאלה כמו "למד ירדו המכירות ברבעון האחרון?", היישום עשוי לתשאל רישומי מכירות ולשלוף הערות על מחסור במלאי או שינויים בתמחור. מודל השפה בוחר את החישוב המתאים (אשר מועבר בדרך כלל לכלי חישוב) עבור הנתונים שנשלפו לפני הפקת ניתוח.

דוגמה מהעולם האמיתי: Google Analytics מציע צ'אט AI בשם "Ask Advisor" שיכול לגשת לנתוני אנליטיקה של אתרים ולענות על שאלות ספציפיות ומורכבות מאוד מצד משתמשים. זוהי אחת הדוגמאות הטובות ביותר בעולם האמיתי ל-RAG ברמה ארגונית ובמערכת סגורה.

הגדלה

מה צופן השרון באבולוציה של RAG?

RAG היה התפתחות משמעותית כאשר הוצג לראשונה. הוא סייע להתמודד עם רבות מהבעיות המובנות במודלי שפה עצמאיים (standalone LLMs).

עם זאת, זוהי טכנולוגיה רחוקה מלהיות סטטית. המחקר הנוכחי מתמקד בשליפה מולטימודאלית עמוקה יותר ובגיבוש קפדני יותר של הקשר שנשלף לצורך דיוק ונכונות. בנוסף, סביר להניח שנראה אינטגרציה רבה יותר של RAG בסוכנים מרובי-כלים.

גם עם חלונות הקשר גדולים במיוחד, ישנם מקרי שימוש חשובים ל-RAG הן בהקשרים אישיים והן בהקשרים מקצועיים, וחידושים רבים עדיין צפויים לבוא.