9 παραδείγματα RAG βασισμένα σε περιπτώσεις χρήσης και αρχιτεκτονικές πραγματικού κόσμου

Το RAG χρησιμοποιείται ευρέως τόσο σε καταναλωτικά όσο και σε επιχειρηματικά περιβάλλοντα. Πραγματικά, καθημερινά παραδείγματα του RAG περιλαμβάνουν την αναζήτηση στον ιστό, την εξυπηρέτηση πελατών και τις αγορές με τεχνητή νοημοσύνη. Η εσωτερική πρόσβαση σε γνώση και η βοήθεια προγραμματισμού συγκαταλέγονται στα πιο εξέχοντα επιχειρηματικά παραδείγματα.

Η αρχιτεκτονική RAG μπορεί επίσης να διαφέρει ανάλογα με την περίπτωση χρήσης. Δύο από τις πιο κοινές υλοποιήσεις είναι το υβριδικό RAG, το οποίο συνδυάζει την παραδοσιακή αντιστοίχιση λέξεων-κλειδιών με διανυσματική αναζήτηση ή αναζήτηση γραφήματος γνώσης, και το RAG πράκτορα, στο οποίο ένα LLM κατευθύνει τη διαδικασία ανάκτησης.

Τι είναι η παραγωγή με επαυξημένη ανάκτηση (RAG);

Το RAG, ή αλλιώς παραγωγή με επαυξημένη ανάκτηση, επιτρέπει στις εφαρμογές τεχνητής νοημοσύνης να έχουν πρόσβαση σε πληροφορίες αποθηκευμένες σε εξωτερικά συστήματα για να συμπληρώσουν τις απαντήσεις που παράγονται από LLM.

Είναι μια ισχυρή τεχνολογία επειδή αντιμετωπίζει τρία σημαντικά προβλήματα της γενετικής τεχνητής νοημοσύνης: τις παραισθήσεις, τις μη ενημερωμένες πληροφορίες και την έλλειψη πρόσβασης σε δεδομένα που δεν περιλαμβάνονται στο πλαίσιο εισόδου.

Ακολουθεί η εμφάνιση μιας βασικής διαδικασίας RAG:

1. Ο χρήστης εισάγει μια προτροπή σε φυσική γλώσσα.
2. Η εφαρμογή τεχνητής νοημοσύνης καθορίζει εάν απαιτείται θεμελίωση, μερικές φορές με τη συμμετοχή LLM.
3. Αποστέλλεται ένα αίτημα σε μια εξωτερική πηγή πληροφοριών, όπως μια βάση δεδομένων.
4. Οι ανακτημένες πληροφορίες προστίθενται στην είσοδο πλαισίου του LLM.
5. Το LLM παράγει μια απάντηση με βάση την επαυξημένη προτροπή.

Παρόλο που μπορεί να διαφέρουν στην ειδική υλοποίηση, αυτά τα βήματα αντιπροσωπεύουν μια τυπική ροή εργασίας RAG. Οι διαφορές μεταξύ των διαφόρων τύπων αρχιτεκτονικής τείνουν να επικεντρώνονται στον τρόπο με τον οποίο τα αιτήματα διαχειρίζονται από την εφαρμογή-πελάτη και στη φύση των πληροφορούν που ανακτώνται.

Μια επισκόπηση της αρχιτεκτονικής RAG

Ο όρος "παραγωγή με επαυξημένη ανάκτηση" εμφανίστηκε για πρώτη φορά σε μια εργασία του 2020 με τίτλο Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, η οποία δημοσιεύθηκε από ερευνητές της Meta AI (τότε Facebook AI Research) μαζί με συνεργάτες από το University College London και το Πανεπιστήμιο της Νέας Υόρκης.

Οι πρώιμες προσεγγίσεις «ανάκτησης-έπειτα-παραγωγής», που αναφέρονται χαλαρά ως «naive RAG», έχουν έκτοτε εξελιχθεί σε μια ποικιλία διαφορετικών τύπων αρχιτεκτονικής, πολλοί από τους οποίους αλληλοεπικάλυπτονται.

Αφελή RAG

Το Naive RAG χρησιμοποιεί μια απλή διοχέτευση ανάκτησης και παραγωγής, η οποία εξακολουθεί να είναι κατάλληλη για πολλά βασικά αιτήματα. Το πιο κοινό παράδειγμα του naive RAG είναι η μετατροπή ενός ερωτήματος σε μια διατεταγμένη λίστα αριθμών που ονομάζεται διανυσματική ενσωμάτωση, ή απλώς διάνυσμα. Η ενσωμάτωση του ερωτήματος στη συνέχεια αντιστοιχίζεται με άλλα διανύσματα που αντιπροσωπεύουν τμήματα, μέρη περιεχομένου σε μια βάση δεδομένων ή ευρετήριο (που ονομάζεται σημασιολογικό ευρετήριο).

Προηγμένο RAG

Το προηγμένο RAG βελτιστοποιεί τα στάδια πριν και μετά την ανάκτηση. Οι τεχνικές περιλαμβάνουν την επέκταση ερωτημάτων, το φιλτράρισμα μεταδεδομένων και τη συμπίεση πλαισίου. Αυτές ουσιαστικά βελτιώνουν τη σχετικότητα των πληροφοριών που ανακτώνται και τον τρόπο με τον οποίο τροποποιούνται πριν προστεθούν στο πλαίσιο εισόδου ενός LLM.

RAG πράκτορα

Το RAG πράκτορα είναι η εκτέλεση αγωγών RAG από έναν πράκτορα βασισμένο σε LLM. Ο πράκτορας "αποφασίζει" ποια εργαλεία είναι καλύτερα για μια δεδομένη προτροπή και κατευθύνει την ανάκτηση, μερικές φορές σε έναν βρόχο, για να δημιουργήσει μια σχετική απάντηση.

RAG γραφήματος

Το RAG γραφήματος ανακτά πληροφορίες από ένα γράφημα γνώσης, το οποίο αντιπροσωπεύει οντότητες (όπως αντικείμενα, έννοιες και γεγονότα) και τις σχέσεις μεταξύ τους. Αυτό είναι χρήσιμο όταν μια απάντηση σε μια προτροπή απαιτεί από το LLM να συνδυάσει πληροφορίες σχετικά με ξεχωριστές οντότητες.

Πολυτροπικό RAG

Το πολυτροπικό RAG επεκτείνει την ανάκτηση σε περιεχόμενο όπως εικόνες και ήχο τόσο κατά το ερώτημα όσο και κατά την ανάκτηση. Αυτοί οι αγωγοί RAG χρησιμοποιούν ειδικούς κωδικοποιητές για να μετατρέψουν κείμενο, εικόνες ή ήχο σε ενσωματώσεις.

Υβριδικό RAG

Το υβριδικό RAG συνδυάζει την αναζήτηση λέξεων-κλειδιών, ή λεξική ανάκτηση, με τη διανυσματική ανάκτηση ή γραφήματα γνώσης και συγχωνεύει τα αποτελέσματα. Αυτό είναι χρήσιμο επειδή η αντιστοίχιση λέξεων-κλειδιών μπορεί να είναι εξαιρετικά ακριβής (περισσότερο από άλλες μεθόδους) σε ορισμένα πλαίσια.

Διορθωτικό RAG

Το διορθωτικό RAG αξιολογεί τις επιστρεφόμενες πληροφορίες ή δεδομένα ως προς τη σχετικότητά τους με το ερώτημα. Μπορεί να βελτιώσει ή να συμπληρώσει τα ανακτημένα αποσπάσματα ή να τα αντικαταστήσει εξ ολοκλήρου εκτελώντας ένα άλλο αίτημα.

Παραδείγματα RAG ανά περίπτωση χρήσης και βιομηχανική εφαρμογή

Υπάρχουν πολλαπλά παραδείγματα RAG τόσο στον καταναλωτικό όσο και στον επιχειρηματικό τομέα. Αυτό οφείλεται σε μεγάλο βαθμό στο γεγονός ότι οι αγωγοί RAG έχουν ενσωματωθεί στα περισσότερα βασικά εργαλεία. Επιπλέον, πολλοί προμηθευτές προσφέρουν έτοιμες ενσωματώσεις, όπως για chatbot εξυπηρέτησης πελατών, γεγονός που έχει διευκολύνει την υιοθέτηση.

1. Αναζήτηση στον ιστό

Η αναζήτηση στον ιστό είναι ένα από τα πιο διάχυτα παραδείγματα RAG. Κάθε μέρα, εκατομμύρια άνθρωποι χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να παράγουν απαντήσεις θεμελιωμένες σε πληροφορίες που ανακτώνται από τον ιστό.

Πώς λειτουργεί: Η εφαρμογή τεχνητής νοημοσύνης αναζητά σε ένα ευρετήριο ιστού, όπως το ευρετήριο Google Search, χρησιμοποιώντας ανάκτηση βασισμένη σε λέξεις-κλειδιά και σημασιολογική ανάκτηση. Το σχετικό περιεχόμενο σελίδας περιλαμβάνεται μαζί με την ερώτηση ενός χρήστη στην είσοδο του LLM. Στη συνέχεια, το LLM δημιουργεί μια απάντηση, συνήθως με παραπομπές πηγών.

Παράδειγμα από τον πραγματικό κόσμο: Εάν ένας χρήστης πληκτρολογήσει ένα απλό ερώτημα στη διεπαφή συνομιλίας του Perplexity, όπως "Πώς είναι ο καιρός στο Σικάγο;", το LLM θα πραγματοποιήσει μια αναζήτηση στον ιστό για να βρει ενημερωμένες πληροφορίες. Το Perplexity χρησιμοποιεί ένα ιδιόκτητο ευρετήριο ιστού σε συνδυασμό με API αναζήτησης συνεργατών.

Μεγέθυνση

2. Υποστήριξη πελατών

Τα chatbot εντός εφαρμογών και ιστότοπων έχουν αναδειχθεί σε κύρια επιχειρηματική περίπτωση χρήσης του RAG. Αυτά τα συστήματα συνήθως συνδυάζονται με παραδοσιακές διαδρομές δρομολόγησης, μειώνοντας την ανάγκη συμμετοχής αντιπροσώπων εξυπηρέτησης πελατών.

Πώς λειτουργεί: Όταν ένας πελάτης κάνει μια ερώτηση, η εφαρμογή αναζητά στη βάση γνώσεων της εταιρείας, συχνά χρησιμοποιώντας έναν υβριδικό αγωγό. Τα ανακτημένα αποσπάσματα παρέχονται στο LLM, το οποίο παράγει μια απάντηση. Συνήθως υπάρχουν επίσης διορθωτικές διαδικασίες και διαδικασίες παράδοσης που εμπλέκονται για την επικύρωση της απάντησης και, όπου είναι απαραίτητο, τη δρομολόγηση σε έναν αντιπρόσωπο.

Παράδειγμα από τον πραγματικό κόσμο: Διάφορες πλατφόρμες εξυπηρέτησης πελατών, συμπεριλαμβανομένων των Zendesk (εικονίζεται παρακάτω) και Intercom, προσφέρουν έτοιμα chatbot υποστήριξης πελατών που ενσωματώνονται με υπάρχουσα τεκμηρίωση και βάσεις υποστήριξης πελατών.

Μεγέθυνση

3. Προσωπικοί βοηθοί

Οι προσωπικοί βοηθοί χρησιμοποιούν RAG πράκτορα για πρόσβαση στα email, τα αρχεία και το ημερολόγιο ενός χρήστη. Αυτοί οι βοηθοί μπορούν συνήθως να εκτελούν πολλαπλούς αγωγούς RAG.

Πώς λειτουργεί: Επειδή οι προσωπικοί βοηθοί απαιτούν συχνά πρόσβαση σε πολλαπλές πηγές πληροφοριών, χρησιμοποιούν έναν συνδυασμό API, αναζήτησης λέξεων-κλειδιών, διανυσματικής αναζήτησης και γραφημάτων γνώσης. Διαφορετικές περιγραφές εργαλείων αποστέλλονται από την εφαρμογή στο LLM, το οποίο στη συνέχεια επιλέγει τα πιο κατάλληλα.

Παράδειγμα από τον πραγματικό κόσμο: Το Google Gemini χρησιμεύει ως καλό παράδειγμα μιας εφαρμογής που μπορεί να λειτουργήσει ως βοηθός τεχνητής νοημοσύνης γενικής χρήσης και προσωπικός βοηθός (όπως συμβαίνει με τους περισσότερους βοηθούς στις μέρες μας). Ενσωματώνεται με ένα οικοσύστημα εργαλείων, όπως Gmail, Docs, Photos και Calendar.

Μεγέθυνση

4. Διαχείριση επιχειρηματικής γνώσης

Η διαχείριση επιχειρηματικής γνώσης επιτρέπει στους υπαλλήλους να υποβάλλουν ερωτήσεις σε ένα ευρύ φάσμα πληροφοριών της εταιρείας, συμπεριλαμβανομένων πολιτικών, αναφορών, εγγράφων έργου, νομικών κειμένων, ακόμη και εσωτερικών συζητήσεων.

Πώς λειτουργεί: Η εφαρμογή ανακτά σχετικό περιεχόμενο χρησιμοποιώντας ένα διανυσματικό ευρετήριο που ενημερώνεται καθώς αλλάζουν τα έγγραφα προέλευσης. Το ευρετήριο περιέχει ενσωματώσεις που αντιπροσωπεύουν τμήματα εγγράφων, με συνδέσμους προς το κείμενό τους και τα σχετικά μεταδεδομένα.

Παράδειγμα από τον πραγματικό κόσμο: Το Microsoft 365 Copilot έχει πρόσβαση σε οργανωτικές πληροφορίες μέσω του Microsoft Graph, το οποίο εκθέτει διάφορα API για πηγές δεδομένων, και χρησιμοποιεί λεξικά και σημασιολογικά ευρετήρια για την ανάκτηση σχετικού περιεχομένου.

Μεγέθυνση

5. Βοηθοί προγραμματισμού

Οι βοηθοί προγραμματισμού εφαρμόζουν το RAG σε μια βάση κώδικα. Ενώ η υποκείμενη διαδικασία RAG είναι η ίδια (συνήθως RAG πράκτορα), η διαφορά είναι ότι ασχολούνται ειδικά με το πλαίσιο κώδικα.

Πώς λειτουργεί: Οι βοηθοί προγραμματισμού ευρετηριάζουν τοπικά αρχεία έργου και εκτελούν περάσματα πολλαπλών αναζητήσεων για να βρουν σχετικά αποσπάσματα κώδικα όταν τους ζητηθεί. Αυτοί οι βοηθοί διαθέτουν επίσης τυπικά αποκλειστικούς συνδέσμους για την επέκταση της πρόσβασης, όπως σε εταιρικές βάσεις γνώσεων.

Παράδειγμα από τον πραγματικό κόσμο: Το GitHub Copilot είναι ένα γνωστό παράδειγμα βοηθού προγραμματισμού που ενσωματώνεται άμεσα με έργα ανάπτυξης. Μπορεί επίσης να αναφέρεται σε δημόσια αποθετήρια GitHub για να αυξήσει την ακρίβεια των απαντήσεων.

Μεγέθυνση

6. Τεχνική αντιμετώπιση προβλημάτων

Η τεχνική αντιμετώπιση προβλημάτων ενσωματώνει έναν αγωγό RAG διαχείρισης γνώσης με έναν διαγνωστικό βρόχο. Ένας πράκτορας μπορεί να αξιολογήσει τα αποτελέσματα για να βελτιώσει περαιτέρω τις συστάσεις αντιμετώπισης προβλημάτων όπως απαιτείται.

Πώς λειτουργεί: Μια εφαρμογή συλλέγει συμπτώματα ενός τεχνικού προβλήματος από τον χρήστη ή λαμβάνει αυτοματοποιημένες ειδοποιήσεις παρακολούθησης. Ενεργοποιεί μια αναζήτηση μηνυμάτων σφάλματος, τεχνικών καταγραφών και μετρικών απόδοσης για τη διασταύρωση των συμπτωμάτων. Στη συνέχεια, ανακτά σχετικές πληροφορίες από μια εσωτερική βάση γνώσεων για να τις διαβιβάσει στο LLM. Ο διαγνωστικός βρόχος συμβαίνει όταν τα αποτελέσματα μιας επιδιωκόμενης διόρθωσης τροφοδοτούνται πίσω στο LLM, είτε από τον χρήστη είτε από ένα διαγνωστικό εργαλείο.

Παράδειγμα από τον πραγματικό κόσμο: Η πλατφόρμα παρατηρησιμότητας Datadog (εικονίζεται παρακάτω) συλλέγει δεδομένα από όλα τα επίπεδα ενός συστήματος, επισημαίνοντας τυχόν προβλήματα όταν προκύπτουν. Αυτά τροφοδοτούνται στη συνέχεια σε έναν εξειδικευμένο πράκτορα τεχνητής νοημοσύνης που ονομάζεται Bits AI για την αντιμετώπιση πιθανών διορθώσεων.

Μεγέθυνση

7. Εμπόριο πράκτορα

Το εμπόριο πράκτορα είναι μια ευρύτερη περίπτωση χρήσης που συνήθως περιλαμβάνει RAG. Ένας πράκτορας αγορών ανακτά λεπτομέρειες όπως προδιαγραφές προϊόντων, κριτικές, τιμές και διαθεσιμότητα για να συγκρίνει επιλογές και να εξηγήσει προτάσεις. Στη συνέχεια, μπορεί να πραγματοποιήσει αυτόματα την αγορά χωρίς ο χρήστης να φύγει από τη διεπαφή.

Πώς λειτουργεί: Το εμπόριο πράκτορα είναι αληθινό RAG πράκτορα επειδή τα συγκεκριμένα ερωτήματα συχνά απαιτούν διαφορετικές μορφές ανάκτησης, τις οποίες κατευθύνει το μοντέλο. Ένας πράκτορας μπορεί να ανακτήσει δεδομένα προϊόντων αποκλειστικά σε κείμενο μέσω του API ενός λιανοπωλητή, ή μπορεί να χρησιμοποιήσει πολυτροπικό RAG για να ταιριάξει προϊόντα σε ένα σημασιολογικό ευρετήριο με βάση μια φωτογραφία χρήστη.

Παράδειγμα από τον πραγματικό κόσμο: Ένας πράκτορας γενικής χρήσης όπως το Perplexity μπορεί να ανακτήσει πολλαπλές εικόνες και λεπτομερείς προδιαγραφές προϊόντων με βάση μια προτροπή. Η δυνατότητα ολοκλήρωσης αγοράς Instant Buy επιτρέπει στον χρήστη να ολοκληρώσει την αγορά αφού επιλέξει ένα προϊόν.

Μεγέθυνση

8. Εξειδικευμένοι τομείς γνώσης

Τα εργαλεία τεχνητής νοημοσύνης που ανακτούν εξειδικευμένη γνώση τομέα πρέπει να αντιμετωπίσουν σύνθετες μορφές περιεχομένου. Επιπλέον, η ελαχιστοποίηση των παραισθήσεων και των κενών πληροφοριών αποτελεί συχνά προτεραιότητα.

Πώς λειτουργεί: Η βασική διαφορά μεταξύ των αρχιτεκτονικών RAG γενικής χρήσης και εξειδικευμένων αφορά το υλικό προέλευσης και τη διαμόρφωση ανάκτησης. Συνήθως, θα γίνεται ερώτηγμα μόνο σε ένα εξαιρετικά έγκυρο ευρετήριο, και το αίτημα θα διαμορφωθεί ώστε να περιλαμβάνει συγκεκριμένη ορολογία για τον περιορισμό των αναζητήσεων.

Παράδειγμα από τον πραγματικό κόσμο: Το ακαδημαϊκό ερευνητικό εργαλείο Scite έχει πρόσβαση σε ένα μεγάλο ευρετήριο ακαδημαϊκών εργασιών και δεδομένων παραπομπών που έχει δημιουργηθεί μέσω συμφωνιών εκδοτών και πηγών ανοικτής πρόσβασης. Εφαρμόζει επίσης ελέγχους μετά την ανάκτηση, όπως επαλήθευση πηγής, πριν δημιουργήσει μια πλήρη απάντηση.

Μεγέθυνση

9. Ανάλυση δεδομένων

Το RAG για ανάλυση δεδομένων έχει γίνει μια ιδιαίτερα ισχυρή επιχειρηματική περίπτωση χρήσης επειδή επιτρέπει σε ένα ευρύ φάσμα επαγγελματιών, ειδικά σε εκείνους χωρίς εκπαίδευση στην επιστήμη δεδομένων, να υποβάλλουν ερωτήματα σε σύνολα δεδομένων χρησιμοποιώντας φυσική γλώσσα. Αυτό διευκολύνει τη δημιουργία αναφορών και την υποβολή εξαιρετικά συγκεκριμένων ερωτήσεων.

Πώς λειτουργεί: Για μια ερώτηση όπως «Γιατί μειώθηκαν οι πωλήσεις το τελευταίο τρίμηνο;», η εφαρμογή ενδέχεται να υποβάλει ερώτηματα σε αρχεία πωλήσεων και να ανακτήσει σημειώσεις σχετικά με ελλείψεις αποθεμάτων ή αλλαγές τιμών. Το LLM επιλέγει τον κατάλληλο υπολογισμό (ο οποίος συνήθως ανατίθεται σε ένα εργαλείο υπολογισμού) για τα δεδομένα που ανακτήθηκαν πριν δημιουργήσει μια ανάλυση.

Παράδειγμα από τον πραγματικό κόσμο: Το Google Analytics προσφέρει ένα chatbot AI "Ask Advisor" που έχει πρόσβαση σε δεδομένα αναλυτικών στοιχείων ιστού και μπορεί να απαντήσει σε εξαιρετικά συγκεκριμένες, λεπτές ερωτήσεις από χρήστες. Είναι ένα από τα καλύτερα παραδείγματα πραγματικού κόσμου κλειστού συστήματος RAG επιχειρηματικού βαθμού.

Μεγέθυνση

Τι ακολουθεί στην εξέλιξη του RAG;

Το RAG ήταν μια σημαντική εξέλιξη όταν πρωτοπαρουσιάστηκε. Βοήθησε στην αντιμετώπιση πολλών από τα εγγενή προβλήματα στα αυτόνομα LLM.

Ωστόσο, απέχει πολύ από το να είναι μια στατική τεχνολογία. Η τρέχουσα έρευνα επικεντρώνεται σε βαθύτερη πολυτροπική ανάκτηση και πιο αυστηρή επεξεργασία του ανακτημένου πλαισίου για ακρίβεια και ορθότητα. Επιπλέον, είναι πιθανό να δούμε μεγαλύτερη ενσωμάτωση του RAG σε πράκτορες πολλαπλών εργαλείων.

Ακόμη και με εξαιρετικά μεγάλα παράθυρα πλαισίου, υπάρχουν σημαντικές περιπτώσεις χρήσης για το RAG τόσο σε προσωπικό όσο και σε επαγγελματικό περιβάλλον και πολλές καινοτομίες που μένουν να έρθουν.