Πώς να αξιολογείτε πράκτορες AI: σύνολα δοκιμών, αξιολογητές και έλεγχοι παλινδρόμησης

Πίσω από κάθε σπουδαίο προϊόν AI βρίσκεται μια ισχυρή διαδικασία αξιολόγησης πρακτόρων AI, γνωστή ως evals, η οποία εντοπίζει έγκαιρα τα σφάλματα και διασφαλίζει τη σωστή λειτουργία του πράκτορα. Οι αξιολογήσεις είναι κρίσιμες για πράκτορες AI που εκτελούν ενέργειες υψηλού κινδύνου, όπως επιστροφές χρημάτων εκ μέρους κάποιου.

Η δημιουργία αυτής της διαδικασίας απαιτεί κάποιες τεχνικές γνώσεις και δεξιότητες ανάλυσης δεδομένων. Ωστόσο, δεν είναι ούτε κατά διάνοια τόσο τρομακτική ή δυσπρόσιτη όσο ίσως ακούγεται. Για να σας βοηθήσουμε να ξεκινήσετε, παρουσιάζουμε έξι πρακτικά βήματα για την αξιολόγηση πρακτόρων AI, καθώς και συνηθισμένες παρανοήσεις που υπονομεύουν τη διαδικασία.

Τι σημαίνει αξιολόγηση ενός πράκτορα AI;

Η αξιολόγηση ενός πράκτορα AI σημαίνει την εκτίμηση της απόδοσής του στη σωστή ολοκλήρωση εργασιών και του κατά πόσο οι αποφάσεις του πληρούν τις απαιτήσεις του οργανισμού. Στην πράξη, οι αξιολογήσεις πρακτόρων AI, ή evals, είναι συγκεκριμένες μετρικές που βοηθούν τους οργανισμούς να καθορίσουν αν ο πράκτορας λειτουργεί αρκετά αξιόπιστα για τον ρόλο για τον οποίο προορίζεται.

Φανταστείτε έναν πράκτορα AI προμηθειών σε μια μονάδα παραγωγής, ο οποίος ελέγχει το απόθεμα ανταλλακτικών και προετοιμάζει αιτήματα αναπλήρωσης. Αν ένα εγκεκριμένο ανταλλακτικό δεν είναι διαθέσιμο ή οι πληροφορίες του προμηθευτή είναι παρωχημένες, θα επισημάνει ο πράκτορας το πρόβλημα ή θα προτείνει ένα μη εγκεκριμένο υποκατάστατο;

Κι αν αλλάξετε το system prompt του για να διορθώσετε αυτό το πρόβλημα, πώς ξέρετε ότι δεν έχετε δημιουργήσει κάποιο άλλο;

Χωρίς αξιολόγηση, οι υπεύθυνοι προϊόντων ουσιαστικά απλώς μαντεύουν. Επομένως, οι αξιολογήσεις παρέχουν ένα σήμα ανατροφοδότησης για τη μέτρηση της απόδοσης, τον εντοπισμό επαναλαμβανόμενων προβλημάτων και τη δοκιμή αλλαγών με μεγαλύτερη σιγουριά.

Με αυτά κατά νου, μια αξιολόγηση πράκτορα μπορεί να εξετάσει διάφορες πτυχές μιας εκτέλεσης:

• Την ποιότητα του τελικού αποτελέσματος
• Τις πληροφορίες που χρησιμοποίησε ο πράκτορας
• Τα εργαλεία που κάλεσε
• Αν τήρησε τους κανόνες που διέπουν τη συμπεριφορά του

Συνήθεις μετρικές αξιολόγησης πρακτόρων AI

Οι αξιολογήσεις βασίζονται σε ποιοτικά και ποσοτικά δεδομένα. Η ποιοτική αξιολόγηση σάς βοηθά να κατανοήσετε τι συμβαίνει και γιατί, συμπεριλαμβανομένης της χειροκίνητης επισκόπησης των αποφάσεων του πράκτορα. Η ποσοτική αξιολόγηση μετατρέπει αυτές τις παρατηρήσεις σε μετρήσιμα σήματα, όπως η καταμέτρηση της συχνότητας συγκεκριμένων τρόπων αστοχίας ή ο υπολογισμός των ποσοστών επιτυχίας εργασιών.

Ακολουθεί η λίστα με τις βασικές μετρικές αξιολόγησης πρακτόρων AI:

• Η επιτυχία εργασίας μετρά αν ο πράκτορας πέτυχε το επιδιωκόμενο αποτέλεσμα· συνήθως εκφράζεται ως το ποσοστό των εκτελέσεων που παράγουν έγκυρα αποτελέσματα.
• Η ορθότητα ενεργειών μετρά αν ο πράκτορας χρησιμοποίησε τα εργαλεία κατάλληλα, επέλεξε έγκυρα ορίσματα και σεβάστηκε τα δικαιώματα πρόσβασης.
• Η ποιότητα απάντησης εκτιμά αν το τελικό αποτέλεσμα είναι ακριβές, πλήρες και χρήσιμο. Μπορεί να περιλαμβάνει την πραγματολογική ορθότητα, την τήρηση των οδηγιών και το αν ο πράκτορας τεκμηριώνει τις αποφάσεις του με τις διαθέσιμες πληροφορίες.
• Η αξιοπιστία μετρά τη συνέπεια σε επαναλαμβανόμενες δοκιμές, διαφορετικές εισόδους και οριακές περιπτώσεις.
• Το κόστος και η καθυστέρηση μετρούν τους πόρους που απαιτούνται για την επίτευξη ενός επιτυχημένου αποτελέσματος, συμπεριλαμβανομένων του χρόνου εκτέλεσης, της κατανάλωσης tokens και των κλήσεων εργαλείων.

Ανάλογα με το τι μετράτε, οι αξιολογήσεις μπορούν να εκτιμήσουν τη συνολική (end-to-end) απόδοση ενός πράκτορα, την τροχιά εκτέλεσής του ή μεμονωμένα στοιχεία, όπως οι κλήσεις εργαλείων και τα βήματα ανάκτησης.

Βήμα 1: Καθορίστε πώς μοιάζει μια επιτυχημένη εκτέλεση του πράκτορα

Αρχικά, περιγράψτε ρητά τι πρέπει να επιτύχει ο πράκτορας — τις απαιτήσεις του προϊόντος. Ακούγεται αυτονόητο, όμως μπορεί να είναι εκπληκτικά δύσκολο. Υπάρχει μάλιστα και όνομα γι’ αυτό: το κενό προδιαγραφών.

Δείτε πώς να το προσεγγίσετε, σύμφωνα με τον Andrey Khomutov, ανώτερο επιστήμονα δεδομένων της ομάδας μας:

«Ξεκινήστε με δύο ερωτήσεις: “Τι θα θεωρούνταν ολοκλήρωση της δουλειάς;” και “Τι θα έκανε απαράδεκτη μια φαινομενικά επιτυχημένη εκτέλεση;”

Για τους πράκτορες, από τεχνική άποψη, αυτό σημαίνει έλεγχο τόσο του αποτελέσματος όσο και του τρόπου με τον οποίο έφτασαν σε αυτό.»

Ένας πράκτορας μπορεί να δώσει τη σωστή απάντηση αποκτώντας πρόσβαση σε ένα κλειδί απαντήσεων που έχει διαρρεύσει ή να προβεί σε μη εξουσιοδοτημένες ενέργειες κατά την ολοκλήρωση της εργασίας του. Ο Khomutov επισημαίνει ότι η διαρροή απαντήσεων και οι μη ασφαλείς ενέργειες κατά τις αξιολογήσεις είναι συγκεκριμένοι λόγοι για να μην κρίνεται μόνο η τελική απάντηση.

«Αναμένω ότι η επιθεώρηση της τροχιάς θα γίνει τυπικό μέρος των σουιτών αξιολόγησης πρακτόρων, αντί για κάτι που κάνουμε μόνο όταν ένα αποτέλεσμα φαίνεται ύποπτο», προσθέτει.

Στη συνέχεια, εμπλέξτε έναν ειδικό του τομέα για να επικυρώσει τα κριτήρια επιτυχίας σας. Άτομα με πρακτική γνώση του τομέα μπορούν να κρίνουν αν οι συνθήκες που θέτουμε για έναν πράκτορα AI αντικατοπτρίζουν ένα επιτυχημένο αποτέλεσμα.

Βήμα 2. Δημιουργήστε ένα σύνολο δοκιμών από πραγματικές εργασίες και αστοχίες

Εξετάστε την πραγματική συμπεριφορά του πράκτορα για να κατανοήσετε πώς μοιάζει η καλή και η κακή απόδοση. Αντισταθείτε στον πειρασμό να ξεκινήσετε δημιουργώντας δεκάδες δοκιμές βασισμένες μόνο σε όσα πιστεύετε ότι μπορεί να πάνε στραβά.

Ο Hamel Husain, μηχανικός ML στην Parlance Lab, και η Shreya Shankar, ερευνήτρια συστημάτων ML και αξιολογήσεων εφαρμοσμένης AI, προτείνουν να ξεκινάτε με ανάλυση σφαλμάτων, μια τεχνική δανεισμένη από τη μηχανική μάθηση και την επιστήμη δεδομένων. Η διαδικασία ξεκινά με ποιοτική ανάλυση των ιχνών εκτέλεσης του πράκτορα — καταγραφών που δείχνουν την είσοδο του χρήστη, τις κλήσεις εργαλείων, τις πληροφορίες που ανακτήθηκαν και την έξοδο του πράκτορα.

1. Επισκοπήστε μεμονωμένα ίχνη και σημειώστε τα σφάλματα (ανοιχτή κωδικοποίηση). Ζητήστε από έναν ειδικό του τομέα να εξετάσει τις εκτελέσεις του πράκτορα και να γράψει σύντομες παρατηρήσεις για το τι πήγε στραβά. Εστιάστε στο πρώτο ουσιαστικό σφάλμα.
2. Ομαδοποιήστε τις παρατηρήσεις σε τρόπους αστοχίας (αξονική κωδικοποίηση). Μόλις συγκεντρώσετε αρκετές σημειώσεις, χρησιμοποιήστε ένα LLM για να προτείνει κατηγορίες για παρόμοια σφάλματα. Αυτές μπορεί να περιλαμβάνουν προτάσεις μη συμβατών ανταλλακτικών, ανακριβή ανάκτηση στοιχείων αποθέματος και αποτυχημένες μεταβιβάσεις σε άνθρωπο.
3. Μετρήστε τις εμφανίσεις. Αντιστοιχίστε κάθε παρατήρηση σε μια κατηγορία και, στη συνέχεια, χρησιμοποιήστε ένα υπολογιστικό φύλλο ή έναν συγκεντρωτικό πίνακα για να υπολογίσετε πόσο συχνά εμφανίζεται κάθε τρόπος αστοχίας.
4. Ορίστε προτεραιότητες για το τι θα αντιμετωπίσετε, λαμβάνοντας υπόψη τόσο τη συχνότητα όσο και τη σοβαρότητα.
5. Μετατρέψτε τις σημαντικές αστοχίες σε περιπτώσεις δοκιμών. Αποθηκεύστε τη σχετική είσοδο, τις αρχικές συνθήκες, το αναμενόμενο αποτέλεσμα και τα κριτήρια βαθμολόγησης, ώστε ο πράκτορας να μπορεί να δοκιμαστεί ξανά στο ίδιο σενάριο.

Πόσα ίχνη πρέπει να εξετάσετε; Περίπου 100, αλλά δεν υπάρχει μαγικός αριθμός. Σταματήστε νωρίτερα μόλις φτάσετε σε θεωρητικό κορεσμό: το σημείο όπου η επισκόπηση επιπλέον ιχνών παύει να αποκαλύπτει ουσιαστικά νέα μοτίβα αστοχίας.

Δεν έχετε κυκλοφορήσει ακόμη την εφαρμογή; Τα συνθετικά παραδείγματα μπορούν να βοηθήσουν στη δημιουργία ενός αρχικού συνόλου δοκιμών, αν και τα πραγματικά δεδομένα χρηστών θα πρέπει να το διαμορφώνουν μόλις γίνουν διαθέσιμα.

Η χρήση των benchmarks στην αξιολόγηση πρακτόρων AI

Πέρα από τη δημιουργία των δικών σας περιπτώσεων δοκιμών, μπορείτε να χρησιμοποιήσετε υπάρχουσες συλλογές τυποποιημένων εργασιών αξιολόγησης, γνωστές ως benchmarks, για να αξιολογήσετε τις δυνατότητες του πράκτορα.

Ωστόσο, τα benchmarks δεν είναι αλάνθαστα. Οι έλεγχοι του SWE-bench, οι αναθεωρήσεις benchmarks της Epoch AI και οι σωστές απαντήσεις που αρχικά απορρίφθηκαν στο TheoPhysEval δείχνουν πώς οι εσφαλμένες εργασίες ή αναμενόμενες απαντήσεις μπορούν να αλλοιώσουν τα αποτελέσματα της αξιολόγησης.

Όπως συμβουλεύει ο Khomutov, επιλέξτε επίκαιρα benchmarks σχετικά με τον τομέα σας και διερευνήστε τις απροσδόκητες επιτυχίες ή αποτυχίες προτού αντιμετωπίσετε τις βαθμολογίες ως αξιόπιστη ένδειξη της απόδοσης του πράκτορα.

Βήμα 3. Εκτελέστε τον πράκτορα σε ένα επαναλήψιμο περιβάλλον δοκιμών

Ένα επαναλήψιμο περιβάλλον δοκιμών είναι μια ελεγχόμενη διάταξη στην οποία μπορείτε να εκτελέσετε έναν πράκτορα AI στις ίδιες περιπτώσεις δοκιμών, υπό τις ίδιες αρχικές συνθήκες, και να συγκρίνετε τα αποτελέσματα. Περιλαμβάνει έναν φάκελο με περιπτώσεις δοκιμών, ένα σενάριο Python που εκτελεί τον πράκτορα ή ένα σύνολο ελέγχων που αξιολογούν τα αποτελέσματα.

Μπορείτε να ξεκινήσετε αποθηκεύοντας αντιπροσωπευτικές εισόδους ως αρχεία JSON και χρησιμοποιώντας ένα σενάριο Python για να εκτελέσετε τη ροή εργασίας του πράκτορά σας και να ελέγξετε τις εξόδους του με assertions. Για τον πράκτορα αποθέματος της μονάδας παραγωγής μας, ένα επαναλήψιμο περιβάλλον δοκιμών θα μπορούσε να μοιάζει κάπως έτσι:

Μεγέθυνση

Για να δημιουργήσετε ένα επαναλήψιμο περιβάλλον δοκιμών, ακολουθήστε τα εξής βήματα:

1. Αποθηκεύστε αντιπροσωπευτικές εισόδους. Διατηρήστε πραγματικά συμβάντα ή περιπτώσεις δοκιμών με την ίδια δομή που λαμβάνει η εφαρμογή σας στο περιβάλλον παραγωγής. Στο σενάριό μας, θα αποθηκεύατε ως αρχείο JSON ένα αίτημα συντήρησης που περιέχει το αναγνωριστικό του μηχανήματος, το απαιτούμενο ανταλλακτικό και την ημερομηνία συντήρησης, μαζί με ένα στιγμιότυπο των δεδομένων αποθέματος και εγκεκριμένων ανταλλακτικών.
2. Εκτελέστε τη ροή εργασίας. Περάστε κάθε είσοδο από τον πράκτορα, συμπεριλαμβανομένων των βημάτων ανάκτησης, των κλήσεων εργαλείων και της δημιουργίας απόκρισης.
3. Καταγράψτε το αποτέλεσμα και το ίχνος. Αποτυπώστε την τελική έξοδο και τις σχετικές ενδιάμεσες ενέργειες (όπως οι αναζητήσεις στο απόθεμα), ώστε να βλέπετε όχι μόνο αν ο πράκτορας απέτυχε, αλλά και πού.
4. Επαναλάβετε τις περιπτώσεις με βάση τη σοβαρότητα της αστοχίας, τη συχνότητα και τη δυσκολία διόρθωσης του προβλήματος. Οι εφαρμογές LLM είναι μη ντετερμινιστικές (μπορούν να παράγουν διαφορετικά αποτελέσματα από πανομοιότυπες εισόδους), επομένως μια επιτυχημένη εκτέλεση δεν εγγυάται ότι θα πετύχει και η επόμενη. Αναφέρετε το ποσοστό των επιτυχημένων δοκιμών και εξετάστε τις αστοχίες.

Για το τελευταίο, ο Khomutov συνιστά τη μέτρηση του pass@1 (πόσο συχνά ο πράκτορας επιτυγχάνει με μία μόνο προσπάθεια) και του pass@k (η πιθανότητα επιτυχίας τουλάχιστον μία φορά σε έναν καθορισμένο αριθμό προσπαθειών). Αν αναφέρετε το pass@k, προσδιορίστε τον αριθμό των προσπαθειών, καθώς η παραγωγή μίας σωστής απάντησης ανάμεσα σε πολλές δεν σημαίνει ότι ο πράκτορας ξέρει ποια να επιλέξει.

Καθώς η εφαρμογή σας μεγαλώνει, χρησιμοποιήστε ένα πλαίσιο δοκιμών όπως το pytest για να οργανώνετε και να εκτελείτε δοκιμές, και εξετάστε το ενδεχόμενο να αποθηκεύετε μεγάλα σύνολα δεδομένων δοκιμών και αποτελέσματα σε μια βάση δεδομένων.

Βήμα 4. Επιλέξτε τον κατάλληλο βαθμολογητή για κάθε έλεγχο

Ο βαθμολογητής (που συχνά αποκαλείται και αξιολογητής) είναι ένας μηχανισμός —ένα κομμάτι κώδικα, ένα LLM που καθοδηγείται από μια ρουμπρίκα βαθμολόγησης ή ένας ανθρώπινος ελεγκτής— που ελέγχει την έξοδο ή την ενέργεια ενός πράκτορα έναντι ενός καθορισμένου κριτηρίου. Ο βαθμολογητής επιστρέφει μια κρίση επιτυχίας/αποτυχίας και μια εξήγηση που προσδιορίζει τα σχετικά τεκμήρια.

Σημείωση: Η ρουμπρίκα βαθμολόγησης είναι ένα σύνολο κριτηρίων και οδηγιών που ορίζουν τι θεωρείται σωστό ή αποδεκτό αποτέλεσμα.

Ο κατάλληλος τύπος βαθμολογητή εξαρτάται από το τι προσπαθείτε να επαληθεύσετε. Δείτε πώς συγκρίνονται οι τρεις προσεγγίσεις:

Μερικές φορές, διαφορετικές πτυχές της ίδιας εκτέλεσης μπορεί να απαιτούν διαφορετικές μεθόδους αξιολόγησης, οπότε ίσως χρειαστεί να συνδυάσετε βαθμολογητές.

Πώς συνδυάζετε βαθμολογητές;

Ρωτάτε: «Μπορεί το αποτέλεσμα να επαληθευτεί έναντι ενός γνωστού κανόνα ή μιας αναμενόμενης τιμής ή απαιτεί κρίση ανθρώπινου τύπου;»

• Αν μπορείτε να επαληθεύσετε το αποτέλεσμα με ακρίβεια, ξεκινήστε με έναν βαθμολογητή βασισμένο σε κώδικα. Οι βαθμολογητές που βασίζονται σε κώδικα μπορούν επίσης να επαληθεύσουν δομημένες εξόδους, έγκυρες τιμές πεδίων, ορίσματα εργαλείων ή την τελική κατάσταση μιας βάσης δεδομένων.
• Αν ο έλεγχος απαιτεί ερμηνεία του πλαισίου, χρησιμοποιήστε την προσέγγιση LLM ως κριτής.
• Χρησιμοποιήστε ανθρώπινους ελεγκτές για αποφάσεις που απαιτούν εξειδίκευση στον τομέα ή είναι αμφισβητούμενες.

Σημαντικό! Ένας βαθμολογητής LLM μπορεί να παρερμηνεύσει τα τεκμήρια ή να εφαρμόσει λανθασμένα μια ρουμπρίκα. Γι’ αυτό χρειάζεται ένα επιπλέον βήμα αξιολόγησης: βαθμονόμηση έναντι ανθρώπινων κρίσεων.

Βαθμονομήστε τον βαθμολογητή LLM έναντι ανθρώπινων κρίσεων.

Ουσιαστικά, η βαθμονόμηση απαιτεί από έναν ειδικό του τομέα να εκτιμήσει πραγματικές εκτελέσεις του πράκτορα. Στη συνέχεια, ο ειδικός συγκρίνει τις κρίσεις του με εκείνες του LLM και βελτιώνει τη ρουμπρίκα βαθμολόγησης με βάση τις διαφωνίες.

Ακολουθεί μια διαδικασία βαθμονόμησης βαθμολογητή σε πέντε βήματα:

1. Συλλέξτε παραδείγματα εισόδων και εξόδων του πράκτορα, καθώς και σχετικά ίχνη.
2. Ζητήστε από έναν ειδικό του τομέα να εκτιμήσει ανεξάρτητα αν κάθε παράδειγμα πληροί το κριτήριο αξιολόγησης.
3. Εκτελέστε τον βαθμολογητή LLM σε αυτά τα παραδείγματα.
4. Συγκρίνετε τις κρίσεις του ανθρώπου και του μοντέλου.
5. Διερευνήστε τις διαφωνίες και βελτιώστε τη ρουμπρίκα του βαθμολογητή προτού τον δοκιμάσετε σε νέα παραδείγματα.

Ο Khomutov τονίζει επίσης τη σημασία του να ελέγχεται ξεχωριστά η συνέπεια του βαθμολογητή LLM:

«Δώστε του την ίδια ακριβώς αποθηκευμένη εκτέλεση και τα ίδια αρχεία αρκετές φορές, χωρίς να εκτελέσετε ξανά τον πράκτορα. Έτσι μπορείτε να διαχωρίσετε τη διακύμανση στη δουλειά του πράκτορα από τη διακύμανση στη βαθμολόγηση.»

Αν η ίδια έξοδος λαμβάνει διαφορετικές ετυμηγορίες, μην υποθέσετε ότι κάθε αλλαγή στη βαθμολογία οφείλεται στον πράκτορα. Αντίθετα, εξετάστε έναν πίνακα σύγχυσης που δείχνει πότε ο βαθμολογητής εντόπισε σωστά σφάλματα, πότε τα παρέλειψε και πότε επισήμανε λανθασμένα αποδεκτές εξόδους.

Ο ανθρώπινος έλεγχος παραμένει απαραίτητος για τη θέσπιση κρίσεων αναφοράς, την επίλυση αμφισβητούμενων περιπτώσεων και τον εντοπισμό νέων τρόπων αστοχίας που οι υπάρχοντες βαθμολογητές δεν σχεδιάστηκαν να ανιχνεύουν.

Βήμα 5. Συγκρίνετε εκδόσεις και εκτελέστε ελέγχους παλινδρόμησης

Ας υποθέσουμε ότι η ανάλυση σφαλμάτων αποκαλύπτει ότι ο πράκτορας αποθέματός σας προτείνει συχνά μη εγκεκριμένα ανταλλακτικά αντικατάστασης. Τροποποιείτε το system prompt του ώστε να απαιτεί ρητό έλεγχο συμβατότητας. Η αρχική περίπτωση που αποτύγχανε τώρα περνά. Πώς όμως ξέρετε ότι η αλλαγή δεν έχει επηρεάσει άλλες εργασίες;

Εδώ ακριβώς μπαίνουν στο παιχνίδι οι δοκιμές παλινδρόμησης.

Οι δοκιμές παλινδρόμησης συνίστανται στην επανεκτέλεση περιπτώσεων δοκιμών που είχαν προηγουμένως επιτύχει, μετά από αλλαγή στο prompt, στο μοντέλο ή στη ροή εργασίας ενός πράκτορα, ώστε να διασφαλιστεί ότι η αλλαγή δεν εισήγαγε νέες αστοχίες.

1. Αναπαραγάγετε την αρχική αστοχία χρησιμοποιώντας μια αποθηκευμένη είσοδο από το σύνολο δοκιμών.
2. Κάντε μια στοχευμένη αλλαγή στο prompt, στο μοντέλο ή στη ροή εργασίας.
3. Εκτελέστε ξανά τη δοκιμή που αποτύγχανε για να ελέγξετε αν το πρόβλημα επιλύθηκε.
4. Εκτελέστε τις υπόλοιπες δοκιμές για να επιβεβαιώσετε ότι η αλλαγή δεν έχει επηρεάσει αρνητικά συμπεριφορές που προηγουμένως λειτουργούσαν σωστά.
5. Εξετάστε τα αποτελέσματα και διερευνήστε τυχόν νέες αποτυχίες.

Συγκρίνετε τον αρχικό και τον ενημερωμένο πράκτορα με τα ίδια σενάρια δοκιμών και τα ίδια κριτήρια βαθμολόγησης, ώστε να έχετε ακριβή αποτελέσματα.

Βήμα 6: Παρακολουθήστε την απόδοση του πράκτορα AI στην παραγωγή

Η αξιολόγηση του πράκτορα δεν σταματά μόλις θέσετε την εφαρμογή σας σε λειτουργία. Όπως εξηγούν οι Husain και Shankar, οι ίδιοι αξιολογητές που χρησιμοποιείτε κατά την ανάπτυξη μπορούν να εκτελούνται και σε πραγματικά δεδομένα παραγωγής, ώστε να μετράτε πώς αποδίδει ο πράκτοράς σας με την πάροδο του χρόνου.

Αυτό είναι γνωστό ως online αξιολόγηση και αποτελεί μέρος μιας ευρύτερης διαδικασίας παρακολούθησης της παραγωγής, η οποία βοηθά στον εντοπισμό επαναλαμβανόμενων αποτυχιών, αλλά και αποτυχιών που ήταν μέχρι πρότινος άγνωστες.

Η διαδικασία είναι επαναληπτική και περιλαμβάνει τέσσερις αλληλοσυμπληρούμενες δραστηριότητες:

• Εκτελέστε βαθμονομημένους κριτές LLM σε ίχνη παραγωγής. Πάρτε δείγματα από πραγματικές αλληλεπιδράσεις του πράκτορα και εφαρμόστε τους αξιολογητές που έχετε ήδη επικυρώσει έναντι ανθρώπινων κρίσεων.
• Παρακολουθήστε τα ποσοστά αποτυχίας με την πάροδο του χρόνου. Χρησιμοποιήστε τις κατηγορίες αποτυχιών που ορίστηκαν κατά την ανάλυση σφαλμάτων για να ποσοτικοποιήσετε τα επαναλαμβανόμενα προβλήματα.
• Συνεχίστε να ελέγχετε τα ίχνη χειροκίνητα. Οι αυτοματοποιημένοι αξιολογητές εντοπίζουν μόνο τα προβλήματα που έχουν σχεδιαστεί να εντοπίζουν. Εξετάστε χειροκίνητα δείγματα πραγματικών αλληλεπιδράσεων του πράκτορα για να ανακαλύψετε νέα σφάλματα ή ασυνήθιστα αιτήματα χρηστών.
• Χρησιμοποιήστε δοκιμές A/B για να μετρήσετε τα επιχειρηματικά αποτελέσματα (μόνο όταν ενδείκνυται). Συγκρίνετε διαφορετικά prompt, μοντέλα ή ροές εργασίας με βάση μετρικές όπως η ολοκλήρωση εργασιών, η ικανοποίηση των χρηστών και ο χρόνος επίλυσης. Η διαδικασία βοηθά να διαπιστώσετε αν μια αλλαγή βελτιώνει την πραγματική εμπειρία του προϊόντος, πέρα από την επιτυχία σε μεμονωμένες δοκιμές.

Μια σημαντική επισήμανση: οι αξιολογήσεις δεν χρειάζεται να είναι τέλειες. Απλώς πρέπει να είναι αρκετά καλές ώστε να βελτιώνουν το προϊόν σας.

Συνηθισμένες παρανοήσεις στην αξιολόγηση πρακτόρων AI

• Οι αξιολογήσεις είναι απλώς δοκιμές μονάδας. Δεν είναι· οι δοκιμές μονάδας (unit tests) είναι μικροί, αυτοματοποιημένοι έλεγχοι που αποτελούν μόνο ένα μέρος της αξιολόγησης. Οι αξιολογήσεις περιλαμβάνουν επίσης ποιοτική ανάλυση σφαλμάτων, ανθρώπινες κρίσεις, παρακολούθηση της παραγωγής και πειράματα για τη μέτρηση της ποιότητας της εφαρμογής.
• Μια πλατφόρμα αξιολόγησης μπορεί να κάνει τα πάντα για εσάς. Τα έτοιμα εργαλεία μπορούν να αυτοματοποιήσουν ορισμένους ελέγχους, αλλά δεν μπορούν να καθορίσουν ποιοι τρόποι αποτυχίας (τύποι σφαλμάτων ή ανεπιθύμητες συμπεριφορές του πράκτορα) έχουν σημασία για το προϊόν σας.
• Μπορείτε να αφήσετε ένα LLM να αξιολογεί τα πάντα. Πρόκειται για μεγάλη πλάνη. Η ανάλυση σφαλμάτων υπό την καθοδήγηση ανθρώπων και η βαθμονόμηση των αξιολογητών παραμένουν απαραίτητες, καθώς τα LLM δεν διαθέτουν το επιχειρηματικό πλαίσιο που απαιτείται για τον εντοπισμό κάθε προβλήματος.
• Οι δοκιμές A/B ή η απλή χρήση του πράκτορα αντικαθιστούν τις αξιολογήσεις. Λάθος. Οι δοκιμές A/B μπορούν να δείξουν ποια έκδοση αποδίδει καλύτερα με βάση τις επιλεγμένες μετρικές, αλλά δεν μπορούν από μόνες τους να εξηγήσουν τα υποκείμενα προβλήματα.

Συχνές ερωτήσεις για την αξιολόγηση πρακτόρων AI

1. Ποια είναι η διαφορά μεταξύ της αξιολόγησης πρακτόρων AI και της αξιολόγησης LLM;

Η αξιολόγηση LLM μετρά πόσο καλά ένα γλωσσικό μοντέλο εκτελεί μια συγκεκριμένη εργασία, όπως η απάντηση σε μια ερώτηση, η σύνοψη ενός εγγράφου ή η εξαγωγή πληροφοριών. Η αξιολόγηση πρακτόρων AI αξιολογεί ένα σύστημα που εκτελεί αυτόνομα πολλαπλά βήματα για να ολοκληρώσει μια εργασία.

Σε αντίθεση με μια τυπική αξιολόγηση LLM, η αξιολόγηση πρακτόρων εξετάζει τόσο το τελικό αποτέλεσμα όσο και την ακολουθία ενεργειών που οδήγησαν σε αυτό, συμπεριλαμβανομένων των κλήσεων εργαλείων, των αποφάσεων και της συμμόρφωσης με προκαθορισμένους κανόνες.

2. Βασικές μετρικές για την αξιολόγηση πρακτόρων AI

Οι μετρικές αξιολόγησης πρακτόρων AI χωρίζονται σε δύο γενικές κατηγορίες:

• Μετρικές τεχνικής απόδοσης: Ποσοστό επιτυχίας εργασιών, ορθότητα ενεργειών, ποιότητα απαντήσεων, αξιοπιστία (pass@1 και pass@k), καθυστέρηση απόκρισης, χρήση token και κόστος ανά επιτυχημένη εργασία.
• Μετρικές επιχειρηματικής απόδοσης και εμπειρίας χρήστη: Ικανοποίηση πελατών (CSAT), ποσοστό επίλυσης ζητημάτων, ποσοστό κλιμάκωσης, ποσοστό μετατροπών, χρόνος ολοκλήρωσης εργασιών και άλλα αποτελέσματα που αφορούν ειδικά τον ρόλο του πράκτορα.

Για παράδειγμα, ένας πράκτορας εξυπηρέτησης πελατών μπορεί να αξιολογείται με βάση την επιτυχή επίλυση ζητημάτων και την ικανοποίηση των πελατών, ενώ ένας πράκτορας AI για προμήθειες θα μπορούσε να μετράται με βάση την ακρίβεια των αιτημάτων αναπλήρωσης αποθεμάτων, τα ποσοστά έγκρισης και τη διάρκεια του κύκλου προμηθειών.

Οι κατάλληλες μετρικές θα πρέπει να αντικατοπτρίζουν τόσο το πόσο αξιόπιστα αποδίδει ο πράκτορας όσο και το αν η δουλειά του βελτιώνει τα επιχειρηματικά αποτελέσματα.

3. Ποια είναι τα καλύτερα εργαλεία για την αξιολόγηση πρακτόρων AI;

Στις συνήθεις επιλογές περιλαμβάνονται:

• Πλαίσια δοκιμών: Οι δηλώσεις assert της Python και το pytest είναι χρήσιμα για την εκτέλεση επαναλήψιμων σεναρίων δοκιμών και τον έλεγχο συγκεκριμένων συνθηκών, όπως το αν ένας πράκτορας επέλεξε το σωστό εργαλείο ή επέστρεψε έγκυρο κωδικό εξαρτήματος.
• Πλαίσια αξιολόγησης πρακτόρων AI: Το DeepEval και το agent-eval toolkit της Google υποστηρίζουν πιο σύνθετες αξιολογήσεις, συμπεριλαμβανομένων ιχνών εκτέλεσης, αξιολογητών που βασίζονται σε LLM και αυτοματοποιημένων δοκιμών παλινδρόμησης.
• Πλατφόρμες αξιολόγησης και παρατηρησιμότητας: Τα LangSmith, Arize Phoenix και MLflow βοηθούν τις ομάδες να εξετάζουν τη συμπεριφορά των πρακτόρων, να διαχειρίζονται σύνολα δεδομένων αξιολόγησης, να συγκρίνουν εκδόσεις πρακτόρων και να παρακολουθούν την απόδοση στην παραγωγή.

4. Πώς αυτοματοποιούνται οι αξιολογήσεις πρακτόρων AI;

Μπορείτε να αυτοματοποιήσετε τις αξιολογήσεις πρακτόρων AI δημιουργώντας επαναλήψιμες δοκιμές, εφαρμόζοντας αυτοματοποιημένους αξιολογητές και ενσωματώνοντας αυτούς τους ελέγχους στις ροές εργασίας ανάπτυξης και παραγωγής:

1. Δημιουργήστε ένα σύνολο δεδομένων αξιολόγησης: Συγκεντρώστε αντιπροσωπευτικές εργασίες χρηστών, αναμενόμενα αποτελέσματα, γνωστές αποτυχίες και ίχνη εκτέλεσης του πράκτορα. Συμπεριλάβετε ακραίες περιπτώσεις, όπως αποτυχημένες κλήσεις εργαλείων, ελλιπείς πληροφορίες και μη εξουσιοδοτημένες ενέργειες.
2. Αυτοματοποιήστε την εκτέλεση και τη βαθμολόγηση των δοκιμών: Χρησιμοποιήστε πλαίσια όπως το pytest ή το DeepEval για να εκτελείτε σενάρια δοκιμών και να εφαρμόζετε ελέγχους βασισμένους σε κώδικα ή αξιολογητές LLM. Επικυρώστε τους αξιολογητές LLM έναντι ανθρώπινων κρίσεων προτού βασιστείτε στις βαθμολογίες τους.
3. Ενσωματώστε τις αξιολογήσεις στο CI/CD: Επανεκτελέστε αυτόματα τις δοκιμές παλινδρόμησης όταν οι προγραμματιστές ενημερώνουν τα prompt, τα μοντέλα, τα εργαλεία ή τη ροή εργασίας ενός πράκτορα. Συγκρίνετε τα αποτελέσματα με μια γραμμή βάσης και ορίστε όρια ποιότητας που εμποδίζουν τη διάθεση νέων εκδόσεων όταν αποτυγχάνουν κρίσιμοι έλεγχοι.
4. Εφαρμόστε βαθμονομημένους αξιολογητές σε δείγματα ιχνών παραγωγής, παρακολουθήστε τα ποσοστά αποτυχίας και άλλες μετρικές απόδοσης και διερευνήστε τα νέα σφάλματα μέσω χειροκίνητου ελέγχου.