Φθορά πλαισίου στους πράκτορες AI: γιατί οι μεγάλες εργασίες χάνουν σε ακρίβεια και πώς να την αποτρέψετε

Ένας οδηγός για το τι συσσωρεύεται στο πλαίσιο ενός πράκτορα AI, γιατί αυτό βλάπτει την ακρίβεια και πώς να ρυθμίσετε εργασίες που παραμένουν αξιόπιστες.

Diagram of an AI agent's context growing from task start to late in a task: instructions are joined by stacked search results, websites, documents, and notes, while a bar showing how closely the agent follows the original instructions shrinks.

Τι σημαίνει η φθορά πλαισίου για τους πράκτορες AI

Η φθορά πλαισίου στους πράκτορες AI είναι η σταδιακή απώλεια ακρίβειας που εμφανίζεται καθώς γεμίζει το πλαίσιο ενός πράκτορα κατά τη διάρκεια μιας μακροσκελούς εργασίας.

Το πλαίσιο ενός πράκτορα είναι οι πληροφορίες που έχει στη διάθεσή του το μοντέλο για το επόμενο βήμα του. Μπορεί να περιλαμβάνει οδηγίες, προηγούμενα μηνύματα, αποτελέσματα αναζήτησης και κείμενο από ιστότοπους ή αρχεία. Καθώς ο πράκτορας εργάζεται, μπορεί να προσθέσει κι άλλα.

Για παράδειγμα, ας υποθέσουμε ότι η εργασία ενός πράκτορα είναι να βρει προμηθευτές που παραδίδουν εντός δύο εβδομάδων. Στην αρχή, το πλαίσιό του περιέχει μόνο αυτό το αίτημα. Στα μισά της εργασίας, το πλαίσιο θα περιλαμβάνει επίσης το κείμενο δεκάδων ιστότοπων προμηθευτών, αρκετές σελίδες αποτελεσμάτων αναζήτησης και σημειώσεις για το ποιους προμηθευτές έχει ήδη ελέγξει ο πράκτορας.

Υπάρχει ένα όριο στο πόσο πλαίσιο μπορεί να χωρέσει ένα μοντέλο (το λεγόμενο παράθυρο πλαισίου). Το παράθυρο μετριέται σε tokens, δηλαδή μικρά τμήματα κειμένου, συνήθως μια λέξη ή μέρος μιας λέξης. Η φθορά πλαισίου αυξάνεται καθώς μεγαλώνει το πλαίσιο, γι’ αυτό είναι πιο πιθανό να εμφανιστεί σε μακροσκελείς εργασίες με πολλά βήματα.

Καθώς η φθορά πλαισίου επιδεινώνεται, ο πράκτορας γίνεται λιγότερο ακριβής. Μπορεί να ακολουθεί τις αρχικές του οδηγίες λιγότερο πιστά, να παραβλέπει λεπτομέρειες ή να μπερδεύει πληροφορίες που μοιάζουν με αυτές που χρειάζεται.

Για παράδειγμα, ο πράκτορας μπορεί να αρχίσει να συμπεριλαμβάνει προμηθευτές που χρειάζονται έξι εβδομάδες, παρόλο που του ζητήθηκε να βρει παράδοση εντός δύο εβδομάδων. Η οδηγία εξακολουθεί να βρίσκεται στο πλαίσιό του, αλλά δεν καθορίζει πλέον τις επιλογές του.

Η φθορά πλαισίου δεν είναι το ίδιο με την απλή εξάντληση του χώρου στο παράθυρο πλαισίου. Όταν το πλαίσιο μιας εργασίας ξεπερνά το παράθυρο, μέρος του υλικού αποκόπτεται ή η εργασία αποτυγχάνει. Η φθορά πλαισίου ξεκινά πολύ πριν από αυτό το σημείο, ενώ όλα χωρούν ακόμη.

Επίσης, δεν είναι το ίδιο με τη δηλητηρίαση πλαισίου (όταν παραπλανητικές ή επιβλαβείς πληροφορίες εισέρχονται στο πλαίσιο του πράκτορα). Ένας πράκτορας με ακριβείς και πλήρεις πληροφορίες μπορεί και πάλι να υποστεί φθορά πλαισίου.

Γιατί συμβαίνει η φθορά πλαισίου

Η φθορά πλαισίου συμβαίνει επειδή η προσοχή ενός μοντέλου είναι περιορισμένη, ακόμη κι όταν το παράθυρο πλαισίου του έχει άφθονο διαθέσιμο χώρο. Στα μοντέλα AI, η προσοχή (attention) είναι ο τεχνικός όρος για τον τρόπο με τον οποίο ένα μοντέλο αποφασίζει σε ποια μέρη της εισόδου του θα βασιστεί καθώς γράφει κάθε λέξη μιας απάντησης. Κάθε μέρος του πλαισίου ανταγωνίζεται για αυτή την προσοχή. Όσο περισσότερο κείμενο υπάρχει, τόσο λιγότερη προσοχή λαμβάνει κάθε μέρος.

Για παράδειγμα, η Chroma δημοσίευσε μια μελέτη σχετικά με το πώς το μήκος της εισόδου επηρεάζει τα μοντέλα AI. Εξέτασε 18 μοντέλα από τις Anthropic, OpenAI, Google και Alibaba. Σε μία δοκιμή, οι ερευνητές έκρυψαν μια πρόταση με μια συμβουλή γραφής μέσα σε μια μεγάλη συλλογή δοκιμίων. Στη συνέχεια, ρώτησαν το μοντέλο ποια ήταν η συμβουλή.

Επανέλαβαν τη δοκιμή πολλές φορές, προσθέτοντας κάθε φορά περισσότερο κείμενο δοκιμίων. Η πρόταση και η ερώτηση δεν άλλαξαν ποτέ. Άλλαζε μόνο η ποσότητα του κειμένου γύρω τους.

Όσο περισσότερο κείμενο έπρεπε να διαβάσουν τα μοντέλα, τόσο χειρότερα απέδιδαν. Το εύρημα αυτό επιβεβαιώθηκε σε κάθε δοκιμή της αναφοράς. Οι ερευνητές προβλέπουν ότι η πτώση της ακρίβειας θα ήταν ακόμη μεγαλύτερη σε πραγματικές εργασίες με πολλά βήματα, όπως οι περισσότερες εργασίες πρακτόρων.

Πώς μπορεί η φθορά πλαισίου να επηρεάσει τους πράκτορες AI

Η φθορά πλαισίου συνήθως εκδηλώνεται με έναν από τους εξής τέσσερις τρόπους:

Απώλεια επαφής με τις αρχικές οδηγίες

Η απλούστερη δοκιμή της Chroma ζητούσε από τα μοντέλα να αντιγράψουν ακριβώς μια μεγάλη σειρά επαναλαμβανόμενων λέξεων, στην οποία είχε παρεμβληθεί κάπου μία διαφορετική λέξη. Ήταν μια απλούστατη εργασία με σαφή οδηγία. Παρ’ όλα αυτά, η απόδοση μειώθηκε σε όλα τα μοντέλα καθώς το κείμενο μεγάλωνε. Ορισμένα μοντέλα άρχισαν να παράγουν λέξεις που δεν υπήρχαν καθόλου στην είσοδο.

Σε μια εργασία πράκτορα, ο χρήστης συνήθως ορίζει συγκεκριμένους περιορισμούς στην αρχή της εργασίας, όπως έναν προϋπολογισμό ή μια απαιτούμενη μορφή. Ο πράκτορας μπορεί να τους εφαρμόζει λιγότερο συνεπώς καθώς μεγαλώνει το πλαίσιο. Η αιτία είναι το συνολικό μήκος του πλαισίου, όχι η θέση της οδηγίας.

Λεπτομέρειες από τη μέση μιας εργασίας που παραβλέπονται

Σύμφωνα με μια μελέτη του Stanford του 2023, τα μοντέλα AI αξιοποιούν τις πληροφορίες πιο αξιόπιστα όταν αυτές βρίσκονται στην αρχή ή στο τέλος ακριβώς της εισόδου τους. Σε μία δοκιμή, οι ερευνητές έδωσαν στα μοντέλα ένα σύνολο 20 εγγράφων και έθεσαν μια ερώτηση στην οποία απαντούσε μόνο ένα από αυτά. Όταν το έγγραφο αυτό ήταν πρώτο ή τελευταίο, τα μοντέλα συνήθως έβρισκαν την απάντηση. Όταν βρισκόταν στη μέση του συνόλου, την έχαναν πολύ συχνότερα. Οι ερευνητές το ονομάζουν αυτό φαινόμενο θέσης.

Το ίδιο μοτίβο ισχύει και για τους πράκτορες. Πληροφορίες που βρέθηκαν νωρίτερα σε μια εργασία μπορεί να καταλήξουν στη μέση μιας μεγάλης συνομιλίας, όπου ορισμένα μοντέλα δυσκολεύονται περισσότερο να τις αξιοποιήσουν. Στο παράδειγμα με τους προμηθευτές, η τελική λίστα μπορεί να παραλείπει έναν καλό προμηθευτή που ο πράκτορας έλεγξε κάπου στη μέση της εργασίας.

Σύγχυση παρόμοιων πληροφοριών

Καθώς μεγαλώνει το πλαίσιο, οι πράκτορες μπορεί να αναγνωρίζουν όλο και χειρότερα ποιες πληροφορίες ταιριάζουν με τις οδηγίες τους. Για παράδειγμα, ας υποθέσουμε ότι ο χρήστης ζήτησε από τον πράκτορα να βρει προμηθευτές που αποστέλλουν «εντός δύο εβδομάδων». Ο ιστότοπος ενός προμηθευτή αναφέρει «παράδοση εντός 14 ημερολογιακών ημερών από την παραγγελία». Σε μια σύντομη εργασία, ένας πράκτορας πιθανότατα θα καταλάβαινε ότι αυτά σημαίνουν το ίδιο πράγμα. Όταν όμως η πληροφορία είναι θαμμένη ανάμεσα σε δεκάδες άλλες σελίδες προμηθευτών, είναι πιο πιθανό να του διαφύγει η αντιστοιχία.

Εναλλακτικά, ο πράκτορας μπορεί να αρχίσει να συμπεριλαμβάνει αποτελέσματα που δεν είναι σχετικά. Ας υποθέσουμε ότι ο πράκτορας αναζητά προμηθευτές καρεκλών γραφείου. Ο ιστότοπος ενός προμηθευτή υπόσχεται παράδοση σε δύο εβδομάδες, αλλά μόνο για τα τραπέζια γραφείου. Οι καρέκλες του χρειάζονται έξι εβδομάδες. Ο ιστότοπος χρησιμοποιεί τις ίδιες λέξεις με την οδηγία, οπότε ο πράκτορας μπορεί παρ’ όλα αυτά να προσθέσει τον προμηθευτή στη λίστα του. Οι ερευνητές ονομάζουν μια τέτοια πληροφορία παράγοντα απόσπασης (distractor). Φαίνεται σχετική, αλλά δεν είναι, οπότε ανταγωνίζεται τις πληροφορίες που έχουν σημασία.

Η μελέτη της Chroma διαπίστωσε ότι και τα δύο προβλήματα επιδεινώνονταν καθώς αυξανόταν η ποσότητα του κειμένου γύρω από τις πληροφορίες.

Σφάλματα που εντοπίζονται δύσκολα

Η φθορά πλαισίου δεν προκαλεί μήνυμα σφάλματος. Ο πράκτορας συνεχίζει να εργάζεται και παραδίδει αποτέλεσμα που μοιάζει ολοκληρωμένο. Γι’ αυτό τα λάθη του περνούν εύκολα απαρατήρητα.

Στις δοκιμές της Chroma, αυτά τα λάθη είχαν δύο μορφές. Μερικές φορές ένα μοντέλο έδινε με σιγουριά μια απάντηση που ήταν λανθασμένη. Στο παράδειγμα της έρευνας προμηθευτών, ο πράκτορας μπορεί να παραδώσει μια τακτοποιημένη, καλά μορφοποιημένη λίστα προμηθευτών που περιλαμβάνει έναν προμηθευτή του οποίου τους όρους παράδοσης διάβασε λάθος.

Άλλες φορές ένα μοντέλο δήλωνε ότι δεν μπορούσε να βρει πληροφορίες που στην πραγματικότητα υπήρχαν. Για παράδειγμα, ο πράκτορας θα μπορούσε να παραδώσει μια αναφορά που λέει ότι κανένας προμηθευτής δεν τηρεί το όριο των δύο εβδομάδων, ενώ αρκετοί το τηρούν.

Πώς να ρυθμίσετε τις εργασίες πρακτόρων ώστε να μειώσετε τη φθορά πλαισίου

Η σωστή ρύθμιση των εργασιών ελαχιστοποιεί τον αντίκτυπο της φθοράς πλαισίου και διατηρεί τον πράκτορα όσο το δυνατόν πιο ακριβή καθ’ όλη τη διάρκεια της εργασίας. Οι παρακάτω βέλτιστες πρακτικές μπορούν να βοηθήσουν.

Διατυπώστε την εργασία ως ανάθεση

Μια σαφής ανάθεση διατηρεί το πλαίσιο μικρότερο. Ο πράκτορας ξέρει πότε έχει τελειώσει, οπότε σταματά να συλλέγει υλικό μόλις έχει αρκετό. Οι συγκεκριμένες απαιτήσεις του δίνουν επίσης ένα απτό κριτήριο για να ελέγχει κάθε σελίδα. Έτσι, ο πράκτορας εντοπίζει πιο εύκολα τις σωστές πληροφορίες.

Πριν στείλετε μια εργασία, βεβαιωθείτε ότι καλύπτει τρία πράγματα:

  • Η εργασία: τι πρέπει να κάνει και να παραδώσει ο πράκτορας, όπως «βρες προμηθευτές και επίστρεψε μια σύντομη λίστα».
  • Οι απαιτήσεις: τα στοιχεία που ο πράκτορας δεν μπορεί να μαντέψει, όπως ο προϋπολογισμός, η προθεσμία, η διεύθυνση παράδοσης και για ποιον προορίζεται το αποτέλεσμα.
  • Το αποτέλεσμα: η μορφή, η έκταση και η δομή, όπως «ένας πίνακας με όνομα, τιμή ανά καρέκλα και χρόνο παράδοσης».

Συνολικά, το ερώτημα για την εργασία με τους προμηθευτές θα μπορούσε να μοιάζει κάπως έτσι:

«Βρες 10 προμηθευτές που μπορούν να παραδώσουν 40 καρέκλες γραφείου στο γραφείο μας στο Σικάγο εντός δύο εβδομάδων, με τιμή κάτω από 250 $ ανά καρέκλα. Επίστρεψε έναν πίνακα με το όνομα του προμηθευτή, την τιμή ανά καρέκλα, τον χρόνο παράδοσης και έναν υπερσύνδεσμο προς τη σελίδα του προϊόντος. Η λίστα προορίζεται για τον υπεύθυνο του γραφείου μας, ο οποίος θα κάνει την παραγγελία.»

Διατηρήστε κάθε εργασία εστιασμένη

Μία εργασία με έναν σαφή στόχο διατηρεί το πλαίσιο μικρό. Οι μακροσκελείς εργασίες κοστίζουν επίσης περισσότερο. Κάθε βήμα επεξεργάζεται όλα όσα έχουν συλλεχθεί μέχρι εκείνη τη στιγμή, οπότε ένα διογκωμένο πλαίσιο καταναλώνει περισσότερες πιστώσεις σε κάθε βήμα.

Για ένα έργο με πολλά μέρη, χωρίστε το:

  1. Καταγράψτε τα επιμέρους παραδοτέα, για παράδειγμα μια αναζήτηση προμηθευτών, μια σύγκριση τιμών και ένα email προς τον προμηθευτή που επιλέχθηκε.
  2. Εκτελέστε κάθε παραδοτέο ως ξεχωριστή εργασία.
  3. Μεταφέρετε από τη μία εργασία στην επόμενη μόνο το τελικό αποτέλεσμα. Για παράδειγμα, ανεβάστε τον πίνακα προμηθευτών ως αρχείο για να ξεκινήσετε την εργασία σύγκρισης, αντί να συνεχίσετε στο νήμα που τον δημιούργησε.

Έτσι, η εργασία σύγκρισης ξεκινά με έναν πίνακα αντί για όλες τις σελίδες.

Κατευθύνετε τον πράκτορα στις σωστές πηγές

Κάθε σελίδα που διαβάζει ο πράκτορας προστίθεται στο πλαίσιό του, μαζί με τα μενού, τις διαφημίσεις και το τυποποιημένο κείμενο γύρω από το χρήσιμο μέρος. Αν δώσετε στον πράκτορα απευθείας τις πηγές του, αυτός ο θόρυβος μειώνεται.

Ανεβάστε τα αρχεία από τα οποία εξαρτάται η εργασία, όπως τη λίστα εγκεκριμένων προμηθευτών, επισυνάπτοντάς τα στο ερώτημα. Όταν ο πράκτορας πρέπει να κάνει αναζήτηση στον ιστό, κατονομάστε τους ιστότοπους που αξίζει να ψάξει, όπως δύο αξιόπιστους καταλόγους προμηθευτών.

Συνδέστε τα εργαλεία στα οποία βρίσκονται οι πληροφορίες. Για παράδειγμα, στο Perplexity Computer, ανοίξτε τους Συνδέσμους στην πλαϊνή γραμμή και ενεργοποιήστε τις εφαρμογές που χρειάζεται η εργασία, όπως το Google Drive ή το Slack. Στη συνέχεια, αναφέρετέ τις στο ερώτημα: «Χρησιμοποίησε τις προδιαγραφές των καρεκλών στο Google Drive μας». Συνδέστε μόνο σχετικές εφαρμογές, καθώς κάθε σύνδεσμος καταλαμβάνει μέρος του πλαισίου του πράκτορα.

Αν οι πληροφορίες βρίσκονται σε μια εφαρμογή που δεν περιλαμβάνεται στη λίστα των Συνδέσμων, ίσως να είναι και πάλι δυνατό να τη συνδέσετε. Πολλές εφαρμογές προσφέρουν σύνδεσμο MCP (Model Context Protocol), έναν τυποποιημένο τρόπο σύνδεσης των εργαλείων AI με άλλο λογισμικό. Το Computer μπορεί να τους χρησιμοποιεί παράλληλα με τους ενσωματωμένους συνδέσμους του. Σε έναν εταιρικό λογαριασμό, ίσως χρειαστεί πρώτα να τους ενεργοποιήσει ένας διαχειριστής.

Ζητήστε έναν τελικό έλεγχο με βάση τις οδηγίες

Ολοκληρώστε το ερώτημα με ένα βήμα ελέγχου που κατονομάζει τους περιορισμούς με τη μεγαλύτερη σημασία:

«Πριν ολοκληρώσεις, έλεγξε κάθε προμηθευτή σε σχέση με αυτές τις απαιτήσεις: παράδοση εντός δύο εβδομάδων, κάτω από 250 $ ανά καρέκλα. Επισήμανε όσους δεν πληρούν αυτές τις απαιτήσεις αντί να τους παραλείψεις.»

Οι περιορισμοί εξακολουθούν να βρίσκονται στην αρχή του πλαισίου. Το βήμα ελέγχου δίνει στον πράκτορα λόγο να συγκρίνει το τελικό του αποτέλεσμα με τους περιορισμούς, αντί να βασίζεται στο ότι οι οδηγίες θα διατηρήσουν την επιρροή τους σε κάθε βήμα.

Παράλληλα, αν του ζητήσετε να επισημαίνει προβλήματα αντί απλώς να απορρίπτει αυτά τα αποτελέσματα, τα λάθη εντοπίζονται πιο εύκολα (όπως η απόρριψη ενός προμηθευτή που υπόσχεται παράδοση εντός 14 ημερολογιακών ημερών επειδή δεν χρησιμοποιεί τις λέξεις «δύο εβδομάδες»).

Ελέγξτε τη δουλειά σε ενδιάμεσα σημεία ελέγχου

Για μεγαλύτερες εργασίες, ενσωματώστε ένα σημείο ελέγχου στο ερώτημα:

«Ξεκίνα βρίσκοντας 20 υποψήφιους προμηθευτές και μετά σταμάτα. Θα επιβεβαιώσω τη λίστα πριν συλλέξεις τιμές.»

Ελέγξτε τη σύντομη λίστα με βάση τις αρχικές οδηγίες. Διορθώστε οτιδήποτε δεν είναι σωστό με ένα επόμενο μήνυμα και, στη συνέχεια, αφήστε τον πράκτορα να συνεχίσει. Τα λάθη που εντοπίζονται σε αυτό το σημείο δεν θα μεταφερθούν σε κάθε βήμα που ακολουθεί.

Ξεκινήστε νέα εργασία όταν μια εργασία ξεφεύγει από την πορεία της

Αν ο πράκτορας επαναλαμβάνει το ίδιο λάθος μετά από διορθώσεις, ξεκινήστε μια νέα εργασία. Κάθε διόρθωση προσθέτει περισσότερο κείμενο σε ένα ήδη μεγάλο πλαίσιο. Αντί γι’ αυτό, δημιουργήστε μια νέα εργασία. Επαναλάβετε τις οδηγίες, ανεβάστε οποιοδήποτε καλό αποτέλεσμα από την πρώτη προσπάθεια και ξεκινήστε από την αρχή.

Ορισμένοι πράκτορες κάνουν αυτόματα μια παραλλαγή αυτής της διαδικασίας, η οποία ονομάζεται συμπύκνωση (compaction). Καθώς μια εργασία μεγαλώνει, ο πράκτορας αντικαθιστά παλαιότερο υλικό, όπως το πλήρες κείμενο σελίδων που διάβασε νωρίς, με μια σύντομη περίληψη όσων βρήκε. Το Portable Computer της Perplexity συμπυκνώνει το πλαίσιό του με αυτόν τον τρόπο, ώστε το μοντέλο να παραμένει εντός της ποσότητας που μπορεί να διαχειριστεί καλά.

Είναι επίσης σημαντικό να ξεκινάτε νέα εργασία αν αλλάξει ο στόχος. Ένα νήμα που ξεκίνησε ως αναζήτηση προμηθευτών δεν θα πρέπει να μετατραπεί και σε έλεγχο συμβολαίου.

Μετατρέψτε τις επαναλαμβανόμενες οδηγίες σε δεξιότητα

Ορισμένες οδηγίες εμφανίζονται σε κάθε εργασία ενός συγκεκριμένου τύπου, όπως μια προτιμώμενη μορφή πίνακα, μια λίστα προμηθευτών προς αποφυγή ή ένα τυπικό βήμα ελέγχου. Στο Computer, αυτές μπορούν να αποθηκευτούν ως δεξιότητα, ένα επαναχρησιμοποιήσιμο σύνολο οδηγιών που ακολουθεί ο πράκτορας κάθε φορά. Μια δεξιότητα ενσωματώνει τις υπόλοιπες βέλτιστες πρακτικές σε κάθε εργασία που τη χρησιμοποιεί.

Για να δημιουργήσετε μία:

  1. Επιλέξτε μια εργασία που επαναλαμβάνεται συχνά, όπως η έρευνα προμηθευτών.
  2. Καταγράψτε τις οδηγίες που δίνετε κάθε φορά: τη μορφή, τους ελέγχους, τις πηγές που πρέπει να χρησιμοποιηθούν ή να αποφευχθούν.
  3. Αποθηκεύστε τις ως δεξιότητα. Οδηγίες που έχουν ήδη γραφτεί σε Markdown μπορούν να εισαχθούν απευθείας.
  4. Αναφέρετε τη δεξιότητα στα επόμενα ερωτήματα: «Χρησιμοποίησε τη δεξιότητα έρευνας προμηθευτών για να βρεις προμηθευτές καρεκλών για το γραφείο του Ντένβερ».

Πώς προσεγγίζει η Perplexity το πλαίσιο στην εργασία των πρακτόρων

Το Perplexity Computer χειρίζεται τις μακροσκελείς εργασίες με τρόπους που διατηρούν το πλαίσιο κάθε μοντέλου μικρό και σχετικό. Τρία στοιχεία του σχεδιασμού του περιορίζουν το πόσο πρέπει να διαβάσει ένα μοντέλο ταυτόχρονα.

Κατανομή της εργασίας σε υποπράκτορες

Το Computer αναλύει ένα αίτημα σε εργασίες και υποεργασίες και, στη συνέχεια, δημιουργεί υποπράκτορες για να τις εκτελέσουν. Κάθε υποπράκτορας εργάζεται σε ένα μέρος της δουλειάς στο δικό του πλαίσιο. Στην εργασία με τους προμηθευτές, ένας υποπράκτορας μπορεί να ερευνά τις τιμές ενώ ένας άλλος ελέγχει τους όρους παράδοσης. Κανένας δεν χρειάζεται να διαβάσει όλα όσα διάβασε ο άλλος.

Διατήρηση της δουλειάς σε αρχεία

Κάθε εργασία του Computer αποκτά τον δικό της χώρο εργασίας, με τα δικά της αρχεία, πρόγραμμα περιήγησης και εργαλεία. Ο πράκτορας μπορεί να αποθηκεύσει τη δουλειά του σε ένα αρχείο, όπως έναν πίνακα που ενημερώνεται συνεχώς με τους προμηθευτές που έχει ελέγξει. Στη συνέχεια, ανοίγει ξανά αυτό το αρχείο μόνο όταν το χρειάζεται.

Επιλογή σχετικών αποσπασμάτων από τα αποτελέσματα αναζήτησης

Οι ιστοσελίδες είναι γεμάτες υλικό που το μοντέλο δεν χρειάζεται, όπως μενού, διαφημίσεις, μεταδεδομένα και κείμενο για άλλα θέματα. Η συμπίεση πλαισίου με επίγνωση του ερωτήματος το αφαιρεί. Πριν μια σελίδα φτάσει στο μοντέλο, η Perplexity κρατά μόνο τις προτάσεις που σχετίζονται με το ερώτημα.

Εξερευνήστε συμβουλές, οδηγούς και παραδείγματα εργασιών για το Perplexity Computer για να εφαρμόσετε αυτά τα βήματα στην πράξη.

Συχνές ερωτήσεις

Είναι η φθορά πλαισίου το ίδιο με την ψευδαίσθηση;

Όχι, αλλά σχετίζονται. Ψευδαίσθηση είναι κάθε απάντηση που δηλώνει κάτι ψευδές ή αβάσιμο. Η φθορά πλαισίου είναι μία από τις συνθήκες που κάνουν τις ψευδαισθήσεις πιο πιθανές, μαζί με άλλα λάθη, όπως οι οδηγίες που αγνοούνται και οι λεπτομέρειες που παραβλέπονται.

Μπορεί ένα καλύτερο ερώτημα να διορθώσει τη φθορά πλαισίου;

Ένα σαφές ερώτημα μειώνει τη φθορά πλαισίου διατηρώντας την εργασία εστιασμένη. Ωστόσο, δεν μπορεί να εμποδίσει την αύξηση του πλαισίου. Σε μια αρκετά μακροσκελή εργασία, ο πράκτορας εξακολουθεί να συλλέγει περισσότερα από όσα μπορεί να αξιοποιήσει καλά, γι’ αυτό ο διαχωρισμός της εργασίας και ο έλεγχός της στην πορεία έχουν την ίδια σημασία με το ίδιο το ερώτημα.

Επηρεάζει η φθορά πλαισίου και τις συνηθισμένες συνομιλίες με AI, όχι μόνο τους πράκτορες;

Ναι. Σε μια συνομιλία, το πλαίσιο είναι ολόκληρη η μέχρι τώρα συζήτηση, συμπεριλαμβανομένων όλων των μηνυμάτων και τυχόν εγγράφων που επικολλήθηκαν ή ανέβηκαν σε αυτήν. Ένα νήμα που διαρκεί ώρες και καλύπτει πολλά θέματα μπορεί να οδηγήσει στα ίδια λάθη με μια μακροσκελή εργασία πράκτορα. Αν ξεκινάτε νέο νήμα για κάθε νέο θέμα, κάθε συζήτηση παραμένει εστιασμένη.

Πόσο μπορεί να διαρκέσει μια εργασία πριν εμφανιστεί η φθορά πλαισίου;

Δεν υπάρχει σταθερό όριο. Εξαρτάται από το μοντέλο και την εργασία. Για παράδειγμα, τα μοντέλα που εκτελούνται στη συσκευή με παράθυρα πλαισίου 260.000 tokens αρχίζουν να δυσκολεύονται πέρα από τα 100.000 tokens περίπου, πολύ πριν από το όριό τους. Επίσης, η πτώση είναι σταδιακή και όχι απότομη.