एआय एजंटमधील संदर्भ ऱ्हास: दीर्घ कार्यांमध्ये अचूकता का कमी होते आणि ते कसे टाळावे

एआय एजंटच्या संदर्भात काय साठत जाते, त्यामुळे अचूकतेला धक्का का बसतो आणि विश्वासार्ह राहणारी कार्ये कशी सेट करावीत याबद्दल मार्गदर्शक.

Diagram of an AI agent's context growing from task start to late in a task: instructions are joined by stacked search results, websites, documents, and notes, while a bar showing how closely the agent follows the original instructions shrinks.

एआय एजंटसाठी संदर्भ ऱ्हास म्हणजे काय

एआय एजंटमधील संदर्भ ऱ्हास (context rot) म्हणजे दीर्घ कार्यादरम्यान एजंटचा संदर्भ भरत जातो तसतशी हळूहळू कमी होत जाणारी अचूकता.

एजंटचा संदर्भ म्हणजे पुढील पायरीसाठी मॉडेलकडे उपलब्ध असलेली माहिती. यात सूचना, आधीचे संदेश, शोध परिणाम आणि वेबसाइट्स किंवा फाइल्समधील मजकूर यांचा समावेश असू शकतो. एजंट काम करत असताना त्यात आणखी माहितीची भर घालू शकतो.

उदाहरणार्थ, समजा एखाद्या एजंटचे कार्य दोन आठवड्यांच्या आत डिलिव्हरी देणारे पुरवठादार शोधणे आहे. सुरुवातीला त्याच्या संदर्भात फक्त ती विनंती असते. कार्याच्या मध्यापर्यंत, संदर्भात डझनभर पुरवठादारांच्या वेबसाइट्सवरील मजकूर, शोध परिणामांची अनेक पाने आणि एजंटने कोणते पुरवठादार आधीच तपासले आहेत याच्या नोंदीही असतील.

मॉडेल किती संदर्भ सामावून घेऊ शकते याला मर्यादा असते (याला संदर्भ विंडो म्हणतात). ही विंडो टोकन्समध्ये मोजली जाते; टोकन्स म्हणजे मजकुराचे छोटे तुकडे, सहसा एखादा शब्द किंवा शब्दाचा भाग. संदर्भ वाढत जातो तसतसा संदर्भ ऱ्हासही वाढतो, म्हणूनच अनेक पायऱ्या असलेल्या दीर्घ कार्यांमध्ये तो होण्याची शक्यता सर्वाधिक असते.

संदर्भ ऱ्हास वाढत जातो तसतसा एजंट कमी अचूक होत जातो. तो आपल्या मूळ सूचनांचे कमी काटेकोरपणे पालन करू शकतो, तपशील दुर्लक्षित करू शकतो किंवा सारख्या दिसणाऱ्या माहितीलाच आपल्याला हवी असलेली माहिती समजण्याची चूक करू शकतो.

उदाहरणार्थ, दोन आठवड्यांत डिलिव्हरी देणारे पुरवठादार शोधण्यास सांगितलेले असूनही, एजंट सहा आठवडे लावणाऱ्या पुरवठादारांचाही समावेश करू लागू शकतो. ती सूचना अजूनही त्याच्या संदर्भात असते, पण ती आता एजंटच्या निवडींवर प्रभाव टाकत नाही.

संदर्भ ऱ्हास म्हणजे केवळ संदर्भ विंडोमधील जागा संपणे नव्हे. जेव्हा एखाद्या कार्याचा संदर्भ विंडोच्या पलीकडे वाढतो, तेव्हा काही मजकूर कापला जातो किंवा कार्य अयशस्वी होते. संदर्भ ऱ्हास त्या टप्प्याच्या खूप आधीच, सर्व काही अजूनही विंडोत बसत असतानाच सुरू होतो.

हा संदर्भ विषबाधेपेक्षाही (context poisoning, म्हणजे दिशाभूल करणारी किंवा हानिकारक माहिती एजंटच्या संदर्भात शिरणे) वेगळा आहे. अचूक, संपूर्ण माहिती असलेल्या एजंटलाही संदर्भ ऱ्हासाचा अनुभव येऊ शकतो.

संदर्भ ऱ्हास का होतो

मॉडेलच्या संदर्भ विंडोमध्ये पुरेशी जागा शिल्लक असतानाही त्याचे अटेन्शन (लक्ष) मर्यादित असल्यामुळे संदर्भ ऱ्हास होतो. एआय मॉडेल्समध्ये अटेन्शन ही एक तांत्रिक संज्ञा आहे: प्रतिसादातील प्रत्येक शब्द लिहिताना इनपुटच्या कोणत्या भागांचा आधार घ्यायचा हे मॉडेल कसे ठरवते, याला अटेन्शन म्हणतात. संदर्भातील प्रत्येक भाग त्या अटेन्शनसाठी स्पर्धा करतो. मजकूर जितका जास्त, तितके प्रत्येक भागाला मिळणारे अटेन्शन कमी.

उदाहरणार्थ, Chroma ने इनपुटची लांबी एआय मॉडेल्सवर कसा परिणाम करते यावर एक अभ्यास प्रकाशित केला. त्यात Anthropic, OpenAI, Google आणि Alibaba यांच्या 18 मॉडेल्सची चाचणी घेण्यात आली. एका चाचणीत, संशोधकांनी लेखनविषयक सल्ल्याबद्दलचे एक वाक्य निबंधांच्या एका मोठ्या संग्रहात लपवले. त्यानंतर त्यांनी मॉडेलला तो सल्ला काय होता असे विचारले.

त्यांनी ही चाचणी अनेक वेळा घेतली आणि प्रत्येक वेळी निबंधांचा आणखी मजकूर जोडला. ते वाक्य आणि प्रश्न कधीच बदलले नाहीत. फक्त त्यांच्या भोवतालच्या मजकुराचे प्रमाण बदलले.

मॉडेल्सना जितका जास्त मजकूर वाचावा लागला, तितकी त्यांची कामगिरी खालावली. अहवालातील प्रत्येक चाचणीत हा निष्कर्ष कायम राहिला. बहुतेक एजंट कार्यांसारख्या, अनेक पायऱ्या लागणाऱ्या प्रत्यक्ष कामात अचूकतेतील ही घसरण आणखी मोठी असेल, असा संशोधकांचा अंदाज आहे.

संदर्भ ऱ्हासाचा एआय एजंटवर कसा परिणाम होऊ शकतो

संदर्भ ऱ्हास सामान्यतः पुढील चार प्रकारांपैकी एका प्रकारे दिसून येतो:

मूळ सूचनांचा विसर पडणे

Chroma च्या सर्वात सोप्या चाचणीत मॉडेल्सना पुनरावृत्ती झालेल्या शब्दांची एक लांबलचक मालिका, ज्यात कुठेतरी एक वेगळा शब्द घातलेला होता, जशीच्या तशी कॉपी करण्यास सांगितले. स्पष्ट सूचना असलेले हे अगदी सोपे कार्य होते. तरीही, मजकूर लांब होत गेला तसतशी सर्व मॉडेल्सची कामगिरी घसरली. काही मॉडेल्स इनपुटमध्ये अजिबात नसलेले शब्द तयार करू लागले.

एजंट कार्यात, वापरकर्ता सहसा कार्याच्या सुरुवातीलाच बजेट किंवा आवश्यक फॉरमॅट यांसारख्या विशिष्ट अटी ठरवतो. संदर्भ वाढत जातो तसतसा एजंट त्या अटी कमी सातत्याने लागू करू शकतो. याचे कारण संदर्भाची एकूण लांबी असते, सूचना नेमकी कुठे आहे हे नाही.

कार्याच्या मध्यातील तपशील निसटणे

स्टॅनफर्डच्या 2023 मधील एका अभ्यासानुसार, माहिती इनपुटच्या अगदी सुरुवातीला किंवा अगदी शेवटी असते तेव्हा एआय मॉडेल्स ती सर्वाधिक विश्वासार्हपणे वापरतात. एका चाचणीत, संशोधकांनी मॉडेल्सना 20 दस्तऐवजांचा एक संच दिला आणि असा प्रश्न विचारला ज्याचे उत्तर त्यांपैकी फक्त एकाच दस्तऐवजात होते. तो दस्तऐवज पहिला किंवा शेवटचा असताना मॉडेल्सना सहसा उत्तर सापडले. तो संचाच्या मध्यभागी असताना मात्र त्यांच्याकडून ते उत्तर खूप अधिक वेळा निसटले. संशोधक याला स्थान परिणाम (position effect) म्हणतात.

हाच नमुना एजंटनाही लागू होतो. कार्यात आधी सापडलेली माहिती एखाद्या दीर्घ संभाषणाच्या मध्यभागी असू शकते, जिथे काही मॉडेल्सना ती वापरणे अधिक कठीण जाते. पुरवठादाराच्या उदाहरणात, एजंटने कार्याच्या मध्यात तपासलेला एखादा चांगला पुरवठादार अंतिम यादीतून वगळला जाऊ शकतो.

सारख्या माहितीत गल्लत होणे

संदर्भ वाढत जातो तसतसे, कोणती माहिती आपल्या सूचनांशी जुळते हे ओळखणे एजंटना अधिक कठीण जाऊ शकते. उदाहरणार्थ, समजा वापरकर्त्याने एजंटला “दोन आठवड्यांच्या आत” शिपिंग करणारे पुरवठादार शोधण्यास सांगितले. एखाद्या पुरवठादाराच्या वेबसाइटवर “ऑर्डर दिल्यापासून 14 कॅलेंडर दिवसांच्या आत पोहोचते” असे लिहिले आहे. छोट्या कार्यात, या दोन्हींचा अर्थ एकच आहे हे एजंटच्या सहज लक्षात येईल. पण इतर डझनभर पुरवठादारांच्या पानांमध्ये हे दडलेले असल्यास, हे साम्य त्याच्या नजरेतून सुटण्याची शक्यता अधिक असते.

किंवा, एजंट असंबद्ध परिणामांचाही समावेश करू लागू शकतो. समजा एजंट ऑफिस खुर्च्यांचे पुरवठादार शोधत आहे. एका पुरवठादाराची वेबसाइट दोन आठवड्यांत डिलिव्हरीचे आश्वासन देते, पण फक्त डेस्कसाठी. त्याच्या खुर्च्यांना सहा आठवडे लागतात. वेबसाइटवर सूचनेतीलच शब्द वापरलेले असल्याने, एजंट तरीही त्या पुरवठादाराला आपल्या यादीत जोडू शकतो. संशोधक अशा माहितीला डिस्ट्रॅक्टर (distractor) म्हणतात. ती संबंधित वाटते पण प्रत्यक्षात नसते, त्यामुळे ती महत्त्वाच्या माहितीशी स्पर्धा करते.

Chroma च्या अभ्यासात असे आढळले की भोवतालच्या मजकुराचे प्रमाण वाढत गेले तसतशा या दोन्ही समस्या अधिक गंभीर झाल्या.

सहज लक्षात न येणाऱ्या चुका

संदर्भ ऱ्हासामुळे कोणताही त्रुटी संदेश दिसत नाही. एजंट काम करत राहतो आणि पूर्ण झाल्यासारखे दिसणारे आउटपुट परत देतो. त्यामुळे त्याच्या चुका सहज नजरेतून सुटतात.

Chroma च्या चाचण्यांमध्ये या चुका दोन स्वरूपांत दिसल्या. कधी कधी मॉडेलने आत्मविश्वासाने चुकीचे उत्तर दिले. पुरवठादार संशोधनाच्या उदाहरणात, एजंट पुरवठादारांची एक नीटनेटकी, व्यवस्थित फॉरमॅट केलेली यादी देऊ शकतो, ज्यात असा एखादा पुरवठादार असेल ज्याच्या डिलिव्हरी अटी त्याने चुकीच्या वाचल्या.

इतर वेळी, प्रत्यक्षात उपलब्ध असलेली माहिती आपल्याला सापडली नाही असे मॉडेलने सांगितले. उदाहरणार्थ, अनेक पुरवठादार दोन आठवड्यांची मर्यादा पूर्ण करत असतानाही, एकही पुरवठादार ती पूर्ण करत नाही असा अहवाल एजंट देऊ शकतो.

संदर्भ ऱ्हास कमी करण्यासाठी एजंट कार्ये कशी सेट करावीत

कार्ये योग्य प्रकारे सेट केल्याने संदर्भ ऱ्हासाचा परिणाम कमीत कमी होतो आणि संपूर्ण कार्यादरम्यान एजंट शक्य तितका अचूक राहतो. पुढील सर्वोत्तम पद्धती यासाठी मदत करू शकतात.

कार्य एखाद्या असाइनमेंटप्रमाणे लिहा

स्पष्ट असाइनमेंटमुळे संदर्भ लहान राहतो. काम कधी पूर्ण झाले हे एजंटला कळते, त्यामुळे पुरेशी सामग्री मिळताच तो ती गोळा करणे थांबवतो. विशिष्ट आवश्यकतांमुळे त्याला प्रत्येक पान पडताळून पाहण्यासाठी ठोस आधारही मिळतो. त्यामुळे योग्य माहिती ओळखणे एजंटसाठी सोपे होते.

कार्य पाठवण्यापूर्वी, त्यात पुढील तीन गोष्टींचा समावेश आहे याची खात्री करा:

  • कार्य: एजंटने काय करायचे आणि काय तयार करायचे, उदा. “पुरवठादार शोधा आणि शॉर्टलिस्ट द्या.”
  • आवश्यकता: एजंट ज्यांचा अंदाज लावू शकत नाही अशी तथ्ये, उदा. बजेट, अंतिम मुदत, डिलिव्हरीचा पत्ता आणि निकाल कोणासाठी आहे.
  • आउटपुट: फॉरमॅट, लांबी आणि रचना, उदा. “नाव, प्रति खुर्ची किंमत आणि डिलिव्हरीचा कालावधी असलेला एक तक्ता.”

हे सर्व एकत्र केल्यावर, पुरवठादार कार्याची क्वेरी अशी दिसू शकते:

“आमच्या शिकागो ऑफिसमध्ये दोन आठवड्यांच्या आत, प्रति खुर्ची $250 पेक्षा कमी किमतीत 40 ऑफिस खुर्च्या पोहोचवू शकतील असे 10 पुरवठादार शोधा. पुरवठादाराचे नाव, प्रति खुर्ची किंमत, डिलिव्हरीचा कालावधी आणि उत्पादन पानाची लिंक असलेला एक तक्ता द्या. ही यादी आमच्या ऑफिस मॅनेजरसाठी आहे, जे ऑर्डर देतील.”

प्रत्येक कार्य केंद्रित ठेवा

एकच स्पष्ट उद्दिष्ट असलेले एक कार्य संदर्भ लहान ठेवते. दीर्घ कार्यांचा खर्चही जास्त येतो. प्रत्येक पायरी आतापर्यंत गोळा केलेल्या सर्व गोष्टींवर प्रक्रिया करते, त्यामुळे फुगलेला संदर्भ प्रत्येक पायरीवर अधिक क्रेडिट्स वापरतो.

अनेक भाग असलेल्या प्रकल्पासाठी, त्याचे विभाजन करा:

  1. स्वतंत्र डिलिव्हरेबल्सची यादी करा, उदा. पुरवठादार शोध, किंमत तुलना आणि निवडलेल्या पुरवठादाराला ईमेल.
  2. प्रत्येक डिलिव्हरेबल स्वतंत्र कार्य म्हणून चालवा.
  3. एका कार्यातून पुढच्या कार्याकडे फक्त अंतिम निकालच पाठवा. उदाहरणार्थ, पुरवठादार तक्ता तयार करणाऱ्या थ्रेडमध्येच पुढे सुरू ठेवण्याऐवजी, तुलना कार्य सुरू करण्यासाठी तो तक्ता फाइल म्हणून अपलोड करा.

त्यामुळे तुलना कार्य प्रत्येक पानाऐवजी फक्त एका तक्त्याने सुरू होते.

एजंटला योग्य स्रोतांकडे निर्देशित करा

एजंट वाचत असलेले प्रत्येक पान त्याच्या संदर्भात भर घालते, ज्यात उपयुक्त भागाभोवतीचे मेनू, जाहिराती आणि बॉयलरप्लेट मजकूर यांचाही समावेश असतो. एजंटला त्याचे स्रोत थेट दिल्याने हा अनावश्यक गोंधळ कमी होतो.

कार्य ज्या फाइल्सवर अवलंबून आहे, जसे की मंजूर विक्रेत्यांची यादी, त्या क्वेरीला जोडून अपलोड करा. एजंटला वेबवर शोध घ्यायचा असल्यास, शोध घेण्याजोग्या वेबसाइट्सची नावे द्या, जसे की पुरवठादारांच्या दोन विश्वासार्ह निर्देशिका.

माहिती जिथे आहे ती टूल्स कनेक्ट करा. उदाहरणार्थ, Perplexity Computer मध्ये साइडबारमधील कनेक्टर्स उघडा आणि कार्यासाठी आवश्यक असलेली ॲप्स, जसे की Google Drive किंवा Slack, सक्षम करा. त्यानंतर क्वेरीमध्ये त्यांचा उल्लेख करा: “आमच्या Google Drive मधील खुर्च्यांचे स्पेसिफिकेशन्स वापरा.” फक्त संबंधित ॲप्सच कनेक्ट करा, कारण प्रत्येक कनेक्टर एजंटच्या संदर्भातील काही जागा व्यापतो.

माहिती कनेक्टर्सच्या यादीत नसलेल्या ॲपमध्ये असल्यास, ते ॲप कनेक्ट करणे तरीही शक्य असू शकते. अनेक ॲप्स MCP (Model Context Protocol) कनेक्टर देतात, जो एआय टूल्सना इतर सॉफ्टवेअरशी जोडण्याचा एक मानक मार्ग आहे. Computer हे कनेक्टर्स त्याच्या अंगभूत कनेक्टर्ससोबत वापरू शकते. कंपनी खात्यामध्ये, कदाचित एखाद्या ॲडमिनला ते आधी सक्षम करावे लागतील.

सूचनांच्या आधारे अंतिम तपासणी करण्यास सांगा

सर्वात महत्त्वाच्या अटी नमूद करणाऱ्या पुनरावलोकन पायरीने क्वेरीचा शेवट करा:

“काम पूर्ण करण्यापूर्वी, प्रत्येक पुरवठादार या आवश्यकतांनुसार तपासा: दोन आठवड्यांच्या आत डिलिव्हरी, प्रति खुर्ची $250 पेक्षा कमी. या आवश्यकता पूर्ण न करणारे पुरवठादार वगळण्याऐवजी त्यांना फ्लॅग करा.”

अटी अजूनही संदर्भाच्या सुरुवातीलाच असतात. प्रत्येक पायरीवर सूचनांचा प्रभाव टिकून राहील यावर अवलंबून राहण्याऐवजी, पुनरावलोकन पायरी एजंटला आपले अंतिम आउटपुट त्या अटींशी पडताळून पाहण्याचे कारण देते.

दरम्यान, ते परिणाम सरळ वगळण्याऐवजी समस्या फ्लॅग करण्यास सांगितल्याने चुका पकडणे सोपे होते (उदा. 14 कॅलेंडर दिवसांत पोहोचण्याचे आश्वासन देणारा पुरवठादार केवळ “दोन आठवडे” हे शब्द वापरत नसल्यामुळे नाकारणे.)

चेकपॉइंट्सवर कामाचे पुनरावलोकन करा

दीर्घ कार्यांसाठी, क्वेरीमध्येच एक चेकपॉइंट समाविष्ट करा:

“सुरुवातीला 20 संभाव्य पुरवठादार शोधा आणि नंतर थांबा. तुम्ही किमतींची माहिती गोळा करण्यापूर्वी मी यादीची पुष्टी करेन.”

शॉर्टलिस्ट मूळ सूचनांनुसार तपासा. जे काही चुकीचे असेल ते फॉलो-अपमध्ये दुरुस्त करा आणि मग एजंटला पुढे जाऊ द्या. या टप्प्यावर पकडलेल्या चुका पुढील प्रत्येक पायरीत पुढे जात नाहीत.

कार्य भरकटल्यास नवीन कार्य सुरू करा

दुरुस्त्या सांगितल्यानंतरही एजंट तीच चूक पुन्हा करत असल्यास, नवीन कार्य सुरू करा. प्रत्येक दुरुस्ती आधीच लांब असलेल्या संदर्भात आणखी मजकुराची भर घालते. त्याऐवजी नवीन कार्य तयार करा. सूचना पुन्हा नमूद करा, पहिल्या प्रयत्नातील कोणतेही चांगले आउटपुट अपलोड करा आणि पुन्हा सुरुवात करा.

काही एजंट हे काही प्रमाणात स्वयंचलितपणे करतात; या प्रक्रियेला कॉम्पॅक्शन (compaction) म्हणतात. कार्य लांबत जाते तसतसा एजंट जुनी सामग्री, जसे की सुरुवातीला वाचलेल्या पानांचा संपूर्ण मजकूर, त्याला काय आढळले याच्या छोट्या सारांशाने बदलतो. Perplexity चा Portable Computer अशाच प्रकारे आपला संदर्भ कॉम्पॅक्ट करतो, जेणेकरून मॉडेल चांगल्या प्रकारे हाताळू शकेल अशा प्रमाणातच संदर्भ राहतो.

उद्दिष्ट बदलल्यास नवीन कार्य सुरू करणेही महत्त्वाचे आहे. पुरवठादार शोध म्हणून सुरू झालेला थ्रेड पुढे करार पुनरावलोकनही बनू नये.

वारंवार दिल्या जाणाऱ्या सूचनांचे कौशल्यात रूपांतर करा

काही सूचना विशिष्ट प्रकारच्या प्रत्येक कार्यात येतात, जसे की पसंतीचा तक्ता फॉरमॅट, टाळायच्या विक्रेत्यांची यादी किंवा मानक पुनरावलोकन पायरी. Computer मध्ये, या सूचना कौशल्य म्हणून जतन करता येतात, म्हणजे एजंट प्रत्येक वेळी पाळत असलेल्या सूचनांचा पुन्हा वापरता येणारा संच. कौशल्य वापरणाऱ्या प्रत्येक कार्यात ते इतर सर्वोत्तम पद्धतीही समाविष्ट करते.

ते सेट करण्यासाठी:

  1. वारंवार येणारे एखादे कार्य निवडा, जसे की पुरवठादार संशोधन.
  2. प्रत्येक वेळी दिल्या जाणाऱ्या सूचना लिहून काढा: फॉरमॅट, तपासण्या आणि वापरायचे किंवा टाळायचे स्रोत.
  3. त्या कौशल्य म्हणून जतन करा. Markdown मध्ये आधीच लिहिलेल्या सूचना थेट इम्पोर्ट करता येतात.
  4. भविष्यातील क्वेरीजमध्ये त्या कौशल्याचे नाव नमूद करा: “डेन्व्हर ऑफिससाठी खुर्च्यांचे पुरवठादार शोधण्यासाठी पुरवठादार संशोधन कौशल्य वापरा.”

एजंटच्या कामातील संदर्भाकडे Perplexity कसे पाहते

Perplexity Computer दीर्घ कार्ये अशा प्रकारे हाताळते की प्रत्येक मॉडेलचा संदर्भ लहान आणि संबंधित राहतो. त्याच्या रचनेतील तीन घटक मॉडेलला एकाच वेळी किती वाचावे लागते यावर मर्यादा घालतात.

उप-एजंटांमध्ये कामाचे विभाजन करणे

Computer एखाद्या विनंतीचे कार्ये आणि उप-कार्यांमध्ये विभाजन करते आणि नंतर ती पूर्ण करण्यासाठी उप-एजंट तयार करते. प्रत्येक उप-एजंट कामाच्या एका भागावर स्वतःच्या संदर्भात काम करतो. पुरवठादार कार्यात, एक उप-एजंट किमतींचे संशोधन करत असताना दुसरा डिलिव्हरीच्या अटी तपासू शकतो. दुसऱ्याने वाचलेले सर्व काही दोघांपैकी कोणालाही वाचावे लागत नाही.

काम फाइल्समध्ये ठेवणे

प्रत्येक Computer कार्याला स्वतःच्या फाइल्स, वेब ब्राउझर आणि टूल्ससह स्वतःचे वर्कस्पेस मिळते. एजंट आपले काम एखाद्या फाइलमध्ये जतन करू शकतो, जसे की त्याने तपासलेल्या पुरवठादारांचा सतत अद्ययावत होणारा तक्ता. त्यानंतर गरज असेल तेव्हाच तो ती फाइल पुन्हा उघडतो.

शोध परिणामांमधून संबंधित उतारे निवडणे

वेब पेजेसमध्ये मॉडेलला गरज नसलेली भरपूर सामग्री असते, जसे की मेनू, जाहिराती, मेटाडेटा आणि इतर विषयांवरील मजकूर. क्वेरी-जागरूक संदर्भ संक्षेपण ही सामग्री काढून टाकते. एखादे पान मॉडेलपर्यंत पोहोचण्यापूर्वी, Perplexity त्यातील फक्त क्वेरीशी संबंधित वाक्येच ठेवते.

या पायऱ्या प्रत्यक्षात आणण्यासाठी Perplexity Computer साठी टिप्स, मार्गदर्शक आणि उदाहरण कार्ये पाहा.

वारंवार विचारले जाणारे प्रश्न

संदर्भ ऱ्हास आणि हॅल्युसिनेशन एकच आहेत का?

नाही, पण ते एकमेकांशी संबंधित आहेत. हॅल्युसिनेशन म्हणजे चुकीची किंवा आधार नसलेली गोष्ट सांगणारे कोणतेही उत्तर. संदर्भ ऱ्हास ही अशा परिस्थितींपैकी एक आहे ज्यांमुळे हॅल्युसिनेशनची, तसेच दुर्लक्षित सूचना आणि निसटलेले तपशील यांसारख्या इतर चुकांची शक्यता वाढते.

अधिक चांगल्या क्वेरीने संदर्भ ऱ्हास दूर करता येतो का?

स्पष्ट क्वेरी कार्य केंद्रित ठेवून संदर्भ ऱ्हास कमी करते. मात्र, ती संदर्भ वाढण्यापासून रोखू शकत नाही. पुरेशा दीर्घ कार्यात, एजंट तरीही चांगल्या प्रकारे वापरू शकेल त्यापेक्षा जास्त माहिती गोळा करतो, म्हणूनच कामाचे विभाजन करणे आणि वाटेत ते तपासणे हे क्वेरीइतकेच महत्त्वाचे आहे.

संदर्भ ऱ्हासाचा परिणाम फक्त एजंटवरच नव्हे, तर नियमित एआय चॅट्सवरही होतो का?

हो. चॅटमध्ये संदर्भ म्हणजे आतापर्यंतचे संपूर्ण संभाषण, ज्यात प्रत्येक संदेश आणि त्यात पेस्ट किंवा अपलोड केलेले कोणतेही दस्तऐवज समाविष्ट असतात. अनेक विषयांवर तासनतास चाललेल्या थ्रेडमध्ये दीर्घ एजंट कार्यासारख्याच चुका होऊ शकतात. नवीन विषयासाठी नवीन थ्रेड सुरू केल्याने प्रत्येक संभाषण केंद्रित राहते.

संदर्भ ऱ्हास सुरू होण्यापूर्वी एखादे कार्य किती लांब होऊ शकते?

याची कोणतीही निश्चित मर्यादा नाही. ते मॉडेल आणि कार्यावर अवलंबून असते. उदाहरणार्थ, 2,60,000-टोकन संदर्भ विंडो असलेली ऑन-डिव्हाइस मॉडेल्स सुमारे 1,00,000 टोकन्सनंतर अडखळू लागतात, म्हणजे त्यांच्या मर्यादेच्या खूप आधीच. ही घसरणही अचानक न होता हळूहळू होते.