AI ఏజెంట్‌లలో కాంటెక్స్ట్ రాట్: సుదీర్ఘ టాస్క్‌లలో ఖచ్చితత్వం ఎందుకు తగ్గుతుంది, దానిని ఎలా నివారించాలి

AI ఏజెంట్ కాంటెక్స్ట్‌లో ఏమి పేరుకుపోతుంది, అది ఖచ్చితత్వాన్ని ఎందుకు దెబ్బతీస్తుంది, విశ్వసనీయంగా ఉండే టాస్క్‌లను ఎలా సెటప్ చేయాలి అనే అంశాలపై ఒక గైడ్.

Diagram of an AI agent's context growing from task start to late in a task: instructions are joined by stacked search results, websites, documents, and notes, while a bar showing how closely the agent follows the original instructions shrinks.

AI ఏజెంట్‌లకు కాంటెక్స్ట్ రాట్ అంటే ఏమిటి

AI ఏజెంట్‌లలో కాంటెక్స్ట్ రాట్ అంటే, సుదీర్ఘమైన టాస్క్ సమయంలో ఏజెంట్ కాంటెక్స్ట్ నిండుతున్న కొద్దీ క్రమంగా ఖచ్చితత్వం తగ్గిపోవడం.

ఏజెంట్ కాంటెక్స్ట్ అంటే, తదుపరి దశ కోసం మోడల్‌కు అందుబాటులో ఉన్న సమాచారం. ఇందులో సూచనలు, మునుపటి సందేశాలు, శోధన ఫలితాలు, వెబ్‌సైట్‌లు లేదా ఫైల్‌ల నుండి వచ్చిన టెక్స్ట్ ఉండవచ్చు. ఏజెంట్ పని చేస్తున్న కొద్దీ, అది మరింత సమాచారాన్ని జోడించవచ్చు.

ఉదాహరణకు, రెండు వారాల్లోగా డెలివరీ చేసే సరఫరాదారులను కనుగొనడం ఒక ఏజెంట్ టాస్క్ అనుకుందాం. ప్రారంభంలో, దాని కాంటెక్స్ట్‌లో ఆ అభ్యర్థన మాత్రమే ఉంటుంది. టాస్క్ మధ్యలోకి వచ్చేసరికి, కాంటెక్స్ట్‌లో డజన్ల కొద్దీ సరఫరాదారు వెబ్‌సైట్‌ల టెక్స్ట్, అనేక పేజీల శోధన ఫలితాలు, ఏజెంట్ ఇప్పటికే ఏ సరఫరాదారులను తనిఖీ చేసిందో తెలిపే నోట్స్ కూడా ఉంటాయి.

ఒక మోడల్ ఎంత కాంటెక్స్ట్‌ను నిలుపుకోగలదో దానికి ఒక పరిమితి ఉంటుంది (దీనిని కాంటెక్స్ట్ విండో అంటారు). ఈ విండోను టోకెన్లలో కొలుస్తారు. టోకెన్లు అంటే టెక్స్ట్‌లోని చిన్న భాగాలు, సాధారణంగా ఒక పదం లేదా పదంలోని కొంత భాగం. కాంటెక్స్ట్ పెరిగే కొద్దీ కాంటెక్స్ట్ రాట్ పెరుగుతుంది, అందుకే అనేక దశలు ఉండే సుదీర్ఘ టాస్క్‌లలో ఇది ఎక్కువగా సంభవిస్తుంది.

కాంటెక్స్ట్ రాట్ తీవ్రమయ్యే కొద్దీ, ఏజెంట్ ఖచ్చితత్వం తగ్గుతుంది. అది తన అసలు సూచనలను అంత దగ్గరగా పాటించకపోవచ్చు, వివరాలను విస్మరించవచ్చు, లేదా ఒకేలా కనిపించే సమాచారాన్ని తనకు కావాల్సిన సమాచారంగా పొరబడవచ్చు.

ఉదాహరణకు, రెండు వారాల్లో డెలివరీ చేసే వారిని కనుగొనమని చెప్పినప్పటికీ, ఆరు వారాలు తీసుకునే సరఫరాదారులను కూడా ఏజెంట్ చేర్చడం ప్రారంభించవచ్చు. ఆ సూచన ఇప్పటికీ దాని కాంటెక్స్ట్‌లోనే ఉంది, కానీ అది ఇకపై ఏజెంట్ ఎంపికలను ప్రభావితం చేయదు.

కాంటెక్స్ట్ రాట్ అంటే కేవలం కాంటెక్స్ట్ విండోలో చోటు అయిపోవడం కాదు. ఒక టాస్క్ కాంటెక్స్ట్ విండోను మించి పెరిగినప్పుడు, కొంత సమాచారం కత్తిరించబడుతుంది లేదా టాస్క్ విఫలమవుతుంది. కాంటెక్స్ట్ రాట్ ఆ దశకు చాలా ముందే, అంతా ఇంకా విండోలో సరిపోతున్నప్పుడే మొదలవుతుంది.

ఇది కాంటెక్స్ట్ పాయిజనింగ్ (తప్పుదారి పట్టించే లేదా హానికరమైన సమాచారం ఏజెంట్ కాంటెక్స్ట్‌లోకి చేరడం) లాంటిది కూడా కాదు. ఖచ్చితమైన, సంపూర్ణ సమాచారం ఉన్న ఏజెంట్‌కు కూడా కాంటెక్స్ట్ రాట్ ఎదురుకావచ్చు.

కాంటెక్స్ట్ రాట్ ఎందుకు జరుగుతుంది

కాంటెక్స్ట్ విండోలో ఇంకా చోటు మిగిలి ఉన్నప్పటికీ, మోడల్ అటెన్షన్ పరిమితంగా ఉండటం వల్లే కాంటెక్స్ట్ రాట్ జరుగుతుంది. AI మోడల్‌లలో, అటెన్షన్ అనేది ఒక సాంకేతిక పదం: ప్రతిస్పందనలోని ప్రతి పదాన్ని రాసేటప్పుడు తన ఇన్‌పుట్‌లోని ఏ భాగాలను ఉపయోగించుకోవాలో మోడల్ ఎలా నిర్ణయిస్తుందో అది సూచిస్తుంది. కాంటెక్స్ట్‌లోని ప్రతి భాగం ఆ అటెన్షన్ కోసం పోటీపడుతుంది. టెక్స్ట్ ఎంత ఎక్కువగా ఉంటే, ప్రతి భాగానికి అంత తక్కువ అటెన్షన్ లభిస్తుంది.

ఉదాహరణకు, ఇన్‌పుట్ పొడవు AI మోడల్‌లను ఎలా ప్రభావితం చేస్తుందనే అంశంపై Chroma ఒక అధ్యయనాన్ని ప్రచురించింది. ఇది Anthropic, OpenAI, Google, Alibaba సంస్థలకు చెందిన 18 మోడల్‌లను పరీక్షించింది. ఒక పరీక్షలో, పరిశోధకులు రచనా సలహా గురించిన ఒక వాక్యాన్ని సుదీర్ఘమైన వ్యాసాల సంకలనంలో దాచారు. ఆ తర్వాత ఆ సలహా ఏమిటని మోడల్‌ను అడిగారు.

వారు ఈ పరీక్షను చాలాసార్లు నిర్వహించారు, ప్రతిసారీ మరింత వ్యాస టెక్స్ట్‌ను జోడించారు. వాక్యం, ప్రశ్న ఎప్పుడూ మారలేదు. వాటి చుట్టూ ఉన్న టెక్స్ట్ పరిమాణం మాత్రమే మారింది.

మోడల్‌లు చదవాల్సిన టెక్స్ట్ ఎంత ఎక్కువైతే, వాటి పనితీరు అంత దిగజారింది. నివేదికలోని ప్రతి పరీక్షలోనూ ఈ ఫలితం నిలిచింది. చాలా ఏజెంట్ టాస్క్‌ల లాగా అనేక దశలు ఉండే వాస్తవ పనిలో ఖచ్చితత్వం ఇంకా ఎక్కువగా పడిపోతుందని పరిశోధకులు అంచనా వేస్తున్నారు.

కాంటెక్స్ట్ రాట్ AI ఏజెంట్‌లను ఎలా ప్రభావితం చేయగలదు

కాంటెక్స్ట్ రాట్ సాధారణంగా ఈ నాలుగు విధాల్లో ఏదో ఒక రూపంలో కనిపిస్తుంది:

అసలు సూచనలను మర్చిపోవడం

Chroma యొక్క అత్యంత సరళమైన పరీక్షలో, పదే పదే వచ్చే పదాలతో కూడిన ఒక పొడవైన స్ట్రింగ్‌ను, మధ్యలో ఎక్కడో చొప్పించిన ఒక భిన్నమైన పదంతో సహా, యథాతథంగా కాపీ చేయమని మోడల్‌లను అడిగారు. ఇది స్పష్టమైన సూచనతో కూడిన చాలా సులభమైన టాస్క్. అయినప్పటికీ, టెక్స్ట్ పొడవు పెరిగే కొద్దీ అన్ని మోడల్‌ల పనితీరు తగ్గింది. కొన్ని మోడల్‌లు ఇన్‌పుట్‌లో అసలు లేని పదాలను కూడా సృష్టించడం ప్రారంభించాయి.

ఏజెంట్ టాస్క్‌లో, యూజర్ సాధారణంగా టాస్క్ ప్రారంభంలోనే బడ్జెట్ లేదా అవసరమైన ఫార్మాట్ వంటి నిర్దిష్ట పరిమితులను నిర్దేశిస్తారు. కాంటెక్స్ట్ పెరిగే కొద్దీ ఏజెంట్ వాటిని అంత స్థిరంగా పాటించకపోవచ్చు. దీనికి కారణం సూచన ఎక్కడ ఉందనేది కాదు, కాంటెక్స్ట్ మొత్తం పొడవు.

టాస్క్ మధ్యలోని వివరాలను కోల్పోవడం

2023 నాటి Stanford అధ్యయనం ప్రకారం, AI మోడల్‌లు తమ ఇన్‌పుట్‌లో సమాచారం సరిగ్గా ప్రారంభంలో లేదా చివర్లో ఉన్నప్పుడు దానిని అత్యంత విశ్వసనీయంగా ఉపయోగిస్తాయి. ఒక పరీక్షలో, పరిశోధకులు మోడల్‌లకు 20 డాక్యుమెంట్‌ల సెట్‌ను ఇచ్చి, వాటిలో ఒక్కదానిలో మాత్రమే సమాధానం ఉన్న ప్రశ్నను అడిగారు. ఆ డాక్యుమెంట్ మొదట లేదా చివర్లో ఉన్నప్పుడు, మోడల్‌లు సాధారణంగా సమాధానాన్ని కనుగొన్నాయి. అది సెట్ మధ్యలో ఉన్నప్పుడు, అవి దానిని చాలా తరచుగా కోల్పోయాయి. పరిశోధకులు దీనిని పొజిషన్ ఎఫెక్ట్ అని పిలుస్తారు.

ఏజెంట్‌లకు కూడా ఇదే పద్ధతి వర్తిస్తుంది. టాస్క్ ప్రారంభ దశల్లో కనుగొన్న సమాచారం ఒక సుదీర్ఘ సంభాషణ మధ్యలో ఉండిపోవచ్చు, అక్కడ ఉన్న సమాచారాన్ని ఉపయోగించుకోవడంలో కొన్ని మోడల్‌లకు ఎక్కువ ఇబ్బంది ఉంటుంది. సరఫరాదారు ఉదాహరణలో, టాస్క్ మధ్యలో ఏజెంట్ తనిఖీ చేసిన ఒక మంచి సరఫరాదారు తుది జాబితాలో లేకుండా పోవచ్చు.

ఒకేలా ఉండే సమాచారాన్ని గందరగోళపరచడం

కాంటెక్స్ట్ పెరిగే కొద్దీ, ఏ సమాచారం తమ సూచనలకు సరిపోతుందో గుర్తించడంలో ఏజెంట్‌ల సామర్థ్యం తగ్గవచ్చు. ఉదాహరణకు, “రెండు వారాల్లోగా” షిప్ చేసే సరఫరాదారులను కనుగొనమని యూజర్ ఏజెంట్‌కు చెప్పారని అనుకుందాం. ఒక సరఫరాదారు వెబ్‌సైట్‌లో “ఆర్డర్ చేసిన 14 క్యాలెండర్ రోజుల్లోగా చేరుతుంది” అని ఉంది. చిన్న టాస్క్‌లో, ఈ రెండూ ఒకే అర్థాన్ని ఇస్తాయని ఏజెంట్ బహుశా గుర్తిస్తుంది. డజన్ల కొద్దీ ఇతర సరఫరాదారు పేజీల మధ్య అది కూరుకుపోయినప్పుడు, ఆ సరిపోలికను ఏజెంట్ కోల్పోయే అవకాశం ఎక్కువ.

లేదా, ఏజెంట్ సంబంధం లేని ఫలితాలను చేర్చడం ప్రారంభించవచ్చు. ఏజెంట్ ఆఫీస్ కుర్చీల సరఫరాదారుల కోసం వెతుకుతోందని అనుకుందాం. ఒక సరఫరాదారు వెబ్‌సైట్ రెండు వారాల్లో డెలివరీని హామీ ఇస్తుంది, కానీ అది డెస్క్‌లకు మాత్రమే. దాని కుర్చీలకు ఆరు వారాలు పడుతుంది. ఆ వెబ్‌సైట్ సూచనలో ఉన్న పదాలనే ఉపయోగిస్తుంది, కాబట్టి ఏజెంట్ ఎలాగైనా ఆ సరఫరాదారును తన జాబితాలో చేర్చవచ్చు. పరిశోధకులు ఇలాంటి సమాచారాన్ని డిస్ట్రాక్టర్ అని పిలుస్తారు. ఇది సంబంధితంగా కనిపిస్తుంది కానీ కాదు, కాబట్టి ఇది ముఖ్యమైన సమాచారంతో పోటీపడుతుంది.

చుట్టూ ఉన్న టెక్స్ట్ పరిమాణం పెరిగే కొద్దీ ఈ రెండు సమస్యలూ తీవ్రమయ్యాయని Chroma అధ్యయనం కనుగొంది.

గుర్తించడం కష్టమైన పొరపాట్లు

కాంటెక్స్ట్ రాట్ ఎలాంటి ఎర్రర్ సందేశాన్నీ చూపించదు. ఏజెంట్ పని చేస్తూనే ఉంటుంది, పూర్తయినట్లు కనిపించే అవుట్‌పుట్‌ను అందిస్తుంది. దీనివల్ల దాని పొరపాట్లను గమనించకుండా పోవడం సులభం.

Chroma పరీక్షల్లో, ఈ పొరపాట్లు రెండు రూపాల్లో కనిపించాయి. కొన్నిసార్లు మోడల్ ఆత్మవిశ్వాసంతో తప్పు సమాధానం ఇచ్చింది. సరఫరాదారు పరిశోధన ఉదాహరణలో, ఏజెంట్ చక్కగా, బాగా ఫార్మాట్ చేసిన సరఫరాదారు జాబితాను అందించవచ్చు, కానీ అందులో డెలివరీ నిబంధనలను తాను తప్పుగా చదివిన ఒక సరఫరాదారు కూడా ఉండవచ్చు.

మరికొన్నిసార్లు, వాస్తవంగా అక్కడే ఉన్న సమాచారాన్ని తాను కనుగొనలేకపోయానని మోడల్ చెప్పింది. ఉదాహరణకు, అనేక సరఫరాదారులు రెండు వారాల పరిమితిని అందుకుంటున్నప్పటికీ, ఏ సరఫరాదారూ దానిని అందుకోవడం లేదని ఏజెంట్ నివేదిక ఇవ్వవచ్చు.

కాంటెక్స్ట్ రాట్‌ను తగ్గించేలా ఏజెంట్ టాస్క్‌లను ఎలా సెటప్ చేయాలి

టాస్క్‌లను సరిగ్గా సెటప్ చేయడం వల్ల కాంటెక్స్ట్ రాట్ ప్రభావం తగ్గుతుంది, టాస్క్ ఆసాంతం ఏజెంట్ వీలైనంత ఖచ్చితంగా పనిచేస్తుంది. కింది ఉత్తమ పద్ధతులు సహాయపడతాయి.

టాస్క్‌ను ఒక అసైన్‌మెంట్‌లా రాయండి

స్పష్టమైన అసైన్‌మెంట్ కాంటెక్స్ట్‌ను చిన్నదిగా ఉంచుతుంది. పని ఎప్పుడు పూర్తవుతుందో ఏజెంట్‌కు తెలుస్తుంది, కాబట్టి తగినంత సమాచారం దొరికిన వెంటనే అది సేకరించడం ఆపేస్తుంది. నిర్దిష్ట అవసరాలు ప్రతి పేజీని పోల్చి చూడటానికి దానికి ఒక స్పష్టమైన ప్రమాణాన్ని కూడా ఇస్తాయి. దీనివల్ల సరైన సమాచారాన్ని గుర్తించడం ఏజెంట్‌కు సులభమవుతుంది.

టాస్క్‌ను పంపే ముందు, అందులో ఈ మూడు అంశాలు ఉన్నాయో లేదో తనిఖీ చేయండి:

  • టాస్క్: ఏజెంట్ ఏమి చేయాలి, ఏమి అందించాలి, ఉదాహరణకు “సరఫరాదారులను కనుగొని, షార్ట్‌లిస్ట్‌ను అందించు.”
  • అవసరాలు: బడ్జెట్, గడువు, డెలివరీ చిరునామా, ఫలితం ఎవరి కోసం వంటి ఏజెంట్ ఊహించలేని వాస్తవాలు.
  • అవుట్‌పుట్: ఫార్మాట్, పొడవు, నిర్మాణం, ఉదాహరణకు “పేరు, కుర్చీకి ధర, డెలివరీ సమయంతో కూడిన పట్టిక.”

అన్నింటినీ కలిపితే, సరఫరాదారు టాస్క్ క్వెరీ ఇలా ఉండవచ్చు:

“మా చికాగో ఆఫీస్‌కు రెండు వారాల్లోగా, కుర్చీకి $250 కంటే తక్కువ ధరకు 40 ఆఫీస్ కుర్చీలను డెలివరీ చేయగల 10 సరఫరాదారులను కనుగొను. సరఫరాదారు పేరు, కుర్చీకి ధర, డెలివరీ సమయం, ఉత్పత్తి పేజీకి లింక్‌తో కూడిన పట్టికను అందించు. ఈ జాబితా ఆర్డర్ చేయబోయే మా ఆఫీస్ మేనేజర్ కోసం.”

ప్రతి టాస్క్‌ను కేంద్రీకృతంగా ఉంచండి

ఒకే స్పష్టమైన లక్ష్యం ఉన్న ఒక టాస్క్ కాంటెక్స్ట్‌ను చిన్నదిగా ఉంచుతుంది. సుదీర్ఘ టాస్క్‌లకు ఖర్చు కూడా ఎక్కువ. ప్రతి దశ ఇప్పటివరకు సేకరించిన మొత్తాన్నీ ప్రాసెస్ చేస్తుంది, కాబట్టి ఉబ్బిపోయిన కాంటెక్స్ట్ ప్రతి దశలో ఎక్కువ క్రెడిట్స్‌ను ఉపయోగిస్తుంది.

అనేక భాగాలు ఉన్న ప్రాజెక్ట్ అయితే, దానిని విభజించండి:

  1. వేర్వేరు డెలివరబుల్స్‌ను జాబితా చేయండి, ఉదాహరణకు సరఫరాదారు శోధన, ధరల పోలిక, ఎంచుకున్న సరఫరాదారుకు ఒక ఇమెయిల్.
  2. ప్రతి డెలివరబుల్‌ను ప్రత్యేక టాస్క్‌గా అమలు చేయండి.
  3. ఒక టాస్క్ నుండి తదుపరి టాస్క్‌కు పూర్తయిన ఫలితాన్ని మాత్రమే పంపండి. ఉదాహరణకు, సరఫరాదారు పట్టికను రూపొందించిన థ్రెడ్‌లోనే కొనసాగించకుండా, పోలిక టాస్క్‌ను ప్రారంభించడానికి ఆ పట్టికను ఫైల్‌గా అప్‌లోడ్ చేయండి.

అప్పుడు పోలిక టాస్క్ ప్రతి పేజీతో కాకుండా ఒకే పట్టికతో ప్రారంభమవుతుంది.

ఏజెంట్‌కు సరైన మూలాలను చూపించండి

ఏజెంట్ చదివే ప్రతి పేజీ, ఉపయోగకరమైన భాగం చుట్టూ ఉన్న మెనూలు, ప్రకటనలు, బాయిలర్‌ప్లేట్‌తో సహా, దాని కాంటెక్స్ట్‌కు జోడించబడుతుంది. ఏజెంట్‌కు దాని మూలాలను నేరుగా ఇవ్వడం వల్ల ఆ అనవసర సమాచారం తగ్గుతుంది.

ఆమోదిత వెండర్‌ల జాబితా వంటి, టాస్క్‌కు అవసరమైన ఫైల్‌లను క్వెరీకి జోడించడం ద్వారా అప్‌లోడ్ చేయండి. ఏజెంట్ వెబ్‌లో శోధించాల్సి వచ్చినప్పుడు, విశ్వసనీయమైన రెండు సరఫరాదారు డైరెక్టరీల వంటి, శోధించదగిన వెబ్‌సైట్‌ల పేర్లను పేర్కొనండి.

సమాచారం ఉన్న టూల్స్‌ను కనెక్ట్ చేయండి. ఉదాహరణకు, Perplexity Computerలో, సైడ్‌బార్‌లోని కనెక్టర్‌లను తెరిచి, Google Drive లేదా Slack వంటి టాస్క్‌కు అవసరమైన యాప్‌లను ఎనేబుల్ చేయండి. ఆ తర్వాత క్వెరీలో వాటిని పేర్కొనండి: “మా Google Driveలోని కుర్చీ స్పెసిఫికేషన్‌లను ఉపయోగించు.” ప్రతి కనెక్టర్ ఏజెంట్ కాంటెక్స్ట్‌లో కొంత భాగాన్ని ఆక్రమిస్తుంది కాబట్టి, సంబంధిత యాప్‌లను మాత్రమే కనెక్ట్ చేయండి.

సమాచారం కనెక్టర్‌ల జాబితాలో లేని యాప్‌లో ఉంటే, దానిని కనెక్ట్ చేయడం ఇప్పటికీ సాధ్యం కావచ్చు. చాలా యాప్‌లు MCP (Model Context Protocol) కనెక్టర్‌ను అందిస్తాయి, ఇది AI టూల్స్ ఇతర సాఫ్ట్‌వేర్‌తో అనుసంధానం కావడానికి ఒక ప్రామాణిక మార్గం. Computer తన అంతర్నిర్మిత కనెక్టర్‌లతో పాటు వీటిని కూడా ఉపయోగించగలదు. కంపెనీ ఖాతాలో, ముందుగా ఒక అడ్మిన్ వీటిని ఎనేబుల్ చేయాల్సి రావచ్చు.

సూచనలతో పోల్చి తుది తనిఖీ చేయమని అడగండి

అత్యంత ముఖ్యమైన పరిమితులను పేర్కొనే సమీక్షా దశతో క్వెరీని ముగించండి:

“పూర్తి చేసే ముందు, ప్రతి సరఫరాదారును ఈ అవసరాలతో పోల్చి తనిఖీ చేయి: రెండు వారాల్లోగా డెలివరీ, కుర్చీకి $250 కంటే తక్కువ. ఆ అవసరాలను తీర్చని వాటిని తొలగించకుండా ఫ్లాగ్ చేయి.”

పరిమితులు ఇప్పటికీ కాంటెక్స్ట్ ప్రారంభంలోనే ఉంటాయి. ప్రతి దశలోనూ సూచనలు తమ ప్రభావాన్ని నిలుపుకుంటాయని ఆధారపడకుండా, సమీక్షా దశ ఏజెంట్ తన తుది అవుట్‌పుట్‌ను ఆ పరిమితులతో పోల్చి చూడటానికి ఒక కారణాన్ని ఇస్తుంది.

అదే సమయంలో, ఆ ఫలితాలను కేవలం తొలగించకుండా సమస్యలను ఫ్లాగ్ చేయమని అడగడం వల్ల పొరపాట్లను పట్టుకోవడం సులభమవుతుంది (ఉదాహరణకు, 14 క్యాలెండర్ రోజుల్లోగా చేరుతుందని హామీ ఇచ్చే సరఫరాదారును “రెండు వారాలు” అనే పదాలను ఉపయోగించలేదనే కారణంతో తిరస్కరించడం.)

చెక్‌పాయింట్‌ల వద్ద పనిని సమీక్షించండి

సుదీర్ఘ టాస్క్‌ల కోసం, క్వెరీలోనే ఒక చెక్‌పాయింట్‌ను చేర్చండి:

“ముందుగా 20 సంభావ్య సరఫరాదారులను కనుగొని, ఆపై ఆగు. నువ్వు ధరల సమాచారాన్ని సేకరించే ముందు నేను జాబితాను నిర్ధారిస్తాను.”

షార్ట్‌లిస్ట్‌ను అసలు సూచనలతో పోల్చి తనిఖీ చేయండి. తప్పుగా ఉన్న వాటిని ఫాలో-అప్‌లో సరిదిద్ది, ఆపై ఏజెంట్‌ను కొనసాగనివ్వండి. ఈ దశలో పట్టుకున్న పొరపాట్లు ఆ తర్వాత వచ్చే ప్రతి దశకూ వ్యాపించవు.

టాస్క్ దారి తప్పినప్పుడు కొత్త టాస్క్‌ను ప్రారంభించండి

సరిదిద్దిన తర్వాత కూడా ఏజెంట్ అదే పొరపాటును పునరావృతం చేస్తే, కొత్త టాస్క్‌ను ప్రారంభించండి. ప్రతి సవరణ ఇప్పటికే పొడవుగా ఉన్న కాంటెక్స్ట్‌కు మరింత టెక్స్ట్‌ను జోడిస్తుంది. బదులుగా కొత్త టాస్క్‌ను సృష్టించండి. సూచనలను మళ్లీ పేర్కొని, మొదటి ప్రయత్నం నుండి వచ్చిన మంచి అవుట్‌పుట్‌ను అప్‌లోడ్ చేసి, మళ్లీ ప్రారంభించండి.

కొన్ని ఏజెంట్‌లు దీనిలో ఒక రూపాన్ని ఆటోమేటిక్‌గా చేస్తాయి, ఈ ప్రక్రియను కాంపాక్షన్ అంటారు. టాస్క్ పొడవు పెరిగే కొద్దీ, ఏజెంట్ పాత సమాచారాన్ని, ఉదాహరణకు ప్రారంభంలో చదివిన పేజీల పూర్తి టెక్స్ట్‌ను, తాను కనుగొన్న వాటి సంక్షిప్త సారాంశంతో భర్తీ చేస్తుంది. Perplexity యొక్క Portable Computer తన కాంటెక్స్ట్‌ను ఈ విధంగా కాంపాక్ట్ చేస్తుంది, తద్వారా మోడల్ తాను బాగా నిర్వహించగలిగే పరిమాణంలోనే ఉంటుంది.

లక్ష్యం మారితే కొత్త టాస్క్‌ను ప్రారంభించడం కూడా ముఖ్యం. సరఫరాదారు శోధనగా ప్రారంభమైన థ్రెడ్ కాంట్రాక్ట్ సమీక్షగా కూడా మారకూడదు.

పునరావృతమయ్యే సూచనలను ఒక నైపుణ్యంగా మార్చండి

ఇష్టపడే పట్టిక ఫార్మాట్, నివారించాల్సిన వెండర్‌ల జాబితా, లేదా ప్రామాణిక సమీక్షా దశ వంటి కొన్ని సూచనలు ఒక నిర్దిష్ట రకమైన ప్రతి టాస్క్‌లోనూ వస్తాయి. Computerలో, వీటిని ఒక నైపుణ్యంగా సేవ్ చేయవచ్చు. ఇది ఏజెంట్ ప్రతిసారీ అనుసరించే పునర్వినియోగించదగిన సూచనల సమితి. నైపుణ్యం దానిని ఉపయోగించే ప్రతి టాస్క్‌లోనూ ఇతర ఉత్తమ పద్ధతులను చేరుస్తుంది.

దీనిని సెటప్ చేయడానికి:

  1. సరఫరాదారు పరిశోధన వంటి, తరచుగా వచ్చే టాస్క్‌ను ఎంచుకోండి.
  2. ప్రతిసారీ ఇచ్చే సూచనలను రాసి పెట్టండి: ఫార్మాట్, తనిఖీలు, ఉపయోగించాల్సిన లేదా నివారించాల్సిన మూలాలు.
  3. వాటిని ఒక నైపుణ్యంగా సేవ్ చేయండి. ఇప్పటికే Markdownలో రాసిన సూచనలను నేరుగా ఇంపోర్ట్ చేయవచ్చు.
  4. భవిష్యత్ క్వెరీలలో ఆ నైపుణ్యం పేరును పేర్కొనండి: “సరఫరాదారు పరిశోధన నైపుణ్యం సహాయంతో డెన్వర్ ఆఫీస్ కోసం కుర్చీ సరఫరాదారులను కనుగొను.”

ఏజెంట్ పనిలో కాంటెక్స్ట్‌ను Perplexity ఎలా నిర్వహిస్తుంది

Perplexity Computer సుదీర్ఘ టాస్క్‌లను ప్రతి మోడల్ కాంటెక్స్ట్ చిన్నదిగా, సంబంధితంగా ఉండేలా నిర్వహిస్తుంది. దాని డిజైన్‌లోని మూడు అంశాలు ఒక మోడల్ ఒకేసారి ఎంత చదవాల్సి వస్తుందో పరిమితం చేస్తాయి.

సబ్-ఏజెంట్‌ల మధ్య పనిని విభజించడం

Computer ఒక అభ్యర్థనను టాస్క్‌లు, సబ్‌టాస్క్‌లుగా విభజించి, వాటిని అమలు చేయడానికి సబ్-ఏజెంట్‌లను సృష్టిస్తుంది. ప్రతి సబ్-ఏజెంట్ తన సొంత కాంటెక్స్ట్‌లో పనిలోని ఒక భాగంపై పనిచేస్తుంది. సరఫరాదారు టాస్క్‌లో, ఒక సబ్-ఏజెంట్ ధరలను పరిశోధిస్తుంటే, మరొకటి డెలివరీ నిబంధనలను తనిఖీ చేయవచ్చు. ఒకటి చదివినదంతా మరొకటి చదవాల్సిన అవసరం లేదు.

పనిని ఫైల్‌లలో భద్రపరచడం

ప్రతి Computer టాస్క్‌కు దాని సొంత ఫైల్‌లు, వెబ్ బ్రౌజర్, టూల్స్‌తో కూడిన ప్రత్యేక వర్క్‌స్పేస్ లభిస్తుంది. ఏజెంట్ తన పనిని ఒక ఫైల్‌లో సేవ్ చేయగలదు, ఉదాహరణకు తాను తనిఖీ చేసిన సరఫరాదారుల నిరంతరం అప్‌డేట్ అయ్యే పట్టిక. ఆ తర్వాత అవసరమైనప్పుడు మాత్రమే ఆ ఫైల్‌ను మళ్లీ తెరుస్తుంది.

శోధన ఫలితాల నుండి సంబంధిత భాగాలను ఎంచుకోవడం

వెబ్ పేజీలు మెనూలు, ప్రకటనలు, మెటాడేటా, ఇతర అంశాలపై టెక్స్ట్ వంటి మోడల్‌కు అవసరం లేని సమాచారంతో నిండి ఉంటాయి. క్వెరీ-అవేర్ కాంటెక్స్ట్ కంప్రెషన్ దానిని తొలగిస్తుంది. ఒక పేజీ మోడల్‌ను చేరే ముందు, Perplexity క్వెరీకి సంబంధించిన వాక్యాలను మాత్రమే ఉంచుతుంది.

ఈ దశలను ఆచరణలో పెట్టడానికి Perplexity Computer కోసం చిట్కాలు, గైడ్‌లు, ఉదాహరణ టాస్క్‌లను అన్వేషించండి.

తరచుగా అడిగే ప్రశ్నలు

కాంటెక్స్ట్ రాట్, హాలూసినేషన్ ఒకటేనా?

కాదు, కానీ వాటికి సంబంధం ఉంది. హాలూసినేషన్ అంటే తప్పుడు లేదా ఆధారం లేని విషయాన్ని పేర్కొనే ఏ సమాధానమైనా. విస్మరించిన సూచనలు, కోల్పోయిన వివరాలు వంటి ఇతర పొరపాట్లతో పాటు, హాలూసినేషన్‌ల సంభావ్యతను పెంచే పరిస్థితుల్లో కాంటెక్స్ట్ రాట్ ఒకటి.

మెరుగైన క్వెరీ కాంటెక్స్ట్ రాట్‌ను సరిచేయగలదా?

స్పష్టమైన క్వెరీ టాస్క్‌ను కేంద్రీకృతంగా ఉంచడం ద్వారా కాంటెక్స్ట్ రాట్‌ను తగ్గిస్తుంది. అయితే, ఇది కాంటెక్స్ట్ పెరగకుండా ఆపలేదు. తగినంత సుదీర్ఘమైన టాస్క్‌లో, ఏజెంట్ తాను బాగా ఉపయోగించగలిగే దానికంటే ఎక్కువ సమాచారాన్ని సేకరిస్తూనే ఉంటుంది. అందుకే పనిని విభజించడం, మధ్యమధ్యలో తనిఖీ చేయడం కూడా క్వెరీ అంతే ముఖ్యం.

కాంటెక్స్ట్ రాట్ కేవలం ఏజెంట్‌లనే కాకుండా సాధారణ AI చాట్‌లను కూడా ప్రభావితం చేస్తుందా?

అవును. చాట్‌లో, కాంటెక్స్ట్ అంటే ఇప్పటివరకు జరిగిన మొత్తం సంభాషణ, ఇందులో ప్రతి సందేశం, అందులో పేస్ట్ చేసిన లేదా అప్‌లోడ్ చేసిన ఏవైనా డాక్యుమెంట్‌లు ఉంటాయి. అనేక అంశాలపై గంటల తరబడి కొనసాగిన థ్రెడ్ కూడా సుదీర్ఘ ఏజెంట్ టాస్క్ లాంటి పొరపాట్లను చేయవచ్చు. కొత్త అంశం కోసం కొత్త థ్రెడ్‌ను ప్రారంభించడం ప్రతి సంభాషణను కేంద్రీకృతంగా ఉంచుతుంది.

కాంటెక్స్ట్ రాట్ మొదలయ్యే ముందు ఒక టాస్క్ ఎంత పొడవుగా ఉండవచ్చు?

నిర్దిష్టమైన పరిమితి అంటూ ఏదీ లేదు. ఇది మోడల్, టాస్క్‌పై ఆధారపడి ఉంటుంది. ఉదాహరణకు, 2,60,000 టోకెన్ల కాంటెక్స్ట్ విండోలు ఉన్న ఆన్-డివైస్ మోడల్‌లు సుమారు 1,00,000 టోకెన్లు దాటిన తర్వాత ఇబ్బంది పడటం ప్రారంభిస్తాయి, ఇది వాటి పరిమితి కంటే చాలా తక్కువ. ఈ క్షీణత కూడా ఆకస్మికంగా కాకుండా క్రమంగా జరుగుతుంది.