AI এজেন্টে কনটেক্সট রট: দীর্ঘ টাস্কে কেন নির্ভুলতা কমে এবং কীভাবে তা প্রতিরোধ করবেন

AI এজেন্টের কনটেক্সটে কী জমা হয়, কেন তা নির্ভুলতার ক্ষতি করে এবং কীভাবে নির্ভরযোগ্য টাস্ক সেট আপ করবেন—তার একটি গাইড।

Diagram of an AI agent's context growing from task start to late in a task: instructions are joined by stacked search results, websites, documents, and notes, while a bar showing how closely the agent follows the original instructions shrinks.

AI এজেন্টের জন্য কনটেক্সট রট বলতে কী বোঝায়

AI এজেন্টে কনটেক্সট রট হলো নির্ভুলতার ধীরে ধীরে কমে যাওয়া, যা দীর্ঘ কোনো টাস্কের সময় এজেন্টের কনটেক্সট ভরে উঠতে থাকলে দেখা দেয়।

এজেন্টের কনটেক্সট হলো পরবর্তী ধাপের জন্য মডেলের কাছে থাকা তথ্য। এতে নির্দেশনা, আগের বার্তা, সার্চের ফলাফল এবং ওয়েবসাইট বা ফাইলের টেক্সট থাকতে পারে। এজেন্ট কাজ করার সাথে সাথে এতে আরও তথ্য যোগ করতে পারে।

উদাহরণস্বরূপ, ধরুন একটি এজেন্টের টাস্ক হলো এমন সরবরাহকারী খুঁজে বের করা যারা দুই সপ্তাহের মধ্যে ডেলিভারি দেয়। শুরুতে এর কনটেক্সটে শুধু সেই অনুরোধটুকুই থাকে। টাস্কের মাঝামাঝি পর্যায়ে কনটেক্সটে আরও থাকবে কয়েক ডজন সরবরাহকারীর ওয়েবসাইটের টেক্সট, সার্চ ফলাফলের কয়েক পৃষ্ঠা এবং এজেন্ট ইতিমধ্যে কোন কোন সরবরাহকারী যাচাই করেছে তার নোট।

একটি মডেল কতটা কনটেক্সট ধারণ করতে পারে তার একটি সীমা আছে (একে কনটেক্সট উইন্ডো বলা হয়)। এই উইন্ডো টোকেনে মাপা হয়; টোকেন হলো টেক্সটের ছোট ছোট অংশ, সাধারণত একটি শব্দ বা শব্দের অংশ। কনটেক্সট যত বাড়ে, কনটেক্সট রটও তত বাড়ে, আর এ কারণেই অনেক ধাপের দীর্ঘ টাস্কে এটি ঘটার সম্ভাবনা সবচেয়ে বেশি।

কনটেক্সট রট যত বাড়ে, এজেন্টের নির্ভুলতা তত কমে। এটি তার মূল নির্দেশনা আগের মতো নিবিড়ভাবে অনুসরণ নাও করতে পারে, খুঁটিনাটি বিষয় এড়িয়ে যেতে পারে, অথবা দেখতে একই রকম তথ্যকে প্রয়োজনীয় তথ্য বলে ভুল করতে পারে।

উদাহরণস্বরূপ, এজেন্টকে দুই সপ্তাহে ডেলিভারি দেয় এমন সরবরাহকারী খুঁজতে বলা হলেও সে ছয় সপ্তাহ সময় নেয় এমন সরবরাহকারীদেরও অন্তর্ভুক্ত করতে শুরু করতে পারে। নির্দেশনাটি তখনও তার কনটেক্সটে আছে, কিন্তু সেটি আর এজেন্টের সিদ্ধান্তকে প্রভাবিত করছে না।

কনটেক্সট রট মানে কেবল কনটেক্সট উইন্ডোতে জায়গা ফুরিয়ে যাওয়া নয়। কোনো টাস্কের কনটেক্সট উইন্ডোর সীমা ছাড়িয়ে গেলে কিছু অংশ বাদ পড়ে যায় অথবা টাস্কটি ব্যর্থ হয়। কনটেক্সট রট শুরু হয় তার অনেক আগেই, যখন সবকিছু তখনও উইন্ডোতে এঁটে যায়।

এটি কনটেক্সট পয়জনিং-এর মতোও নয় (যখন বিভ্রান্তিকর বা ক্ষতিকর তথ্য এজেন্টের কনটেক্সটে ঢুকে পড়ে)। নির্ভুল ও সম্পূর্ণ তথ্য থাকা একটি এজেন্টও কনটেক্সট রটের শিকার হতে পারে।

কনটেক্সট রট কেন ঘটে

কনটেক্সট রট ঘটে কারণ মডেলের মনোযোগ সীমিত, এমনকি যখন তার কনটেক্সট উইন্ডোতে যথেষ্ট জায়গা থাকে তখনও। AI মডেলে মনোযোগ (attention) একটি কারিগরি শব্দ, যা বোঝায় উত্তরের প্রতিটি শব্দ লেখার সময় মডেল তার ইনপুটের কোন অংশগুলোর ওপর নির্ভর করবে তা কীভাবে ঠিক করে। কনটেক্সটের প্রতিটি অংশ সেই মনোযোগ পাওয়ার জন্য প্রতিযোগিতা করে। টেক্সট যত বেশি হয়, প্রতিটি অংশ তত কম মনোযোগ পায়।

উদাহরণস্বরূপ, Chroma ইনপুটের দৈর্ঘ্য কীভাবে AI মডেলকে প্রভাবিত করে তা নিয়ে একটি গবেষণা প্রকাশ করেছে। এতে Anthropic, OpenAI, Google এবং Alibaba-র ১৮টি মডেল পরীক্ষা করা হয়েছে। একটি পরীক্ষায় গবেষকেরা প্রবন্ধের একটি দীর্ঘ সংকলনের ভেতরে লেখালেখি বিষয়ক পরামর্শের একটি বাক্য লুকিয়ে রাখেন। তারপর তাঁরা মডেলকে জিজ্ঞেস করেন পরামর্শটি কী ছিল।

তাঁরা প্রতিবার আরও বেশি প্রবন্ধের টেক্সট যোগ করে পরীক্ষাটি বহুবার চালান। বাক্যটি এবং প্রশ্নটি কখনো বদলায়নি। বদলেছে শুধু এগুলোর চারপাশের টেক্সটের পরিমাণ।

মডেলগুলোকে যত বেশি টেক্সট পড়তে হয়েছে, তাদের ফলাফল তত খারাপ হয়েছে। প্রতিবেদনের প্রতিটি পরীক্ষাতেই এই ফলাফল পাওয়া গেছে। গবেষকদের পূর্বাভাস, অনেক ধাপের বাস্তব কাজে, যেমন বেশিরভাগ এজেন্ট টাস্কে, নির্ভুলতার এই পতন আরও বড় হবে।

কনটেক্সট রট কীভাবে AI এজেন্টকে প্রভাবিত করতে পারে

কনটেক্সট রট সাধারণত চারটি উপায়ের যেকোনো একটিতে প্রকাশ পায়:

মূল নির্দেশনার খেই হারিয়ে ফেলা

Chroma-র সবচেয়ে সহজ পরীক্ষায় মডেলগুলোকে পুনরাবৃত্ত শব্দের একটি দীর্ঘ স্ট্রিং হুবহু কপি করতে বলা হয়েছিল, যার কোথাও একটি ভিন্ন শব্দ ঢোকানো ছিল। এটি ছিল স্পষ্ট নির্দেশনাসহ একটি খুবই সহজ কাজ। তবুও টেক্সট যত দীর্ঘ হয়েছে, সব মডেলের পারফরম্যান্স তত কমেছে। কিছু মডেল এমন শব্দও লিখতে শুরু করে যা ইনপুটে একেবারেই ছিল না।

এজেন্ট টাস্কে ব্যবহারকারী সাধারণত টাস্কের শুরুতেই নির্দিষ্ট কিছু শর্ত ঠিক করে দেন, যেমন বাজেট বা প্রয়োজনীয় ফরম্যাট। কনটেক্সট বাড়ার সাথে সাথে এজেন্ট সেগুলো কম ধারাবাহিকভাবে প্রয়োগ করতে পারে। এর কারণ কনটেক্সটের সামগ্রিক দৈর্ঘ্য, নির্দেশনাটি কোথায় আছে তা নয়।

টাস্কের মাঝামাঝি অংশের খুঁটিনাটি বাদ পড়া

২০২৩ সালের Stanford-এর একটি গবেষণা অনুযায়ী, তথ্য যখন ইনপুটের একেবারে শুরুতে বা একেবারে শেষে থাকে, তখনই AI মডেল তা সবচেয়ে নির্ভরযোগ্যভাবে ব্যবহার করে। একটি পরীক্ষায় গবেষকেরা মডেলগুলোকে ২০টি ডকুমেন্টের একটি সেট দিয়ে এমন একটি প্রশ্ন করেন, যার উত্তর শুধু একটি ডকুমেন্টেই ছিল। সেই ডকুমেন্টটি প্রথমে বা শেষে থাকলে মডেলগুলো সাধারণত উত্তর খুঁজে পেয়েছে। সেটি সেটের মাঝখানে থাকলে তারা অনেক বেশিবার উত্তরটি খুঁজে পায়নি। গবেষকেরা একে পজিশন ইফেক্ট বা অবস্থানগত প্রভাব বলেন।

এজেন্টের ক্ষেত্রেও একই ধরন দেখা যায়। টাস্কের আগের দিকে পাওয়া তথ্য একটি দীর্ঘ কথোপকথনের মাঝখানে পড়ে যেতে পারে, যেখানে কিছু মডেলের পক্ষে তা ব্যবহার করা বেশি কঠিন। সরবরাহকারীর উদাহরণে, এজেন্ট টাস্কের মাঝপথে যাচাই করা একজন ভালো সরবরাহকারীকে চূড়ান্ত তালিকা থেকে বাদ দিয়ে ফেলতে পারে।

একই রকম তথ্য গুলিয়ে ফেলা

কনটেক্সট বাড়ার সাথে সাথে কোন তথ্য নির্দেশনার সাথে মেলে, তা চিনতে এজেন্ট আরও বেশি ভুল করতে পারে। উদাহরণস্বরূপ, ধরুন ব্যবহারকারী এজেন্টকে এমন সরবরাহকারী খুঁজতে বলেছেন যারা “দুই সপ্তাহের মধ্যে” পাঠায়। একজন সরবরাহকারীর ওয়েবসাইটে লেখা আছে “অর্ডারের ১৪ ক্যালেন্ডার দিনের মধ্যে পৌঁছায়।” ছোট টাস্কে এজেন্ট সম্ভবত সহজেই বুঝে ফেলবে যে দুটির অর্থ একই। কিন্তু অন্য কয়েক ডজন সরবরাহকারীর পৃষ্ঠার ভিড়ে চাপা পড়লে এই মিলটি তার চোখ এড়িয়ে যাওয়ার সম্ভাবনা বেশি।

আবার এমনও হতে পারে যে এজেন্ট অপ্রাসঙ্গিক ফলাফল অন্তর্ভুক্ত করতে শুরু করল। ধরুন এজেন্ট অফিস চেয়ারের সরবরাহকারী খুঁজছে। একজন সরবরাহকারীর ওয়েবসাইটে দুই সপ্তাহে ডেলিভারির প্রতিশ্রুতি আছে, কিন্তু তা শুধু ডেস্কের জন্য। তাদের চেয়ার আসতে ছয় সপ্তাহ লাগে। ওয়েবসাইটে নির্দেশনার মতো একই শব্দ ব্যবহার করা হয়েছে, তাই এজেন্ট তবুও সরবরাহকারীটিকে তার তালিকায় যোগ করতে পারে। গবেষকেরা এ ধরনের তথ্যকে ডিস্ট্র্যাক্টর বলেন। এটি প্রাসঙ্গিক মনে হলেও আসলে প্রাসঙ্গিক নয়, তাই এটি গুরুত্বপূর্ণ তথ্যের সাথে প্রতিযোগিতা করে।

Chroma-র গবেষণায় দেখা গেছে, চারপাশের টেক্সটের পরিমাণ বাড়ার সাথে সাথে এই দুটি সমস্যাই আরও খারাপ হয়েছে।

সহজে ধরা পড়ে না এমন ভুল

কনটেক্সট রটের কারণে কোনো এরর মেসেজ দেখা যায় না। এজেন্ট কাজ চালিয়ে যায় এবং এমন আউটপুট ফেরত দেয় যা দেখতে সম্পূর্ণ মনে হয়। ফলে এর ভুলগুলো সহজেই চোখ এড়িয়ে যায়।

Chroma-র পরীক্ষায় এই ভুলগুলো দুই রকমের ছিল। কখনো কখনো মডেল আত্মবিশ্বাসের সাথে একটি ভুল উত্তর দিয়েছে। সরবরাহকারী গবেষণার উদাহরণে, এজেন্ট একটি পরিপাটি, সুন্দরভাবে ফরম্যাট করা সরবরাহকারী তালিকা দিতে পারে, যাতে এমন একজন সরবরাহকারীও আছে যার ডেলিভারির শর্ত সে ভুল পড়েছে।

অন্য সময় মডেল বলেছে যে সে এমন তথ্য খুঁজে পায়নি যা আসলে সেখানে ছিল। উদাহরণস্বরূপ, একাধিক সরবরাহকারী দুই সপ্তাহের সীমা পূরণ করলেও এজেন্ট এমন একটি প্রতিবেদন দিতে পারে যেখানে বলা আছে কোনো সরবরাহকারীই তা পূরণ করে না।

কনটেক্সট রট কমাতে এজেন্ট টাস্ক কীভাবে সেট আপ করবেন

টাস্ক সঠিকভাবে সেট আপ করলে কনটেক্সট রটের প্রভাব কমে এবং পুরো টাস্ক জুড়ে এজেন্ট যতটা সম্ভব নির্ভুল থাকে। নিচের সেরা অনুশীলনগুলো সাহায্য করতে পারে।

টাস্কটি একটি অ্যাসাইনমেন্টের মতো করে লিখুন

স্পষ্ট অ্যাসাইনমেন্ট কনটেক্সটকে ছোট রাখে। এজেন্ট জানে কখন কাজ শেষ, তাই যথেষ্ট তথ্য পাওয়ার পর সে উপকরণ সংগ্রহ বন্ধ করে দেয়। নির্দিষ্ট প্রয়োজনীয়তা থাকলে প্রতিটি পৃষ্ঠা যাচাই করার জন্য তার কাছে সুনির্দিষ্ট মানদণ্ডও থাকে। এতে এজেন্টের পক্ষে সঠিক তথ্য শনাক্ত করা সহজ হয়।

টাস্ক পাঠানোর আগে দেখে নিন এতে তিনটি বিষয় আছে কি না:

  • টাস্ক: এজেন্টকে কী করতে ও কী তৈরি করতে হবে, যেমন “সরবরাহকারী খুঁজে একটি সংক্ষিপ্ত তালিকা দিন।”
  • প্রয়োজনীয়তা: যে তথ্যগুলো এজেন্ট অনুমান করতে পারে না, যেমন বাজেট, সময়সীমা, ডেলিভারির ঠিকানা এবং ফলাফলটি কার জন্য।
  • আউটপুট: ফরম্যাট, দৈর্ঘ্য ও কাঠামো, যেমন “নাম, চেয়ারপ্রতি দাম এবং ডেলিভারির সময়সহ একটি টেবিল।”

সব মিলিয়ে সরবরাহকারী টাস্কের কোয়েরিটি দেখতে এমন হতে পারে:

“এমন ১০টি সরবরাহকারী খুঁজুন যারা দুই সপ্তাহের মধ্যে আমাদের শিকাগো অফিসে চেয়ারপ্রতি ২৫০ ডলারের কম দামে ৪০টি অফিস চেয়ার ডেলিভারি দিতে পারে। সরবরাহকারীর নাম, চেয়ারপ্রতি দাম, ডেলিভারির সময় এবং পণ্যের পৃষ্ঠার লিংকসহ একটি টেবিল দিন। তালিকাটি আমাদের অফিস ম্যানেজারের জন্য, যিনি অর্ডার দেবেন।”

প্রতিটি টাস্ক সুনির্দিষ্ট রাখুন

একটি স্পষ্ট লক্ষ্যসহ একটি টাস্ক কনটেক্সটকে ছোট রাখে। দীর্ঘ টাস্কে খরচও বেশি। প্রতিটি ধাপে এ পর্যন্ত সংগৃহীত সবকিছু প্রসেস করা হয়, তাই অতিরিক্ত বড় কনটেক্সট প্রতিটি ধাপে বেশি ক্রেডিট খরচ করে।

একাধিক অংশ আছে এমন প্রজেক্ট ভাগ করে নিন:

  1. আলাদা আলাদা ডেলিভারেবলের তালিকা করুন, যেমন সরবরাহকারী খোঁজা, দামের তুলনা এবং নির্বাচিত সরবরাহকারীকে একটি ইমেইল।
  2. প্রতিটি ডেলিভারেবল আলাদা টাস্ক হিসেবে চালান।
  3. এক টাস্ক থেকে পরের টাস্কে শুধু চূড়ান্ত ফলাফলটি পাঠান। উদাহরণস্বরূপ, যে থ্রেডে সরবরাহকারীর টেবিল তৈরি হয়েছে সেখানে কাজ চালিয়ে না গিয়ে, তুলনার টাস্ক শুরু করতে টেবিলটি একটি ফাইল হিসেবে আপলোড করুন।

তখন তুলনার টাস্কটি প্রতিটি পৃষ্ঠার বদলে একটি মাত্র টেবিল দিয়ে শুরু হয়।

এজেন্টকে সঠিক উৎস দেখিয়ে দিন

এজেন্ট যে পৃষ্ঠাই পড়ে, তা তার কনটেক্সটে যোগ হয়, এমনকি দরকারি অংশের চারপাশের মেনু, বিজ্ঞাপন ও গতানুগতিক লেখাও। এজেন্টকে সরাসরি উৎস দিয়ে দিলে এই অপ্রয়োজনীয় তথ্য কমে।

টাস্ক যেসব ফাইলের ওপর নির্ভর করে, যেমন অনুমোদিত বিক্রেতাদের তালিকা, সেগুলো কোয়েরির সাথে সংযুক্ত করে আপলোড করুন। এজেন্টকে ওয়েবে সার্চ করতে হলে কোন ওয়েবসাইটগুলোতে খোঁজা উচিত তা উল্লেখ করুন, যেমন দুটি বিশ্বস্ত সরবরাহকারী ডিরেক্টরি।

যেখানে তথ্য আছে সেই টুলগুলো সংযুক্ত করুন। যেমন, Perplexity Computer-এ সাইডবারে কানেক্টর খুলুন এবং টাস্কের জন্য প্রয়োজনীয় অ্যাপগুলো চালু করুন, যেমন Google Drive বা Slack। তারপর কোয়েরিতে সেগুলোর উল্লেখ করুন: “আমাদের Google Drive-এ থাকা চেয়ারের স্পেসিফিকেশন ব্যবহার করুন।” শুধু প্রাসঙ্গিক অ্যাপগুলোই সংযুক্ত করুন, কারণ প্রতিটি কানেক্টর এজেন্টের কনটেক্সটের কিছুটা জায়গা নেয়।

তথ্য যদি এমন কোনো অ্যাপে থাকে যা কানেক্টর তালিকায় নেই, তবুও সেটি সংযুক্ত করা সম্ভব হতে পারে। অনেক অ্যাপ MCP (Model Context Protocol) কানেক্টর দেয়, যা AI টুলকে অন্যান্য সফটওয়্যারের সাথে যুক্ত করার একটি মানসম্মত উপায়। Computer তার বিল্ট-ইন কানেক্টরের পাশাপাশি এগুলোও ব্যবহার করতে পারে। কোম্পানি অ্যাকাউন্টে আগে একজন অ্যাডমিনকে এগুলো চালু করতে হতে পারে।

শেষে নির্দেশনার সাথে মিলিয়ে একটি চূড়ান্ত যাচাই করতে বলুন

কোয়েরির শেষে একটি রিভিউ ধাপ যোগ করুন, যেখানে সবচেয়ে গুরুত্বপূর্ণ শর্তগুলোর উল্লেখ থাকবে:

“শেষ করার আগে প্রতিটি সরবরাহকারীকে এই প্রয়োজনীয়তাগুলোর সাথে মিলিয়ে দেখুন: দুই সপ্তাহের মধ্যে ডেলিভারি, চেয়ারপ্রতি ২৫০ ডলারের কম। যেগুলো এই প্রয়োজনীয়তা পূরণ করে না, সেগুলো বাদ না দিয়ে চিহ্নিত করুন।”

শর্তগুলো তখনও কনটেক্সটের শুরুতেই থাকে। রিভিউ ধাপটি এজেন্টকে তার চূড়ান্ত আউটপুট শর্তগুলোর সাথে মিলিয়ে দেখার একটি কারণ দেয়, ফলে প্রতিটি ধাপজুড়ে নির্দেশনার প্রভাব বজায় থাকার ওপর ভরসা করতে হয় না।

অন্যদিকে, ফলাফলগুলো সরাসরি বাদ না দিয়ে সমস্যাগুলো চিহ্নিত করতে বললে ভুল ধরা সহজ হয় (যেমন ১৪ ক্যালেন্ডার দিনের মধ্যে পৌঁছানোর প্রতিশ্রুতি দেওয়া একজন সরবরাহকারীকে শুধু “দুই সপ্তাহ” শব্দটি ব্যবহার না করার কারণে বাদ দেওয়া)।

চেকপয়েন্টে কাজ পর্যালোচনা করুন

দীর্ঘ টাস্কের জন্য কোয়েরিতে একটি চেকপয়েন্ট রাখুন:

“প্রথমে ২০টি সম্ভাব্য সরবরাহকারী খুঁজে বের করে থামুন। আপনি দামের তথ্য সংগ্রহ করার আগে আমি তালিকাটি নিশ্চিত করব।”

সংক্ষিপ্ত তালিকাটি মূল নির্দেশনার সাথে মিলিয়ে দেখুন। কোনো কিছু ঠিক না থাকলে ফলো-আপে তা সংশোধন করুন, তারপর এজেন্টকে কাজ চালিয়ে যেতে দিন। এই পর্যায়ে ধরা পড়া ভুল পরবর্তী প্রতিটি ধাপে ছড়িয়ে পড়বে না।

টাস্ক পথ হারালে নতুন টাস্ক শুরু করুন

সংশোধনের পরও এজেন্ট যদি একই ভুল বারবার করে, তাহলে নতুন টাস্ক শুরু করুন। প্রতিটি সংশোধন ইতিমধ্যে দীর্ঘ কনটেক্সটে আরও টেক্সট যোগ করে। তাই এর বদলে নতুন একটি টাস্ক তৈরি করুন। নির্দেশনাগুলো আবার লিখুন, প্রথম চেষ্টার ভালো আউটপুটগুলো আপলোড করুন এবং নতুন করে শুরু করুন।

কিছু এজেন্ট স্বয়ংক্রিয়ভাবে এরই একটি রূপ প্রয়োগ করে, যাকে কমপ্যাকশন বলা হয়। টাস্ক দীর্ঘ হতে থাকলে এজেন্ট পুরোনো উপকরণ, যেমন শুরুর দিকে পড়া পৃষ্ঠাগুলোর পূর্ণ টেক্সট, তার পাওয়া তথ্যের একটি সংক্ষিপ্ত সারাংশ দিয়ে প্রতিস্থাপন করে। Perplexity-র Portable Computer এভাবেই তার কনটেক্সট সংকুচিত করে, যাতে মডেল যতটুকু ভালোভাবে সামলাতে পারে তার মধ্যেই থাকে।

লক্ষ্য বদলে গেলেও নতুন টাস্ক শুরু করা জরুরি। যে থ্রেড সরবরাহকারী খোঁজা দিয়ে শুরু হয়েছিল, সেটিকে চুক্তি পর্যালোচনার কাজেও ব্যবহার করা উচিত নয়।

বারবার দেওয়া নির্দেশনাকে একটি দক্ষতায় পরিণত করুন

কিছু নির্দেশনা নির্দিষ্ট ধরনের প্রতিটি টাস্কেই আসে, যেমন পছন্দের টেবিল ফরম্যাট, এড়িয়ে চলতে হবে এমন বিক্রেতাদের তালিকা বা একটি নির্দিষ্ট রিভিউ ধাপ। Computer-এ এগুলো একটি দক্ষতা হিসেবে সংরক্ষণ করা যায়, যা পুনরায় ব্যবহারযোগ্য নির্দেশনার একটি সেট এবং এজেন্ট প্রতিবার তা অনুসরণ করে। যে টাস্কেই দক্ষতা ব্যবহার করা হোক, এটি অন্যান্য সেরা অনুশীলনগুলোকে সেই টাস্কের অংশ করে দেয়।

একটি দক্ষতা সেট আপ করতে:

  1. প্রায়ই আসে এমন একটি টাস্ক বেছে নিন, যেমন সরবরাহকারী গবেষণা।
  2. প্রতিবার যে নির্দেশনাগুলো দেন সেগুলো লিখে ফেলুন: ফরম্যাট, যাচাইয়ের ধাপ, কোন উৎস ব্যবহার করতে হবে বা এড়িয়ে চলতে হবে।
  3. এগুলো একটি দক্ষতা হিসেবে সংরক্ষণ করুন। Markdown-এ আগে থেকে লেখা নির্দেশনা সরাসরি ইমপোর্ট করা যায়।
  4. পরবর্তী কোয়েরিতে দক্ষতাটির নাম উল্লেখ করুন: “ডেনভার অফিসের জন্য চেয়ার সরবরাহকারী খুঁজতে সরবরাহকারী গবেষণা দক্ষতাটি ব্যবহার করুন।”

এজেন্টের কাজে Perplexity কীভাবে কনটেক্সট সামলায়

Perplexity Computer দীর্ঘ টাস্ক এমনভাবে সামলায় যাতে প্রতিটি মডেলের কনটেক্সট ছোট ও প্রাসঙ্গিক থাকে। এর ডিজাইনের তিনটি দিক একটি মডেলকে একবারে কতটা পড়তে হবে তা সীমিত রাখে।

সাব-এজেন্টদের মধ্যে কাজ ভাগ করা

Computer একটি অনুরোধকে টাস্ক ও সাবটাস্কে ভাগ করে, তারপর সেগুলো সম্পন্ন করতে সাব-এজেন্ট তৈরি করে। প্রতিটি সাব-এজেন্ট তার নিজস্ব কনটেক্সটে কাজের একটি অংশ নিয়ে কাজ করে। সরবরাহকারী টাস্কে, একটি সাব-এজেন্ট দাম নিয়ে গবেষণা করতে পারে, আর অন্যটি ডেলিভারির শর্ত যাচাই করতে পারে। একটিকে অন্যটির পড়া সবকিছু পড়তে হয় না।

কাজ ফাইলে সংরক্ষণ করা

প্রতিটি Computer টাস্ক নিজস্ব ফাইল, ওয়েব ব্রাউজার ও টুলসহ তার নিজস্ব ওয়ার্কস্পেস পায়। এজেন্ট তার কাজ একটি ফাইলে সংরক্ষণ করতে পারে, যেমন যাচাই করা সরবরাহকারীদের একটি চলমান টেবিল। এরপর শুধু প্রয়োজন হলেই সে ফাইলটি আবার খোলে।

সার্চ ফলাফল থেকে প্রাসঙ্গিক অংশ বাছাই করা

ওয়েব পৃষ্ঠাগুলো এমন অনেক উপকরণে ভরা থাকে যা মডেলের দরকার নেই, যেমন মেনু, বিজ্ঞাপন, মেটাডেটা এবং অন্য বিষয়ের টেক্সট। কোয়েরি-সচেতন কনটেক্সট কম্প্রেশন এগুলো বাদ দেয়। কোনো পৃষ্ঠা মডেলের কাছে পৌঁছানোর আগে Perplexity শুধু কোয়েরির সাথে সম্পর্কিত বাক্যগুলো রাখে।

এই ধাপগুলো কাজে লাগাতে Perplexity Computer-এর টিপস, গাইড ও উদাহরণ টাস্ক দেখুন।

সচরাচর জিজ্ঞাসিত প্রশ্ন

কনটেক্সট রট কি হ্যালুসিনেশনের মতোই?

না, তবে দুটি সম্পর্কিত। হ্যালুসিনেশন হলো এমন যেকোনো উত্তর যা মিথ্যা বা ভিত্তিহীন কিছু বলে। কনটেক্সট রট এমন অবস্থাগুলোর একটি, যা হ্যালুসিনেশনের সম্ভাবনা বাড়ায়, পাশাপাশি উপেক্ষিত নির্দেশনা ও বাদ পড়া খুঁটিনাটির মতো অন্যান্য ভুলেরও সম্ভাবনা বাড়ায়।

আরও ভালো কোয়েরি কি কনটেক্সট রট ঠিক করতে পারে?

একটি স্পষ্ট কোয়েরি টাস্ককে সুনির্দিষ্ট রেখে কনটেক্সট রট কমায়। তবে এটি কনটেক্সট বেড়ে যাওয়া থামাতে পারে না। যথেষ্ট দীর্ঘ টাস্কে এজেন্ট তখনও ভালোভাবে ব্যবহার করতে পারে তার চেয়ে বেশি তথ্য সংগ্রহ করে। এ কারণেই কাজ ভাগ করা এবং মাঝপথে তা যাচাই করা কোয়েরির মতোই গুরুত্বপূর্ণ।

কনটেক্সট রট কি শুধু এজেন্ট নয়, সাধারণ AI চ্যাটকেও প্রভাবিত করে?

হ্যাঁ। চ্যাটে কনটেক্সট হলো এ পর্যন্ত হওয়া পুরো কথোপকথন, যার মধ্যে প্রতিটি বার্তা এবং এতে পেস্ট বা আপলোড করা যেকোনো ডকুমেন্টও অন্তর্ভুক্ত। একাধিক বিষয় নিয়ে কয়েক ঘণ্টা ধরে চলা একটি থ্রেডেও দীর্ঘ এজেন্ট টাস্কের মতো একই ভুল হতে পারে। নতুন বিষয়ের জন্য নতুন থ্রেড শুরু করলে প্রতিটি কথোপকথন সুনির্দিষ্ট থাকে।

কনটেক্সট রট শুরু হওয়ার আগে একটি টাস্ক কতটা দীর্ঘ হতে পারে?

এর কোনো নির্দিষ্ট সীমা নেই। এটি মডেল ও টাস্কের ওপর নির্ভর করে। উদাহরণস্বরূপ, ২,৬০,০০০-টোকেনের কনটেক্সট উইন্ডোসহ অন-ডিভাইস মডেলগুলো প্রায় ১,০০,০০০ টোকেনের পর থেকেই হিমশিম খেতে শুরু করে, যা তাদের সীমার অনেক নিচে। অবনতিটিও হঠাৎ নয়, বরং ধীরে ধীরে ঘটে।