تدهور السياق في وكلاء الذكاء الاصطناعي: لماذا تفقد المهام الطويلة دقتها وكيف تمنع ذلك

دليل يشرح ما يتراكم في سياق وكيل الذكاء الاصطناعي، ولماذا يضر ذلك بالدقة، وكيفية إعداد مهام تظل موثوقة.

Diagram of an AI agent's context growing from task start to late in a task: instructions are joined by stacked search results, websites, documents, and notes, while a bar showing how closely the agent follows the original instructions shrinks.

ما معنى تدهور السياق بالنسبة إلى وكلاء الذكاء الاصطناعي

تدهور السياق في وكلاء الذكاء الاصطناعي هو الفقدان التدريجي للدقة الذي يبدأ مع امتلاء سياق الوكيل خلال مهمة طويلة.

سياق الوكيل هو المعلومات المتاحة للنموذج لتنفيذ خطوته التالية. ويمكن أن يشمل التعليمات والرسائل السابقة ونتائج البحث ونصوصًا من مواقع الويب أو الملفات. ومع تقدّم الوكيل في عمله، قد يضيف المزيد.

على سبيل المثال، لنفترض أن مهمة الوكيل هي العثور على موردين يسلّمون خلال أسبوعين. في البداية، لا يحتوي سياقه إلا على هذا الطلب. وفي منتصف المهمة، سيتضمن السياق أيضًا نصوص عشرات من مواقع الموردين، وعدة صفحات من نتائج البحث، وملاحظات حول الموردين الذين تحقق منهم الوكيل بالفعل.

هناك حد لمقدار السياق الذي يمكن للنموذج استيعابه (ويُسمّى نافذة السياق). وتُقاس النافذة بالرموز المميزة (tokens)، وهي أجزاء صغيرة من النص، تكون عادةً كلمة أو جزءًا من كلمة. ويزداد تدهور السياق مع نمو السياق، ولهذا يكون حدوثه أرجح في المهام الطويلة التي تتضمن خطوات كثيرة.

مع تفاقم تدهور السياق، تقل دقة الوكيل. فقد يلتزم بتعليماته الأصلية بدرجة أقل، أو يغفل عن التفاصيل، أو يخلط بين معلومات متشابهة في ظاهرها وبين ما يحتاج إليه فعلًا.

على سبيل المثال، قد يبدأ الوكيل في إدراج موردين يستغرق تسليمهم ستة أسابيع، رغم أنه طُلب منه العثور على تسليم خلال أسبوعين. لا تزال التعليمات موجودة في سياقه، لكنها لم تعد توجّه اختياراته.

لا يُعد تدهور السياق مجرد نفاد المساحة في نافذة السياق. فعندما يتجاوز سياق المهمة حجم النافذة، يُقتطع جزء من المحتوى أو تفشل المهمة. أما تدهور السياق فيبدأ قبل ذلك بكثير، بينما لا يزال كل شيء يتسع في النافذة.

كما أنه يختلف عن تسميم السياق (عندما تدخل معلومات مضللة أو ضارة إلى سياق الوكيل). فحتى الوكيل الذي يملك معلومات دقيقة وكاملة قد يتعرض لتدهور السياق.

لماذا يحدث تدهور السياق

يحدث تدهور السياق لأن انتباه النموذج محدود، حتى عندما تتسع نافذة السياق للمزيد. ففي نماذج الذكاء الاصطناعي، الانتباه هو المصطلح التقني لكيفية تحديد النموذج للأجزاء التي يعتمد عليها من مدخلاته أثناء كتابة كل كلمة في الرد. وتتنافس جميع أجزاء السياق على هذا الانتباه. وكلما زاد النص، قلّ الانتباه الذي يحصل عليه كل جزء.

على سبيل المثال، نشرت Chroma دراسة حول كيفية تأثير طول المدخلات في نماذج الذكاء الاصطناعي. واختبرت الدراسة 18 نموذجًا من Anthropic وOpenAI وGoogle وAlibaba. وفي أحد الاختبارات، أخفى الباحثون جملة عن نصيحة في الكتابة داخل مجموعة طويلة من المقالات، ثم سألوا النموذج عن تلك النصيحة.

أجرى الباحثون الاختبار مرات عديدة، مع إضافة المزيد من نصوص المقالات في كل مرة. ولم تتغير الجملة ولا السؤال قط، بل تغيّر فقط مقدار النص المحيط بهما.

كلما زاد النص الذي كان على النماذج قراءته، تراجع أداؤها. وقد ثبتت هذه النتيجة في جميع اختبارات التقرير. ويتوقع الباحثون أن يكون انخفاض الدقة أكبر في الأعمال الحقيقية التي تتطلب خطوات كثيرة، مثل معظم مهام الوكلاء.

كيف يمكن أن يؤثر تدهور السياق في وكلاء الذكاء الاصطناعي

يظهر تدهور السياق عادةً بإحدى أربع طرق:

فقدان التركيز على التعليمات الأصلية

طلب أبسط اختبارات Chroma من النماذج نسخ تتابع طويل من الكلمات المكررة بدقة، مع كلمة واحدة مختلفة مُدرجة في موضع ما منه. كانت مهمة بسيطة للغاية وتعليماتها صريحة. ومع ذلك، تراجع أداء جميع النماذج مع ازدياد طول النص. بل بدأت بعض النماذج في إنتاج كلمات لم تكن موجودة في المدخلات أصلًا.

في مهام الوكلاء، يحدد المستخدم عادةً قيودًا معينة في بداية المهمة، مثل الميزانية أو التنسيق المطلوب. وقد يطبّقها الوكيل بقدر أقل من الاتساق مع نمو السياق. والسبب هو الطول الإجمالي للسياق، لا موضع التعليمات فيه.

إغفال التفاصيل الواردة في منتصف المهمة

تستخدم نماذج الذكاء الاصطناعي المعلومات بأعلى درجة من الموثوقية عندما تقع في بداية مدخلاتها أو نهايتها تمامًا، وفقًا لـدراسة أجرتها جامعة ستانفورد عام 2023. وفي أحد الاختبارات، أعطى الباحثون النماذج مجموعة من 20 مستندًا وطرحوا سؤالًا لا يجيب عنه إلا مستند واحد منها. وعندما جاء ذلك المستند أولًا أو أخيرًا، عثرت النماذج على الإجابة في الغالب. أما عندما وقع في منتصف المجموعة، فقد أخفقت في العثور عليها بمعدل أكبر بكثير. ويُطلق الباحثون على ذلك اسم تأثير الموضع.

ينطبق النمط نفسه على الوكلاء. فالمعلومات التي يُعثر عليها في وقت مبكر من المهمة قد تقع في منتصف محادثة طويلة، حيث تواجه بعض النماذج صعوبة أكبر في استخدامها. وفي مثال الموردين، قد تُغفل القائمة النهائية موردًا جيدًا تحقق منه الوكيل في منتصف المهمة.

الخلط بين المعلومات المتشابهة

مع نمو السياق، قد تتراجع قدرة الوكلاء على تمييز المعلومات التي تتوافق مع تعليماتهم. على سبيل المثال، لنفترض أن المستخدم طلب من الوكيل العثور على موردين يشحنون «خلال أسبوعين». ويذكر موقع أحد الموردين أن الطلب «يصل خلال 14 يومًا تقويميًا من تاريخ الطلب». في مهمة قصيرة، من المرجح أن يلاحظ الوكيل أن العبارتين تعنيان الشيء نفسه. أما إذا كانت هذه المعلومة مدفونة بين عشرات الصفحات الأخرى للموردين، فمن المرجح أكثر أن يفوته هذا التطابق.

أو قد يبدأ الوكيل بدلًا من ذلك في إدراج نتائج غير ذات صلة. لنفترض أن الوكيل يبحث عن موردي كراسٍ مكتبية. ويَعِد موقع أحد الموردين بالتسليم خلال أسبوعين، ولكن للمكاتب فقط، بينما تستغرق كراسيه ستة أسابيع. ولأن الموقع يستخدم الكلمات نفسها الواردة في التعليمات، فقد يضيف الوكيل هذا المورد إلى قائمته على أي حال. ويُطلق الباحثون على مثل هذه المعلومات اسم المُشتِّت؛ فهي تبدو ذات صلة لكنها ليست كذلك، ولذا تنافس المعلومات المهمة فعلًا.

وجدت دراسة Chroma أن كلتا المشكلتين تفاقمتا مع ازدياد مقدار النص المحيط.

أخطاء يصعب اكتشافها

لا يؤدي تدهور السياق إلى ظهور رسالة خطأ. إذ يواصل الوكيل العمل ويسلّم مخرجات تبدو مكتملة، مما يجعل أخطاءه سهلة الإغفال.

في اختبارات Chroma، اتخذت هذه الأخطاء شكلين. ففي بعض الأحيان، قدّم النموذج إجابة واثقة لكنها خاطئة. وفي مثال البحث عن الموردين، قد يسلّم الوكيل قائمة موردين مرتبة وحسنة التنسيق تتضمن موردًا أساء فهم شروط التسليم الخاصة به.

وفي أحيان أخرى، قال النموذج إنه لم يتمكن من العثور على معلومات كانت موجودة بالفعل. على سبيل المثال، قد يسلّم الوكيل تقريرًا يفيد بعدم وجود موردين يستوفون حد الأسبوعين، بينما يستوفيه عدد منهم.

كيفية إعداد مهام الوكيل للحد من تدهور السياق

يؤدي إعداد المهام بشكل صحيح إلى تقليل أثر تدهور السياق والحفاظ على دقة الوكيل قدر الإمكان طوال المهمة. ويمكن أن تساعدك أفضل الممارسات التالية.

صِغ المهمة في صورة تكليف

التكليف الواضح يُبقي السياق أصغر. فالوكيل يعرف متى ينتهي، لذا يتوقف عن جمع المواد بمجرد حصوله على ما يكفي. كما تمنحه المتطلبات المحددة معيارًا ملموسًا يقارن به كل صفحة، مما يسهّل عليه رصد المعلومات الصحيحة.

قبل إرسال المهمة، تأكد من أنها تغطي ثلاثة أمور:

  • المهمة: ما ينبغي للوكيل فعله وإنتاجه، مثل «ابحث عن موردين وقدّم قائمة مختصرة».
  • المتطلبات: الحقائق التي لا يستطيع الوكيل تخمينها، مثل الميزانية والموعد النهائي وعنوان التسليم والجهة التي تُعدّ لها النتيجة.
  • المخرجات: التنسيق والطول والبنية، مثل «جدول يتضمن الاسم وسعر الكرسي الواحد ومدة التسليم».

عند جمع هذه العناصر معًا، قد يبدو استعلام مهمة الموردين على النحو التالي:

«ابحث عن 10 موردين يمكنهم تسليم 40 كرسيًا مكتبيًا إلى مكتبنا في شيكاغو خلال أسبوعين، بسعر أقل من 250 دولارًا للكرسي الواحد. قدّم جدولًا يتضمن اسم المورد وسعر الكرسي الواحد ومدة التسليم ورابطًا إلى صفحة المنتج. القائمة مُعدّة لمدير مكتبنا، الذي سيقدّم الطلب.»

حافظ على تركيز كل مهمة

المهمة الواحدة ذات الهدف الواضح الواحد تُبقي السياق صغيرًا. كما أن المهام الطويلة أعلى تكلفة؛ إذ تعالج كل خطوة كل ما جُمع حتى تلك اللحظة، لذا يستهلك السياق المتضخم مزيدًا من الرصيد في كل خطوة.

إذا كان المشروع يتكوّن من عدة أجزاء، فقسّمه:

  1. حدّد المُخرَجات المنفصلة، مثل البحث عن الموردين، ومقارنة الأسعار، ورسالة بريد إلكتروني إلى المورد المختار.
  2. نفّذ كل مُخرَج كمهمة مستقلة.
  3. مرّر النتيجة النهائية فقط من مهمة إلى التالية. على سبيل المثال، ارفع جدول الموردين كملف لبدء مهمة المقارنة، بدلًا من المتابعة في السلسلة التي أنتجته.

وبذلك تبدأ مهمة المقارنة بجدول واحد بدلًا من كل الصفحات.

وجّه الوكيل إلى المصادر الصحيحة

كل صفحة يقرؤها الوكيل تضيف إلى سياقه، بما في ذلك قوائم التنقل والإعلانات والنصوص النمطية المحيطة بالجزء المفيد. ويؤدي تزويد الوكيل بمصادره مباشرةً إلى تقليل هذا التشويش.

ارفع الملفات التي تعتمد عليها المهمة، مثل قائمة الموردين المعتمدين، عن طريق إرفاقها بالاستعلام. وحدّد مواقع الويب التي تستحق البحث فيها عندما يتعين على الوكيل البحث في الويب، مثل دليلين موثوقين للموردين.

اربط الأدوات التي توجد فيها المعلومات. على سبيل المثال، في Perplexity Computer، افتح «الموصلات» في الشريط الجانبي وفعّل التطبيقات التي تحتاجها المهمة، مثل Google Drive أو Slack. ثم اذكرها في الاستعلام: «استخدم مواصفات الكراسي الموجودة في Google Drive الخاص بنا.» لا تربط إلا التطبيقات ذات الصلة، لأن كل موصل يشغل جزءًا من سياق الوكيل.

إذا كانت المعلومات موجودة في تطبيق غير مدرج في قائمة «الموصلات»، فقد يظل من الممكن ربطه. إذ يوفر كثير من التطبيقات موصل MCP (Model Context Protocol)، وهو طريقة قياسية تتيح لأدوات الذكاء الاصطناعي الاتصال بالبرامج الأخرى. ويستطيع Computer استخدام هذه الموصلات إلى جانب موصلاته المدمجة. وفي حسابات الشركات، قد يحتاج المسؤول إلى تفعيلها أولًا.

اطلب مراجعة نهائية مقابل التعليمات

اختم الاستعلام بخطوة مراجعة تحدد أهم القيود:

«قبل الانتهاء، تحقق من كل مورد مقابل هذه المتطلبات: التسليم خلال أسبوعين، وبسعر أقل من 250 دولارًا للكرسي الواحد. ضع علامة على أي مورد لا يستوفي هذه المتطلبات بدلًا من استبعاده.»

لا تزال القيود موجودة في بداية السياق. لكن خطوة المراجعة تمنح الوكيل سببًا لمقارنة مخرجاته النهائية بالقيود، بدلًا من الاعتماد على احتفاظ التعليمات بتأثيرها عبر كل خطوة.

وفي الوقت نفسه، فإن مطالبته بالإشارة إلى المشكلات، بدلًا من مجرد حذف تلك النتائج، تجعل اكتشاف الأخطاء أسهل (مثل رفض مورد يَعِد بالوصول خلال 14 يومًا تقويميًا لأنه لا يستخدم عبارة «أسبوعين».)

راجع العمل عند نقاط التحقق

في المهام الأطول، أضِف نقطة تحقق إلى الاستعلام:

«ابدأ بالعثور على 20 موردًا مرشحًا، ثم توقف. سأؤكد القائمة قبل أن تجمع الأسعار.»

تحقق من القائمة المختصرة مقابل التعليمات الأصلية. صحّح أي خلل في رسالة متابعة، ثم دع الوكيل يواصل. فالأخطاء التي تُكتشف في هذه المرحلة لن تنتقل إلى كل خطوة تالية.

ابدأ مهمة جديدة عندما تنحرف إحدى المهام عن مسارها

إذا كرر الوكيل الخطأ نفسه بعد التصحيحات، فابدأ مهمة جديدة. فكل تصحيح يضيف مزيدًا من النص إلى سياق طويل أصلًا. لذا أنشئ مهمة جديدة بدلًا من ذلك. أعد صياغة التعليمات، وارفع أي مخرجات جيدة من المحاولة الأولى، وابدأ من جديد.

يطبّق بعض الوكلاء صورة من ذلك تلقائيًا، في عملية تُسمّى الضغط (compaction). فعندما تطول المهمة، يستبدل الوكيل المواد الأقدم، مثل النص الكامل للصفحات التي قرأها في وقت مبكر، بملخص قصير لما توصل إليه. ويضغط Portable Computer من Perplexity سياقه بهذه الطريقة، بحيث يظل النموذج ضمن المقدار الذي يستطيع التعامل معه جيدًا.

من المهم أيضًا بدء مهمة جديدة إذا تغيّر الهدف. فالسلسلة التي بدأت بالبحث عن الموردين لا ينبغي أن تتحول أيضًا إلى مراجعة عقد.

حوّل التعليمات المتكررة إلى مهارة

تتكرر بعض التعليمات في كل مهمة من نوع معين، مثل تنسيق الجدول المفضّل، أو قائمة الموردين الذين يجب تجنبهم، أو خطوة مراجعة قياسية. في Computer، يمكن حفظ هذه التعليمات بوصفها مهارة، وهي مجموعة قابلة لإعادة الاستخدام من التعليمات يتبعها الوكيل في كل مرة. وتُدمج المهارة أفضل الممارسات الأخرى في كل مهمة تستخدمها.

لإعداد مهارة:

  1. اختر مهمة تتكرر كثيرًا، مثل البحث عن الموردين.
  2. دوّن التعليمات التي تقدّمها في كل مرة: التنسيق، وعمليات التحقق، والمصادر التي يجب استخدامها أو تجنبها.
  3. احفظها بوصفها مهارة. ويمكن استيراد التعليمات المكتوبة مسبقًا بتنسيق Markdown مباشرةً.
  4. اذكر اسم المهارة في الاستعلامات المستقبلية: «استخدم مهارة البحث عن الموردين للعثور على موردي كراسٍ لمكتب دنفر.»

كيف تتعامل Perplexity مع السياق في عمل الوكلاء

يتعامل Perplexity Computer مع المهام الطويلة بطرق تُبقي سياق كل نموذج صغيرًا وذا صلة. وتحدّ ثلاثة جوانب من تصميمه من مقدار ما يتعين على النموذج قراءته دفعة واحدة.

توزيع العمل على وكلاء فرعيين

يقسّم Computer الطلب إلى مهام ومهام فرعية، ثم ينشئ وكلاء فرعيين لتنفيذها. ويعمل كل وكيل فرعي على جزء واحد من العمل ضمن سياقه الخاص. ففي مهمة الموردين، قد يبحث أحد الوكلاء الفرعيين في الأسعار بينما يتحقق آخر من شروط التسليم. ولا يحتاج أيٌّ منهما إلى قراءة كل ما قرأه الآخر.

حفظ العمل في ملفات

تحصل كل مهمة في Computer على مساحة عمل خاصة بها، بملفاتها ومتصفح الويب والأدوات الخاصة بها. ويمكن للوكيل حفظ عمله في ملف، مثل جدول يُحدَّث باستمرار للموردين الذين تحقق منهم. ثم لا يفتح ذلك الملف مرة أخرى إلا عند الحاجة إليه.

اختيار المقاطع ذات الصلة من نتائج البحث

تمتلئ صفحات الويب بمواد لا يحتاجها النموذج، مثل قوائم التنقل والإعلانات والبيانات الوصفية والنصوص التي تتناول موضوعات أخرى. ويزيل ضغط السياق المراعي للاستعلام هذه المواد. فقبل أن تصل الصفحة إلى النموذج، لا تُبقي Perplexity إلا على الجمل المتعلقة بالاستعلام.

استكشف النصائح والأدلة وأمثلة المهام الخاصة بـ Perplexity Computer لتطبيق هذه الخطوات عمليًا.

الأسئلة الشائعة

هل تدهور السياق هو نفسه الهلوسة؟

لا، لكنهما مرتبطان. الهلوسة هي أي إجابة تذكر شيئًا خاطئًا أو غير مدعوم. وتدهور السياق هو أحد العوامل التي تزيد احتمال حدوث الهلوسة، إلى جانب أخطاء أخرى مثل تجاهل التعليمات وإغفال التفاصيل.

هل يمكن لاستعلام أفضل أن يعالج تدهور السياق؟

يقلّل الاستعلام الواضح من تدهور السياق من خلال الحفاظ على تركيز المهمة. لكنه لا يستطيع منع السياق من النمو. ففي المهام الطويلة بما يكفي، يظل الوكيل يجمع أكثر مما يستطيع استخدامه جيدًا، ولهذا فإن تقسيم العمل والتحقق منه أولًا بأول لا يقلّان أهمية عن الاستعلام نفسه.

هل يؤثر تدهور السياق في دردشات الذكاء الاصطناعي العادية، وليس في الوكلاء فقط؟

نعم. في الدردشة، يكون السياق هو المحادثة بأكملها حتى تلك اللحظة، بما في ذلك كل رسالة وأي مستندات لُصقت فيها أو رُفعت إليها. والسلسلة التي استمرت لساعات وتناولت عدة موضوعات قد تنتج الأخطاء نفسها التي تنتج عن مهمة وكيل طويلة. ويؤدي بدء سلسلة جديدة لكل موضوع جديد إلى الحفاظ على تركيز كل محادثة.

ما مدى طول المهمة قبل أن يبدأ تدهور السياق؟

لا توجد نقطة ثابتة؛ فالأمر يعتمد على النموذج والمهمة. على سبيل المثال، النماذج التي تعمل على الجهاز وتبلغ نوافذ سياقها 260,000 رمز مميز تبدأ في مواجهة صعوبات بعد نحو 100,000 رمز مميز، أي قبل بلوغ حدها بكثير. كما أن التراجع يحدث تدريجيًا لا فجأة.