كيف تعمل بوابة LLM؟ دليل عملي للفرق الهندسية

تقع بوابة LLM بين تطبيقاتك ومزوّدي النماذج الذين تتصل بهم عبرها، فتمنحك مكانًا واحدًا لإدارة بيانات الاعتماد وتتبّع الاستخدام.

«في الوقت الحالي، الوضع فوضى عارمة»، هذا ما كتبه أحد المهندسين في منشور على Reddit في r/LLMDevs في سبتمبر 2026.

«لكل شخص مجموعته الخاصة من المفاتيح لـ Claude وOpenAI وAWS Bedrock وجميع مزوّدي خدمات الاستنتاج الآخرين الذين نستخدمهم».

تغطية BigGo لأداة llm-proxy-tk، وهي بوابة FastAPI خفيفة الوزن، تشبّه هذا الإعداد بتحويل نماذج LLM إلى «مياه صنبور مؤسسية»، حيث تمثّل البوابة الصمام الرئيسي للمبنى.

لكن قبل أن تضع كل هذه الثقة في شبكة الأنابيب، لنلقِ نظرة على ما ستقوم بتركيبه.

ما هي بوابة LLM؟

بوابة LLM هي وكيل عكسي (reverse proxy) لاستدعاءات النماذج. ترسل تطبيقاتك الطلبات إليها بدلًا من إرسالها مباشرةً إلى OpenAI أو Anthropic أو Google أو أي مزوّدي LLM تستخدمهم. وتتولى البوابة تمرير هذه الطلبات، مع تطبيق قواعدك أثناء مرورها.

لكل مزوّد LLM واجهة API خاصة به: فلها بنية طلبات خاصة، وطريقة مصادقة خاصة، وأسلوب خاص في إرجاع الأخطاء. ولكل منها أيضًا حدود معدّل وأنماط إخفاق منفصلة. فإذا لم تكن هناك طبقة مشتركة أمامها، يتولى كل تطبيق يستدعي مزوّدًا ما كل شيء بنفسه، وبطريقة مختلفة قليلًا.

لتشبيه مياه الصنبور حدود، لكنه يوصلك إلى هذه النقطة: يُوصَل المزوّدون مرة واحدة فقط، عند البوابة. وبعد ذلك يحصل كل تطبيق على وصلة خاصة به مزوّدة بعدّاد، فتتمكن من معرفة من يستخدم ماذا، وإغلاق أي خط منفرد دون المساس بالخطوط الأخرى.

بوابات LLM والذكاء الاصطناعي وMCP وAPI: ما الفرق بينها؟

كيف تعمل بوابة LLM؟

تتبّع مسار طلب واحد من تطبيقك إلى النموذج ثم عودته.

1. يصل الطلب إلى البوابة: يرسل تطبيقك طلب دردشة يبدو عاديًا، غالبًا بتنسيق متوافق مع OpenAI، إلى نقطة نهاية البوابة. ومن منظور التطبيق، هذا هو العنوان الذي يستدعيه للوصول إلى النموذج.
2. تتحقق البوابة من هوية الطالب وما يُسمح له بفعله: قبل تمرير الطلب، تتحقق البوابة من صحة بيانات الاعتماد، وغالبًا ما تكون مفتاحًا افتراضيًا صادرًا لفريق أو منتج. وإذا كنت قد أعددت ضوابط حماية للمدخلات، فيمكن أيضًا فحص المطالبات بحثًا عن بيانات حساسة أو محاولات لتجاوز تعليمات النموذج.
3. تتحقق البوابة مما إذا كانت الإجابة متوفرة لديها بالفعل: إذا كان التخزين المؤقت مفعّلًا، فيمكن الرد على طلب مطابق مؤهَّل من استجابة محفوظة دون استدعاء آخر للمزوّد. وتوفر بعض البوابات أيضًا التخزين المؤقت الدلالي، الذي يبحث عن طلبات تُعدّ متشابهة بما يكفي بدلًا من أن تكون متطابقة. وقد يناسب ذلك حركة الطلبات من نوع الأسئلة الشائعة.
4. تختار البوابة وجهة الطلب: قد يحدّد الطلب نموذجًا بعينه أو اسمًا مستعارًا. تبحث البوابة عن المسار المطابق في إعداداتك. ويمكنك أيضًا إعداد مسار احتياطي؛ فإذا انتهت مهلة المزوّد A، يمكن للبوابة تجربة المزوّد B.
5. تُجهّز البوابة الاستدعاء وتعيد الاستجابة: تحوّل البوابة طلبك إلى تنسيق المزوّد المختار وتصادق على الاستدعاء الصادر. وفور تلقي الاستجابة، تحوّلها إلى التنسيق الذي يتطلبه تطبيقك.
6. تسجّل البوابة ما حدث: عند تفعيل التسجيل، تسجّل البوابة تفاصيل تشمل من أجرى الاستدعاء، والنموذج الذي خدمه، وعدد الرموز، وزمن الاستجابة، والتكلفة. وهذا هو السجل الذي لم يكن متاحًا لمهندس Reddit المذكور في المقدمة.

4 أمور يجب أن تعرفها قبل نشر بوابة في بيئة الإنتاج

كل ما ورد في القسم السابق ممكن لأن البوابة ترى كل طلب يُوجَّه عبرها. هذه هي الميزة التي يُروَّج لها. لكنها أيضًا وصف لسطح الهجوم والاعتماد على المورّد اللذين عليك التخطيط لهما.

أصبحت البوابة الآن أثمن مكوّن في منظومة الذكاء الاصطناعي لديك

تُركّز البوابة الوصول في نقطة واحدة، ولذلك فهي تضع أيضًا الكثير من بيانات الاعتماد في متناول خدمة واحدة. ويسرد فريق الأمان في Microsoft ما قد يحتفظ به نشر LiteLLM أو يسترجعه: مفاتيح API الخاصة بالمزوّدين، ومفتاحه الرئيسي، وسجلات المفاتيح الافتراضية، وسلاسل الاتصال بقواعد البيانات، وإعدادات التوجيه، وسياسات المستأجرين.

في أكتوبر 2026، كشفت Check Point Research عن ثغرتين عاليتي الخطورة في LiteLLM:

• سمحت الثغرة CVE-2026-35029 للمستخدمين المصادق عليهم، بمن فيهم أصحاب صلاحيات القراءة فقط، بالوصول إلى الوظائف الإدارية والاستيلاء على المثيل.
• سمحت الثغرة CVE-2026-59823 للمستخدمين بإعادة توجيه الطلبات إلى خادم يتحكمون فيه والاستيلاء على مفاتيح المزوّدين.

أُصلحت الثغرتان كلتاهما في الإصدار 1.83.9. ولا ينبغي أن يتمكن أي تطبيق يستخدم البوابة من تغيير إعداداتها.

ضوابط الحماية لديك تحتاج إلى سياسة للتعامل مع الإخفاق

توثّق مراجعة أجرتها Pillar Security في 4 أكتوبر 2026 عمليات تكامل ضوابط الحماية التابعة لجهات خارجية عبر البوابات الرئيسية، ومنها LiteLLM وKong وTrueFoundry وPortkey وAzure API Management وApigee. (تجدر الإشارة إلى أن Pillar تبيع ضوابط حماية، فضع ذلك في اعتبارك عند قراءة توصياتها.)

الخطّاف (hook) هو نقطة في مسار الطلب، تقع عادةً قبل إرسال المطالبة إلى النموذج أو بعد عودة الاستجابة، يمكن للبوابة عندها تسليم المحتوى إلى أداة فحص خارجية لإصدار حكم بشأنه. أما الفحص الحاجب فينتظر هذا الحكم قبل السماح للحركة بالمتابعة. وتسمّي وثائق Portkey هذه النقاط before_request_hooks وafter_request_hooks؛ بينما تشغّل TrueFoundry أربعة منها، مضيفةً عمليات فحص قبل استدعاءات أدوات MCP وبعدها.

والآن، هناك أمران يجب التحقق منهما:

• ماذا يحدث إذا تعطّلت أداة الفحص نفسها؟ عندما تحجب الطلب، فإنك توقف الحركة غير المفحوصة، لكنك قد تعطّل تطبيقك. وإذا سمحت بمروره، يمكن لتطبيقك المتابعة دون ذلك الفحص. ويُظهر لك سجل الإخفاقات لاحقًا أن الفحص لم يُجرَ، وهذا مفيد، لكنه لا يعادل إجراءه فعلًا.
• هل يمكنك استبدال أداة الفحص؟ إذا لم يكن مزوّد آخر مدعومًا، فقد تضطر إلى تحديث تطبيقك أو استخدام وكيل آخر للاتصال.

توسّع خطّافات MCP في TrueFoundry نطاق البوابة من طلبات النماذج إلى استدعاءات الأدوات. لكنها لا تستطيع فحص سوى الحركة التي تمرّ عبرها. وقد يكون وكيل برمجة يشغّل أمرًا على جهاز أحد المطوّرين خارج نطاق هذه الرؤية.

تعمل Numbat، الأداة مفتوحة المصدر من Perplexity، على هذا الجانب. إذ تتصل Numbat بالوكلاء المدعومين عبر خطّافات محلية، ويمكنها فحص الإجراءات المخطط لها، مثل أوامر الطرفية أو عمليات الكتابة إلى الملفات، قبل تنفيذها. وميزة الحجب اختيارية ومعطّلة افتراضيًا. ترى البوابة حركة النماذج الموجَّهة عبرها، بينما تضيف Numbat رؤية لما يفعله الوكيل بالإجابة.

عليك أن تعرف أين تنتهي سيطرة البوابة

Forkast News تحدّد ثلاث سلالات من المنتجات تقترب من البوابة من اتجاهات مختلفة:

• البوابات المتخصصة في LLM: بدأت LiteLLM وPortkey باستدعاءات النماذج؛ أي الترجمة بين المزوّدين، وتوجيه الطلبات، وتتبّع الرموز. وهي تضيف الآن عناصر تحكم لاستدعاءات الأدوات.
• منصات إدارة API: بدأت Kong وApigee من Google وAzure API Management بالمصادقة والأذونات وإدارة الحركة، ثم أضافت دعمًا للنماذج وقواعد خاصة بالذكاء الاصطناعي.
• البنية التحتية المصمّمة أصلًا للوكلاء: على سبيل المثال، بُنيت agentgateway حول تواصل الوكلاء مع النماذج والأدوات والوكلاء الآخرين، بما في ذلك عبر MCP وA2A.

السؤال الذي يحسم الاختيار هو: ما الذي توجّهه؟

• استدعاءات النماذج فقط؟ البوابة المصمّمة أساسًا لنماذج LLM نقطة انطلاق جيدة.
• استدعاءات نماذج داخل مؤسسة مليئة أصلًا بقواعد API؟ ابدأ بالمنصة المتوفرة لديك.
• وكلاء يستدعون أدوات تستدعي بدورها نماذج؟ تحقّق من أن تلك الاتصالات مشمولة أيضًا.

أنت تُنشئ نقطة إخفاق مشتركة

لنفترض أن روبوت الدردشة الخاص بالدعم لديك يستخدم OpenAI وأن أداة البحث لديك تستخدم Anthropic، وكلتاهما تتصلان عبر البوابة نفسها. فإذا توقفت تلك البوابة عن العمل، تفقد كلتا الأداتين الوصول إلى نماذجهما، حتى لو كانت OpenAI وAnthropic تعملان بشكل طبيعي.

وقد حدث هذا بالفعل؛ إذ بلغ معدل الأخطاء في AI Gateway من Cloudflare ذروته عند 97% خلال انقطاع الخدمة في 12 يونيو 2025. فقد كانت البوابة تعتمد على خدمة التخزين Workers KV من Cloudflare في إعداداتها، وكانت تلك الخدمة تتعطّل.

إذا كنت تشغّل البوابة بنفسك، فأبقِ نسخة أخرى قيد التشغيل يمكنها تولي المهمة في حال تعطّل إحداهما. وإذا كانت جهة أخرى تستضيف بوابتك، فاسألها عن كيفية إبقائها قيد التشغيل أثناء الأعطال، وما الذي يحدث لطلباتك أثناء التعافي.

أهم الميزات التي يجب البحث عنها في بوابات LLM

ستمنح البوابة إمكانية الوصول إلى بيانات اعتماد الجميع، لذا من حقك أن تطالبها بالكثير في المقابل.

• واجهة API واحدة أمام مزوّدين متعددين: تستخدم شيفرتك البرمجية تنسيقًا واحدًا، غالبًا ما يكون متوافقًا مع OpenAI، وتتولى البوابة الترجمة. ويلاقيها مزوّدو LLM في منتصف الطريق؛ فعلى سبيل المثال، تدعم Agent API من Perplexity واجهة Responses API من OpenAI، ما يتيح للفرق إعادة استخدام مكتبات عملاء OpenAI الحالية.
• مفاتيح افتراضية مرتبطة بقواعد: يحصل كل فريق أو منتج على مفتاحه الخاص، مع قواعد تحكم النماذج المسموح بها وحدود الطلبات والإنفاق.
• التوجيه والتحويل الاحتياطي: ترسل البوابة الطلبات إلى النماذج بناءً على إعداداتك، التي قد تفضّل التكلفة أو السرعة أو مزوّدًا معينًا. وإذا أخفق استدعاء ما، يمكنها تجربة نموذج آخر. وتتيح لك Agent API من Perplexity إدراج ما يصل إلى خمسة نماذج، بما فيها نماذج من مزوّدين مختلفين، بترتيبك المفضّل.
• التخزين المؤقت: يمكن أن تُغنيك استجابة محفوظة عن استدعاء آخر للمزوّد. تكتفي بعض البوابات بمطابقة الطلبات المتماثلة تمامًا، بينما يمكن لبوابات أخرى أيضًا مطابقة الطلبات ذات المعاني المتشابهة. تحقّق مما إذا كان من الممكن فصل الاستجابات المخزّنة مؤقتًا حسب المستخدم أو الفريق، وما إذا كان بإمكانك إيقاف التخزين المؤقت للإجابات المخصّصة أو الحساسة للوقت.
• البث المتدفق والأخطاء المتّسقة: تصل الاستجابات أثناء إنشائها، وتُترجَم أخطاء المزوّدين إلى تنسيق يستطيع تطبيقك التعامل معه. تحقّق مما يحدث عند إضافة ضوابط حماية الذكاء الاصطناعي.
• التسجيل وإسناد التكاليف: تسجّل البوابة من أجرى الاستدعاء، والنموذج الذي خدمه، وعدد الرموز التي استخدمها، والمدة التي استغرقها، وتكلفته التقديرية. تحقّق مما إذا كانت السجلات تتضمن المطالبات والاستجابات، ومدة الاحتفاظ بها.
• خطّافات ضوابط الحماية: هي نقاط في مسار الطلب يمكن للبوابة عندها إرسال المحتوى إلى أداة فحص خارجية لإصدار حكم بشأنه. وتقع عادةً قبل طلب النموذج أو بعد استجابته. تحقّق مما إذا كانت الطلبات تتوقف أو تستمر عند تعطّل أداة الفحص، وما إذا كان بإمكانك ربط أداة فحص مختلفة.
• واجهة إدارة يمكنك إحكام تأمينها: تدير البوابة الوصول إلى بيانات اعتماد المزوّدين والقواعد التي يستخدمها الجميع. تحقّق من أنه يمكنك تقييد وصول المسؤولين بشكل منفصل عن حركة التطبيقات، وأن المستخدمين ذوي صلاحيات القراءة فقط لا يمكنهم تغيير الإعدادات. فالصمام الرئيسي يحتاج إلى قفل.

ما الأدوات التي يمكنك استخدامها لبناء بوابة LLM الخاصة بك؟

تتداخل قوائم الميزات عبر السوق. ففي إحدى سلاسل النقاش على Reddit حول الوصول الداخلي إلى النماذج، سأل صاحب المنشور: أي بوابة لن تتطلب مهندسًا متفرغًا؟

نرى أن هذا هو السؤال الصحيح، وله أربع إجابات، بحسب حجم العمل الذي ترغب في تحمّل مسؤوليته.

اكتبها بنفسك

تتولى البوابة البسيطة قائمة قصيرة من المهام: استقبال الطلبات، والتحقق من مفتاح الجهة المستدعية، وإضافة بيانات اعتماد المزوّد، وتمرير الاستدعاء، وتسجيل النتيجة. لكن دعم تنسيقات المزوّدين المختلفة يضيف مزيدًا من العمل، وكذلك الحال مع الحفاظ على تشغيل المنظومة بأكملها.

إذا كنت تشغّل Envoy بالفعل، فإن مرشّح المعالجة الخارجية (external processing) فيه يتيح لك ربط خدمة تفحص الطلبات والاستجابات وتعدّلها. لكن يظل عليك بناء تلك الخدمة وتشغيلها.

في سلسلة نقاش على r/LLMDevs حول ما إذا كانت البوابة تخفّض التكاليف، قال u/QuanTradin إن تسجيل الرموز ومؤشر إصابة ذاكرة التخزين المؤقت (cache hit) في كل استدعاء ساعده على اكتشاف مهمتين تدفعان السعر الكامل مقابل مطالبات متطابقة.

«...كان إصلاح ذلك أجدى مما كانت ستقدّمه أي طبقة توجيه.»

هذه تجربة منقولة، ونقطة جيدة للبدء: اعرف ما الذي تدفع مقابله قبل بناء طرق معقّدة لتوجيهه.

استضف بوابة مفتوحة المصدر بنفسك

تُعدّ LiteLLM خيارًا شائعًا هنا: فهي متوافقة مع OpenAI، وتدعم مجموعة واسعة من المزوّدين، ولها مجتمع كبير. وتمثّل Bifrost بديلًا مصمّمًا لتقليل الحمل الإضافي لكل طلب. أما Helicone فتستحق النظر إذا كانت قابلية المراقبة على رأس قائمة الميزات التي تريدها.

مثل أي منتج، لـ LiteLLM حدود بالنسبة إلى بعض الفرق. ففي سلسلة نقاش على r/aiagents حول بدائل بناء بوابتك الخاصة، قال u/Own_Bar_920 إن LiteLLM تعاملت مع التوجيه بشكل جيد، لكنها قصّرت بالنسبة إليهم في إدارة إصدارات المطالبات عبر الفرق والتقييمات المستمرة عند تبديل النماذج، ما دفعهم إلى استخدام أداة منفصلة.

تتجاوز هذه الاحتياجات التوجيهَ الأساسي في البوابة، وهذا بيت القصيد: إذا كان التوجيه هو الحاجة الرئيسية، فقد أثبتت LiteLLM جدارتها بالنسبة إليهم.

تحصل على قائمة ميزات جاهزة، يعتمد بعضها على نسخة المنتج، وتُبقي البوابة داخل شبكتك. لكنك تتحمّل أيضًا مسؤولية تطبيق التصحيحات، وهو ما جسّدته إفصاحات Check Point المذكورة سابقًا، ومسؤولية توفّر البوابة، وهو ما جسّده قسم نقطة الإخفاق الواحدة.

لكن خصّص ميزانية لشخص يتولى مسؤوليتها. فقد كانت الصيانة أحد المخاوف التي أُثيرت في سلسلة نقاش على r/LLMDevs حول البوابات المخصّصة للوصول الداخلي؛ إذ أراد u/Informal-Writer9685 حلًا «لا يتطلب مهندسًا متفرغًا لصيانته»، وتساءل عمّا إذا كان عدم الاستقرار المُبلَّغ عنه في ترقيات LiteLLM مشكلة حقيقية على نطاقهم، أم أنه مصدر قلق في بيئة الإنتاج فقط.

استخدم بوابة مُدارة

تتولى Cloudflare AI Gateway وVercel AI Gateway وOpenRouter والبوابة المستضافة من Portkey تشغيل الخدمة نيابةً عنك. وبالنسبة إلى التطبيقات المتوافقة، قد لا يتطلب تمرير الطلب الأول أكثر من تغيير عنوان URL ومفتاح API.

المقايضة هنا هي أن كل مطالبة تمرّ الآن عبر جهة خارجية قبل وصولها إلى المزوّد. وهذا يعني جهة معالجة بيانات إضافية في مستندات الامتثال لديك، كما أن انقطاع البوابة نفسها يصبح حادثًا لدى المورّد، وليس من شأنك إصلاحه.

على سبيل المثال، في 17 و19 فبراير 2026، تعرّضت OpenRouter لانقطاعين استمرا 38 و35 دقيقة على التوالي، بعد تعطّل أحد مكونات التخزين المؤقت التي تعتمد عليها. وتلقّى بعض العملاء أخطاء «User not found» وأمضوا وقتًا في تصحيح مفاتيح API صالحة تمامًا، بينما كان الخلل في البنية التحتية للبوابة.

لكن ما يُحسب لـ OpenRouter أنها نشرت تحليلًا مفصّلًا لما بعد الحادثة، وأضافت وسائل حماية تمنع تعطّل ذاكرة التخزين المؤقت من إغراق قاعدة بياناتها. يمكن لبوابة مُدارة مثل OpenRouter تبسيط الوصول، لكن كما يشير u/QuanTradin على r/LLMDevs، فإن توحيد الفواتير لا يقلّل الإنفاق تلقائيًا.

وسّع نطاق بوابة API الموجودة لديك بالفعل

إذا كانت Kong أو Apigee أو Azure API Management تقع بالفعل أمام خدماتك، فلكلٍّ منها قدرات خاصة بالذكاء الاصطناعي: Kong AI Gateway، وسياسات بوابة الذكاء الاصطناعي في Apigee، وبوابة الذكاء الاصطناعي في Azure API Management. ويمكنك البناء على المصادقة وقواعد الشبكة وإجراءات التشغيل الموجودة لديك، مع إضافة عناصر تحكم في النماذج عبر المكونات الإضافية أو السياسات.

قد يكون هذا المسار الأقل مقاومة على المستوى التنظيمي في الشركات الكبيرة. لكن ميزات الذكاء الاصطناعي فيها أحدث عهدًا من تلك الموجودة في البوابات المستقلة. لذا احرص على اختبار تحديد المعدّل القائم على الرموز والبث المتدفق عبر المجموعة الكاملة من المكونات الإضافية أو السياسات التي تخطط لاستخدامها.

لذا، ركّب صمام التحكم الرئيسي بكل تأكيد، أي تلك البوابة الجبّارة. ومع ذلك، فإن المهندس الذي ذكرناه في المقدمة محق في وجهة نظره؛ إذ لا ينبغي أن يعتمد وصول الشركة إلى النماذج على من يتصادف أن يكون المفتاح الصحيح في درجه.

تعالج البوابة هذه المشكلة بوضع تلك المفاتيح تحت تحكم مركزي، وهو ما يرفع في المقابل من خطورة ترك الدرج مفتوحًا. فلا بد أن تعرف لمن يعود هذا الدرج.

الأسئلة الشائعة حول بوابات LLM

هل بوابة LLM مجانية؟

إذا كنت تقصد هذه الفئة عمومًا، فبعض بوابات LLM تتوفر منها إصدارات مجانية.

تتراوح بوابات LLM بين البرامج المجانية مفتوحة المصدر والخطط المدفوعة التي تبدأ من نحو 50 دولارًا شهريًا، مع تسعير مخصص لعمليات النشر في المؤسسات. ويفرض بعضها نسبة مئوية بدلًا من ذلك؛ فعلى سبيل المثال، تضيف خطة Standard من OpenRouter نسبة 5.5% إلى عمليات شراء الرصيد.

ما أفضل بوابة LLM؟

ما العمل الذي أنت مستعد لتحمّل مسؤوليته؟

• ألقِ نظرة على Bifrost أو Helicone إذا كنت تريد الاستضافة الذاتية والتحكم في الإعدادات.
• يناسب الخيار المُدار، مثل OpenRouter أو Vercel AI Gateway، الفرق التي تريد أن يتولى طرف آخر تشغيل الخدمة.
• إذا كنت تستخدم Kong أو Azure API Management بالفعل، فتحقق من إمكانات الذكاء الاصطناعي فيهما أولًا.

اختبر الخيارات في قائمتك المختصرة باستخدام طلباتك الفعلية، بما في ذلك ما يحدث عند تعطّل أحد المزوّدين.

هل لدى AWS بوابة LLM؟

نعم. تدعم Amazon Bedrock AgentCore Gateway استدعاءات النماذج من خلال ما تسميه AWS «أهداف الاستدلال» (inference targets). وتتيح هذه الأهداف للتطبيقات استخدام نقطة نهاية واحدة للوصول إلى مزوّدين من بينهم Amazon Bedrock وOpenAI وAnthropic، بينما تتولى البوابة إدارة بيانات اعتماد المزوّدين والتوجيه.