مركز البيانات ينتقل إلى جهازك

الهدف الصحيح لنظام الذكاء الاصطناعي هو تقديم أكبر قدر من قيمة الرمز المميز لكل واط، لكل مستخدم. يبدو الأمر بسيطاً. ولكنه ليس كذلك، لأن هناك ثلاثة أمور تتعارض مع بعضها البعض.

تتطلب الدقة النماذج الأكثر كفاءة، وهي مكلفة في التشغيل. وتتطلب الخصوصية ألا يغادر بعض العمل جهازك أبداً. وتتطلب التكلفة والطاقة ألا تنفق قوة الحوسبة الخاصة بنموذج متطور على مهمة يمكن نموذج أصغر التعامل معها. لا يمكنك تعظيم أحد هذه الجوانب دون مراعاة الجوانب الأخرى.

إن تحقيق التوازن بين الجوانب الثلاثة هو مشكلة تنسيق. والتنسيق هو ما قامت به Perplexity دائمًا.

أعلننا اليوم عن الخطوة التالية لـ Personal Computer: أول منسق استدلال هجين يجمع بين الجهاز المحلي والخادم. إنه يستنتج العمل الذي يجب تشغيله على جهازك والعمل الذي يجب إرساله إلى الوكلاء في السحابة، ويوجه كل جزء من المهمة إلى المكان المناسب تلقائياً.

من النماذج إلى الحوسبة

بدأت Perplexity بتنسيق الأدوات والمصادر لإنتاج إجابات دقيقة وموثقة. وقد وسّع Computer ذلك ليصبح إطاراً لمئات الوكلاء، التي تم إنشاؤها عبر أكثر من عشرين نموذجاً متطوراً، لاختيار النموذج المناسب لكل مهمة. والآن يمكننا توسيع نفس الفكرة لتشمل الحوسبة نفسها: أي نموذج، وأين يتم تشغيله، ولماذا.

الاستدلال الهجين للوكلاء مخصص للأعمال التي تتضمن بيانات حساسة ولكنها تتطلب ذكاءً اصطناعياً قوياً. أشياء مثل السجلات المالية، والمعلومات الصحية، والملفات الشخصية. يعمل النموذج المدمج محلياً على جهازك لتحديد متى يجب الاحتفاظ بالبيانات الحساسة محلياً أيضاً.

وفي الوقت نفسه، فإن العمل الذي يحتاج إلى القدرة الكاملة للنموذج المتطور يتم تشغيله على الخادم. معظم المهام الحقيقية هي مزيج من الاثنين، لذلك يقوم Personal Computer بتقسيمها وتنسيق الأجزاء. على عكس الأدوات التي تطلب منك اختيار العمل المحلي أو السحابي مسبقاً، يحدث هذا من تلقاء نفسه، مهمة تلو الأخرى.

الجهاز هو مركز البيانات

لسنوات طويلة، كانت السيليكون الأكثر كفاءة تعني في الغالب تطبيقات أسرع وعمر بطارية أطول. يتغير ذلك عندما تتمكن الشريحة من تشغيل استدلال حقيقي. وكلما كانت الأجهزة المحلية أفضل، كلما تمكن المنسق من الاحتفاظ بالمزيد على جهازك، وكلما زادت قدرته على تخصيص الخادم للعمل الذي يتطلبه حقاً.

لقد كشفنا النقاب عن هذا بالتعاون مع Intel، ويعمل نفس الإطار المتوافق مع النماذج عبر شرائح محلية أخرى، بما في ذلك شريحة RTX Spark من NVIDIA. سباق الحوسبة المحلية قد بدأ. مع تقدم الرقاقات، وحدها Perplexity تمتلك إطار الوكلاء وهندسة الاستدلال التطبيقي لتنسيق سلس حقاً.

يؤدي هذا أيضاً إلى تغيير الحسابات لكل من يراقبو نقص الحوسبة. عندما ينتقل العمل الحساس والعمل الروتيني إلى الأجهزة التي يمتلكها الأشخاص بالفعل، فلن تحتاج إلى بناء الكثير من البنية التحتية المركزية لخدمتها. كما أنه يغير شكل السيادة أيضاً: يمكنเกการ البيانات المهمة في ولايتها القضائية الخاصة دون الحاجة لأن تنشئ الدولة مركز بيانات للاحتفاظ بها هناك.

يفضل الناس امتلاك مركز بيانات في حواسيبهم المحمولة بدلاً من البناء على مركز لا يتحكمون به.

البنية الصحيحة لتحقيق الكفاءة

هناك سبب تجعل هذه البنية تناسب Perplexity. كان عملنا دائماً يدور حول الذكاء الاصطناعي الدقيق، وليس تعظيم الرموز التي نبيعها. هذا هو الحافز الصحيح لتحسين القيمة لكل واط: نربح عندما تكون الإجابة صحيحة ويتم إنجاز العمل، وليس عندما يستهلك المزيد من الحوسبة.

كان الذكاء الاصطناعي الهجين طموحاً صناعياً لفترة طويلة. ويعد Personal Computer المزود بالاستدلال المحلي، القادم في شهر يوليو، أول منتج يجعل ذلك حقيقة واقعة، والأول الذي يتعامل مع الحوسبة كشيء آخر يمكن تنسيقه بذكاء، عبر جهازك والسحابة.