طرح SPACE مفتوح المصدر، منصة Sandbox التي يعتمد عليها Computer

منذ إطلاق Computer في فبراير، كانت Perplexity من الروّاد الأوائل في مجال الوكلاء الشخصيين. ونحن ملتزمون بمعالجة المشكلات الصعبة في حوكمة الوكلاء، ورصد السلوكيات غير الآمنة، ومنع أنشطة الوكلاء الخارجة عن السيطرة. وفي يوليو، استبدلنا مزود بيئات Sandbox التجاري الذي كنا نستخدمه بحل داخلي أكثر متانة ومرونة أطلقنا عليه اسم SPACE.

يوفر SPACE مستوى عاليًا من الأمان لأنظمة الوكلاء المتقدمة. بل إن سلسلة مكثفة من الاختبارات الأمنية أُجريت مؤخرًا أثبتت صمود SPACE أمام تقنيات تجاوز الشبكة المماثلة لتلك المستخدمة في حادثة OpenAI/Hugging Face.

اليوم، نطرح SPACE مشروعًا مفتوح المصدر لنمنح المطورين أساسًا لبناء أنظمة وكلاء أكثر أمانًا والإسهام في تعزيز الحماية على مستوى القطاع بأسره. يمكن للمطورين الوصول إلى المستودع من هنا.

حوكمة الوكلاء مشكلة هندسية، والمصدر المفتوح ضروري لحلها. فعندما تتوفر للمطورين أنظمة يمكنهم فحصها وتكييفها والبناء عليها، فإنهم يكتشفون مزيدًا من نقاط الضعف ويطورون أدوات أفضل. ويمنح طرح SPACE مفتوح المصدر المطورين أساسًا مُختبرًا في بيئة الإنتاج لبيئات تشغيل الوكلاء، مع إمكانات مدمجة للعزل واسترداد الحالة والتحكم في بيانات الاعتماد والشبكة.

وضع أساس للمطورين الآخرين

تحافظ بيئات Sandbox على أمان الوكلاء، إذ تتيح لهم الوصول إلى الأدوات والملفات التي يحتاجونها لإنجاز هذه المهام، مع إبقاء المعلومات الحساسة محمية.

يمنح طرح SPACE مفتوح المصدر المطورين نقطة انطلاق للبيئات التي يشغّل فيها وكلاؤهم التعليمات البرمجية ويتعاملون فيها مع الملفات. ويمكن للفرق الاطلاع على آلية عمل منصة SPACE لبيئات Sandbox والبناء على تنفيذها. كما يمكنها تكييفها مع احتياجاتها بدلًا من إعادة إنشاء البنية التحتية الأساسية.

في Computer، يدعم SPACE تنفيذ التعليمات البرمجية بشكل معزول، والإيقاف المؤقت والاستئناف، والاسترداد، وتفريع الجلسات. وتوفر هذه القدرات الأساس لمساعدين يمكنهم:

• تحليل البيانات: تنظيف جدول بيانات، وإجراء العمليات الحسابية، وإنشاء المخططات في بيئة عمل منفصلة.
• استئناف العمل: التوقف مؤقتًا ريثما يراجع شخص ما مسودة أو يقدّم معلومات ناقصة، ثم الاستئناف مع الحفاظ على الملفات وحالة التشغيل.
• استكشاف البدائل: اختبار طريقتين لتنظيف مجموعة بيانات في نسختين منفصلتين من بيئة العمل، أو استعادة ملف سابق بعد وقوع خطأ.

توضح هذه الأمثلة كيف يمكن للمطورين استخدام عناصر التحكم في العزل والجلسات الموثقة في SPACE. ويمكن لمهندسي المنصات والأمان أيضًا مراجعة نموذج العزل وأمثلة الأمان قبل دمج SPACE في أنظمتهم.

تعزيز الأمان للعمل المستقل

عندما نمنح الوكلاء مساحة أكبر لحل المشكلات، نحتاج إلى حدود واضحة لطريقة قيامهم بذلك. فنحن نعلم أن الوكلاء الذين يؤدون مهام مشروعة قد يتجاوزون الحدود الأمنية رغم ذلك، عندما يحاولون الالتفاف على ملفات مفقودة أو طلبات فاشلة أو رفض الأذونات.

يمكننا وضع ضمانات على مستوى النموذج للحد من احتمال حدوث سلوك غير آمن. وتساعد إضافة عناصر تحكم مستقلة في النظام المحيط على احتواء الضرر إذا أخفقت تلك الضمانات، إذ تقيّد ما يمكن للوكيل الوصول إليه بصرف النظر عما يقرر فعله.

يضع SPACE عناصر التحكم هذه حول بيئة عمل منفصلة للتعليمات البرمجية والملفات التي ينشئها الوكيل. وقد صممناه ليجمع بين العزل والاسترداد والتنفيذ الفعّال. وهذا يتيح للوكلاء أداء عمل مفيد خلال جلسات طويلة دون الاعتماد على النموذج وحده لاحترام الحدود الأمنية.

التشغيل داخل نظام تشغيل مستقل

تعمل كل بيئة Sandbox في SPACE داخل جهاز افتراضي صغير بنظام تشغيل خاص به، ما ينشئ حدًا عازلًا بين عمل الوكيل والنظام المضيف. وتتولى طبقة تحكم مركزية تنسيق توقيت إنشاء بيئات العمل هذه أو إيقافها مؤقتًا أو استئنافها أو إزالتها.

يتعامل SPACE مع بيئة Sandbox على أنها غير موثوقة، ويدير الوصول إلى الشبكة وبيانات الاعتماد التي تحتفظ بها المنصة خارج بيئة Sandbox. ويمكن للوكلاء الاتصال بالخدمات المصرّح بها دون تخزين بيانات الاعتماد تلك في بيئة عملهم.

تحافظ اللقطات المتكررة للملفات ونقاط الحفظ للبيئة قيد التشغيل بالكامل على التقدم المحرز رغم الانقطاعات. وللحفاظ على كفاءة هذه العمليات، يخزّن SPACE التغييرات بدلًا من نسخ البيئات كاملة مرارًا. ويقلل ذلك من العمل اللازم لإنشاء بيئة Sandbox أو استعادتها أو تفريعها.

تحسين الأداء في بيئة الإنتاج

منذ يوليو، يشغّل SPACE جميع جلسات Computer، وقد تعامل مع ملايين عمليات إنشاء بيئات Sandbox يوميًا. وفي مقارنة أُجريت على حركة بيانات الإنتاج نفسها، كان إنشاء بيئات Sandbox أسرع بثلاث إلى خمس مرات مقارنةً بمزودنا السابق.

كما اختبرنا SPACE في مواجهة وكلاء يحاولون عمدًا اختراق حدوده. وخلص تقييمنا الأمني المنشور إلى عدم حدوث أي إفلات من الجهاز الافتراضي إلى المضيف في 108 محاولات، لكن بعض الوكلاء وجدوا طرقًا للالتفاف على قيود الشبكة. وقد أصلحنا نقاط الضعف هذه، ولم تنجح أيٌّ من طريقتَي الهجوم المكتشفتين في الاختبارات اللاحقة.

كما أبلغنا موردي منصات Sandbox الأخرى بنقاط ضعف ذات صلة اكتشفناها في منصاتهم، لنمدّ هذا العمل إلى ما هو أبعد من بنيتنا التحتية.

المساهمة في ذكاء اصطناعي قائم على الوكلاء أكثر أمانًا

يُعد SPACE جزءًا من جهد أوسع لتعزيز الأنظمة التي يعتمد عليها الناس مع تولّي الذكاء الاصطناعي مزيدًا من العمل. ومن خلال Secure Intelligence Institute، نجري أبحاثًا أمنية ونتعاون مع المجتمع الأوسع، ونحوّل النتائج إلى وسائل دفاع عملية.

نؤمن بأن طرح أدوات الأمان مفتوحة المصدر يمنح المطورين مزيدًا من الطرق لاختبار الدفاعات، واكتشاف نقاط الضعف، وبناء أنظمة ذكاء اصطناعي أكثر أمانًا. وقد شاركنا أدوات تعالج جوانب مختلفة من هذا العمل:

• BrowseSafe، نموذج ومعيار قياس لاكتشاف التعليمات الضارة المخفية في صفحات الويب.
• Numbat، مجموعة أدوات أمنية طرحناها مفتوحة المصدر في يوليو، تساعد على اكتشاف سلوك الوكلاء الخطير على أجهزة الكمبيوتر والتحقيق فيه ومنعه
• Bumblebee، أداة فحص طرحناها مفتوحة المصدر في مايو، تفحص أجهزة المطورين بحثًا عن حزم البرامج والإضافات وإعدادات أدوات الذكاء الاصطناعي المحفوفة بالمخاطر

يتيح طرح هذه الأدوات للعامة للفرق الأخرى فحص عملنا، وتكييفه مع احتياجاتها، والمساهمة بتحسينات. ومع SPACE، نوسّع هذا النهج ليشمل البيئات التي ينفذ فيها الوكلاء التعليمات البرمجية ويتعاملون فيها مع الملفات.

النشر في أنظمة الوكلاء

أجرت شركة Akamai اختبارات على SPACE وأطلقته على منصتها السحابية، وتعمل مع Perplexity على إتاحته لعملائها. كما تتعاون Crusoe مع Perplexity لإضافة SPACE إلى محفظة خدماتها المُدارة للذكاء الاصطناعي (Managed AI Services). وأصدرت CoreWeave إرشادات إعداد للمطورين الراغبين في نشر SPACE على CKS لأغراض التقييم.

يمكن للمطورين البدء بتعليمات الإعداد وإرشادات الأمان الخاصة بـ SPACE لنشره في أنظمة الوكلاء الخاصة بهم. ويحدد المستودع والوثائق الإعدادات المدعومة والمكونات المضمّنة.