ארגזי חול מאובטחים לסוכנים

סוכני בינה מלאכותית מבצעים עבודה אמיתית בשמנו: עריכת קבצים, הרצת קוד וביצוע משימות מרובות שלבים לאורך שעות או ימים. הדבר דורש לעתים קרובות גישה למידע פרטי, מה שהופך את השאלה איפה פועל הסוכן לחשובה יותר ממידת החוכמה של המודל.

ארגזי חול שומרים על אבטחת הסוכנים, ומאפשרים להם לגשת לכלים ולקבצים הדרושים להם כדי להשלים משימות אלו, תוך שמירה על הגנה על מידע רגיש.

בעת בניית פלטפורמת הסוכנים Computer שלנו, בחנו אפשרויות קיימות של ארגזי חול. כל אפשרות דרשה מאיתנו שקלול פשרות בין פונקציונליות, יעילות ואבטחה. Perplexity Computer דרשה את כל השלושה, ולכן בנינו סוג חדש לחלוטין של ארגז חול.

היום אנו מציגים את SPACE, פלטפורמת ארגז חול שנועדה למצות את מלוא העוצמה של Computer תוך מתן רמת האבטחה הגבוהה ביותר עבור מערכות סוכנים מתקדמות.

המצאה מחדש של ארכיטקטורת ארגזי החול

SPACE מייצרת ארגזי חול ארעיים שחיים רק כל עוד יש בהם צורך להרצת קוד, אינטראקציה עם קבצים או משימות אחרות. כאשר המשימה מסתיימת, ארגז החול וכל מה שבתוכו נהרסים.

עבור עבודה ארוכת טווח שצריכה לשרוד אתחולים, SPACE עוטפת כל ארגז חול בהפעלה שניתן להשהות, לחדש או לפצל למספר ארגזי חול. טכנולוגיית צילומי המצב המתגלגלים של SPACE מאפשרת להקשר לנסוע יחד עם העבודה, למרות שאף ארגז חול בודד אינו עושה זאת.

חיסול הפשרות הקודמות

רוב פלטפורמות ארגזי החול פותרות רק שניים מתוך שלושה משתנים: פונקציונליות, יעילות או אבטחה. אופטימיזציה עבור משתנה אחד נוטה לבוא על חשבון משתנה אחר. לחלק מהפתרונות יש בסיסי בידוד חזקים אך הם משאירים אישורים חשופים בתוך הסביבה. אחרים מבצעים היטב משימות קצרות טווח, אך מאבדים מצב ונכשלים כאשר הפעלה נדרשת לפעול במשך שעות.

SPACE פותרת את כל השלושה על ידי הפרדת תחומי אחריות בין שירותים ייעודיים. שער הרשת (Network Gateway), שירות הרקע של מרחב (Space Daemon) ושירות הקבצים (File Service) מאבטחים כל אחד חלק אחר במערך. הם גם מספקים אישורים מחוץ לארגז החול אך ורק ברגע שבו יש בהם צורך.

בעיצוב זה, לסוכן שנפרץ אין דרך להגיע לאישורים המנוהלים על ידי הפלטפורמה כברירת מחדל. והוא אינו זוכה לגישה מעבר למשימה שהוקצתה לו, ללא קשר למשך ההפעלה או למערכת העורפית.

יצירת שלוש שכבות של אבטחה

SPACE מורכבת משלוש שכבות מרכזיות, שלכל אחת מהן אמצעי אבטחה חזקים המוטמעים בה:

מישור הבקרה (Control Plane): השכבה הראשונה בארכיטקטורה של SPACE, מישור הבקרה אחראי על תזמור מחזור החיים של ארגז החול. הוא מקבל כל בקשה דרך ממשק תכנות יישומים (API) יחיד, עוקב אחר מצב ארגז החול ומחליט בזמן אמת לאיזו מערכת עורפית לנתב. הוא קובע מתי משימה זקוקה לארגז חול חדש. הוא גם מחליט מתי משימה הושלמה וניתן להרוס את ארגז החול התואם שלה. מכיוון שמישור הבקרה הוא חסר מצב ומאוחסן במרכז, אותה קריאת API פועלת על כל תשתניין קיימת, כולל מכונה מקומית.

שירותים ברמת הצומת: ב-SPACE, שירותים ברמת הצומת הם המקום שבו עמדת האבטחה של Perplexity בולטת. עם SPACE, אישורים אינם עוברים לעולם לתוך ארגז החול. במקום זאת, הם מועברים מבחוץ לארגז החול רק ברגע המדויק שבו יש בהם צורך. כאשר סוכן זקוק לגישה זמנית כדי להתחבר לחשבון Google, SPACE יכולה לטפל בתהליך הכניסה מבלי לחשוף אישורים בתוך ארגז החול. תעבורת הרשת היוצאת מנוהלת גם היא ברמת הצומת. סוכן שנפרץ אינו יכול להגיע לדבר מחוץ לתחום המותר לו.

בתוך ארגז החול: שכבת ״בתוך ארגז החול״ היא קו ההגנה האחרון של SPACE. עם SPACE, כל משימה רצה בתוך מיקרו-מכונה וירטואלית (microVM) של Firecracker, סביבה מבודדת לחלוטין עם מערכת הפעלה משל עצמה. המשמעות היא ששום דבר בפנים אינו יכול להשפיע על המארח או על כל ארגז חול אחר הפועל במקביל. שירות הרקע של מרחב (Space Daemon) הוא התהליך היחיד שמדבר אל מישור הבקרה של Perplexity. הוא נושא אותות תפעוליים כמו פקודות התחלה, השהיה וצילום מצב. זה מה שהופך את ערוץ התקשורת לניתן לביקורת ולשליטה.

הצעת סט מלא של אמצעי בקרה

SPACE ייחודית בקרב ספקים בכך שהיא מציעה סט מלא של אמצעי בקרה. SPACE משלבת השהיה וחידוש, פיצול הפעלות, בידוד אישורים לכל הפעלה, העברת פרוטוקולים ותזמור מרובה מערכות עורפיות בפלטפורמה אחת.

SPACE צלמי מצב מתגלגלים של מצב ההפעלה המלא, ולוכדת זיכרון חי לצד קבצים בתדירות גבוהה כמו מדי דקה. היא יכולה לחזור בזמן שבוע אחורה. זוהי בעצם מכונת זמן מובנית: כל אחד יכול לעזוב באמצע המשימה, לחזור שבוע לאחר מכן, והסוכן ממשיך בדיוק מהנקודה שבה הושהה.

SPACE מתייחסת לארגז החול כבלתי מהימן כברירת מחדל ומקיפה אותו בבקרות רשת, בקרות אישורים, הפרדת דיירים ואחסון מוצפן. אם שכבה אחת נפרצת, השאר יגנו על מידע אישי.

עם SPACE, לקוחות ארגוניים יכולים גם להביא מפתחות הצפנה משל עצמם. אם לקוח מבטל את המפתחות שלו, ארגזי חול חדשים אינם יכולים לעלות ונתונים קיימים המוצפנים על ידי הלקוח אינם ניתנים עוד לפענוח.

עבור אלו העובדים עם נתונים רגישים במיוחד, SPACE מתוכננת לפעול הן באתר הלקוח (on-prem) והן במצב מנותק לחלוטין (offline). רמת שליטה זו מבטיחה שהנתונים לעולם אינם חייבים לעזוב סביבה מאובטחת.

הנעה של Perplexity

מהנדסי Perplexity לקחו את SPACE מקונספט למוצר בתוך 10 שבועות. אנו משתמשים ב-SPACE באופן פנימי בחודשיים האחרונים. במהלך השבוע האחרון, המערכת תמכה במיליוני יצירות של ארגזי חול ועשרות מיליוני חיבורים מחדש לארגזי חול. היא זמינה לכלל המשתמשים ב-Computer החל מהיום.

SPACE נבנתה כדי לפעול בכל מקום. בבדיקה מוקדמת על מעבד NVIDIA Vera, סביבות עבודה ממשיות בסגנון Computer רצו מהר יותר בקירוב פי 1.5 מהגרסה הנוכחית שלנו לייצור, והפעילו ארגזי חול במקביל במהירות גבוהה עד פי 1.9. אות מוקדם זה ממחיש ש-Vera תספק ערך יוצא דופן עבור ארגזי חול של סוכנים ומאמת את עצמאות המערכת העורפית שמאחורי SPACE.

השקעה בסביבות מאובטחות

אנו מאמינים שלא צריכה להיות פשרה בין פונקציונליות, יעילות ואבטחה. סוכנים צריכים לעבוד עם אותם הנתונים שאנו עובדים איתם, באותו אמון שהיינו מעניקים לכל חבר צוות.

SPACE היא רק האיטרציה הראשונה של סביבה מאובטחת זו. ככל שהבינה המלאכותית תמשיך להתפתח, כך יתפתחו גם מערכות האבטחה והתשתית שלנו.

צפו ב-יצירת SPACE: סביבות ריצה מאובטחות ויעילות עבור סוכנים ארוכי טווח לפרטים נוספים.