SPACE, פלטפורמת ארגזי החול שמאחורי Computer, זמינה עכשיו כקוד פתוח

מאז השקת Computer בפברואר, Perplexity היא מחלוצות תחום הסוכנים האישיים. אנחנו מחויבים להתמודד עם הבעיות הקשות של משילות סוכנים: זיהוי התנהגויות לא בטוחות ומניעת פעילות של סוכנים סוררים. ביולי החלפנו את ספק ארגזי החול המסחרי שלנו בפתרון פנימי יציב ועמיד יותר, שקראנו לו SPACE.

SPACE מספק רמת אבטחה גבוהה למערכות סוכנים מתקדמות. למעשה, סדרה אינטנסיבית של בדיקות אבטחה שנערכה לאחרונה הוכיחה ש-SPACE עמיד בפני טכניקות לעקיפת רשת כמו אלה ששימשו בתקרית של OpenAI/Hugging Face.

היום אנחנו משחררים את SPACE כקוד פתוח, כדי לספק למפתחים בסיס לבניית מערכות סוכנים בטוחות יותר ולתרום להגנות חזקות יותר בכל רחבי התעשייה. מפתחים יכולים לגשת למאגר כאן.

משילות סוכנים היא בעיה הנדסית, וקוד פתוח חיוני לפתרונה. כשלמפתחים יש מערכות שהם יכולים לבחון, להתאים ולבנות עליהן, הם מוצאים יותר חולשות ומפתחים כלים טובים יותר. הפיכת SPACE לקוד פתוח מעניקה למפתחים בסיס שנבדק בסביבת ייצור עבור סביבות ריצה של סוכנים, עם בידוד, שחזור מצב ובקרות מובנות על אישורי גישה ועל הרשת.

בניית בסיס למפתחים אחרים

ארגזי חול שומרים על אבטחת הסוכנים: הם מאפשרים להם לגשת לכלים ולקבצים הדרושים לביצוע המשימות האלה, ובמקביל מגינים על מידע רגיש.

הפיכת SPACE לקוד פתוח מעניקה למפתחים נקודת פתיחה לסביבות שבהן הסוכנים שלהם מריצים קוד ועובדים עם קבצים. צוותים יכולים לראות איך פלטפורמת ארגזי החול SPACE עובדת ולבנות על בסיס המימוש שלה. הם יכולים גם להתאים אותה לצרכיהם במקום ליצור מחדש את התשתית שבבסיסה.

ב-Computer, SPACE תומך בהרצת קוד מבודדת, בהשהיה ובחידוש, בשחזור ובפיצול הפעלות. יכולות אלה מספקות את הבסיס לעוזרים שיוכלו:

• ניתוח נתונים: לנקות גיליון אלקטרוני, להריץ חישובים וליצור תרשימים בסביבת עבודה נפרדת.
• המשך עבודה: להשהות את העבודה כדי שמישהו יבדוק טיוטה או יספק מידע חסר, ואז להמשיך כשהקבצים ומצב הריצה נשמרים.
• בחינת חלופות: לבדוק שתי דרכים לניקוי מערך נתונים בעותקים נפרדים של סביבת העבודה, או לשחזר גרסה קודמת של קובץ לאחר טעות.

הדוגמאות האלה ממחישות איך מפתחים יכולים להשתמש באמצעי הבידוד והבקרה על ההפעלות המתועדים של SPACE. מהנדסי פלטפורמה ואבטחה יכולים גם לעיין במודל הבידוד ובדוגמאות האבטחה לפני שילוב SPACE במערכות שלהם.

הגברת האבטחה בעבודה אוטונומית

כשאנחנו נותנים לסוכנים יותר מרחב לפתור בעיות, אנחנו צריכים גבולות ברורים לאופן שבו הם עושים זאת. אנחנו יודעים שגם סוכנים שמבצעים משימות לגיטימיות עלולים לחצות גבולות אבטחה כשהם מנסים לעקוף קבצים חסרים, בקשות שנכשלו או דחיות של הרשאות.

אפשר להטמיע במודל אמצעי הגנה כדי להפחית את הסבירות להתנהגות לא בטוחה. הוספת אמצעי בקרה עצמאיים במערכת הסובבת עוזרת לבלום את הנזק אם אמצעי ההגנה האלה נכשלים. הם מגבילים את מה שסוכן יכול לגשת אליו, בלי קשר למה שהוא מחליט לעשות.

SPACE מציב את אמצעי הבקרה האלה סביב סביבת עבודה נפרדת לקוד ולקבצים שהסוכן יוצר. תכננו אותו כך שישלב בידוד, שחזור והרצה יעילה. כך סוכנים יכולים לבצע עבודה מועילה לאורך הפעלות ארוכות, בלי להסתמך רק על כך שהמודל יכבד את גבולות האבטחה.

פועל בתוך מערכת הפעלה משלו

כל ארגז חול של SPACE פועל בתוך מכונה וירטואלית קטנה עם מערכת הפעלה משלה, וכך נוצר גבול בידוד בין העבודה של הסוכן לבין מערכת המארח. מישור בקרה מרכזי מתאם מתי סביבות העבודה האלה נוצרות, מושהות, מחודשות או מוסרות.

SPACE מתייחס לארגז החול כאל סביבה לא מהימנה, ומנהל את הגישה לרשת ואת אישורי הגישה שבידי הפלטפורמה מחוץ לארגז החול. סוכנים יכולים להתחבר לשירותים מורשים בלי שאישורי הגישה האלה יאוחסנו בסביבת העבודה שלהם.

תמונות מצב תכופות של קבצים ונקודות ביקורת של סביבת הריצה המלאה שומרות על ההתקדמות גם כשיש הפרעות. כדי לשמור על יעילות הפעולות האלה, SPACE מאחסן שינויים במקום להעתיק שוב ושוב סביבות שלמות. כך מצטמצמת העבודה הנדרשת כדי ליצור, לשחזר או לפצל ארגז חול.

שיפור הביצועים בסביבת הייצור

מאז יולי, SPACE מניע את כל ההפעלות של Computer ומטפל במיליוני יצירות של ארגזי חול ביום. בהשוואה על אותה תעבורת ייצור, יצירת ארגזי חול הייתה מהירה פי שלושה עד חמישה מאשר אצל הספק הקודם שלנו.

בנוסף, בדקנו את SPACE מול סוכנים שניסו בכוונה לפרוץ את גבולותיו. בהערכת האבטחה שפרסמנו לא נמצאה אף בריחה מהמכונה הווירטואלית אל המארח ב-108 ניסיונות, אך בחלק מהניסיונות נמצאו דרכים לעקוף את הגבלות הרשת. תיקנו את החולשות האלה, ואף אחת משתי שיטות התקיפה שזוהו לא הצליחה בבדיקות ההמשך.

דיווחנו גם לספקים של פלטפורמות ארגזי חול אחרות על חולשות דומות שמצאנו אצלן, וכך הרחבנו את העבודה הזו מעבר לתשתית שלנו.

תרומה ל-AI סוכני בטוח יותר

SPACE הוא חלק ממאמץ רחב יותר לחזק את המערכות שאנשים מסתמכים עליהן ככל שה-AI לוקח על עצמו יותר עבודה. באמצעות Secure Intelligence Institute, אנחנו עורכים מחקרי אבטחה ומשתפים פעולה עם הקהילה הרחבה, ומתרגמים את הממצאים להגנות מעשיות.

אנחנו מאמינים שהפיכת כלי אבטחה לקוד פתוח מעניקה למפתחים יותר דרכים לבדוק הגנות, למצוא חולשות ולבנות מערכות AI בטוחות יותר. שיתפנו כלים שמטפלים בהיבטים שונים של העבודה הזו:

• BrowseSafe, מודל ומדד ייחוס לזיהוי הוראות זדוניות המוסתרות בדפי אינטרנט.
• Numbat, ערכת כלי אבטחה שהפכנו לקוד פתוח ביולי, המסייעת לזהות, לחקור ולמנוע התנהגות מסוכנת של סוכנים במחשבים
• Bumblebee, סורק שהפכנו לקוד פתוח במאי, הבודק אם במחשבי מפתחים יש חבילות תוכנה, הרחבות ותצורות של כלי AI שמהוות סיכון

הנגשת הכלים האלה מאפשרת לצוותים אחרים לבחון את העבודה שלנו, להתאים אותה לצרכיהם ולתרום שיפורים. עם SPACE אנחנו מרחיבים את הגישה הזו לסביבות שבהן סוכנים מריצים קוד ועובדים עם קבצים.

פריסה למערכות סוכנים

Akamai בדקה והשיקה את SPACE בפלטפורמת הענן שלה, והיא עובדת עם Perplexity כדי להנגיש אותו ללקוחותיה. גם Crusoe משתפת פעולה עם Perplexity כדי להוסיף את SPACE לסל השירותים שלה, Managed AI Services. CoreWeave פרסמה הנחיות הגדרה למפתחים שרוצים לפרוס את SPACE לצורכי הערכה ב-CKS.

מפתחים יכולים להתחיל מהוראות ההתקנה ומהנחיות האבטחה של SPACE כדי לפרוס אותו במערכות הסוכנים שלהם. המאגר והתיעוד מגדירים את התצורות הנתמכות ואת הרכיבים הכלולים.