כיצד בנינו אבטחה לתוך Computer

Perplexity Computer הוא סוכן אוטונומי שכותב ומריץ קוד, גולש באינטרנט ומתחבר לשירותים חיצוניים כדי לבצע משימות בשמך.

הוא בנוי ישירות על תשתית קיימת של Perplexity, אשר השלימה את אישור ה-SOC 2 Type II שלה לשנת 2026, ויורש את מאפייני האבטחה הארגוניים של Perplexity כגון SAML SSO, יומני ביקורת ובקרות ניהוליות מפורטות.

הפעלת קוד ופעולה על שירותים פעילים מציגות דרישות חדשות. פוסט זה סוקר את מה שבנינו על גבי הבסיס המקורי כדי להמשיך לשמור על בטיחות המשתמשים שלנו: בידוד ארגז חול, מחברים וטיפול בנתונים, הגנה מפני הזרקת הנחיות וממשל ארגוני.

בידוד ארגז חול

הפעלת קוד בבטחה דורשת בידוד ברמת החומרה. כל משימת Computer פועלת בתוך ארגז חול של Firecracker microVM, מה שאוכף עקרון הרשאה מינימלית ברמה שחורגת מאבטחת מערכת ההפעלה המקוררת. כל microVM מפעיל ליבת Linux ייעודית משלו עם מודל התקנים מינימלי שמקטין את שטח התקיפה.

כל ארגז חול מבודד בשלושה ממדים:

ליבה ייעודית: כל הפעלה מקבלת מופע ליבת Linux משלה.

מערכת קבצים מבודדת: כל מכונה וירטואלית משתמשת במערכת קבצים מבודדת שמתאפסת כשההפעלה מסתיימת.

מרחב שמות רשת פרטי: לארגזי חול יש רשת מבודדת משלהם עם חוקי חומת אש ייעודיים.

ארגזי חול משהים את עצמם אוטומטית כשהם לא פעילים ונהרסים לאחר תקופה של חוסר פעילות. כל הפעלה חדשה מתחילה נקייה. רק אישורי הגישה הנדרשים למשימה הנוכחית מוזרקים, והם נהרסים יחד עם ארגז החול. סוכני-משנה משתמשים באסימוני פרוקסי קצרי טווח המנותבים דרך שער מאומת במקום במפתחות API גולמיים.

אנו גם מפרידים בין אחסון נתונים לבין ביצוע קוד על פני ענני VPC שונים. הפרדה זו מסייעת בבידוד נתוני משתמשים מאוחסנים מסביבת הביצוע. כל התקשורת בין השניים מתבצעת באמצעות HTTPS מוצפן.

מחברים וטיפול בנתונים

Computer יכול להתחבר לשירותים חיצוניים תוך שמירה על היקף גישה תחום ובקרת טיפול בנתונים. מנהלי מערכת יכולים להפעיל או להשבית מחברים עבור הארגון, ומשתמשים בודדים מאמתים לאחר מכן את השירותים שהם רוצים להשתמש בהם בתוך Computer.

נתיב החיבור תלוי במחבר. אינטגרציות מובנות כגון Google ו-Microsoft משתמשות בתהליכי אימות של ספקים, בעוד שמחברים מרוחקים מותאמים אישית תומכים באימות OAuth 2.0 או במפתח API המנוהל על ידי הארגון. כל סוגי המחברים מתוכננים להעביר רק את המינימום של הנתונים הנדרשים להשלמת המשימה.

הטיפול בנתונים פועל לפי אותו מודל בקרה. מחברים מרוחקים מותאמים אישית חייבים להשתמש ב-HTTPS, ונתוני מחבר הקבצים מוצפנים במעבר ובמנוחה. נתונים ארגוניים, כגון קלטים של משימות, פלטים, נתוני מחברים ותכני ארגז חול, אינם משמשים לאימון מודלים. קבצים ארגוניים מצורפים נמחקים לאחר 7 ימים.

הגנה מפני הזרקת הנחיות

סוכן שגולש באינטרנט וקורא תוכן חיצוני חשוף להתקפות הזרקת הנחיות. Computer יורש ומרחיב את ההגנות שבנינו במקור עבור Comet, כולל ארכיטקטורת ההגנה בארבע שכבות שלנו ו-BrowseSafe, מודל זיהוי הקוד הפתוח שלנו לאבטחת סוכני דפדפן. הגנות אלו עברו ביקורת על ידי Trail of Bits.

מסווגי למידת מכונה סורקים תוכן שהתקבל ממקורות חיצוניים לפני ש-Computer פועל לפיו. מערכת הזיהוי פועלת במקביל לצינור הסקת המסקנות של הסוכן ומפעילה עצירת חירום בטוחה כאשר מתגלה תוכן חשוד. המסווגים מעודכנים באופן רציף על סמך ממצאים מתוכנית פרסי הבאגים שלנו, תרגילי צוות אדום ואירועי זיהוי בעולם האמיתי.

מעבר לסיווג, הנחיית המערכת של כל כלי כוללת גדרות הפרדה מפורשות. תוכן חיצוני מסומן כבלתי מהימן, והמערכת מתייחסת באופן רציף לשאילתת המשתמש המקורית בעת בחירה והפעלה של כלים.

Computer מיישם אמצעי הגנה נוספים בעת עיבוד תוכן בלתי מהימן, כולל טיפול מחמיר יותר בהנחיות והגנות ברמת המודל. אם תרצה לקרוא על כך עוד, קישרנו למחקרים ולערכות האבטחה הרלוונטיות לעיל.

בקרות ארגוניות

עבור ארגונים המשתמשים ב-Perplexity Enterprise, מנהלי מערכת מקבלים ממשל נוסף על האופן שבו Computer פועל:

יומני ביקורת: מנהלי מערכת יכולים לרשום אירועים מרכזיים כגון שאילתות משתמשים, פעולות סוכנות, גישה לקבצים ושימוש במחברים. היומנים משתלבים עם מערכות SIEM מובילות כולל Splunk, Azure Sentinel ו-Datadog כך שצוותי אבטחה יכולים לנטר את פעילות Computer לצד טלמטריה של תשתית קיימת.

בקרות גישה: מנהלי מערכת יכולים להשבית את Computer לחלוטין או לאפשר אותו לחברים ספציפיים בלבד. ניתן להפעיל או להשבית כל אחד מהמחברים של צד שלישי, כולל Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks ו-Salesforce ברמת הארגון. מנהלי מערכת יכולים גם להגביל באילו מודלים מותר ל-Computer להשתמש.

בקרות חיוב: מנהלי מערכת יכולים להגדיר תקרות קרדיטים לכל מושב, לעקוף הקצאות עבור משתמשים בודדים, להגדיר ספי טעינה אוטומטית ומגבלות חודשיות, או לבחור שלא להוסיף קרדיטים מעבר להקצאת המושבים כלולה.

לפרטים מלאים, בקר ב-מרכז האמון שלנו או עיין בתיעוד Computer for Enterprise.