אבטחת AI עם Perplexity

משאבי אבטחה המוזכרים בהפעלה זו

• איך בנינו אבטחה לתוך Computer
• ארגזי חול מאובטחים לסוכנים
• הפחתת הזרקת הנחיות ב-Comet
• מאמר מחקר בנושא BrowseSafe
• אבטחת סוכנים באמצעות Numbat
• פתיחת קוד המקור של Bumblebee
• המכון לאינטליגנציה מאובטחת
• מרכז האמון

שאלות נפוצות

בניית אבטחה בכל שכבות מחסנית ה-AI

כיצד Perplexity מתייחסת לאבטחה כשהיא בונה פתרונות בכל כך הרבה שכבות של מחסנית ה-AI? כל מה ש-Perplexity בונה מתחיל בחשיבה שמעדיפה אבטחה בראש ובראשונה, ואנחנו מתייחסים לבטיחות ולאבטחה כמשרות קשורות אך נפרדות. בטיחות עוסקת בהגנה על בני אדם מפני סוכנים. אבטחה עוסקת בהגנה על סוכנים מפני בני אדם. בנייה רוחבית בכל השكבות משמעותה שאנו יכולים למקם את בקרות האבטחה הנכונות בשכבה הנכונה עבור המשימות הנכונות, במקום להדביק הגנה על קופסה שחורה שאינה בבעלותנו.

SPACE, ארגז החול לסוכנים של Perplexity

מהו ארגז חול וכיצד הוא מגן על משתמשים וסוכנים? ארגז חול מעניק לקוד מקום מבודד לפעול בו מבלי להגיע למערכות או לנתונים שלך. סוכנים מעלים את הרף, ולכן ב-Computer כל משימה מקבלת ארגז חול משלה.

מדוע Perplexity בנתה ארגז חול משלה (SPACE) במקום להשתמש באחד קיים? כלان המוצעים מהמדף לא יכלו לספק את האבטחה ש-Perplexity רוצה להבטיח ללקוחותינו. סוכנים שוברים את ההנחה שארגזי חול מיועדים להרצת קוד לזמן קצר. הדבר יוצר שני צרכים המנוגדים זה לזה: הסביבה צריכה להיות ניתנת להשמדה, אך העבודה צריכה להיות מתמשכת. פלטפורמות קיימות אילצו אותך לבחור שניים מתוך שלושה בין פונקציונליות, יעילות ואבטחה. SPACE נבנתה כדי לספק את כל השלושה.

כיצד SPACE עובדת בפועל, אילו בקרות אבטחה יש לה? SPACE הופכת את ההפעלה לאובייקט העמיד במקום את ארגז החול. הפעלה היא שרשרת של צילומי מצב מתגלגלים, וצילומי מצב אלו מאפשרים את מערך הבקרות המלא של SPACE. השהייה היא פשוט עצירת ארגז החול. חידוש הוא שחזור צילום המצב העדכני ביותר בכל מכונה שהיא. פיצול (Forking) הוא שחזור של אותו צילום מצב פעמיים ומתן אפשרות לעותקים להתפצל. משתמשים מקבלים רציפות, יחד עם לחצן מכונת זמן אם משהו משתבש.

היכן מתגוררים פרטי ההתחברות שלי כאשר סוכן פועל בשמי? ארגזי חול הם המקום שבו מתבצעת עבודה שאינה מהمנת, ולכן זהו המקום האחרון שבו צריכים להימצא מפתחות. אם סוכן היה נחטף, התוקף היה יורש את כל מה שהסוכן מחזיק, וזו הסיבה שהסוכנים שלנו אינם מחזיקים דבר. פרטי ההתחברות מגיעים מבחוץ, בדיוק ברגע שבו הם נדרשים, עבור אותה משימה בלבד.

RBAC, מחברים ותכונות האבטחה של Perplexity

למה בדיוק מקבלת Perplexity גישה כאשר מחבר כגון Snowflake או Outlook מחובר, ומה מנהל מערכת יכול לכבות? בניגוד לכלי סוכנים שמתחילים בגישה לכל המחשב שלך, Computer מתחיל ללא גישה. הגישה מתבצעת באמצעות OAuth עם הרשאות מדויקות, כך שאם אתה לא יכול לראות זאת, גם הסוכן שלך לא יכול לראות זאת. מנהלי מערכת יכולים לכבות מחבר שלם, או רק כלים ספציפיים בתוכו.

כיצד מערכת ה-RBAC של Perplexity משתלבת עם ספק הזהויות שלנו?

ספק הזהויות של ארגון כבר עונה על השאלה מי יכול לגעת במה. Perplexity מתחברת אליו וגבולות אלו זולגים היישר אל תוך המוצר. מקור האמת שלך נשאר מקור האמת, ונתיב הביקורת שלך נשאר מדויק. צוותים מקבלים את ההקשר הדרוש להם, וחברות שומרות על שליטה לגבי מי רואה מה.

כיצד Perplexity מגינה על סוכנים מפני הזרקת הנחיות באינטרנט הפתוח? הזרקת הנחיות היא הנדסה חברתית המכוונת לסוכנים במקום לעובדים, והאינטרנט הפתוח הוא המקום שבו זרים יכולים לדבר איתו. BrowseSafe מתייחס לכל עמוד שהסוכן קורא כאל בלתי מהימן וסורק אותו במקביל, לפני שהתוכן יכול לעצב את פעולת הסוכן. מחקר אבטחה ששומרים לעצמך מגן עליך בלבד. הסוכנים של כולם קוראים את אותו האינטרנט, לכן הפכנו את מדד הייחוס (benchmark) לציבורי.

באילו כלים משתמשת Perplexity כדי להגן על המכונות שעליהן פועלים סוכנים ועובדים? Bumblebee עונה על השאלה הראשונה לאחר כל אירוע שרשרת אספקה: האם החבילה הפגומה נמצאת במקום כלשהו במערכות שלנו? Numbat צופה בשכבת הסוכן עצמה וקוראת את ההתנהגות ברצף. מכיוון שהיא יושבת במקום שבו הסוכן פועל, היא יכולה לעצור פעולה לפני שהיא מבוצעת.

שימוש ב-Computer לשם אבטחת Computer

האם ניתן לסמוך על Computer בעבודה אבטחתית אמיתית? צוות האבטחה של Perplexity עצמה בנה את תשתית האבטחה שלו פנימית על גבי Computer במקום להמתין وكلים חיצוניים ידביקו את הפער. הרצת מודל-אגנוסטית, זיכרון מתמשך ושאר מפת הדרכים כבר היו שם, כך שהצוות יכול היה להתמקד בסוכן האבטחה עצמו. בניית סוכן האבטחה הטוב ביותר פירושה הצורך ברתمة הטובה ביותר מתחתיו.

היכן Computer מסיר את העבודה המונוטונית ביותר מעל צלחת צוות האבטחה? Computer יכול לסייע במיון התראות שהוחמצו ובדוחות תקרית נלווים. כל מיון בComputer חוזר מתועד כברירת מחדל, כך שאנליסטים מתחילים מחקירה בכתב במקום מהתראת גלם.