Computer వెనుక ఉన్న శాండ్‌బాక్స్ ప్లాట్‌ఫామ్ SPACEను ఓపెన్-సోర్స్ చేస్తున్నాము

ఫిబ్రవరిలో Computerను ప్రారంభించినప్పటి నుంచి, పర్సనల్ ఏజెంట్‌ల రంగంలో Perplexity తొలి మార్గదర్శిగా నిలిచింది. ఏజెంట్ గవర్నెన్స్, అసురక్షిత ప్రవర్తనలను గుర్తించడం, అదుపు తప్పిన ఏజెంట్ కార్యకలాపాలను నివారించడం వంటి కఠినమైన సమస్యలను పరిష్కరించడానికి మేము కట్టుబడి ఉన్నాము. జూలైలో, వాణిజ్యపరంగా అందుబాటులో ఉన్న మా శాండ్‌బాక్స్ ప్రొవైడర్‌ను మరింత పటిష్టమైన, స్థితిస్థాపకమైన ఇన్-హౌస్ సొల్యూషన్‌తో భర్తీ చేశాము, దానికి SPACE అని పేరు పెట్టాము.

అధునాతన ఏజెంటిక్ సిస్టమ్‌లకు SPACE ఉన్నత స్థాయి భద్రతను అందిస్తుంది. నిజానికి, ఇటీవల జరిగిన వరుస భద్రతా పరీక్షలు, OpenAI/Hugging Face ఘటనలో ఉపయోగించిన తరహా నెట్‌వర్క్-బైపాస్ టెక్నిక్‌లను SPACE సమర్థంగా తట్టుకోగలదని నిరూపించాయి.

ఈరోజు, సురక్షితమైన ఏజెంట్ సిస్టమ్‌లను నిర్మించేందుకు డెవలపర్‌లకు ఒక పునాదిని అందించడానికి, అలాగే పరిశ్రమ అంతటా మరింత బలమైన రక్షణలకు తోడ్పడటానికి మేము SPACEను ఓపెన్-సోర్స్ చేస్తున్నాము. డెవలపర్‌లు ఇక్కడ రిపోజిటరీని యాక్సెస్ చేయవచ్చు.

ఏజెంట్ గవర్నెన్స్ అనేది ఒక ఇంజనీరింగ్ సమస్య, దాన్ని పరిష్కరించడానికి ఓపెన్ సోర్స్ చాలా అవసరం. పరిశీలించగల, మార్చుకోగల, వాటి ఆధారంగా నిర్మించగల సిస్టమ్‌లు డెవలపర్‌ల వద్ద ఉన్నప్పుడు, వారు మరిన్ని బలహీనతలను కనుగొంటారు, మెరుగైన టూల్స్‌ను అభివృద్ధి చేస్తారు. SPACEను ఓపెన్-సోర్స్ చేయడం ద్వారా, ఐసోలేషన్, స్టేట్ రికవరీ, క్రెడెన్షియల్, నెట్‌వర్క్ నియంత్రణలు అంతర్నిర్మితంగా ఉన్న, ప్రొడక్షన్‌లో పరీక్షించిన పునాదిని ఏజెంట్ రన్‌టైమ్‌ల కోసం డెవలపర్‌లకు అందిస్తున్నాము.

ఇతర బిల్డర్‌ల కోసం పునాదిని సృష్టించడం

శాండ్‌బాక్స్‌లు ఏజెంట్‌లను సురక్షితంగా ఉంచుతాయి. సున్నితమైన సమాచారాన్ని రక్షిస్తూనే, ఈ పనులను పూర్తి చేయడానికి అవసరమైన టూల్స్, ఫైల్స్‌ను యాక్సెస్ చేయడానికి వాటిని అనుమతిస్తాయి.

SPACEను ఓపెన్-సోర్స్ చేయడం వల్ల, తమ ఏజెంట్‌లు కోడ్‌ను రన్ చేసే, ఫైల్స్‌తో పనిచేసే ఎన్విరాన్‌మెంట్‌ల కోసం డెవలపర్‌లకు ఒక ప్రారంభ బిందువు లభిస్తుంది. SPACE శాండ్‌బాక్స్ ప్లాట్‌ఫామ్ ఎలా పనిచేస్తుందో టీమ్‌లు చూడవచ్చు, దాని ఇంప్లిమెంటేషన్ ఆధారంగా నిర్మించవచ్చు. అంతర్లీన ఇన్‌ఫ్రాస్ట్రక్చర్‌ను మళ్లీ సృష్టించాల్సిన అవసరం లేకుండా, తమ అవసరాలకు అనుగుణంగా దాన్ని మార్చుకోవచ్చు.

Computerలో, SPACE ఐసోలేటెడ్ కోడ్ ఎగ్జిక్యూషన్, పాజ్ చేసి మళ్లీ కొనసాగించడం, రికవరీ, సెషన్ బ్రాంచింగ్‌లకు సపోర్ట్ చేస్తుంది. ఈ సామర్థ్యాలు కింది పనులు చేయగల అసిస్టెంట్‌లకు పునాదిని అందిస్తాయి:

• డేటాను విశ్లేషించడం: ప్రత్యేక వర్క్‌స్పేస్‌లో స్ప్రెడ్‌షీట్‌ను క్లీన్ చేయడం, లెక్కలు చేయడం, చార్ట్‌లను సృష్టించడం.
• పనిని తిరిగి కొనసాగించడం: ఎవరైనా డ్రాఫ్ట్‌ను సమీక్షించడానికి లేదా లేని సమాచారాన్ని అందించడానికి పాజ్ చేసి, ఆ తర్వాత వారి ఫైల్స్, రన్నింగ్ స్టేట్ అలాగే భద్రంగా ఉండేలా తిరిగి కొనసాగించడం.
• ప్రత్యామ్నాయాలను అన్వేషించడం: తమ వర్క్‌స్పేస్‌కు చెందిన వేర్వేరు కాపీలలో డేటాసెట్‌ను క్లీన్ చేసే రెండు మార్గాలను పరీక్షించడం, లేదా పొరపాటు జరిగిన తర్వాత మునుపటి ఫైల్‌ను పునరుద్ధరించడం.

SPACE డాక్యుమెంటేషన్‌లో వివరించిన ఐసోలేషన్, సెషన్ నియంత్రణలను డెవలపర్‌లు ఎలా ఉపయోగించవచ్చో ఈ ఉదాహరణలు వివరిస్తాయి. ప్లాట్‌ఫామ్, సెక్యూరిటీ ఇంజనీర్‌లు కూడా SPACEను తమ సొంత సిస్టమ్‌లలో ఇంటిగ్రేట్ చేయడానికి ముందు ఐసోలేషన్ మోడల్‌ను, భద్రతా ఉదాహరణలను సమీక్షించవచ్చు.

స్వయంప్రతిపత్త పనుల కోసం భద్రతను పెంచడం

సమస్యలను పరిష్కరించడానికి ఏజెంట్‌లకు మరింత స్వేచ్ఛ ఇచ్చినప్పుడు, అవి దాన్ని ఎలా చేస్తాయనే దానిపై మనకు స్పష్టమైన పరిమితులు అవసరం. చట్టబద్ధమైన పనులు చేస్తున్న ఏజెంట్‌లు కూడా లేని ఫైల్స్, విఫలమైన రిక్వెస్ట్‌లు లేదా అనుమతి నిరాకరణలను దాటవేయడానికి ప్రయత్నించినప్పుడు భద్రతా సరిహద్దులను దాటే అవకాశం ఉందని మాకు తెలుసు.

అసురక్షిత ప్రవర్తన జరిగే అవకాశాన్ని తగ్గించడానికి మేము మోడల్ సేఫ్‌గార్డ్‌లను ఏర్పాటు చేయవచ్చు. ఆ సేఫ్‌గార్డ్‌లు విఫలమైతే, చుట్టూ ఉన్న సిస్టమ్‌లో స్వతంత్ర నియంత్రణలను జోడించడం వల్ల నష్టాన్ని అదుపు చేయవచ్చు. ఏజెంట్ ఏం చేయాలని నిర్ణయించుకున్నా, అది దేనిని యాక్సెస్ చేయగలదో ఈ నియంత్రణలు పరిమితం చేస్తాయి.

ఏజెంట్ సృష్టించిన కోడ్, ఫైల్స్ కోసం ఉండే ప్రత్యేక వర్క్‌స్పేస్ చుట్టూ SPACE ఆ నియంత్రణలను ఏర్పాటు చేస్తుంది. ఐసోలేషన్, రికవరీ, సమర్థవంతమైన ఎగ్జిక్యూషన్‌లను కలిపేలా మేము దీన్ని రూపొందించాము. దీనివల్ల, భద్రతా సరిహద్దులను గౌరవించడానికి కేవలం మోడల్‌పైనే ఆధారపడకుండా, ఏజెంట్‌లు సుదీర్ఘ సెషన్‌లలో ఉపయోగకరమైన పనిని చేయగలుగుతాయి.

సొంత ఆపరేటింగ్ సిస్టమ్‌లో రన్ అవ్వడం

ప్రతి SPACE శాండ్‌బాక్స్ సొంత ఆపరేటింగ్ సిస్టమ్‌తో కూడిన ఒక చిన్న వర్చువల్ మెషీన్‌లో నడుస్తుంది, ఇది ఏజెంట్ పనికి, హోస్ట్ సిస్టమ్‌కు మధ్య ఒక ఐసోలేషన్ సరిహద్దును ఏర్పరుస్తుంది. ఈ వర్క్‌స్పేస్‌లను ఎప్పుడు సృష్టించాలి, పాజ్ చేయాలి, మళ్లీ కొనసాగించాలి లేదా తొలగించాలి అనే దాన్ని ఒక కేంద్ర కంట్రోల్ ప్లేన్ సమన్వయం చేస్తుంది.

SPACE శాండ్‌బాక్స్‌ను నమ్మదగనిదిగా పరిగణిస్తుంది, నెట్‌వర్క్ యాక్సెస్‌ను, ప్లాట్‌ఫామ్ వద్ద ఉండే క్రెడెన్షియల్‌లను శాండ్‌బాక్స్ వెలుపల నిర్వహిస్తుంది. ఆ క్రెడెన్షియల్‌లు తమ వర్కింగ్ ఎన్విరాన్‌మెంట్‌లో నిల్వ కాకుండానే, ఏజెంట్‌లు అధీకృత సేవలకు కనెక్ట్ కాగలవు.

తరచూ తీసే ఫైల్ స్నాప్‌షాట్‌లు, పూర్తి రన్నింగ్ ఎన్విరాన్‌మెంట్‌కు సంబంధించిన చెక్‌పాయింట్‌లు అంతరాయాలు ఎదురైనా పురోగతిని భద్రపరుస్తాయి. ఈ ఆపరేషన్‌లను సమర్థవంతంగా ఉంచడానికి, SPACE మొత్తం ఎన్విరాన్‌మెంట్‌లను పదే పదే కాపీ చేయకుండా, మార్పులను మాత్రమే నిల్వ చేస్తుంది. దీనివల్ల శాండ్‌బాక్స్‌ను సృష్టించడానికి, పునరుద్ధరించడానికి లేదా బ్రాంచ్ చేయడానికి అవసరమైన పని తగ్గుతుంది.

ప్రొడక్షన్ పనితీరును మెరుగుపరచడం

జూలై నుంచి అన్ని Computer సెషన్‌లు SPACE ఆధారంగానే నడుస్తున్నాయి, ఇది రోజుకు మిలియన్ల కొద్దీ శాండ్‌బాక్స్ క్రియేషన్‌లను నిర్వహిస్తోంది. ఒకే ప్రొడక్షన్ ట్రాఫిక్‌పై చేసిన పోలికలో, మా మునుపటి ప్రొవైడర్‌తో పోలిస్తే శాండ్‌బాక్స్ క్రియేషన్ మూడు నుంచి ఐదు రెట్లు వేగంగా జరిగింది.

దాని సరిహద్దులను ఉద్దేశపూర్వకంగా ఛేదించడానికి ప్రయత్నించే ఏజెంట్‌లతో కూడా మేము SPACEను పరీక్షించాము. మేము ప్రచురించిన భద్రతా మూల్యాంకనంలో, 108 ప్రయత్నాల్లో ఒక్కదానిలో కూడా వర్చువల్ మెషీన్ నుంచి హోస్ట్‌కు తప్పించుకోవడం సాధ్యం కాలేదు, కానీ కొన్ని ప్రయత్నాలు నెట్‌వర్క్ పరిమితులను దాటే మార్గాలను కనుగొన్నాయి. మేము ఆ బలహీనతలను సరిచేశాము, తదుపరి పరీక్షల్లో గుర్తించిన ఆ రెండు దాడి పద్ధతుల్లో ఏదీ విజయవంతం కాలేదు.

ఇతర శాండ్‌బాక్స్ ప్లాట్‌ఫామ్‌లలో మేము కనుగొన్న సంబంధిత బలహీనతలను వాటి వెండర్‌లకు కూడా తెలియజేశాము, తద్వారా ఈ పనిని మా సొంత ఇన్‌ఫ్రాస్ట్రక్చర్‌కు మించి విస్తరించాము.

మరింత సురక్షితమైన ఏజెంటిక్ AIకి తోడ్పడటం

AI మరిన్ని పనులను చేపడుతున్న నేపథ్యంలో, ప్రజలు ఆధారపడే సిస్టమ్‌లను బలోపేతం చేయడానికి చేస్తున్న విస్తృత ప్రయత్నంలో SPACE ఒక భాగం. Secure Intelligence Institute ద్వారా, మేము భద్రతా పరిశోధన నిర్వహిస్తాము, విస్తృత కమ్యూనిటీతో కలిసి పనిచేస్తాము, పరిశోధనా ఫలితాలను ఆచరణాత్మక రక్షణలుగా మారుస్తాము.

సెక్యూరిటీ టూల్స్‌ను ఓపెన్-సోర్స్ చేయడం వల్ల డెవలపర్‌లకు రక్షణ వ్యవస్థలను పరీక్షించడానికి, బలహీనతలను కనుగొనడానికి, మరింత సురక్షితమైన AI సిస్టమ్‌లను రూపొందించడానికి మరిన్ని మార్గాలు లభిస్తాయని మేము నమ్ముతున్నాము. ఆ పనిలోని వివిధ అంశాలను పరిష్కరించే టూల్స్‌ను మేము షేర్ చేశాము:

• BrowseSafe, వెబ్ పేజీలలో దాగి ఉన్న హానికరమైన సూచనలను గుర్తించడానికి ఉపయోగపడే ఒక మోడల్, బెంచ్‌మార్క్.
• Numbat, జూలైలో ఓపెన్-సోర్స్ చేసిన ఒక సెక్యూరిటీ టూల్‌కిట్. ఇది కంప్యూటర్‌లలో ప్రమాదకరమైన ఏజెంట్ ప్రవర్తనను గుర్తించడానికి, దర్యాప్తు చేయడానికి, నివారించడానికి సహాయపడుతుంది
• Bumblebee, మేలో ఓపెన్-సోర్స్ చేసిన ఒక స్కానర్. ఇది డెవలపర్ మెషీన్‌లలో ప్రమాదకరమైన సాఫ్ట్‌వేర్ ప్యాకేజీలు, ఎక్స్‌టెన్షన్‌లు, AI టూల్ కాన్ఫిగరేషన్‌లు ఉన్నాయేమో తనిఖీ చేస్తుంది

ఈ టూల్స్‌ను అందుబాటులో ఉంచడం ద్వారా, ఇతర టీమ్‌లు మా పనిని పరిశీలించడానికి, తమ అవసరాలకు అనుగుణంగా మార్చుకోవడానికి, మెరుగుదలలను అందించడానికి వీలు కలుగుతుంది. SPACEతో, ఏజెంట్‌లు కోడ్‌ను ఎగ్జిక్యూట్ చేసే, ఫైల్స్‌తో పనిచేసే ఎన్విరాన్‌మెంట్‌లకు ఈ విధానాన్ని విస్తరిస్తున్నాము.

ఏజెంట్ సిస్టమ్‌ల కోసం డిప్లాయ్ చేయడం

Akamai తన క్లౌడ్ ప్లాట్‌ఫామ్‌లో SPACEను పరీక్షించి ప్రారంభించింది, అలాగే దాన్ని తన కస్టమర్‌లకు అందించేందుకు Perplexityతో కలిసి పనిచేస్తోంది. Crusoe కూడా తన Managed AI Services పోర్ట్‌ఫోలియోకు SPACEను జోడించేందుకు Perplexityతో భాగస్వామ్యం కుదుర్చుకుంది. CoreWeave సంస్థ, CKSలో మూల్యాంకనం కోసం SPACEను డిప్లాయ్ చేయాలనుకునే డెవలపర్‌ల కోసం సెటప్ మార్గదర్శకాలను ప్రచురించింది.

డెవలపర్‌లు తమ సొంత ఏజెంట్ సిస్టమ్‌ల కోసం SPACEను డిప్లాయ్ చేయడానికి, దాని సెటప్ సూచనలు, భద్రతా మార్గదర్శకాలతో ప్రారంభించవచ్చు. సపోర్ట్ చేసే కాన్ఫిగరేషన్‌లను, చేర్చిన కాంపోనెంట్‌లను రిపోజిటరీ, డాక్యుమెంటేషన్ నిర్వచిస్తాయి.