Að byggja öruggari gervigreindarvafrara með BrowseSafe

Í dag gefum við út BrowseSafe, opið rannsóknarviðmið og efnisgreiningarlíkan sem miðar að því að tryggja öryggi notenda þegar þeir vafra um umboðsvefinn.

Þegar gervigreindaraðstoðarmenn færast frá leitarreitum yfir í vafrann sjálfan væntum við þess að næsta kynstur vefsins breytist úr síðum í umboðsmenn: minna um hvar upplýsingar búa, og meira um hver sækir þær og bregst við þeim. Comet breytir vafranum í stað þar sem aðstoðarmaður getur unnið verkefni, ekki bara svarað spurningum, svo ein regla er ósamningsatriði: hann verður að vera megin notandans.

BrowseSafe er greiningarlíkan fínstillt til að svara einni afmörkuðu spurningu: miðað við HTML síðu, inniheldur hún illgjarnar leiðbeiningar sem beinast að umboðsmanninum? Stór almenn líkan geta rökrætt vel um þessi tilvik, en þau eru oft of hæg og dýr til að keyra á hverri síðu. BrowseSafe skannar allar vefsíður í rauntíma án þess að hægja á vafranum. Við erum einnig að gefa út BrowseSafe-Bench matssafnið sem úrræði til að meta og bæta árangur varna.

Hins vegar þýðir ný kynstur gervigreindarvafrunar einnig ný kynstur netöryggisógna sem krefjast nýstárlegra nálgana til að halda notendum öruggum. Í fyrri færslu fórum við í gegnum hvernig Comet notar margar varnarlínur til og halda aðstoðarmanninum við það sem notandinn bað um, jafnvel þegar vefsíða reynir að ræna honum með skipanainnspýtingu. Í dag ætlum við að skoða nánar hvernig við tökumst á við það vandamál: hvernig þessar ógnir eru skilgreindar, prófaðar gegn raunverulegum árásum, og notaðar til að þjálfa sérhæfð líkan sem geta greint og stöðvað slæmar leiðbeiningar nógu hratt til að keyra öruggt í vafranum.

Skipanainnspýting er illgjarn texti innbyggður í textann sem gervigreind les sem er hannaður til að hnekkja upprunalegum tilgangi hennar. Í vafranum lesa umboðsmenn heilar síður, þannig að árásir geta dulist á stöðum eins og athugasemdum, sniðmátum eða löngum neðanmálstextum.

Árásarmenn nota þessa staði til að smeygja inn leiðbeiningum sem beina umboðsmanninum hljóðlega á braut. Vegna þess að hann les allt, þar með talið efni sem flestir taka eftir, geta þessi skilaboð rænt hegðun án öflugra öryggisráðstafana.

Þessar árásir forðast oft augljósar setningar og geta verið skrifaðar í slípuðum eða fjöltyngdum texta, eða staðsettar í HTML-einingum sem birtast aldrei á skjá, eins og gagnareitum eða formreitum sem vafrar sýna ekki sjáanlega en umboðsmenn þó þátta.

Til að rannsaka þessar árásir í umhverfi sem líkist hinum raunverulega vef smíðuðum við BrowseSafe, greiningarlíkan sem við þjálfuðum og opnuðum, og BrowseSafe-Bench, opinbert viðmið með 14.719 dæmum sem líkja eftir framleiðslusíðum. Það inniheldur flókið HTML, suð í efni og blöndu af illgjarnum og skaðlausum sýnum sem breytast eftir þremur ásum: hvað árásarmaðurinn reynir að gera, hvar leiðbeiningin situr á síðunni, og hvernig textinn er skrifaður.

Viðmiðið inniheldur 11 árásartegundir, níu innspýtingarstefnur sem ná yfir faldða reiti yfir í sýnilega málsgreinar og neðanmálstexta, og þrjá málfræðistíla, frá skýrum skipunum yfir í óbeinan, felumaskaðan textann.

Í ógnarlíkani okkar býr aðstoðarmaðurinn sjálfur í traustu umhverfi, en allt sem kemur af vefnum er ótreyst. Árásarmenn gætu stjórnað öllum síðum eða bara sprautað inn efni, svo sem vörulýsingum, athugasemdum og færslum inn á að öðru leyti saklausar síður sem aðstoðarmaðurinn heimsækir. Til að stjórna þeirri áhttu eru verkfæri sem geta skilað ótreystu efni, svo sem vefsíðum, tölvupósti eða skrám, merkt, og hráúttak þeirra er alltaf skannað af BrowseSafe áður en umboðsmaðurinn getur lesið eða brugðist við þeim.

BrowseSafe er ein lag í víðtækari varnarnálgun. Hrátt efni er skannað fyrir notkun, heimildir tækja eru takmarkaðar sjálfkrafa, og viðkvæmar aðgerðir geta krafist skýrrar staðfestingar notanda, allt ofan á núverandi öryggiseiginleika vafrans. Varnir í dýpt gera notendum kleift að taka upp öfluga vafraraðstoðarmenn án þess að fórna öryggi fyrir getu.

Matarniðurstöður á BrowseSafe-Bench sýna skýr mynstur. Beinar árásir, eins og að biðja umboðsmanninn um að birta kerfisboð sitt eða flytja upplýsingar út í gegnum vefslóðarhluta, eru með því auðveldasta sem líkkanin ná í. Aftur á móti eru fjöltyngdar árásir og þær sem eru skrifaðar sem óbeinar eða tilgátuleiðbeiningar verulega erfiðari, vegna þess að þærforðast augljós leitarorð semmargir skannar treysta á undirskilið.

Staðsetning skiptir líka máli. Árásir sem faldar eru í athugasemdum greinast tiltölulega vel, á meðan útgáfur endurskrifaðar í sýnilega neðanmálstexta, töflureiti eða innbyggðar málsgreinar reynast mun erfiðari, sem sýnir hlutdrægni í uppbyggingu í átt að "földum" innspýtingum. Vandvirk þjálfun á vel hönnuðum dæmum getur stórlega bætt getu líkana til að greina þessi mynstur.

BrowseSafe og BrowseSafe-Bench eru að fullu opinn hugbúnaður. Hver sem er sem þróar sjálfstæða umboðsmenn getur strax hert kerfi sín gegn skipanainnspýtingu — engin þörf á að smíða öryggisbrautir frá grunni. Opna þyngdargreiningarlíkanið keyrir staðbundið og merkir illgjarnar leiðbeiningar áður en þær ná til kjarnarökfræði umboðsmannsins þíns, nógu hratt til að skanna hverja síðu án þess að hægja á notendum.

Notaðu yfir 14.000 raunverulegar árásaratburðarásir BrowseSafe-Bench til að þrautprófa þína eigin módel gegn sóðalegum HTML gildrum sem brjóta staðlaða LLM. Samþjöppunar- og samskönnunartækni okkar gerir umboðsmönnum kleift að vinna úr miklu, ótreystu síðum á skilvirkan hátt — öflugir vafraeiginleikar án þess að setja notendur í hættu.Til að fræðast meira um hvernig við byggðum BrowseSafe og BrowseSafe-Bench skaltu skoða rannsóknarblogg Perplexity.

BrowseSafe: verndar umboðsmenn og notendur með efnisskönnun í rauntíma

Traustmörk og margþættar varnir

Hvernig skipanainnspýting í vafra virkar

BrowseSafe-Bench: eflir öryggi umboðsmanna í raunverulegu umhverfi

Nálgun með dýptarvörnum

Hvað hefur áhrif á árangur árása?

Byggðu öruggari umboðsmenn með BrowseSafe