PII-TRACE: Greining persónugagna áður en þau yfirgefa tækið

Blendingaútreikningar á Mac skipta verkefnum Perplexity Computer milli mörkuðum líkana í skýinu og staðbundins líkans á Mac. Skýjaumboðsmenn sjá um rannsóknir, rökhugsun og skipulagningu, á meðan staðbundið líkan vinnur með einkaskrár og viðkvæmar upplýsingar.

Þessi mörk veltur á því að greina persónuauðkenni (PII) áður en það yfirgefur tækið. Staðbundið persónuverndarhlið heldur viðkvæmu efni á Mac, afmáir greindar persónuupplýsingar eða biður um samþykki áður en það er sent í skýið.

Greining verður erfiðari í löngum, fjöltyngdum samræðum. Sama auðkenni gæti birst nokkuð oft í mismunandi umferðum. Ein misskilin tilvísun getur afhjúpað upplýsingarnar sem kerfinu er ætlað að vernda.

Til að bregðast við þessum takmörkunum kynnum við PII-TRACE (Tracing Recurring PII Across Conversational Exchanges), nýjan viðmiðunarramma til að meta greiningu á persónuauðkennum (PII) í langvinnum og fjöltyngdum samræðum, og PII-Tracer, netta 0.6B líkanið fyrir PII-greiningu. Viðmiðunarramminn og líkönin eru aðgengileg almenningi á Hugging Face.

Inngangur

Umboðsmenn sem setja skýið í fyrsta sæti neyða notendur til að jafna samhengis, greind og persónuvernd. Meira persónulegt samhengi getur hjálpað umboðsmanni að skilja notandann og skila betri niðurstöðum. En að veita þetta samhengi þýðir oft að senda einkaupplýsingar til fjarlægrar þjónustu og getur lekið persónuupplýsingum. Upplýsingarnar sem gera aðstoðarmann gagnlegan gætu verið nákvæmlega það sem notandinn vill síst gefa upp.

Blendinga-gervigreind auðveldar þessa málamiðlun með því að skipta verkum milli tækis notandans og skýjalíkana. En þessi mörk vernda aðeins persónuvernd ef tækið getur þekkt PII áður en texti er sendur í fjarlægt líkan. Notendur ættu ekki að þurfa að skoða öll skilaboð sjálfir. Tækið þarf staðbundinn PII-skynjara sem persónuverndarhlið sitt. Í löngum samræðum getur sama auðkenni endurtekið sig milli umferða og ein misstu tilvísun dugar til að persónuupplýsingar komist í gegn.

Stækka

Perplexity kynnti blending fyrir staðbundna netþjónaútreikninga sem ákveður hvaða verk eiga að keyra í tækinu og hvaða verk eiga að fara til umboðsmanna í skýinu. Líkanið, umboðsmannagrindin, samræðurnar og keyrsluferlarnir eru öll vistaðar á tæki notandans. Verkefni sem krefjast aðgangs að umheiminum eru eingöngu ræst þegar þörf krefur og eru háð leyfi notandans. Fyrir vikið, þar til notandinn samþykkir, verður það efni kyrrt í tækinu.

PII-Tracer veitir eitt staðbundið stjórnmerki fyrir líkanaleiðun með því að flagga sviðum sem spáð er fyrir um að innihaldi PII. Forritið framfylgir síðan leiðunarstefnunni. Það heldur viðeigandi inntaki staðbundnu, afmáir greind svið eða biður um skýrt samþykki áður en málið er sent til skýjalíkans. Þetta gerir leiðun sértækari. Greind PII er áfram í tækinu á meðan samþykkt samhengi nýtur enn góðs af skýjalíkönum á mörkum tækninnar.

Sértæk leiðun veltur á samræmdri greiningu í gegnum allar samræðurnar. Sama auðkenni getur endurtekið sig í umferðum, og misskilin tilvísun gæti samt sem áður verið send.

Yfir 12 skynjara skráir PII-Tracer hæstu stafa F1 og hæstu samræmdu þekju endurtekinna auðkenna. Viðmiðið útskýrir hvers vegna báðar niðurstöðurnar skipta máli: í langri samræðu er það ekki það sama að finna flesta PII og að finna hvert einasta eintak af henni.

PII-greining stendur frammi fyrir nýjum áskorunum í blendinga-gervigreind

PII-greining er rótgróið öryggisvandamál og nokkur viðmið og skynjarar eru þegar til staðar. Hins vegar kynnir PII-greining í blendinga-gervigreindar-umhverfi nýjar áskoranir. Sérstaklega verða skynjarar að bera kennsl á PII í löngum samræðum í mörgum umferðum, þar sem samræðusamhengi ákvarðar hvort eigi að líta á streng sem PII. Til dæmis gæti nafn borið kennsl á notandann í einni samræðu, vísað til opinberrar persónu í annarri, eða einfaldlega verið staðgengill sem aðstoðarmaður býr til. Yfirborðsformið eitt og sér dugar ekki til að ákvarða hvort eigi að flagga streng sem PII.

Stækka

Núverandi PII-skynjarar og viðmið miða aðallega að stökum skrám. Við komumst að því að skynjarar sem hannaðir eru til að vinna úr einni skrá í einu standa sig illa í löngum, flóknum samræðum. Einnig meta núverandi viðmið almennt ekki samkvæmni milli umferða. Fyrir vikið skilar sterk frammistaða á þessum viðmiðum sér ekki sjálfkrafa í áhrifaríkri PII-greiningu í löngum samræðum sem fara fram í mörgum umferðum.

PII-TRACE: Viðmið fyrir PII-greiningu sem skiptir máli við útgáfu

Við hönnuðum PII-TRACE í kringum þrjár hegðanir sem skipta máli þegar PII-skynjari er notaður í samræðum við aðstoðarmenn. Sú fyrsta er samræmd þekja þegar auðkenni birtist oft eða fer yfir umferðir notanda og aðstoðarmanns, þarf skynjarinn að finna hverja tilvísun. Önnur er þol gagnvart löngu samhengi: samræður eru allt frá færri en 1.000 í fleiri en 100.000 stafi, sem gerir það mögulegt að mæla hvað gerist eftir því sem ferillinn stækkar. Sú þriðja er meðhöndlun margar tungumála og blandaðs sniðs efnis: samræður kunna að skipta um tungumál og sameina frásögn við kóða, töflur eða skipulagðar skrár. PII-TRACE varðveitir þessi mynstur með því að meta hvern almennan páralög í stað þess að skipta honum upp í einangraðar skrár.

Viðmiðið mælir frammistöðu á tveimur stigum sem styðja hvort annað. Á auðkennissstigi spyr samræmd greining strangari spurningarinnar: náði skynjarinn yfir hvern einasta staf í hverri tilvísun sama auðkennis? Við birtum þessa einkunn sérstaklega fyrir auðkenni með margar tilvísun og fyrir auðkenni sem endurtaka sig í umferðum. Á stafastigi mælir nákvæmni hve mikill hluti textans sem merktur er af skynjara er merktur PII, innköllun mælir hve mikla merkta PII hann finnur, og F1 jafnar þetta tvennt.

PII-TRACE inniheldur 13.148 tilbúnar samræður notenda og aðstoðarmanna á 13 tungumálum og með 10 ritkerfum, þar sem 37.431 tilvísun í auðkenni er merkt á stafa- og sviðsstigi í níu PII-flokkum. Alls innihalda 41% samræðnanna skipulagt efni. Af 5.645 samræðum með merktri PII innihalda 63,8% auðkenni sem birtist meira einu sinni, og 28,7% innihalda auðkenni sem birtist í mörgum umferðum.

Að búa til tilbúið gagnasafn úr framleiðslusamræðum

PII-TRACE varðveitir umferðaskipulag upprunasamræðna án þess að birta frumritin. Leiðslan endurskrifar hverja umferð og skiptir út hverju merktu auðkenni fyrir tilbúið gildi.

Stækka

Í fyrsta lagi merkja mörg málfræðilíkan níu tegundir PII í samræðum notenda og aðstoðarmanna í framleiðslu. Reglubundið ferli flokkar endurtekin auðkenni af sömu tegund undir einu einingarskilkenni. Hver merkt gildi er síðan skipt út fyrir týpulegan staðgengil, sem skilur eftir sniðmát sem heldur umferðaröð, PII-tegund og tengslum milli tilvísuna en engum af merktu upprunagildunum.

Kerfið endurorðar hverja umferð á meðan það heldur þessum staðgenglum óbreyttum, og setur síðan inn tilbúin gildi sem passa við tegund og snið auðkennisins. Endurteknar tilvísun fá sama gildi innan samræðna, á meðan mismunandi samræður nota sjálfstætt búin gildi. Endanleg samkeyrsluferli endurreiknar hverja stafahliðrun.

Þrjú sjálfvirk hlið athuga að staðgenglar passi við vistuð svið, endurteknar tilvísun noti sama gildi, og merkt upprunagildi séu fjarverandi undir Presidio og endurskönnun á reglulegum segðum. Vistuð hliðrun verður einnig að endurheimta nákvæmlega tilbúna strenginn. Skrár sem mistakast eru endurskapaðar eða felldar niður. Annað málfræðilíkan endurskoðar úrtak og mennskir aðilar fara yfir allt sem það flokkar sem PII.

PII-Tracer: Þéttur skynjari til staðbundinnar notkunar

PII-Tracer er 0,6B tvíhliða kóðari sem lagaður er út frá Qwen3-undirstöðu. Persónuverndarsíun er frábrugðin textakynningu og krefst þess að finna viðeigandi PII-svið og skila mörkum þeirra. Fyrir vikið skiptir PII-Tracer út orsakamaski Qwen3 fyrir fyllingarvitrari tvíhliða athygli, þannig að hvert tákn getur nýtt sér bæði fyrri og síðari umferðir innan 4.096 tákna glugga.

Fyrir hvert tákn skilar kóðarinn 1.024 vídda framsetningu. Línulegt merkingarhöfuð skilar einkunnum fyrir 37 möguleg merki: eitt sérstakt merki (sem við notum O til að tákna) fyrir texta utan PII-sviðs, auk fjögurra sviðsstöðumerki fyrir hvern af níu PII-flokkunum. Í BIOES-kerfinu fyrir nafnagreiningu merkja B (upphaf), I (inni), og E (endir) margra tákna svið, á meðan S (stakt) merkir eins táknssvið. Aukahöfuð spáir einnig fyrir um hvort samræðurnar innihaldi viðkvæmt efni, svo sem heilbrigðis- eða trúarupplýsingar.

Við þjálfum PII-Tracer í þrjár lotur á u.þ.b. 714.000 þjálfunarsýnum, þar sem saman er blandað fjöltyngdum aðstoðarmannasamræðum og dæmum úr stakri skrá. Sameiginlegi tvíhliða kóðarinn er með tvö þjálfunarhöfuð: 37-flokka BIOES-táknahöfuð sem greinir og gerir grein fyrir PII-sviðum, og tvíundarhöfuð á samræðustigi sem spáir fyrir um hvort samræðurnar innihaldi viðkvæmt efni. Við þjálfum bæði höfuðin í sameiningu með $\mathcal{L}=1.5\mathcal{L}_{\mathrm{tag}}+0.3\mathcal{L}_{\mathrm{sens}}$. Hér gefur $\mathcal{L}_{\mathrm{tag}}$ sjaldgæfum PII-merkjum meira vægi þannig að tíða `O`-merkið ráði ekki ríkjum, á meðan $\mathcal{L}_{\mathrm{sens}}$ leggur til þjálfunarmerki á samræðustigi; stuðlarnir 1,5 og 0,3 halda sviðsgreiningu sem aðalverkefninu. Þetta aukamerki styrkir samhengisvitræna greiningu: líkanið lærir að meta mögulegt svið innan samræðnanna í stað þess að vera sem einangraður strengur, sem hjálpar til við að fækka fölskum jákvæðum niðurstöðum með litlum málamiðlunum í innköllun.

Við ályktunartíma leitar þvingaður Viterbi afkóðari að gildri BIOES-röð með hæstu einkunn í stað þess að merkja hvert tákn óháð öðrum. Til dæmis getur B-private_person haldið áfram með I-private_person eða lokað með E-private_person, en ekki skipt yfir í I-private_email. Afkóðarinn vörpuð niðurstöðunni aftur á nákvæm stafasvið til afmáunar eða staðbundinnar leiðunar.

PII-Tracer leiðir í stafa F1 og endurteknum PII

Við berum saman skynjarana bæði á stafa- og sviðsstigi. Stafa F1 metur greiningu staf fyrir staf. Sviðs-skarðanleg F1 mælir hvort skynjarinn auðkennir einhvern hluta PII-atriðis, en sviðs-innifalin F1 mælir hvort hann nær yfir allt atriðið.

PII-Tracer náði hæstu stafa F1 (0,629) af þeim 12 kerfum sem metin voru, og næsthæstu sviðs-skarðanlegu F1 og sviðs-innifalinni F1. Mörkuð líkön, þ.e. GPT-5.6-sol og Claude Sonnet 5, náðu sambærilegri heildarframmistöðu. GPT-5.6-sol fékk hærri einkunnir á báðum sviðsstigs F1 mælingum, en lægri stafa F1. Hins vegar hafa þessi mörkuð líkön hundruð milljarða eða jafnvel billjóna stika og eru lokuð kóðalíkön hýst í skýinu. Fyrir vikið eru þau óhæf til að vernda viðkvæm staðbundin gögn í umhverfi blendinga-gervigreindar þar sem óskannaður texti verður að vera staðbundinn. Aftur á móti skilar PII-Tracer sviðsgreiningu nálægt mörkum tækninnar með aðeins 0,6B stikum og getur unnið óskannaðan texti alveg staðbundið. Önnur opinn PII-skynjarar standa sig mun verr en PII-Tracer.

Stækka

Finna hverja endurtekna tilvísun

Samkvæmnistilraunin beitir strangara prófi á sömu spár. Prófunarsafnið inniheldur 899 auðkenni sem birtast einu sinni og 959 sem birtast meira en einu sinni; 790 af endurteknum auðkennum ná yfir margar umferðir. Myndin sýnir fjóra tilvísunarfjöldaflokka (ein, tvær, þrjár til fimm, og sex til tíu) og telur aðeins auðkenni þegar allir merktir stafar þess finnast. Hún teiknar PII-Tracer upp með þremur völdum viðmiðum, á meðan samantektartöflan birtir endurteknar og þverumferðarlegar einkunnir fyrir all tólf kerfin.

Stækka

PII-Tracer heldur forskoti sínu eftir því sem endurtekningum fjölgar: einkunn hans fer úr 0,917 fyrir eina tilvísun í 0,873 fyrir tvær, 0,796 fyrir þrjár til fimm, og 0,691 fyrir sex til tíu. Í síðasta flokki nær GPT-5.6-sol 0,464, en GLiNER2-PII og Claude Opus 4.8 ná 0,073 og 0,045. Yfir alla matssveifpuna finnur PII-Tracer hverja einustu tilvísun í 79,4% endurtekinna auðkenna og 77,6% auðkenna sem birtast í fleiri en einni umferð; GPT-5.6-sol nær 57,0% og 55,1% í sömu tveimur mælingum.

Yfirferð langra samræðna

Við flokkum fyrst allar 1.922 prófunarsamræður eftir stafalengd og afkóðum PII-Tracer með 4.096 tákna glugganum. Hóparnir innihalda 167 samræður undir 1.000 stöfum, 1.292 frá 1.000 til 10.000, og 463 við 10.000 eða lengri.

Stækka

Innköllun í stökum glugga er 0,975 undir 1.000 stöfum og 0,955 frá 1.000 til 10.000, en fellur í 0,687 fyrir samræður í eða yfir 10.000 stöfum. Nákvæmni er áfram nálægt 0,51 í hópnum tveimur lengri, sem bendir til þess að inntaksþekja sé aðalvandamálið.

Til að rannsaka áhrif inntaksmeðhöndlunar metum við sama gátpunkt með 50% skörun á rennigluggaafkóðun. Þetta hækkar heildarstafainnköllun úr 0,830 í 0,965 og samræmda greiningu margra tilvísuna úr 0,794 í 0,954, án endurþjálfunar.

Samræmdu yfir tungumál

PII-TRACE nær yfir 13 tungumál; tungumálatilraunin tilkynnir um sex tungumála sneið sem spannar latínu-, kyrillískt og hangul-letur: ensku, þýsku, frönsku, ítölsku, rússnesku og kóresku. Við keyrum sömu 12 skynjarana á öllum prófunarsamræðum á hverju tungumáli. Innan hvers tungumáls söfnum við saman spáðum og gullnum stöfum og reiknum út stafa F1.

Stækka

PII-Tracer er með hæstu stöðu í stafa F1 í fjórum af sex tungumálum, þýsku (0,735), frönsku (0,633), ítölsku (0,676) og rússnesku (0,651), og er innan við 0,016 og 0,036 frá bestu niðurstöðum í ensku og kóresku. Í meðfylgjandi greiningu leiðir það til samræmdu greiningar í öllum sex tungumálaundirhópum, með einkunnina 0,80–0,93. Útsýnið eftir tungumálum sýnir ávinning umfram ensku.

Hærri stafa F1 en persónuverndarsía á fimm stöðluðum viðmiðum

Lokatilraunin fer fram utan PII-TRACE. Við keyrum PII-Tracer og persónuverndarsíu OpenAI á ai4privacy-staðfestingarhlutnum (47.728 skjöl), Nemotron-PII-prófunarhlutnum (100.000), föstu sáð-SPY-safni (8.688), Gretel PII-prófunarhlutnum (5.000) og TAB ECHR-prófunarhlutnum (127).

Stækka

PII-Tracer er með hærri stafa F1 á hverju gagnasafni: 0,50 á móti 0,907 á ai4privacy, 0,847 á móti 0,709 á Nemotron-PII, 0,585 á móti 0,543 á SPY, 0,952 á móti 0,895 á Gretel PII, og 0,594 á móti 0,350 á TAB. TAB er eina viðmiðið í þessum hópi sem byggt er á raunverulegum, mannamerktum texta. Þar nær PII-Tracer 0,986 á móti 0,982 í nákvæmni og 0,425 á móti 0,213 í innköllun — tvöföld innköllun við í raun sömu nákvæmni (nánari upplýsingar í greininni). Hærra F1 færist því yfir úr PII-TRACE samræðum yfir í öll fimm hefðbundnu stakskráarviðmiðin í þessum samanburði.

Niðurstaða

Blendinga-gervigreind samþættir tæki notandans í ályktunarstöflunni, sem býður upp á meiri persónuvernd og lægri kostnað. Mörkuð líkön í skýinu geta sinnt rannsóknum, rökhugsun og skipulagningu, á meðan staðbundin líkön vinna með skrár og persónulegar upplýsingar sem ættu að vera kyrrar í tækinu. Þessi skipting veltur á því að þekkja viðkvæmar upplýsingar áður en viðkvæm gögn fara í skýið.

PII-Tracer er þéttlíkan til að greina PII í samræðum sem fara fram í mörgum umferðum, en PII-TRACE metur hvort skynjarar geti stöðugt borið kennsl á endurtekna PII í gegnum samræður.

Saman veita PII-TRACE og PII-Tracer viðmið og tilvísunarlíkan til að efla PII-greiningu í samræðum í mörgum umferðum og öðrum umhverfum með langan samhengisglugga.

Umboðsmenn taka að sér lengri verkefni og vinna með meira persónulegu samhengi. Fyrir vikið ættu persónuverndarstýringar að halda sér í gegnum allar samræðurnar, ekki bara upprunalegu inntaki. Blendinga-gervigreind veltur á áreiðanlegri staðbundinni greiningu til að halda viðkvæmu samhengi í tækinu.

Lestu tækniskýrsluna til að fá nánari upplýsingar um PII-TRACE viðmiðið, PII-Tracer líkanið og mat okkar. Viðmiðið og líkönin eru aðgengileg almenningi á Hugging Face.

Tilvitnun

@online{perplexity2026PiiTraceDetectingPersonalDataBeforeItLeavesTheDevice,
  author = {{Perplexity} and Kaiyuan Zhang and Chuan Wang and Joey Zhong and Paul Fryzel and Kyle Polley and Ninghui Li and Phi Hoang and Eric Wahlgren and Jerry Ma},
  title = {{PII-TRACE: Detecting personal data before it leaves the device}},
  date = {2026-09-01},
  url = {https://www.perplexity.ai/hub/blog/pii-trace-detecting-personal-data-before-it-leaves-the-device}
}