Fjölhátta innfellingar umfram einn vigur

Frá því að pplx-embed-v1 var gefið út í febrúar höfum við unnið að nýrri kynslóð innfellingarlíkana. Í síðustu viku kynntum við nýja samhengislega innfellingarlíkanið okkar, pplx-embed-v2-context. Í dag erum við að stækka fjölskylduna með pplx-embed-v2-late, safni líkana með síðbúinni víxlverkun. Samhliða sterkari sóknargetu eru þetta fyrstu líkönin sem sameina þrjá kjarnaeiginleika:

• Fjölviguralýsingar. Í stað þess að þjappa hverju inntaki í einn vigur halda þessi líkön táknastigsvigrum til að gera fínni fyrirspurnar-skjal samanburði kleift. Þetta gerir mismunandi hlutum fyrirspurnar kleift að passa við mismunandi hluta skjals og varðveitir smáatriði sem eru sérstaklega verðmæt við fjölhátta sókn.
• Stuðningur við bæði texta- og myndaflokka. Auk texta-til-texta sóknargetu fyrri líkana okkar ráða þessi nýju líkön við texta-til-mynd sókn, sem gerir þeim kleift að leita beint í myndgerðum PDF-síðum án þess að þurfa OCR eða greindan texta.
• Sameiginlegt innfellingarrými. Við gefum út tvær líkanastærðir, 0,6B og 9B, til að styðja mismunandi kröfur um gæði, töf og reikniafl. Hægt er að nota hvert þeirra sjálfstætt, en sameiginlega innfellingarrýmið gerir einnig smærra líkaninu kleift að leita í vísitölu sem stærra líkanið bjó til og sameinar hágæða skjalainnfellingar við ódýra, hraða ályktun við fyrirspurnarvinnslu.

Þessi nýju líkön ná árangri í fremstu röð á fjölda viðmiðunarprófa fyrir mynd- og textaheimt, sem og í spurningasvörunarverkefnum fyrir gervigreindarfulltrúa. Sérstaklega má nefna að í ViDoRe (V3), leiðandi viðmiðunarprófi fyrir heimt sjónrænna skjala, stendur 0.6B-líkanið okkar jafnfætis líkönum með fimm sinnum fleiri virkar færibreytur. Bæði líkönin eru öllum aðgengileg á Hugging Face. Tækniskýrslan okkar veitir nánari upplýsingar um aðferðafræðina og niðurstöður matsins.

Frá einum vigri til síðbúinnar víxlverkunar

Sóknarkerfi verða að finna jafnvægi milli skilvirkni og dýptar í víxlverkun milli fyrirspurna og skjala. Þétt innfellingarlíkön kóða hverja fyrirspurn og hvert skjal óháð hvort öðru, sem gerir samanburð þeirra með ódýrri innfeldri margföldun mögulegan. Þetta gerir nálgunarleit að næstu nágrönnum (ANN) yfir milljarða skjala raunhæfa. Í hinum endanum vinna cross-encoderar fyrirspurnina og skjalið saman, sem gerir ríkari víxlverkun kleift en krefst sérstakrar framrásar fyrir hvern mögulegan valkost. Að beita þessari reiknivinnu á stórt safn skjala fyrir hverja leit er óhóflega kostnaðarsamt, svo cross-encoderar eru yfirleitt eingöngu notaðir til að endurraða litlum hópi sóttra valkosta.

Takmarkanir þéttra innfellinga

Að tákna heilt skjal með einum fastri stærð vigri skapar upplýsingaháls. Eftir því sem skjöl verða lengri og fjalla um fleiri efni þarf líkanið að þjappa meira efni í sama vigur, sem gerir erfiðara að varðveita allt sem skiptir máli fyrir fyrirspurn. Sundrun í búta getur dregið úr þessari pressu, en hún sundrar skjalinu og getur aðskilið upplýsingar sem aðeins eru skiljanlegar saman, vandamál sem við tökum einnig á með samhengislega innfellingarlíkaninu okkar. Þessi háls versnar í fjölhátta umhverfi, þar sem upplýsingþéttleiki mynda krefst enn meiri þjöppunar.

Sókn með einum vigri úr þéttri innfellingu dregur einnig úr hverjum samanburði í innfalda margföldun milli tveggja vigra, sem takmarkar tjáningargetu stigunarfallsins. Fyrir fasta innfellingarvídd og nógu stórt gagnasafn eru ákveðin mynstur stiga yfir fyrirspurnar-skjal pör ómöguleg að framkalla, sama hversu vel er þjálfað. LIMIT-viðmiðið breytir þessari fræðilegu áhyggju í áþreifanlegt álagspróf fyrir sókn með einum vigri.

Sókn með síðbúinni víxlverkun

Líkön með síðbúinni víxlverkun sitja á milli ódýrari þéttu innfellingarlíkana og tjáningarmeiri cross-encoderanna. Líkt og þétt líkön kóða þau skjöl óháð fyrirspurninni, sem gerir kleift að reikna skjalalýsingar án nettengingar. Hins vegar, í stað þess að draga hvert inntak niður í einn vigur, halda þau mörgum vigrum og nota ríkara stigunarfall þegar fyrirspurn er borin saman við skjal.

Líkön okkar pplx-embed-v2-late nota ColBERT-líkanagerð og skila 128-víddar innfellingum fyrir hvert tákn í inntakinu. Við stigum fyrirspurnar-skjal pör með MaxSim; fyrir hvert tákn í fyrirspurn velur líkanið hæst skorandi skjalatáknið og leggur saman hámarks líkindi á táknastigi til að fá lokaskorið. Þetta gerir mismunandi hlutum fyrirspurnar kleift að passa við mismunandi hluta skjals, þar sem sterkari táknasamsvörun hefur meira vægi í skorinu.

Stækka

Þessi aukna tjáningargeta fylgir hærri geymslu- og kostnaði við stigun frambjóðenda. Þétt sókn geymir einn vigur á skjal og stigar frambjóðanda með einni innfeldri margföldun; sókn með síðbúinni víxlverkun geymir vigra fyrir skjalatákn og metur margar tákna-til-tákna líkindi. Kostnaðurinn vex með lengd skjals, þannig að síðbúin víxlverkun krefst annars konar málamiðlunar milli flokkunar og þjónustu en sókn með einum vigri og ANN. Á móti gefur hún ríkari fyrstu stig sóknar fyrir gæðanæm gagnasöfn og getur einnig þjónað sem síðara stig í stærra vefkvarðasóknarferli.

Eitt líkan, margar aðferðir

Sýnt hefur verið fram á að þessi bætt dýpt víxlverkunar sé mjög gagnleg fyrir ýmis verkefni, þar á meðal sókn í löngu samhengi, sókn með gervigreindarfulltrúum og sókn utan léns. Þessi munur er sérstaklega greinilegur í fjölhátta sókn, eins og sést á miklu forskoti ColPali-líkana á ViDoRe(V3) stigatöflunni.

Raungagnasöfn samanstanda ekki aðeins af hreinum texta. Þau berast sem PDF-skjöl, kynningarskjöl, skjámyndir, skannaðar síður, töflur og töflur. Hefðbundna ferlið greinir þessi skjöl, beitir OCR eða myndatexta og leitar í textanum sem verður til, sem er kostnaðarsamt og tapar gögnum: það getur leitt til OCR-villna og kastar burt uppsetningu, töfluskipan, myndum og staðbundnum tengslum. Sjónræn skjalsókn sleppir því skrefi og varpar myndgerðri síðunni beint inn í framsetningarrýmið þar sem textafyrirspurnir geta leitað í henni.

Nýja líknarfjölskyldan okkar byggir á sterkri frammistöðu fjölviguralíkana fyrir fjölhátta leit og færir Pareto-framhliðina áfram fyrir smærri líkön á mest notaða viðmiði fyrir skjalaleit, ViDoRe(V3). Þó við gerum ráð fyrir að myndgerðir skjala verði algengasta form sjónræns inntaks styðja líkönin okkar einnig merkingarfræðilega myndaleit á náttúrulegum myndum, svo sem landslagsljósmyndum.

Þjálfun á fjölskyldu samhæfra líkana

Leit er í eðli sínu ósamhverf: vísitölugerð og kóðun fyrirspurna hafa mismunandi rekstrarskilyrði. Vísitölugerð fer fram ótengd og hægt er að vinna hana samhliða, þannig að reiknikostnaður hennar dreifist yfir margar framtíðarleitir. Kóðun fyrirspurna fer fram á netinu fyrir hverja beiðni, sem gerir hana töf-næma og stundum háða þjónustu- eða jaðartækjatakmörkunum. Líkansfjölskylda okkar nýtir þessa ósamhverfu og býður upp á stærðir sem eru sniðnar að hvorri hlið sóknarferlisins.

Við þjálfum 18B kennara með andstæðunámi og eimum síðan þekkingu hans sérstaklega yfir í 9B og 0,6B nemendur. Í stað þess að þjálfa hvern nemanda aðeins til að endurskapa röðardreifingu kennarans notum við LEAF-stíl framsetningardreifingu: fyrir hvert inntakstákn stillum við útgangsinnfellingu nemandans við innfellingu kennarans. Þó framsetningarrýmisdreifing hafi áður verið notuð fyrir þétt, eins-vigra líkön, útvíkkum við hana yfir í síðbúna víxlverkun, þar sem markmið samstillingar er vigur fyrir hvert varðveitt tákn.

Fyrir vikið deila báðar útgefnar líkanskoðanir sama fjölvigra innfellingarrýminu. Þetta gerir milli-líkans sókn mögulega og opnar fleiri uppsetningarleiðir.

• Hámarks gæði: kóðaðu skjöl og fyrirspurnir með 9B-líkaninu.
• Hámarks skilvirkni: kóðaðu skjöl og fyrirspurnir með 0,6B-líkaninu fyrir 100% staðbundna ályktun
• Sókn með lágri töf: byggðu vísitöluna fyrir gagnasafnið með 9B-líkaninu og kóðaðu síðan lifandi fyrirspurnir með 0,6B-líkaninu til að nýta reiknivinnu við vísitölugerð en halda fyrirspurnum hraðvirkum.
• Sókn á staðnum og í skýi: kóðaðu einkaskjöl á staðnum eða lifandi fyrirspurnir með 0,6B-líkaninu á tækinu og berðu saman eða sameinaðu þessar framsetningar við niðurstöður úr 9B-vísitölu í skýinu.

Fyrir töf-næm umhverfi hönnuðum við 0,6B-líkanið sem léttan fyrirspurnarkóðara sem getur einnig keyrt á jaðartækjum. Við byrjuðum á Qwen3.5-0.8B og klipptum 24 laga textaturninn niður í 12 lög, sem minnkaði þann turn úr 498M í 240M stika án innfellinga. Líkanið sem fæst hefur samtals 594M stika, en uppgefin stærð þess ofmetur þjónustukostnaðinn: 100M eru notaðar fyrir myndkóðun og 254M sitja í tákn-innfellingartöflunni, sem hefur lítil áhrif á keyrslutíma. Aðeins um 240M stika eru virkar fyrir textakóðun og 340M fyrir myndkóðun, sem gefur líkaninu þjónustukostnað sem samsvarar töluvert minna líkani en viðheldur samhæfni við 9B-vísitöluna.

Við beittum sama ferli til að byggja 18B kennarann okkar úr 27B grunnlíkani, sem gerði það talsvert ódýrara að nota kennarann sem uppsprettu við þekkingareimingu án þess að veikja merkið sem hann veitir.

Þjálfunargögn á mörgum tungumálum, í mörgum miðlunarformum og án mengunar

Við þjálfum bæði líkönin á gagnasafni með 186 milljón fyrirspurnar-skjalapörum úr 594 gagnasöfnum á 46 tungumálum. Af þessum pörum eru 88,3% texta-til-texta, 8,3% texta-til-mynda og 3,4% texta-til-sjónræn-skjöl. Í stað þess að taka sýni í hlutfalli við stærð gagnasafnsins úthlutum við hverju gagnasafni sýnatökumætti, sem gefur jafnvægara þjálfunarbland með 56,5%, 30,9% og 12,6%, í sömu röð.

Við samsetningu þjálfunargagna okkar útilokum við öll gagnasöfn sem tengjast viðmiðum sem við metum á til að endurspegla niðurstöður okkar á trúverðugan hátt án þess að blása upp einkunnir viðmiða. Þessi ákvörðun hefur í för með sér að sum þeirra gagnasafna sem við völdum að útiloka innihalda hágæða gögn sem gætu bætt frammistöðu líkansins okkar í verkefnum sem eru önnur en viðmiðið sem þau komu úr. Að lokum kusum við að samþykkja þann kostnað: áreiðanlegar tölur eru okkur gagnlegri á þróunarstigi og notendum þegar líkön eru borin saman.

Mat

Við metum bæði líkönin á texta-, sjónrænum skjala-, blönduðum mynda- og verkefnum með gervigreindarfulltrúa. Bæði líkönin standa sig betur en viðmiðunarlíkönin sem metin voru á Q2D-Web og BrowseComp+, og ná sterkum niðurstöðum á sjónrænum skjalsóknum og MADQA.

Textasókn

Við metum texta-til-texta sókn á þremur viðmiðum:

• Lénsértæk viðmið: Safn 72 MTEB-svipaðra verkefna, 55 yfir fimm lén (fjármál, lögfræði, heilsa, samtal, tækni), auk 17 fjölbreyttra fjöltyngdra verkefna. Safnið inniheldur verkefni eins og FinQA, AILACasedocs og XLSum. Ekkert þessara gagnasafna kemur fyrir í þjálfunargögnum okkar, eins og lýst er hér að ofan.
• Q2D-Web: okkar viðmiðunarpróf fyrir sókn á vefmælikvarða með um það bil 70.000 leitarfyrirspurnum sem umbreyttar voru af umboðsmanni, dregnar úr leitarumferð í framleiðslu, yfir safn af 190 milljón vefskjölum. Þetta viðmiðunarpróf mælir sóknarárangur í umhverfi sem er mun nær raunverulegri vefsókn en önnur tiltæk viðmiðunarpróf fyrir sókn, vegna fyrirspurna sem líkjast framleiðsluumhverfi og safns í stórum skala.
• ViDoRe(V3) Markdown: ViDoRe(V3) er yfirleitt texta-til-sjónræns-skjal sóknarverkefni, en einnig er hægt að meta það sem textaverkefni með útgáfu af gagnasafninu sem hefur verið greind í Markdown, sem gerir okkur kleift að meta upplýsingarík skjalsókn bæði í mynda- og textaflokkum.

Við mælum frammistöðu með nDCG@10, nema á Q2D-Web, þar sem við gefum upp Recall@1000 vegna áherslu viðmiðsins á fyrstu stigum vefleitar. Í allri okkar mati berum við okkur saman við leiðandi innfellingarlíkön í iðnaði yfir mismunandi stærðarflokka. Fyrir textasókn eru nemotron-embed-8b, gemini-embedding-2, voyage-large-4 og qwen3-embed-8b sterkustu og mest notuðu þéttu keppinautarnir, en voyage-4-nano og qwen3-embed-0.6b þjóna sem þéttar viðmiðanir undir milljarðs stika. Við berum einnig saman við nýlega útgefin topk-embed-v1 líkön með síðbúinni víxlverkun á þeim viðmiðum þar sem TopK hefur birt niðurstöður. ViDoRe(V3) stig eru tekin úr líkanaspjöldum þeirra við 128 víddir, sem samsvarar breidd táknainnfellinga okkar; Q2D-Web stigið er tekið af stigatöflunni okkar.

Á lénsértæku viðmiðunum eru meðaltöl 9B- og 0,6B-líkana okkar 81,3% og 78,0%, í sömu röð. 9B-líkanið okkar nær hæstu einkunn allra líkana sem við metum og slær næstbesta líkanið um 1,6 prósentustig. 0,6B-líkanið okkar er samkeppnishæft við önnur efstu líkön og er aðeins 0,3 prósentustigum á eftir gemini-embedding-2. Mikilvægt er að þar sem við þjálfuðum ekki á neinum gögnum fyrir þessi viðmiðunarverkefni sýna lénsértæku viðmiðin að innfellingarlíkönin okkar geta alhæft yfir á ný lén.

Stækka

Hlutfallslegur styrkur 0,6B-líkans okkar er enn meiri á ViDoRe(V3) Markdown-verkefninu; stig þess, 61,2%, slær öll önnur líkön nema 9B-líkanið okkar, sem fékk 64,7%. Næstbesta ytra líkanið fékk 60,6%, og næstbesta undir-1B líkanið, topk-embed-v1-0.8b, var 4,3 prósentustigum á eftir 0,6B-líkani okkar.

Stækka

Á Q2D-Web kemur mikilvægi úr þremur matsmengjum: skjölum sem gervigreindarfulltrúinn vitnaði í (Citation), skjölum sem voru röðuð af framleiðslu-sóknarkerfinu okkar (Web) og samsetningunni af báðum, útvíkkað með LLM-mati á ómerkta skjölum (Combined). Bæði pplx-embed-v2-late líkönin leiða öll viðmiðunarlíkön á öllum þremur matsmenguðum. Við leggjum áherslu á sameinuðu matið, þar sem Citation- og Web-mengin eru dregin af því sem okkar eigin kerfi komu þegar upp á yfirborðið og því hygla þau líkönum sem raða eins og þau; LLM-matið sem bætt er við í Combined nær yfir skjöl sem hvorugt kerfið sótti. Á því mengi slá bæði 9B- og 0,6B-líkönin okkar alla keppinauta og ná stigum upp á 74,8% og 73,6%, í sömu röð, samanborið við fyrra besta stigið 69,3%.

Stækka

Sjónræn sókn

Helsta sjónræna sóknarviðmið okkar er staðlaða opinbera hlutmengið ViDoRe(V3), þar sem gagnasafnið samanstendur af myndgerðum síðum fremur en Markdown-umbreytingunni. Við berum okkur saman við tvær leiðandi þéttar sjónmáls- og tungumálalíkön, qwen3-vl-embed-8b og gemini-embedding-2, og við topk-embed-v1 líkön með síðbúinni víxlverkun. Að auki eru EVIE-líkön Tencent og Nemotron ColEmbed V2-líkön NVIDIA „eingöngu sjónræn“ fjölviguralíkön sem eru sérþjálfuð fyrir myndleit.

Bæði líkönin okkar ná bestu niðurstöðu sem sést hefur fyrir sjónmáls- og tungumálalíkön. 9B-líkanið okkar fær 65,2% að meðaltali og er aðeins á eftir EVIE. 0,6B-líkanið okkar nær 62,3% stigi, framar en topk-embed-v1-2b og aðeins á eftir mun stærri EVIE og nemotron-colembed-v2-8b meðal ytri viðmiðunarlíkana.

Stækka

0,6B-líkanið okkar er sérstaklega samkeppnishæft í samhengi við líkanastærð. Það er framar öllum sambærilegum stærðarlíkönum og innan 1,2 prósentustiga frá nemotron-colembed-v2-8b á meðan aðeins eru virkjuð 340M stika fyrir myndinntak. Líkönin okkar framleiða 128-víddar innfellingar á hvert tákn, samanborið við 2.048 fyrir EVIE-4.5B og 4.096 fyrir EVIE-8B og nemotron-colembed-v2-8b. Þessi munur á geymslukostnaði getur haft veruleg áhrif á hvaða sviðsmyndir gera þessi líkön raunhæf í notkun.

Stækka

Við metum einnig sjónræna sókn á MIRACL-Vision, viðmiði þar sem gagnasafnið samanstendur af skjámyndum af Wikipedia-greinum, og PPLX-Q2I, innra viðmiði sem nær yfir bæði sjónræn skjöl og náttúrulegar myndir. PPLX-Q2I er byggt á framleiðslu myndleitarannálum Perplexity og hannað til að endurspegla fjölbreytni notkunartilvika myndleitar. Við notum 10.000 fyrirspurna úrtak, lagskipt eftir tungumáli og léni, gegn gagnasafni með 100.000 myndum; viðeigandi skjöl hverrar fyrirspurnar eru myndirnar sem voru afhentar henni. Við metum ekki EVIE-8B eða Nemotron ColEmbed á PPLX-Q2I, þar sem flokkun gagnasafns af þessari stærð með sjálfgefnum úttaksvíddum þeirra (2.560 fyrir Nemotron ColEmbed 4B og 4.096 fyrir Nemotron ColEmbed 8B og EVIE-8B) var óraunhæf.

Svipað og frammistaða þess á ViDoRe(V3) er 0,6B-líkanið okkar samkeppnishæft við miklu stærri líkön og er aðeins 1 prósentustigi á eftir qwen3-vl-embed-8b á MIRACL-Vision. 9B-líkanið okkar stendur sig betur en öll önnur líkön nema gemini-embedding-2.

Á PPLX-Q2I slá bæði líkönin okkar qwen3-vl-embedding-8b um meira en 9 prósentustig, og 9B-líkanið okkar er aðeins 2 prósentustigum á eftir gemini-embedding-2. Niðurstöður okkar haldast samkeppnishæfar á gagnasöfnum sem innihalda náttúrulegar myndir jafnt sem sjónræn skjöl, þannig að fjölvigurframsetningarnar sem skila árangri á ViDoRe(V3) koma ekki á kostnað almennrar myndleitar.

Stækka

Sókn milli líkana

Niðurstöðurnar í fyrri köflunum meta hvert líkan gagnvart gagnasafni sem það sjálft feldi inn. Sameiginlega innfellingarrýmið gerir þetta ekki að kröfu: gagnasafn sem er skráð með 9B-líkaninu er hægt að leita í með fyrirspurnum sem eru felldar inn með 0,6B-líkaninu. Þetta er sú uppsetning sem við búumst við að flestar framleiðslurnotkunir muni nota, þar sem flokkun er einskiptiskostnaður sem dreifist yfir líftíma gagnasafnsins á meðan innfelling fyrir fyrirspurnir keyrir á töf-næmu gagnstigi hverrar beiðni.

Uppsetning sem getur ekki keyrt 9B-líkanið við fyrirspurnartíma myndi annars einnig skrá með 0,6B-líkaninu, þannig að sú samhverfa 0,6B-stilling er viðeigandi samanburðarpunktur. Við metum gegn 72 lénsértækum viðmiðum sem notuð voru hér að ofan og á ViDoRe v3 myndleit. Fyrirspurnir eru felldar inn með pplx-embed-v2-late-0.6b, og við breytum aðeins því sem felldi gagnasafnið inn.

Að skrá með 9B-líkaninu er strangt framfaraskref. Á lénsértæku viðmiðunum bætir ósamhverfa stillingin að meðaltali 1,6 prósentustigum við. Á ViDoRe v3 myndleit fær hún 63,5%, upp úr 62,3% með 0,6B-líkaninu á báðum hliðum, sem er 1,2 prósentustiga aukning. Kostnaður við fyrirspurnar-kóðun er óbreyttur milli samhverfu 0,6B- og ósamhverfrar stillingar, þar sem sama 0,6B-líkanið kóðar fyrirspurnina í báðum tilfellum; viðbótarkostnaður við skjalakóðun fellur til við skráningu.

Að keyra 9B-líkanið á báðum hliðum er enn betra og gefur að meðaltali 81,3% á lénsértæku viðmiðunum. Ósamhverfa stillingin nær þannig aftur um helmingi munarins á gæðum milli líkananna tveggja á texta, án aukakostnaðar við fyrirspurnar-kóðun. Hvaða stillingu eigi að velja fer eftir því hvort 9B-líkanið sé hagkvæmt við fyrirspurnartíma; þar sem það er ekki raunin fangar ósamhverfa uppsetningin verulegan hluta ávinningsins.

Stækka

Sókn með gervigreindarfulltrúa

Sókn með gervigreindarfulltrúa er annað umhverfi þar sem fjölvigurinnfellingar eru sérstaklega sterkar. Í BrowseComp+ notar LLM (GPT-OSS-120B í okkar tilfelli) innfellingarlíkanið til að leita í gagnasafni að upplýsingum sem tengjast flóknum notendafyrirspurnum, og annað LLM metur hvort loka svarið passi við raunveruleika. 9B-líkanið okkar nær 64,0% nákvæmni, slær næstbesta ColBERT-líkanið um 4,9 prósentustig og næstbesta þétta líkanið um 8,7 prósentustig, á sama tíma og það framkvæmir færri leitir en öll önnur líkön nema 0,6B-líkanið okkar. 0,6B-líkanið okkar er einnig framar öllum líkönum utan fjölskyldu okkar.

Stækka

MADQA prófar spurninga-svörun með gervigreindarfulltrúa yfir 800 ólíkum raunheimums-PDF-skjölum sem spanna meira en 18.000 síður, með 500 spurningum skrifuðum af fólki sem ekki er hægt að svara út frá almennri þekkingu. Gervigreindarfulltrúi (Gemini 3.5 Flash í okkar tilfelli) leitar í safninu með sóknarvélinni sem er í prófun og er metinn eftir nákvæmni svara og síðu-F1 gagnvart merktum sönnunarsíðum. 9B-líkanið okkar setur nýtt besta gildi meðal sóknarlíkana með 92,4% nákvæmni, 3,5 prósentustigum framar sama fulltrúa sem notar sóknarvél Mixedbread; 0,6B-líkanið okkar nær 90,1%. Við tökum einnig fram að sóknarvélin okkar nær samkeppnishæfum niðurstöðum gagnvart Mixedbread Agentic Search, sem notar leitaraðstoðarmann í leitarkerfinu sínu sem skipuleggur og keyrir nokkrar leitir á hverja beiðni frá aðalfulltrúanum (93,4%, innan öryggisbils okkar).

Stækka

Byrjað að nota

Bæði 0,6B- og 9B-líkönin okkar eru aðgengileg á Hugging Face og eru samhæf úr kassanum með sentence-transformers >= 6.0.0 og transformers >= 5.4.0. Frekari tæknilegar upplýsingar og heildarniðurstöður mats verða birtar í tækniskýrslu síðar á árinu.

Við vinnum nú að þjálfun næstu kynslóðar þéttra innfellingarlíkana okkar og munum smám saman innleiða stuðning við innfellingar með síðbúinni víxlverkun, þéttar innfellingar og samhengisbundnar innfellingar á Perplexity API Platform.

Tilvitnun

@online{perplexity2026MultimodalEmbeddingsBeyondASingleVector,
  author = {{Perplexity} and Markus Krimmel and Louis Milliken and Antoine Chaffin and Sarah Eslami and Ekaterina Glazkova and Maximilian Schall and Bo Wang and Denis Bykov and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Multimodal embeddings beyond a single vector}},
  date = {2026-10-07},
  url = {https://www.perplexity.ai/hub/blog/multimodal-embeddings-beyond-a-single-vector}
}