Hvernig við byggðum öryggi inn í Comet frá fyrsta degi

Comet veitir gervigreindaraðstoðarmönnum öfluga eiginleika til að vafra um vefsíður, eiga samskipti við efni og ljúka flóknum verkum fyrir hönd notenda. Þessir eiginleikar krefjast jafn öflugra öryggisráðstafana. Áður en Comet var hleypt af stokkunum opinberlega réðum við Trail of Bits til að prófa varnir okkar þraust með formlegum úttektum. Vinna þeirra hjálpaði okkur að bera kennsl á veikleika og styrkja varnir okkar áður en notendur fóru að treysta á Comet fyrir viðkvæm verkefni.

Að byggja upp varnir frá grunni

Árásir með innspýtingu beiðna þróast stöðugt og vörn gegn þeim krefst margþætts nálgunar. Við vissum frá upphafi að ein vörvarnarregla dygði ekki. Meginreglan okkar er einföld: skarast varnir tryggja að ef eitt lag er framhjá fara, eru aðrir eftir til að halda notendum öruggum. Hér er hvernig við komum því í framkvæmd.

Öryggisferðalagið okkar: Helstu áfangar

Apríl 2025: Öryggisúttekt fyrir útgáfu

Áður en Comet var hleypt af stokkunum opinberlega réðum við Trail of Bits til að framkvæma kerfisbundna ógnarlíkönun á arkitektúr okkar. Teymi þeirra prófaði raunverulegar árásaratburðarásir og reynði að komast framhjá vörnum okkar með því að nota tækni sem andstæðingar gætu notað í náttúrunni. Úttektin benti á sérstök bil í verndarkerfi okkar og hóf endurtekningarferli til úrbóta. Við endurbættum varnir okkar og lokuðum veikleikum áður en þeir gátu haft áhrif á notendur.

Október 2025: Birtum varnararkitektúrinn okkar

Við birtum ítarlega tæknilega færslu sem útskýrir fjögurra laga varnararkitektúrsramma okkar og röksemdafærsluna á bak við hvern íhlut. Færslan tók saman sérstakar árásartegundir sem við vörumst gegn, allt frá falinni HTML og CSS innspýtingu til ruglings á efni og ráns á markmiðum. Við tilkynntum einnig um villugjafaáætlun okkar og boðuðum öryggisrannsakendum til að prófa varnir okkar og tilkynna um veikleika. Gagnsæi hefur ávallt verið kjarninn í öryggisnálgun okkar: við trúum því að deiling aðferðafræði okkar geri alla gervigreindaraiðnaðinn sterkari.

Desember 2025: Opinn hugbúnaður fyrir BrowseSafe

Öryggi batnar þegar allur gervigreindarsamfélagið getur lært af sameiginlegum rannsóknum. Við gafum út BrowseSafe, greiningarlíkan okkar og matsmiððmið, sem opinn hugbúnað. BrowseSafe-Bench inniheldur 14.719 dæmi sem ná yfir 11 árásartegundir, 9 innspýtingarstefnur og 3 málfræðistíla. Með því að birta aðferðafræði okkar og gagnasöfn hjálpum við öðrum gervigreindarforriturum að byggja upp öruggari kerfi og leggjum af mörkum til öryggisstaðla í öllum iðnaðinum. Viðbrögðin frá þróunarsamfélaginu hafa verið hvetjandi, þar sem teymi eru þegar farin að nota BrowseSafe til að bæta öryggi eigin gervigreindaraðstoðarmanna.

Hvað við höfum lært

Að byggja upp öryggi fyrir gervigreindaraðstoðarmenn hefur kennt okkur mikilvæga lærdóma um breytilegt ógnarlandslag. Ytri andstæðinga prófun leiðir í ljós blinda bletti sem innlend teymi geta misst af, óháð því hversu hæf þau eru. Ógnarlíkönun er ekki eingöngu einnar stundar æfing heldur áframhaldandi agi sem verður að þróast eftir því sem árásartækni þróast. Mikilvægast af öllu er að öryggi krefst samvinnu þvert á iðnaðinn. Með því að deila rannsóknum okkar, fá til liðs við okkur ytri sérfræðinga og leggja af mörkum til opinna staðla hjálpum við til við að byggja upp öruggara vistkerfi.

Áframhaldandi skuldbinding okkar

Við höldum úti reglulegum öryggismötum þegar Comet þróast og tryggjum að nýir eiginleikar gangist undir stranga skoðun fyrir útgáfu. Til að draga úr rangfærslum í öryggisrannsóknum á gervigreind fjárfestum við í öflugum matsaðferðum og gagnsæri skýrslugerð þannig að niðurstöður um varnir Comet séu nákvæmar, endurtekningarhæfar og ekki skekktar af tilfinningaþrungnum eða ófullkomnum öryggisfullyrðingum.

Teymi okkar rekur einnig blómlega áætlun um birtingu veikleika og einkavillugjafaáætlun þar sem öryggisrannsakendur víðs vegar að eru boðnir velkomnir til að prófa varnir okkar. Þegar gervigreindaraðstoðarmenn verða færari og sjá um sífellt viðkvæmari verkefni munu öryggisfjárfestingar okkar halda áfram að stækka í samræmi við það.