Hogyan építettük be a biztonságot a Cometbe a kezdetektől

A Comet hatékony képességekkel ruházza fel a mesterséges intelligencia asszisztenseket webhelyek böngészéséhez, a tartalommal való interakcióhoz és összetett feladatok elvégzéséhez a felhasználók nevében. Ezek a képességek ugyanolyan erős védintézkedéseket igényelnek. Mielőtt a Comet a nyilvánosság elé került volna, felbéreltük a Trail of Bits csapatát, hogy formális auditokon keresztül tesztelje védelmi rendszerünket. Munkájuk segített azonosítani a sebezhetőségeket és megerősíteni a védelmünket, mielőtt a felhasználók érzékeny feladatok elvégzésére kezdték volna használni a Cometet.

A védelem felépítése az alapoktól

A prompt-injekciós támadások folyamatosan fejlődnek, és a ellenük való védekezés többrétegű megközelítést igényel. Kezdettől fogva tudtuk, hogy egyetlen védelmi mechanizmus nem lesz elég. Alapelvünk egyszerű: az átfedésben lévő védelmek biztosítják, hogy ha az egyik réteget megkerülik, a többi továbbra is biztonságban tartja a felhasználókat. Így ültetjük ezt át a gyakorlatba.

Biztonsági utunk: Főbb mérföldkövek

2025. április: Bevezetés előtti biztonsági audit

Mielőtt a Comet a nyilvánosság elé került volna, felbéreltük a Trail of Bits csapatát, hogy végezze el architektúránk szisztematikus fenyegetés-modellezését. Csapatuk valós támadási forgatókönyveket tesztelt, megkísérelve megkerülni védelmünket olyan technikák használatával, amelyeket az ellenfelek a valóságban is alkalmazhatnának. Az audit azonosította a védelmi rendszerünk specifikus hiányosságait, és elindított egy iteratív hibajavítási folyamatot. Finomítottuk a védintézkedéseket, és bezártuk a sebezhetőségeket, mielőtt azok hatással lehettek volna a felhasználókra.

2025. október: Védelmi architektúránk közzététele

Közzétettünk egy részletes technikai bejegyzést, amely elmagyarázza a négprétegű védelmi architektúra-keretrendszerünket és az egyes komponensek mögött álló indoklást. A bejegyzés felvázolta azokat a specifikus támadástípusokat, amelyek ellen védelmet nyújtunk, a rejtett HTML- és CSS-injekcióktól kezdve a tartalomzavaron át a célok eltérítéséig. Bejelentettük továbbá a hibavadászati programunkat (bug bounty), amelyre meghívtuk a biztonsági kutatókat, hogy teszteljék védelmünket és jelentsék a sebezhetőségeket. Az átláthatóság mindig is a biztonsági megközelítésünk magját képezte: hiszünk abban, hogy a módszertanunk megosztása erősebbé teszi az egész MI-ipart.

2025. december: A BrowseSafe nyílt forráskódúvá tétele

A biztonság javul, ha az egész MI-közösség tanulhat a megosztott kutatásokból. Nyílt forráskódú eszközként kiadtuk a BrowseSafe-et, a detektálási modellünket és értékelési benchmarkunkat. A BrowseSafe-Bench 14 719 példát tartalmaz, amelyek 11 támadástípust, 9 injekciós stratégiát és 3 nyelvi stílust fednek le. Módszertanunk és adatkészleteink közzétételével segítünk más MI-fejlesztőknek biztonságosabb rendszereket építeni, és hozzájárulunk az iparágra kiterjedő biztonsági szabványokhoz. A fejlesztői közösség reakciója bátorító volt, a csapatok már most is a BrowseSafe-et használják saját MI-asszisztensük biztonságának javítására.

Amit tanultunk

A mesterséges intelligencia asszisztensek biztonságának kiépítése kritikus tanulságokkal szolgált a változó fenyegetési környezetről. A külső, adversarialis tesztelés olyan vakfoltokat fedez fel, amelyeket a belső csapatok figyelmen kívül hagyhatnak, függetlenül attól, hogy milyen képzettek. A fenyegetés-modellezés nem egyszeri feladat, hanem folyamatos fegyelem, amelynek a támadási technikák fejlődésével együtt kell változnia. Ami a legfontosabb, a biztonság iparági szintű együttműködést igényel. Kutatásaink megosztásával, külső szakértők bevonásával és a nyílt szabványokhoz való hozzájárulással segítünk egy biztonságosabb ökoszisztéma felépítésében.

Folyamatos elkötelezettségünk

A Comet fejlődésével rendszeres biztonsági értékeléseket tartunk fenn, biztosítva, hogy az új funkciók szigorú vizsgálaton essenek át a bevezetés előtt. Annak érdekében, hogy csökkentsük a dezinformációt az MI-biztonsági kutatások területén, robusztus értékelési gyakorlatokba és átlátható jelentéstételbe fektetünk be, hogy a Comet védelmével kapcsolatos megállapítások pontosak, reprodukálhatók legyenek, és ne torzítsák őket szenzációhajhász vagy hiányos biztonsági állítások.

Csapatunk emellett egy virágzó Sebezhetőség-közzétételi programot és privát hibavadászati programot is működtet, és meghívja a biztonsági kutatókat a világ minden tájáról, hogy teszteljék védelmünket. Ahogy az MI-asszisztensek egyre nagyobb képességekre tesznek szert, és egyre érzékenyebb feladatokat látnak el, biztonsági befektetéseink ennek megfelelően tovább fognak növekedni.