Ako fungujú detektory AI a prečo samotné skóre nedokáže dokázať autorstvo

Prilepte esej, článok alebo e-mail do detektora AI a o niekoľko sekúnd neskôr sa vám môže vrátiť výsledok ako „85 % AI“.

Vyzerá to presne. Môže to však byť aj ľahko nesprávne pochopené.

Detektor nepozoroval ako bol dokument napísaný. Analyzoval hotový text a hľadal v ňom vzory spojené s písmom generovaným AI. V závislosti od nástroja môže tých 85 % predstavovať odhadovanú pravdepodobnosť, že dokument vytvorila AI, alebo podiel textu, ktorý detektor označil.

Vďaka tomu je detektor AI užitočný ako signál, najmä keď niečo potrebuje bližší pohľad. Skóre však stále potrebuje kontext a podporné dôkazy predtým, než ktokoľvek vyvodí záver o tom, kto text napísal alebo ako ho vytvoril. Pochopenie toho, ako detektory vytvárajú svoje skóre, pomáha vysvetliť, čo dokážu zachytiť a prečo sa niekedy mýlia.

Čo je detektor AI?

Detektor písma AI sa pozrie na hotový text a odhadne, či sa podobá na text vytvorený jazykovým modelom. Používateľ doň zvyčajne vloží text alebo nahra dokument. V priebehu niekoľkých sekúnd nástroj môže vrátiť označenie, percento, zvýraznené pasáže alebo všetky tri možnosti.

• Učitelia a akademické inštitúcie ich používajú pri hodnotení študentských prác.
• Vydavatelia a tímy obsahu ich môžu používať na preverovanie odoslaných alebo zadaných textov, zatiaľ čo niektoré spoločnosti vyvíjajúce detektory predávajú verzie pre náborové tímy hodnotiace aplikačné materiály.
• Spisovatelia si niekedy kontrolujú aj vlastnú prácu, aby pochopili, ako ju môže učiteľ, redaktor, klient alebo platforma klasifikovať.

Poznámka: Nástroje na kontrolu plagiátorstva slúžia na súvisiaci, ale odlišný účel. Porovnávajú dokument so zverejneným materiálom a inými zdrojmi, aby našli zhodný jazyk. Detektory AI hodnotia vzory v predloženom texte. Úplne originálna pasáž tak môže získať označenie AI, zatiaľ čo skopírovaný ľudský text nemusí obsahovať žiadny silný signál generovania pomocou AI.

Ako detektory AI analyzujú text

Mnoho detektorov AI sa spolieha na klasifikátor, model strojového učenia natrénovaný na príkladoch ľudského textu a textu vygenerovaného AI. Pri ich porovnávaní sa učí, aké vzory sa v každom z nich zvyčajne objavujú, vrátane vzorov vo výbere slov a štruktúre viet. Následne tieto vzory hľadá v novom texte a vytvorí predikciu.

To, čo sa detektor naučí, závisí od toho, čo vidí počas tréningu. Nástroj natrénovaný na obmedzenom rozsahu textov môže mať problémy s novou témou, neznámym štýlom alebo výstupom z modelu AI, s ktorým sa ešte nestretol. Výskum rôznych typov textov a modelov AI zistil, že výkonnosť detekcie môže za takýchto podmienok klesnúť.

Niektoré metódy používajú iný prístup. Namiesto trénovania samostatného klasifikátora využívajú vlastné odhady pravdepodobnosti jazykového modelu na posúdenie, aké pravdepodobné by bolo vygenerovanie danej pasáže.

• Napríklad DetectGPT porovnáva pôvodný text s mierne upravenými verziami, aby hľadal vzory spojené s generovaním pomocou umelej inteligencie. Jeho výskum to opisuje ako metódu „zero-shot“, pretože nevyžaduje samostatne trénovaný detektor. Výsledok môže zahŕňať celkové skóre, zvýraznené vety alebo oboje.
• GPTZero uvádza, že jeho zvýraznenia ukazujú, ktoré vety majú najväčší vplyv na jeho celkovú predikciu. Keďže vyhodnocuje aj širší dokument, pasáž naskenovaná samostatne nemusí získať rovnaký výsledok, keď sa objaví ako súčasť dlhšieho textu.

Každý výsledok odráža text aj systém, ktorý ho vyhodnocuje, a preto rôzne detektory môžu dospieť k odlišným záverom o tej istej pasáži.

Zväčšiť

Čo perplexita a premenlivosť merajú

Perplexity a burstiness sa v vysvetleniach detekcie AI spomínajú často. Môžu odhaliť užitočné vzory v texte, ale ani jeden z nich neukazuje na jediný, jedinečný spôsob písania AI.

Jeden potenciálne matúci detail: perplexita tu plní dvojakú úlohu. S malým začiatočným písmenom ide o štatistickú mieru. S veľkým P sme to my.

Perplexity meria, do akej miery je text predvídateľný

Jazykové modely generujú text priradením pravdepodobností možným nasledujúcim tokenom, ktorými môžu byť celé slová alebo časti slov. Perplexity meria, ako dobre dokáže model predpovedať tokeny v pasáži.

• Nižšia perplexita: Text sa riadi vzormi, ktoré sú pre model známe.
• Vyššia perplexita: formulácia je menej očakávaná.

Skóre je špecifické pre model vykonávajúci hodnotenie a spôsob spracovania textu, takže rovnaká pasáž môže získať rôzne skóre perplexity pri rôznych nastaveniach.

Vezmite si vetu: „Dajte mi prosím vedieť, či máte nějaké otázky.“ Jazykový model sa s podobnou formuláciou pravdepodobne stretol mnohokrát, vďaka čomu sa dá každé slovo pomerne ľahko predvídať. To nám niečo hovorí o známosti vety. Nehovorí to však nič presvedčivé o tom, kto ju napísal.

Premenlivosť meria, do akej miery sa tieto vzory menia

Pojem premenlivosť (burstiness) sa v diskusiách o detekcii AI používa voľnejšie. Vo všeobecnosti opisuje, do akej miery sa text mení v priebehu pasáže. Môže to zahŕňať kolísanie dĺžky a štruktúry viet alebo prechody medzi vysoko predvídateľným a prekvapivejším jazykom.

• Nižšia premenlivosť: Vety majú konzistentnejšiu dĺžku, štruktúru alebo rytmus.
• Vyššia premenlivosť: Text prechádza medzi kratšími vyhláseniami, dlhšími vysvetleniami a menej očakávanými formuláciami.

Niektoré texty vygenerované AI sú konzistentné a predvídateľné, čo je dôvod, prečo sa premenlivosť začala spájať s detekciou. Ľudské písanie môže mať rovnaké vlastnosti, najmä v obchodnom, akademickom a technickom kontexte. Modely AI môžu taktiež produkovať rôznorodosť v jazyku, ak sú k tomu vyzvané alebo upravené.

GPTZero uvádza, že perplexita a premenlivosť boli dve z niekoľkých funkcií, ktoré používala staršia verzia jeho detektora.

Čo tieto opatrenia ukazujú: Perplexity a premenlivosť opisujú vzory v pasáži. Tieto vzory môžu pomôcť vysvetliť, prečo bol text označený, ale nedokážu určiť, kto ho napísal.

Čo znamená skóre detektora AI

Výsledok „80 % AI“ vyzerá jednoznačne. Jeho význam však závisí od detektora.

GPTZero opisuje toto percento ako odhadovanú pravdepodobnosť modelu, že dokument napísala AI alebo človek. Turnitin používa percento na zobrazenie toho, koľko z kvalifikovaného textu jeho model označuje ako potenciálne vygenerované AI alebo upravené pomocou určitých nástrojov AI.

Rovnaké označenie „80 % AI“ by preto mohlo znamenat:

• Detektor odhaduje 80% pravdepodobnosť, že dokument vygenerovala AI.
• Detektor označil 80 % analyzovaného textu.

To sú rôzne zistenia. Jedno vytvára predikciu pre dokument ako celok. Druhé identifikuje, koľko textu sa zhodovalo s kritériami detektora.

Skóre pravdepodobnosti potrebuje ďalšiu kontrolu: kalibráciu. Ak detektor priradí 100 dokumentom pravdepodobnosť AI približne 80 %, zhruba 80 z nich by malo byť skutočne vygenerovaných AI, aby bolo skóre správne kalibrované. Testovanie modelu na príkladoch so známym pôvodom ukazuje, do akej miery sa jeho pravdepodobnosti zhodujú so skutočnými výsledkami.

Percento môže pôsobiť presne predtým, ako je jasný jeho význam alebo spoľahlivosť. Označenie, metóda bodovania a výkonnosť detektora – to všetko určuje, čo dané číslo skutočne znamená.

Zväčšiť

Prahová hodnota určuje, čo bude označené

Detektor musí stále rozhodnúť, kedy je skóre dostatočne vysoké na to, aby sa naň reagovalo. Táto deliaca čiara sa nazýva prahová hodnota alebo limit.

Predpokladajme, že nástroj hodnotí text od 0 do 100 a označí všetko nad 70. Posunutie hranice na 60 by ponechalo každé skóre nezmenené a zároveň by zvýšilo počet označených dokumentov.

• Nižšia prahová hodnota (lower cutoff) vo všeobecnosti odhalí viac textu generovaného AI, ale taktiež nesprávne označí viac ľudského textu.
• Vyššia prahová hodnota (higher cutoff) znižuje počet nesprávnych označení a zároveň umožňuje, aby viac textu vygenerovaného AI zostalo neodhaleného. Tento kompromis sa vo všeobecnosti vzťahuje na klasifikačné systémy.

Tieto dve možné chyby majú rôzne názvy.

• Falošne pozitívny (false positive) výsledok nastáva, keď je ľudský text označený ako vytvorený AI.
• Falošne negatívny (false negative) výsledok nastáva, keď text vygenerovaný AI zostane neodhalený.

To, kde detektor nakreslí čiaru, odráža, ktorej chybe sa chce vyhnúť. Táto voľba má väčšiu váhu, keď označenie môže ovplyvniť známku, prácu alebo niekoho dôveryhodnosť.

Ako môže 2% chybovosť vytvoriť takmer 30% nesprávnych označení

Dopad 2-percentnej chybovosti falošne pozitívnych výsledkov závisí od toho, koľko ľudského textu detektor preskúma.

Zvážte hypotetickú sadu 1 000 článkov:

• 50 je vygenerovaných AI.
• 950 napísali ľudia.
• Detektor zachytí 90 % článkov vygenerovaných AI.
• Nesprávne označuje 2 % článkov napísaných ľuďmi.

Stane sa toto:

Detektor označil celkovo 64 článkov. Devätnásť z nich napísali ľudia, takže takmer 30 % jeho označení je nesprávnych.

Údaje 2 % a 30 % merajú rôzne veci. Detektor nesprávne označí 2 % všetkých článkov napísaných ľuďmi. Tieto chyby potom tvoria takmer 30 % zo všetkého, čo označí.

Čísla vychádzajú takto preto, lebo detektor preskúmal oveľa viac článkov napísaných ľuďmi než tých, ktoré vygenerovala AI. Dokonca aj malá chybovosť môže vytvoriť významný počet nesprávnych označení, ak sa uplatní na oveľa väčšiu skupinu.

Pojem základná miera opisuje, ako častý je text generovaný AI v kontrolovanom materiáli. S meniacim sa podielom sa mení aj význam pozitívneho výsledku. Ak mierne presné a falošne pozitívne sadzby detektora zostávajú rovnaké, označenie bude vo všeobecnosti spoľahlivejšie, keď je text generovaný AI v zbierke bežný, a menej spoľahlivé, keď je zriedkavý.

Tieto čísla sú hypotetické a neopisujú konkrétny detektor. Pri skutočnom hodnotení je podiel textu generovaného AI zvyčajne neznámy. Táto neistota je ďalším dôvodom, prečo považovať označenie za dôvod na bližší pohľad a nie za dôkaz o tom, ako bol dokument napísaný.

Presnosť závisí od toho, na čom bol detektor testovaný

Miera presnosti opisuje výkonnosť za určitých podmienok. Pred aplikovaním tejto miery na iný text skontrolujte:

• Verzia detektora
• Dĺžka, jazyk, téma a formát textu
• Model AI a nastavenia použité na vygenerovanie testovacieho materiálu
• Či bol text upravený alebo zámerne pozmenený
• Autori zastúpení vo vzorkách napísaných ľuďmi

Začnite so vstupmi podporovanými nástrojom

Napríklad Turnitin vyžaduje aspoň 300 slov dlhšieho textu. Uvádza, že jeho model spoľahlivo nedetekuje básne, skripty, kód ani iné formáty než bežný text vygenerované AI. Dobré výsledky pri esejách nám preto veľa nehovoria o tom, ako si rovnaký detektor poradí s básňou alebo krátkym e-mailom.

Porovnajte test so skutočným písmom

V roku 2024 vedci otestovali 12 detektorov pomocou RAID, benchmarku obsahujúceho viac ako 6 miliónov pasáží vygenerovaných AI v 11 modeloch a ôsmich tematických oblastiach. Výkonnosť klesla, keď detektory narazili na neznáme modely, odlišné nastavenia generovania alebo zámerne upravený text.

Výzva z roku 2025 využívajúca RAID priniesla lepšie výsledky v známejších podmienkach. Niekoľko účastníkov detekovalo viac ako 99 % strojovo generovaného textu pri zachovaní 5-percentnej chybovosti falošne pozitívnych výsledkov. Oblasti tém a modely AI použité v teste boli zastúpené aj v trénovacích údajoch.

Výsledky spoločne ukazujú, že detektory môžu dobre fungovať s rôznorodým materiálom, na ktorý boli trénované, zatiaľ čo neznámy materiál sa posudzuje ťažšie.

Pozrite sa, kto bol zastúpený

V štúdii z roku 2023 sedem detektorov nesprávne klasifikovalo v priemere 61,3 % z 91 TOEFL esejí napísaných rodenými nehovorcami angličtiny ako text vytvorený AI. Tento výsledok sa vzťahuje na vtedy testované nástroje a vzorky. Ukazuje to tiež, prečo celková miera presnosti nemusí rovnako dobre vystihovať výkonnosť pre každú skupinu autorov.

Ako čítať tvrdenie o presnosti: Čím bližšie je odoslaný text k materiálu použitému pri testovaní, tým relevantnejší je uvádzaný výsledok.

Finálny dokument ukazuje len časť toho, ako vznikol

AI môže v procese písania zohrávať mnoho úloh. Niekto ju môže použiť na preskúmanie témy, usporiadanie poznámok, preklad pasáže, vylepšenie vety alebo vytvorenie prvého náčrtu.

Tieto pracovné postupy môžu viesť k veľmi odlišným dokumentom. Jeden autor môže použiť AI na prieskum a napísať každú vetu samostatne. Iný môže podstatne prepísať návrh vygenerovaný AI. Tretí môže pridať jeden vygenerovaný odsek do inak ľudsky napísaného článku.

Detektor textu vidí slová, ktoré boli odoslané. Nemá prístup k výzvam, úpravám ani rozhodnutiam, ktoré im predchádzali. Jeho skóre nedokáže rekonštruovať celý proces písania ani určiť, či autor dodržal určité pravidlá. Napríklad,

• Škola môže povoliť brainstorming, ale vyžadovať, aby študenti napísali úlohu sami.
• Vydavateľ môže povoliť úpravy s podporou AI, ak sú zverejnené.
• Pracovisko môže zaujímať vecná správnosť, dôvernosť alebo priradenie zdrojov viac než to, či k formuláciám prispela AI.

Uplatňovanie týchto pravidiel si vyžaduje dôkazy o samotnom procese, ako aj o hotovom texte. História verzií, poznámky z výskumu a vysvetlenie autora môžu poskytnúť kontext, ktorý detektor nedokáže. Turnitin výslovne odporúča pedagógom, aby nepoužívali jeho skóre písania pomocou AI ako jediný základ pre nepriaznivé opatrenia voči študentovi.

Detektor dokáže identifikovať jazyk, ktorý sa podobá vzorom spájaným s AI. Rozhodnutie o tom, čo sa stalo a či to bolo povolené, si vyžaduje širšie posúdenie.

Vodoznaky pridávajú iný druh signálu

Niektoré systémy AI môžu počas generovania textu pridať zistiteľný vzor. Tento proces sa nazýva vkladanie vodoznaku.

Ako funguje textový vodoznak

Google DeepMind SynthID ponúka jeden príklad:

1. Systém upravuje pravdepodobnosti tokenov. Mierne mení pravdepodobnosť, že model vyberie určité slová alebo časti slov.
2. Tieto voľby vytvárajú vzor. Vodoznak je navrhnutý tak, aby pre čitateľa zostal neviditeľný.
3. Kompatibilný detektor ho skontroluje. Detektor analyzuje text a hľadá očakávaný štatistický signál.

Keďže sa tento vzor pridáva počas generovania, môže poskytnúť informácie viazané na systém, ktorý text vytvoril.

Aké sú obmedzenia detekcie vodoznaku

• Generátor ho musí pridať. Systém AI musí podporovať a aplikovať vodoznak. Chýbajúci vodoznak neznamená, že text napísal človek.
• Musí zostať dosť z pôvodného vzoru. Google uvádza, že SynthID odolá určitému orezaniu, zmene slov a miernemu parafrázovaniu. Rozsiahle prepisovanie alebo preklad môžu znížiť jeho spoľahlivosť.

Vodoznaky môžu posilniť dôkazy, keď text vygeneroval kompatibilný systém a zostáva z nich dostatok signálu. Nedokážu identifikovať každý text vygenerovaný AI.

Iné záznamy môžu dokresliť celkový obraz

• História verzií ukazuje, ako sa dokument v priebehu času menil.
• Poznámky k výskumu spájajú tvrdenia so zdrojmi.
• Zverejnené interakcie s AI ukazujú, kde nástroj prispel.

Tieto záznamy poskytujú priamejší kontext o procese písania než len skóre založené na vzoroch.

Považujte označenie za začiatok kontroly

Výsledok detektora sa stáva užitočnejším, keď má jasne vymedzenú úlohu. Predtým, ako hodnotitelia začnú konať na základe označenia, mali by pochopiť, čo nástroj meral, potvrdiť, že text spadá do jeho rozsahu, a preskúmať ďalšie dostupné dôkazy.

Pomôcť môže päť kontrol:

1. Prečítajte si definíciu skóre. Zistite, či percento predstavuje pravdepodobnosť na úrovni dokumentu alebo podiel označeného textu.
2. Skontrolujte rozsah nástroja. Overte, či jazyk, dĺžka a formát dokumentu zodpovedajú tomu, čo detektor podporuje.
3. Skontrolujte dôkazy. Preskúmajte zvýraznené pasáže spolu s návrhmi, poznámkami k zdrojom a autorovým vysvetlením.
4. Aplikujte príslušné pravidlá. Určite, ktoré použitia AI sú povolené a aké dôkazy by preukázali porušenie.
5. Posúďte samotnú prácu. Overte vecnú správnosť, priradenie zdrojov, originalitu a kvalitu.

Stávky by mali určovať hĺbku kontroly. Redaktor môže použiť označenie na rozhodnutie, ktorý článok potrebuje opätovné posúdenie. Rozhodnutie ovplyvňujúce známku, prácu alebo vydavateľskú zmluvu si vyžaduje silnejšie dôkazy a príležitosť pre autora vysvetliť svoj postup.

Detektor AI komprimuje komplexné posúdenie do skóre. Interpretácia tohto skóre si vyžaduje informácie, ktoré dané číslo neobsahuje: čo nástroj meral, akú prahovú hodnotu použil, ako fungoval pri porovnateľnom písaní a aký častý je text generovaný AI v posudzovanom materiáli. Skóre môže nasmerovať pozornosť. Skóre detektora môže prispieť k tomuto hodnoteniu, ale akýkoľvek záver o autorstve si vyžaduje aj dôkazy o procese písania.

Často kladené otázky

Môžu sa detektory AI mýliť?

Áno. Falošne pozitívny výsledok nastáva, keď detektor označí ľudský text ako vygenerovaný umelou inteligenciou. Falošne negatívny výsledok nastáva, keď text vygenerovaný umelou inteligenciou zostane neodhalený. Frekvencia každej chyby závisí od detektora, jeho prahovej hodnoty a od toho, do akej miery sa odoslaný text podoba na materiál použitý na jeho testovanie.

Aké presné sú detektory AI?

Neexistuje jediná miera presnosti pre detektory AI. Výkonnosť sa môže líšiť v závislosti od jazyka, dĺžky, predmetu, štýlu písania, generujúceho modelu a rozsahu úprav. Tvrdenie o presnosti je najužitočnejšie vtedy, keď sa testovacie podmienky podobajú recenzovanému textu a výsledok uvádza falošne pozitívne výsledky spolu s úspešnými detekciami.

Čo znamená percento detekcie AI?

Definícia závisí od nástroja. Môže predstavovať odhadovanú pravdepodobnosť, že dokument bol vygenerovaný AI, percento označeného kvalifikovaného textu alebo mieru istoty vo výsledok. Dokumentácia detektora by mala vysvetliť, aké meranie uvádza.

Dokáže detektor AI dokázať, že niekto použil AI?

Samotné skóre detektora nedokáže preukázať, ako bol dokument vytvorený. Analyzuje predložený text bez toho, aby videlo výzvy, návrhy, úpravy alebo výskum, ktoré za ním stojí. Spoľahlivé posúdenie berie do úvahy skóre spolu s dôkazmi o procese a pravidlami upravujúcimi prijateľné používanie AI.

Prečo je ľudský text niekedy označený ako AI?

Ľudský text a text vygenerovaný AI môžu zdieľať rovnaké štatistické vzory. Klišéovitý jazyk, predvídateľné slovné spojenia, obmedzená slovná zásoba alebo štýl, ktorý sa líši od trénovacích údajov detektora, môžu prispieť k falošne pozitívnemu výsledku. Výskum tiež zistil, že niektoré detektory testované v roku 2023 neúmerne označovali eseje napísané rodenými nehovorcami angličtiny.