Jak fungují detektory AI a proč samotné skóre nedokáže prokázat autorství

Vložte esej, článek nebo e-mail do detektoru AI a o několik sekund později se vám může vrátit výsledek typu „85 % AI“.

Vypadá to přesně. Ale může to být také snadné špatně pochopit.

Detektor nepozoroval jak byl dokument napsán. Zanalizoval hotový text a hledal vzorce spojené s písemným projevem generovaným AI. V závislosti na nástroji může těchto 85 % představovat odhadovanou pravděpodobnost, že dokument vytvořila AI, nebo podíl textu, který detektor označil.

Díky tomu je detektor AI užitečný jako signál, zejména když je potřeba něco podrobněji prozkoumat. Skóre však stále potřebuje kontext a podpůrné důkazy, než kdokoli vyvodí závěr o tom, kdo text napsal nebo jak jej vytvořil. Pochopení toho, jak detektory generují své skóre, pomáhá vysvětlit jak to, co dokáží zachytit, tak i to, proč se někdy mýlí.

Co je detektor AI?

Detektor psaní AI se podívá na hotový text a odhadne, zda se podobá psaní produkovanému jazykovým modelem. Uživatel do něj obvykle vloží text nebo nahrát dokument. Během několika sekund může nástroj vrátit označení, procentuální podíl, zvýrazněné pasáže nebo vše dohromady.

• Učitelé a akademické instituce je používají při kontrole studentských prací.
• Vydavatelé a týmy obsahu je mohou používat ke kontrole předložených nebo zadaných textů, zatímco některé společnosti nabízející detektory prodávají verze pro náborové týmy prověřující aplikační materiály.
• Autoři si občas kontrolují i vlastní práci, aby zjistili, jak by ji mohl klasifikovat učitel, redaktor, klient nebo platforma.

Poznámka: Plagiátorské systémy slouží k příbuznému, ale odlišnému účelu. Porovnávají dokument s publikovaným materiálem a dalšími zdroji za účelem nalezení shodného textu. Detektory AI hodnotí vzorce v odeslaném textu. Zcela původní pasáž tak může obdržet označení AI, zatímco zkopírovaný lidský text nemusí obsahovat žádný silný signál generování pomocí AI.

Jak detektory AI analyzují text

Mnoho detektorů AI spoléhá na klasifikátor, model strojového učení trénovaný na příkladech lidských textů a textů generovaných AI. Jak je porovnává, učí se, které vzorce se v nich objevují, včetně vzorců ve volbě slov a struktuře vět. Poté tyto vzorce hledá v novém textu a vytvoří předpověď.

To, co se detektor naučí, závisí na tom, co vidí během tréninku. Nástroj trénovaný na omezeném spektru textů může mít potíže s novým tématem, neznámým stylem nebo výstupem z modelu AI, se kterým se dosud nesetkal. Výzkum různých typů textů a modelů AI ukázal, že za těchto podmínek může výkonnost detekce klesnout.

Některé metody volí jiný přístup. Namísto trénování samostatného klasifikátoru využívají vlastní odhady pravděpodobnosti jazykového modelu k posouzení, jak moc je pravděpodobné, že by pasáž vyprodukoval.

• DetectGPT například porovnává původní text s mírně pozměněnými verzemi a hledá vzorce spojené s generováním pomocí AI. Jeho výzkum to popisuje jako „zero-shot“ metodu, protože nevyžaduje zvlášť trénovaný detektor. Výsledek může zahrnovat celkové skóre, zvýrazněné věty nebo obojí.
• GPTZero uvádí, že jeho zvýraznění ukazují, které věty mají největší vliv na jeho celkovou předpověď. Protože vyhodnocuje i širší dokument, nemusí pasáž naskenovaná samostatně získat stejný výsledek, když se objeví jako součást delšího textu.

Každý výsledek odráží jak text, tak systém, který jej vyhodnocuje, což je důvod, proč mohou různé detektory dospět k odlišným závěrům o stejné pasáži.

Zvětšit

Coperplexity a burstiness měří

Perplexity a burstiness se ve vysvětleních detekce AI objevují často. Mohou odhalit užitečné vzorce v textu, ale ani jedno z nich neukazuje na jediný, jedinečně AI způsob psaní.

Jeden potenciálně matoucí detail: perplexity zde hraje dvojí roli. S malým písmenem je to statistická míra. S velkým P jsme to my.

Perplexity měří, jak předvídatelný text je

Jazykové modely generují text tak, že přiřazují pravděpodobnosti možným následujícím tokenům, což mohou být celá slova nebo části slov. Perplexity měří, jak dobře dokáže model předpovědět tokeny v pasáži.

• Nižší perplexity: Text se drží vzorců, které model považuje za známé.
• Vyšší perplexity: Formulace je méně očekávaná.

Skóre je specifické pro model provádějící hodnocení a způsob zpracování textu, takže stejná pasáž může v různých nastaveních získat odlišné skóre perplexity.

Vezměte si větu: „Dejte mi prosím vědět, pokud máte nějaké dotazy.“ Jazykový model se s podobnou formulací pravděpodobně setkal mnohokrát, takže každé slovo lze poměrně snadno předvídat. To nám říká něco o známosti dané věty. Nic to však nevypovídá o tom, kdo ji napsal.

Burstiness měří, jak moc se tyto vzorce liší

Termín „burstiness“ (variabilita větné stavby) se v diskusích o detekci AI používá volněji. Obecně popisuje, jak moc se psaní v průběhu textu mění. To může zahrnovat kolísání délky a struktury vět nebo přechody mezi vysoce předvídatelným a překvapivějším jazykem.

• Nižší variabilita (burstiness): Věty dodržují konzistentnější délku, strukturu nebo rytmus.
• Vyšší variabilita (burstiness): Text přechází mezi kratšími sděleními, delšími vysvětleními a méně očekávanými formulacemi.

Některý text generovaný AI je konzistentní a předvídatelný, což je důvod, proč se burstiness začala spojovat s detekcí. Lidské texty mohou vykazovat stejné vlastnosti, zejména v obchodním, akademickém a technickém kontextu. Modely AI mohou také vytvářet pestřejší jazyk, pokud jsou k tomu vyzvány nebo upraveny.

GPTZero uvádí, že perplexity a burstiness byly dvě z několika funkcí používaných dřívější verzí jeho detektoru.

Co tato měření ukazují: Perplexity a burstiness popisují vzorce v pasáži. Tyto vzorce mohou pomoci vysvětlit, proč byl text označen, ale nemohou prokázat, kdo jej napsal.

Co znamená skóre detektoru AI

Výsledek „80 % AI“ vypadá jednoznačně. Jeho význam však závisí na detektoru.

GPTZero popisuje procento jako odhadovanou pravděpodobnost svého modelu, že dokument napsala AI nebo člověk. Turnitin používá procento k zobrazení toho, kolik z odpovídajícího textu jeho model označí jako potenciálně generované AI nebo upravené pomocí určitých nástrojů AI.

Stejné označení „80 % AI“ by proto mohlo znamenat:

• Detektor odhaduje 80% pravděpodobnost, že dokument vygenerovala AI.
• Detektor označil 80 % posuzovaného textu.

To jsou odlišná zjištění. Jedno vytváří předpověď o dokumentu jako celku. Druhé určuje, kolik textu odpovídá kritériím detektoru.

Skóre pravděpodobnosti potřebují další kontrolu: kalibraci. Pokud detektor udělí 100 dokumentům pravděpodobnost AI kolem 80 %, zhruba 80 z nich by mělo být reálně vygenerováno AI, aby bylo skóre dobře kalibrované. Testování modelu oproti příkladům se známým původem ukazuje, jak blízko se jeho pravděpodobnosti shodují s reálnými výsledky.

Procento může vypadat přesně dříve, než je jasný jeho význam nebo spolehlivost. Označení, metoda skórování a výkon detektoru – to vše určuje, o co se dané číslo může opřít.

Zvětšit

Prahová hodnota určuje, co bude označeno

Detektor se stále musí rozhodnout, kdy je skóre dostatečně vysoké na to, aby bylo nutné jednat. Tato dělicí čára se nazývá práh nebo prahová hodnota.

Předpokládejme, že nástroj hodnotí text na škálu od 0 do 100 a označuje vše nad 70. Posunutí hranice na 60 by ponechalo každé skóre beze změny a zároveň zvýšilo počet označených dokumentů.

• Nižší práh obvykle odhalí více textu generovaného AI, ale také nesprávně označí více lidského textu.
• Vyšší prahová hodnota snižuje počet nesprávných označení a zároveň umožňuje, že více textu generovaného AI zůstane neodhaleno. Tento kompromis platí obecně pro klasifikační systémy.

Tyto dvě možné chyby mají různé názvy.

• Falešně pozitivní výsledek nastává, když je lidské psaní označeno jako generované AI.
• Falešně negativní výsledek nastává, když text generovaný AI zůstane neodhalen.

Místo, kde detektor stanovuje hranici, odráží chybu, které se snaží vyhnout. Tato volba má větší váhu, když by označení mohlo ovlivnit známku, práci nebo něčí důvěryhodnost.

Jak může 2% chybovost vytvořit téměř 30 % nesprávných označení

Dopad 2% míry falešně pozitivních výsledků závisí na tom, kolik lidského textu detektor prověřuje.

Zvažte hypotetickou sadu 1 000 článků:

• 50 je vygenerováno AI.
• 950 je napsáno lidmi.
• Detektor zachytí 90 % článků vygenerovaných AI.
• Nesprávně označuje 2 % článků napsaných lidmi.

Tady je to, co se stane:

Detektor označí celkem 64 článků. Devatenáct jich napsali lidé, takže téměř 30 % jeho označení je chybinkých.

Údaje 2 % a 30 % měří různé věci. Detektor nesprávně označí 2 % všech článků napsaných lidmi. Tyto chyby pak tvoří téměř 30 % ze všeho, co označí.

Tato čísla vycházejí takto proto, že detektor prověřil mnohem více článků napsaných lidmi než těch generovaných AI. Dokonce i malá chybovost může vytvořit smysluplný počet nesprávných označení, pokud se vztahuje na mnohem větší skupinu.

Termín základní míra popisuje, jak časté je psaní generované AI v kontrolovaném materiálu. S tím, jak se tento podíl mění, se mění i význam pozitivního výsledku. Pokud zůstanou míra správně pozitivních a falešně pozitivních výsledků detektoru stejné, bude označení obecně spolehlivější tam, kde je text generovaný AI běžný, a méně spolehlivý tam, kde je vzácný.

Tato čísla jsou hypotetická a nepopisují konkrétní detektor. V reálném hodnocení je podíl textů generovaných AI obvykle neznámý. Tato nejistota je dalším důvodem, proč brát označení jako důvod k bližšímu pohledu, a nikoli jako důkaz toho, jak byl dokument napsán.

Přesnost závisí na tom, na čem byl detektor testován

Míra přesnosti popisuje výkon za konkrétních podmínek. Než tuto míru aplikujete na jiný text, zkontrolujte:

• Verze detektoru
• Délka, jazyk, téma a formát textu
• Model AI a nastavení použité k vytvoření testovacího materiálu
• Zda byl text upraven nebo záměrně pozměněn
• Autoři zastoupení ve vzorcích napsaných lidmi

Začněte vstupy, které nástroj podporuje

Turnitin například vyžaduje alespoň 300 slov delšího textu. Uvádí, že jeho model nespolehlivě detekuje poezii, scénáře, kód nebo jiné formáty generované AI, které nemají formu běžného textu. Silný výkon u esejů nám proto prozradí jen málo o tom, jak si stejný detektor poradí s básní nebo krátkým e-mailem.

Porovnejte test s reálným textem

V roce 2024 vědci otestovali 12 detektorů pomocí RAID, benchmarku obsahujícího více než 6 milionů pasáží generovaných AI napříč 11 modely a osmi oblastmi. Výkon klesl, když se detektory setkaly s neznámými modely, odlišným nastavením generování nebo záměrně upraveným textem.

Výzva z roku 2025 využívající datovou sadu RAID přinesla přesnější výsledky za známějších podmínek. Několik účastníků detekovalo přes 99 % strojově generovaného textu při zachování 5% míry falešně pozitivních výsledků. Oblasti a modely AI použité v testu byly zastoupeny i v trénovacích datech.

Výsledky dohromady ukazují, že detektory mohou podávat dobré výkony u rozmanitého materiálu, na který byly trénovány, zatímco neznámý materiál zůstává obtížněji hodnotitelný.

Podívejte se, kdo byl zastoupen

Ve studiu z roku 2023 sedm detektorů nesprávně klasifikovalo v průměru 61,3 % z 91 TOEFL esejů napsaných rodilými mluvčími jiných jazyků než angličtiny jako vygenerovaných AI. Tento výsledek platí pro tehdy testované nástroje a vzorky. Ukazuje také, proč celková míra přesnosti nemusí stejně dobře vystihovat výkon pro každou skupinu autorů.

Jak číst tvrzení o přesnosti: Čím blíže je odeslaný text materiálu použitému při testování, tím relevantnější je vykázaný výsledek.

Finální dokument ukazuje jen část toho, jak byl napsán

AI může v procesu psaní hrát mnoho rolí. Někdo ji může použít k rešerši tématu, uspořádání poznámek, překladu pasáže, vylepšení věty nebo vytvoření prvního konceptu.

Tyto pracovní postupy mohou vést k velmi odlišným dokumentům. Jeden autor může použít AI k rešerši a každou větu zformulovat samostatně. Jiný může koncept vytvořený AI podstatně přepsat. Třetí může do jinak lidsky napsaného článku přidat jeden vygenerovaný odstavce.

Textový detektor vidí slova, která byla odeslána. Nemá přístup k výzvám (promptům), úpravám ani rozhodnutím, které jim předcházely. Jeho skóre nedokáže rekonstruovat celý proces psaní ani určit, zda autor dodržel konkrétní pravidla. Například:

• Škola může povolovat brainstorming, ale vyžadovat, aby student napsal úkol sám.
• Vydavatel může povolit úpravy za pomoci AI, pokud jsou zveřejněny.
• Pracoviště může zajímat spíše věcná správnost, důvěrnost nebo uvedení zdrojů než to, zda k textu přispěla AI.

Uplatnění těchto pravidel vyžaduje jak důkazy o procesu, tak hotový text. Historie konceptů, poznámky z výzkumu a vysvětlení od autora mohou poskytnout kontext, který detektor nabídnout nedokáže. Turnitin výslovně nedoporučuje pedagogům používat jeho skóre psaní AI jako jediný podklad pro postih studenta.

Detektor dokáže identifikovat jazyk, který se podobá vzorcům, jež si spojuje s AI. Rozhodnutí o tom, co se stalo a zda to bylo povoleno, vyžaduje širší přezkum.

Vodoznaky přidávají jiný druh signálu

Některé systémy AI mohou při generování textu přidat detekovatelný vzorec. tomuto procesu se říká vkládání vodoznaku.

Jak funguje textový vodoznak

Google DeepMind SynthID uvádí jeden příklad:

1. Systém upravuje pravděpodobnosti tokenů. Mírně mění pravděpodobnost, že model zvolí určitá slova nebo části slov.
2. Tyto volby vytvářejí vzorec. Vodoznak je navržen tak, aby pro čtenáře zůstal neviditelný.
3. Kompatibilní detektor ho zkontroluje. Detektor analýzou textu hledá očekávaný statistický signál.

Protože je tento vzorec přidán během generování, může poskytnout informace spojené se systémem, který text vytvořil.

Co omezuje detekci vodoznaku

• Generátor ho musí přidat. Systém AI musí vodoznak podporovat a aplikovat. Chybějící vodoznak neznamená, že text napsal člověk.
• Musí zůstat dostatečná část vzorce. Google uvádí, že SynthID odolá některému oříznutí, změnám slov a mírnému parafrázování. Rozsáhlé přepisování nebo překlad mohou snížit jeho spolehlivost.

Vodoznaky mohou posílit důkazy, když text vygeneroval kompatibilní systém a zbylo z něj dostatek signálu. Nedokážou identifikovat každý text vygenerovaný AI.

Ostatní záznamy mohou dotvořit širší souvislosti

• Historie konceptu ukazuje, jak se dokument v čase měnil.
• Poznámky k výzkumu spojují tvrzení se zdroji.
• Zveřejněné interakce s AI ukazují, kde nástroj přispěl.

Tyto záznamy poskytují přímější kontext o procesu psaní než samotné skóre založené na vzorcích.

Považujte označení za začátek kontroly

Výsledek detektoru je užitečnější, když má jasně vymezenou roli. Než recenzenti na základě označení zakročí, měli by pochopit, co nástroj měřil, potvrdit, že text spadá do jeho rozsahu, a prozkoumat další dostupné důkazy.

Pět kontrol může pomoci:

1. Přečtěte si definici skóre. Určete, zda procento představuje pravděpodobnost na úrovni dokumentu, nebo podíl označeného textu.
2. Zkontrolujte rozsah nástroje. Potvrďte, že jazyk, délka a formát dokumentu odpovídají tomu, co detektor podporuje.
3. Prostudujte důkazy. Prozkoumejte zvýrazněné pasáže spolu s koncepty, poznámkami ke zdrojům a autorovým vysvětlením.
4. Uplatněte příslušné pravidla. Identifikujte, jaká použití AI jsou povolena a jaké důkazy by prokázaly porušení.
5. Posuďte samotnou práci. Prověřte věcnou správnost, přiřazení zdrojů, originalitu a kvalitu.

Závažnost by měla určovat hloubku přezkumu. Redaktor může pomocí označení rozhodnout, který článek potřebuje další kontrolu. Rozhodnutí ovlivňující známku, práci nebo publikační smlouvu si vyžaduje pádnější důkazy a příležitost pro autora vysvětlit svůj postup.

Detektor AI komprimuje složitý úsudek do skóre. Interpretace tohoto skóre vyžaduje informace, které číslo neobsahuje: co nástroj měřil, jakou prahovou hodnotu použil, jak si vedl na srovnatelném textu a jak častý je text generovaný AI v hodnoceném materiálu. Skóre může ukázat směr. Skóre detektoru může k tomuto přezkumu přispět, ale jakýkoli závěr o autorství vyžaduje také důkazy o procesu psaní.

Často kladené otázky

Mohou se detektory AI mýlit?

Ano. Falešně pozitivní výsledek nastává, když detektor označí lidský text jako vygenerovaný AI. Falešně negativní výsledek nastává, když text vygenerovaný AI zůstane neodhalen. Četnost obou chyb závisí na detektoru, jeho prahové hodnotě a na tom, jak moc se odeslaný text podobá materiálu použitému k jeho testování.

Jak přesné jsou detektory AI?

Pro detektory AI neexistuje jediná míra přesnosti. Výkon se může lišit podle jazyka, délky, tématu, stylu psaní, generujícího modelu a rozsahu úprav. Tvrzení o přesnosti je nejužitečnější tehdy, když se testovací podmínky podobají recenzovanému textu a výsledek uvádí jak falešně pozitivní výsledky, tak úspěšné detekce.

Co znamená procento detekce AI?

Definice závisí na nástroji. Může představovat odhadovanou pravděpodobnost, že dokument je vygenerovaný AI, procento označeného odpovídajícího textu nebo míru jistoty ve výsledek. Dokumentace detektoru by měla vysvětlit, jaké měření uvádí.

Může detektor AI dokázat, že někdo použil AI?

Samotné skóre detektoru nedokáže prokázat, jak byl dokument vytvořen. Analyzuje odeslaný text, aniž by vidělo výzvy (prompty), koncepty, úpravy nebo výzkum, které za ním stojí. Spolehlivé posouzení bere v úvahu skóre vedle důkazů o procesu a zásad upravujících přijatelné použití AI.

Proč je lidský text někdy označen jako AI?

Lidské texty a texty generované AI mohou sdílet stejné statistické vzorce. K falešně pozitivnímu výsledku může přispět formální jazyk, předvídatelná fraseologie, omezená slovní zásoba nebo styl, který se liší od trénovacích dat detektoru. Výzkum rovněž zjistil, že některé detektory testované v roce 2023 nepřiměřeně často označovaly eseje napsané nerodilými mluvčími angličtiny.