Come funzionano i rilevatori di IA e perché un punteggio da solo non può provare la paternità

Incolla un saggio, un articolo o un'email in un rilevatore di IA e pochi secondi dopo potrebbe restituire un risultato come "85% IA".

Sembra preciso. Ma può anche essere facile da traintendere.

Il rilevatore non ha osservato come è stato scritto il documento. Ha analizzato il testo finito alla ricerca di pattern associati alla scrittura generata dall'IA. A seconda dello strumento, quell'85% potrebbe rappresentare la probabilità stimata che l'IA abbia prodotto il documento o la quota di testo segnalata dal rilevatore.

Ciò rende un rilevatore di IA utile come segnale, specialmente quando qualcosa richiede un esame più attento. Ma il punteggio necessita comunque di contesto e prove a supporto prima che chiunque tragga una conclusione su chi abbia scritto il testo o su come lo abbia creato. Comprendere come i rilevatori producono i loro punteggi aiuta a spiegare sia ciò che riescono a cogliere sia il motivo per cui a volte sbagliano.

Cos'è un rilevatore di IA?

Un rilevatore di scrittura IA esamina un pezzo di testo finito e stima se assomiglia alla scrittura prodotta da un modello linguistico. Un utente in genere incolla il testo o carica un documento. Nel giro di pochi secondi, lo strumento può restituire un'etichetta, una percentuale, passaggi evidenziati o tutti e tre.

• Insegnanti e istituzioni accademiche li usano quando rivedono il lavoro degli studenti.
• Editori e team di contenuti possono usarli per schermare la scrittura inviata o commissionata, mentre alcune aziende di rilevatori commercializzano versioni per i team di selezione che esaminano i materiali di candidatura.
• Anche gli scrittori a volte controllano il proprio lavoro per capire come un insegnante, un editore, un cliente o una piattaforma potrebbero classificarlo.

Nota: I controlli antiplagio servono a uno scopo correlato ma separato. Confrontano un documento con materiale pubblicato e altre fonti per trovare linguaggio corrispondente. I rilevatori di IA valutano i pattern nella scrittura inviata. Un passaggio completamente originale può quindi ricevere una segnalazione di IA, mentre la scrittura umana copiata potrebbe non contenere alcun forte segnale di generazione tramite IA.

Come i rilevatori di IA analizzano il testo

Molti rilevatori di IA si affidano a un classificatore, un modello di apprendimento automatico addestrato su esempi di scrittura umana e generata dall'IA. Man mano che confronta i due, impara quali pattern tendono ad apparire in ciascuno, inclusi i pattern nella scelta delle parole e nella struttura delle frasi. Cerca quindi tali pattern nel nuovo testo e produce una previsione.

Ciò che il rilevatore apprende dipende da ciò che vede durante l'addestramento. Uno strumento addestrato su una gamma limitata di scrittura potrebbe avere difficoltà con un nuovo argomento, uno stile non familiare o l'output di un modello di IA che non ha mai incontrato prima. La ricerca su diversi tipi di testo e modelli di IA ha scoperto che le prestazioni di rilevamento possono calare in tali condizioni.

Alcuni metodi adottano un approccio diverso. Invece di addestrare un classificatore separato, utilizzano le stime di probabilità del modello linguistico stesso per giudicare quanto sarebbe probabile che producesse un passaggio.

• DetectGPT, ad esempio, confronta il testo originale con versioni leggermente alterate per cercare pattern associati alla generazione tramite IA. La sua ricerca descrive questo metodo come "zero-shot" poiché non richiede un rilevatore addestrato separatamente. Il risultato può includere un punteggio complessivo, frasi evidenziate o entrambi.
• GPTZero afferma che le sue evidenziazioni mostrano quali frasi hanno la maggiore influenza sulla sua previsione complessiva. Poiché valuta anche il documento nel suo complesso, un passaggio scansionato da solo potrebbe non ricevere lo stesso risultato quando appare come parte di un brano più lungo.

Ogni risultato riflette sia il testo che il sistema che lo valuta, motivo per cui diversi rilevatori possono giungere a conclusioni diverse sullo stesso passaggio.

Espandi

Cosa misurano la perplessità e la variabilità del ritmo

Perplessità e variabilità del ritmo ricorrono spesso nelle spiegazioni del rilevamento dell'IA. Possono rivelare pattern utili in un brano di scrittura, ma nessuno dei due indica un modo di scrivere unico ed esclusivo dell'IA.

Un dettaglio potenzialmente confuso: la perplessità svolge un doppio ruolo qui. In minuscolo, è una misura statistica. Con la P maiuscola, siamo noi.

La perplessità misura quanto è prevedibile il testo

I modelli linguistici generano testo assegnando probabilità ai possibili token successivi, che possono essere parole intere o parti di parole. La perplessità misura quanto bene un modello riesce a prevedere i token in un passaggio.

• Minore perplessità: Il testo segue pattern che il modello trova familiari.
• Maggiore perplessità: La formulazione è meno prevedibile.

Il punteggio è specifico per il modello che esegue la valutazione e per il modo in cui il testo viene elaborato, quindi lo stesso passaggio può ricevere punteggi di perplessità diversi con configurazioni diverse.

Prendi la frase: "Per favore, fammi sapere se hai domande." Un modello linguistico ha probabilmente incontrato formulazioni simili molte volte, rendendo ogni parola relativamente facile da prevedere. Questo ci dice qualcosa sulla familiarità della frase. Non dice nulla di definitivo su chi l'ha scritta.

La variabilità del ritmo misura quanto variano tali pattern

La variabilità del ritmo (burstiness) viene usata in modo più ampio nelle discussioni sul rilevamento dell'IA. In genere descrive quanto la scrittura cambia all'interno di un passaggio. Può includere variazioni nella lunghezza e nella struttura delle frasi o passaggi da un linguaggio altamente prevedibile a uno più sorprendente.

• Minore variabilità del ritmo: Le frasi seguono una lunghezza, una struttura o un ritmo più costanti.
• Maggiore variabilità del ritmo: La scrittura alterna dichiarazioni più brevi, spiegazioni più lunghe e una formulazione meno prevedibile.

Parte del testo generato dall'IA è coerente e prevedibile, motivo per cui la variabilità del ritmo è stata associata al rilevamento. La scrittura umana può presentare le stesse qualità, specialmente in contesti aziendali, accademici e tecnici. I modelli di IA possono anche produrre un linguaggio più variato quando viene richiesto o modificato per farlo.

GPTZero afferma che perplessità e variabilità del ritmo erano due delle diverse caratteristiche utilizzate da una versione precedente del suo rilevatore.

Cosa mostrano queste misurazioni: Perplessità e variabilità del ritmo descrivono i pattern in un passaggio. Tali passaggi possono aiutare a spiegare perché il testo è stato segnalato, ma non possono stabilire chi lo abbia scritto.

Cosa significa il punteggio di un rilevatore di IA

Un risultato di "80% IA" sembra semplice. Il suo significato dipende dal rilevatore.

GPTZero descrive la percentuale come la probabilità stimata dal suo modello che l'IA o un umano abbiano scritto il documento. Turnitin usa la percentuale per mostrare quanta parte della prosa idonea viene segnalata dal suo modello come potenzialmente generata dall'IA o modificata con determinati strumenti di IA.

La stessa etichetta "80% IA" potrebbe quindi significare:

• Il rilevatore stima una probabilità dell'80% che l'IA abbia generato il documento.
• Il rilevatore ha segnalato l'80% della prosa che ha valutato.

Questi sono risultati diversi. Uno fa una previsione sul documento nel suo insieme. L'altro identifica quanta parte del testo corrispondeva ai criteri del rilevatore.

I punteggi di probabilità necessitano di un altro controllo: la calibrazione. Se un rilevatore assegna a 100 documenti una probabilità di IA di circa l'80%, circa 80 di essi dovrebbero essere effettivamente generati dall'IA affinché il punteggio sia ben calibrato. Testare il modello rispetto a esempi con origini note mostra quanto le sue probabilità corrispondano ai risultati reali.

Una percentuale può sembrare esatta prima che il suo significato o la sua affidabilità siano chiari. L'etichetta, il metodo di punteggio e le prestazioni del rilevatore determinano ciò che il numero può supportare.

Espandi

Il limite determina cosa viene segnalato

Un rilevatore deve comunque decidere quando un punteggio è sufficientemente alto su cui intervenire. Tale linea di demarcazione è chiamata limite o soglia.

Supponiamo che uno strumento assegni un punteggio al testo da 0 a 100 e segnali qualsiasi valore superiore a 70. Spostare il limite a 60 lascerebbe invariato ogni punteggio, aumentando al contempo il numero di documenti segnalati.

• Un limite inferiore in genere rileva più scrittura generata dall'IA, ma segnala anche erroneamente più scrittura umana.
• Un limite superiore riduce le segnalazioni errate, consentendo al contempo a una maggiore quantità di scrittura generata dall'IA di passare inosservata. Questo compromesso si applica in generale ai sistemi di classificazione.

I due possibili errori hanno nomi diversi.

• Un falso positivo si verifica quando la scrittura umana viene segnalata come generata dall'IA.
• Un falso negativo si verifica quando la scrittura generata dall'IA non viene rilevata.

Il punto in cui un rilevatore traccia il limite riflette quale errore è progettato per evitare. Tale scelta ha un peso maggiore quando una segnalazione potrebbe influire su un voto, un lavoro o la credibilità di qualcuno.

Come un tasso di errore del 2% può produrre quasi il 30% di segnalazioni errate

L'impatto di un tasso di falsi positivi del 2% dipende da quanta scrittura umana il rilevatore esamina.

Considera un set ipotetico di 1.000 articoli:

• 50 sono generati dall'IA.
• 950 sono scritti da umani.
• Il rilevatore cattura il 90% degli articoli generati dall'IA.
• Segnala erroneamente il 2% degli articoli scritti da umani.

Ecco cosa succede:

Il rilevatore segnala 64 articoli in totale. Diciannove sono scritti da umani, quindi quasi il 30% delle sue segnalazioni è errato.

Le percentuali del 2% e del 30% misurano cose diverse. Il rilevatore segnala erroneamente il 2% di tutti gli articoli scritti da umani. Tali errori costituiscono poi quasi il 30% di tutto ciò che segnala.

I numeri si sommano in questo modo perché il rilevatore ha esaminato molti più articoli scritti da umani rispetto a quelli generati dall'IA. Anche un piccolo tasso di errore può produrre un numero significativo di segnalazioni errate quando si applica a un gruppo molto più ampio.

Il termine tasso di base descrive quanto sia comune la scrittura generata dall'IA nel materiale controllato. Man mano che tale quota cambia, cambia anche il significato di un risultato positivo. Se i tassi di veri positivi e falsi positivi del rilevatore rimangono invariati, una segnalazione sarà generalmente più affidabile quando la scrittura generata dall'IA è comune nella raccolta e meno affidabile quando è rara.

Questi numeri sono ipotetici e non descrivono un particolare rilevatore. In una revisione reale, la quota di scrittura generata dall'IA è solitamente sconosciuta. Tale incertezza è un altro motivo per trattare una segnalazione come un motivo per guardare più da vicino, piuttosto che come prova di come sia stato scritto un documento.

L'accuratezza dipende da ciò su cui è stato testato il rilevatore

Un tasso di accuratezza descrive le prestazioni in un determinato insieme di condizioni. Prima di applicare tale tasso a un altro pezzo di scrittura, controlla:

• La versione del rilevatore
• Lunghezza, lingua, argomento e formato del testo
• Il modello di IA e le impostazioni utilizzate per generare il materiale di test
• Se il testo è stato modificato o deliberatamente alterato
• Gli scrittori rappresentati nei campioni scritti da umani

Inizia con gli input supportati dallo strumento

Turnitin, ad esempio, richiede almeno 300 parole di prosa in formato esteso. Afferma che il suo modello non rileva in modo affidabile poesia, sceneggiature, codice o altri formati non in prosa generati dall'IA. Forti prestazioni sui saggi dicono quindi poco su come lo stesso rilevatore gestirà una poesia o una breve email.

Confronta il test con la scrittura del mondo reale

Nel 2024, i ricercatori hanno testato 12 rilevatori utilizzando RAID, un benchmark contenente più di 6 milioni di passaggi generati dall'IA in 11 modelli e otto aree tematiche. Le prestazioni sono calate quando i rilevatori hanno incontrato modelli non familiari, diverse impostazioni di generazione o testo deliberatamente modificato.

Una sfida del 2025 che utilizza RAID ha prodotto risultati migliori in condizioni più familiari. Diversi partecipanti hanno rilevato oltre il 99% del testo generato da macchine pur mantenendo un tasso di falsi positivi del 5%. Le aree tematiche e i modelli di IA utilizzati nel test erano inclusi anche nei dati di addestramento.

Insieme, i risultati mostrano che i rilevatori possono funzionare bene su materiale vario che sono stati addestrati a riconoscere, mentre il materiale non familiare rimane più difficile da valutare.

Osserva chi era rappresentato

In uno studio del 2023, sette rilevatori hanno classificato erroneamente in media il 61,3% di 91 saggi TOEFL scritti da parlanti non nativi inglesi come generati dall'IA. Tale risultato si applica agli strumenti e ai campioni testati all'epoca. Mostra inoltre perché un tasso di accuratezza complessivo potrebbe non descrivere le prestazioni allo stesso modo per ogni gruppo di scrittori.

Come leggere un'affermazione di accuratezza: Più il testo inviato è vicino al materiale utilizzato nei test, più il risultato riportato diventa pertinente.

Il documento finale mostra solo una parte di come è stato scritto

L'IA può svolgere molti ruoli nel processo di scrittura. Qualcuno potrebbe usarla per fare ricerche su un argomento, organizzare appunti, tradurre un passaggio, rifinire una frase o produrre una prima bozza.

Tali flussi di lavoro possono portare a documenti molto diversi. Uno scrittore può usare l'IA per la ricerca e comporre ogni frase in modo indipendente. Un altro può riscrivere sostanzialmente una bozza generata dall'IA. Un terzo può aggiungere un paragrafo generato a un articolo altrimenti scritto da un umano.

Un rilevatore di testo vede le parole che sono state inviate. Non ha accesso ai prompt, alle modifiche o alle decisioni che le hanno precedute. Il suo punteggio non può ricostruire l'intero processo di scrittura né determinare se l'autore abbia seguito una determinata politica. Ad esempio,

• Una scuola può consentire il brainstorming richiedendo tuttavia che gli studenti scrivano il compito da soli.
• Un editore può consentire la redazione assistita dall'IA quando viene dichiarata.
• Un ambiente di lavoro potrebbe preoccuparsi più dell'accuratezza fattuale, della riservatezza o dell'attribuzione delle fonti rispetto al fatto che l'IA abbia contribuito alla stesura.

L'applicazione di queste regole richiede prove sul processo oltre che sul testo finito. La cronologia delle bozze, le note di ricerca e la spiegazione di uno scrittore possono fornire un contesto che un rilevatore non può offrire. Turnitin sconsiglia esplicitamente agli educatori di utilizzare il suo punteggio di scrittura IA come unica base per azioni avverse contro uno studente.

Un rilevatore può identificare un linguaggio che assomiglia ai pattern che associa all'IA. Decidere cosa sia successo, e se fosse consentito, richiede una revisione più ampia.

Le filigrane aggiungono un diverso tipo di segnale

Alcuni sistemi di IA possono aggiungere un pattern rilevabile mentre generano testo. Questo processo è chiamato watermarking (inserimento di filigrana).

Come funziona una filigrana di testo

Google DeepMind SynthID fornisce un esempio:

1. Il sistema regola le probabilità dei token. Modifica leggermente la probabilità che il modello selezioni determinate parole o parti di parole.
2. Tali scelte creano un pattern. La filigrana è progettata per rimanere invisibile al lettore.
3. Un rilevatore compatibile lo verifica. Il rilevatore analizza il testo alla ricerca del segnale statistico atteso.

Poiché il pattern viene aggiunto durante la generazione, può fornire informazioni legate al sistema che ha prodotto il testo.

Quali sono i limiti del rilevamento tramite filigrana

• Il generatore deve aggiungerlo. Il sistema di IA deve supportare e applicare la filigrana (watermark). Un'assenza di filigrana non stabilisce che una persona abbia scritto il testo.
• Deve rimanere una parte sufficiente del pattern. Google riferisce che SynthID può resistere ad alcune modifiche di ritaglio, sostituzione di parole e parafrasi lievi. Riscritture estese o traduzioni possono ridurne l'affidabilità.

Le filigrane possono rafforzare le prove quando un sistema compatibile ha generato il testo e rimane una quantità sufficiente del segnale. Non possono identificare ogni singolo pezzo di scrittura generata dall'IA.

Altri documenti possono completare il quadro

• La cronologia delle bozze mostra come un documento è cambiato nel tempo.
• Le note di ricerca collegano le sue affermazioni alle fonti.
• Le interazioni con l'IA dichiarate mostrano dove uno strumento ha contribuito.

Questi record forniscono un contesto più diretto sul processo di scrittura rispetto a un punteggio basato su pattern da solo.

Tratta una segnalazione come l'inizio di una revisione

Il risultato di un rilevatore diventa più utile quando ha un ruolo definito. Prima di agire su una segnalazione, i revisori dovrebbero comprendere cosa ha misurato lo strumento, confermare che il testo rientri nel suo ambito ed esaminare le altre prove disponibili.

Cinque controlli possono aiutare:

1. Leggi la definizione del punteggio. Determina se la percentuale rappresenta una probabilità a livello di documento o la quota di testo segnalata.
2. Controlla l'ambito dello strumento. Conferma che la lingua, la lunghezza e il formato del documento corrispondano a ciò che il rilevatore supporta.
3. Rivedi le prove. Esamina i passaggi evidenziati insieme alle bozze, alle note sulle fonti e alla spiegazione dell'autore.
4. Applica la politica pertinente. Identifica quali usi dell'IA sono consentiti e quali prove dimostrerebbero una violazione.
5. Valuta il lavoro in sé. Esamina l'accuratezza fattuale, l'attribuzione delle fonti, l'originalità e la qualità in base ai loro meriti.

La posta in gioco dovrebbe determinare la profondità della revisione. Un redattore può usare una segnalazione per decidere quale articolo necessita di un ulteriore controllo. Una decisione che influisce su un voto, un lavoro o un contratto di pubblicazione richiede prove più solide e un'opportunità per l'autore di spiegare il proprio processo.

Un rilevatore di IA comprime un giudizio complesso in un punteggio. Interpretare tale punteggio richiede informazioni che il numero non contiene: cosa ha misurato lo strumento, quale soglia ha utilizzato, come si è comportato su una scrittura comparabile e quanto è comune il testo generato dall'IA nel materiale in fase di revisione. Il punteggio può indirizzare l'attenzione. Il punteggio di un rilevatore può contribuire a tale revisione, ma qualsiasi conclusione sulla paternità richiede anche prove sul processo di scrittura.

Domande frequenti

I rilevatori di IA possono sbagliare?

Sì. Un falso positivo si verifica quando un rilevatore segnala una scrittura umana come generata dall'IA. Un falso negativo si verifica quando la scrittura generata dall'IA non viene rilevata. La frequenza di ciascun errore dipende dal rilevatore, dalla sua soglia e da quanto il testo inviato assomiglia al materiale utilizzato per testarlo.

Quanto sono accurati i rilevatori di IA?

Non esiste un unico tasso di accuratezza per i rilevatori di IA. Le prestazioni possono variare in base a lingua, lunghezza, argomento, stile di scrittura, modello di generazione e quantità di modifiche. Un'affermazione di accuratezza è più utile quando le condizioni del test assomigliano alla scrittura in fase di revisione e il risultato riporta sia i falsi positivi che i rilevamenti riusciti.

Cosa significa una percentuale di rilevamento dell'IA?

La definizione dipende dallo strumento. Può rappresentare la probabilità stimata che un documento sia generato dall'IA, la percentuale di testo idoneo segnalato o una forma di confidenza nel risultato. La documentazione del rilevatore dovrebbe spiegare quale misurazione riporta.

Un rilevatore di IA può dimostrare che qualcuno ha usato l'IA?

Il solo punteggio di un rilevatore non può dimostrare come sia stato creato un documento. Analizza il testo inviato senza vedere i prompt, le bozze, le modifiche o la ricerca alla sua base. Una revisione affidabile considera il punteggio insieme alle prove del processo e alla politica che disciplina l'uso accettabile dell'IA.

Perché a volte la scrittura umana viene segnalata come IA?

La scrittura umana e quella generata dall'IA possono condividere gli stessi pattern statistici. Un linguaggio formulico, una fraseologia prevedibile, un vocabolario limitato o uno stile che differisce dai dati di addestramento del rilevatore possono contribuire a un falso positivo. La ricerca ha anche scoperto che alcuni rilevatori testati nel 2023 hanno segnalato in modo sproporzionato saggi scritti da parlanti non nativi inglesi.