Come funzionano i rilevatori AI? E perché il tuo testo viene segnalato

I detector AI funzionano misurando quanto un testo appare prevedibile a un modello linguistico, non leggendone il significato, ed è anche per questo che il tuo testo può essere segnalato come AI. Alcuni usano statistiche semplici come la perplessità e la burstiness, altri un classificatore addestrato su esempi etichettati, e pochi watermark nascosti inseriti nel testo al momento della generazione. Nessuno di essi sa chi ha scritto il testo. Giudicano se il suo schema somiglia all'output di una macchina.

Ogni metodo ha un punto debole diverso, e quasi tutti ne condividono uno: la prosa accurata, formale e convenzionale è prevedibile per natura. Per questo una sezione dei metodi ben curata può ottenere un punteggio più vicino ad "AI" di un post di blog disordinato. Ecco come funzionano i principali approcci, cosa dice la ricerca sui loro limiti e perché la scrittura accademica sta così vicina alla linea di decisione.

Il segnale di fondo: quanto è sorpreso il modello?

Un modello linguistico assegna una probabilità a ogni possibile parola successiva (più precisamente, a ogni token successivo). Quando un modello genera testo, tende a scegliere token ad alta probabilità, perché è questo che fa il campionamento. Chi scrive non è vincolato da questa regola. Scegliamo un verbo insolito, richiamiamo un dettaglio di tre pagine prima o rompiamo uno schema per dare enfasi.

La perplessità trasforma tutto questo in un numero. Fai passare un passaggio in un modello, chiedi quanto fosse probabile ogni token dato ciò che lo precedeva e fai la media. Una bassa perplessità significa che il modello ha trovato il testo facile da prevedere. Un'alta perplessità significa che ha continuato a essere sorpreso. La spiegazione di GPTZero definisce la perplessità più o meno in questi termini e considera i punteggi più alti un segno di scrittura umana (GPTZero).

The results of this study suggest that soil moisture plays an important role in seedling survival, though only after the second frost.

Verde: token che il modello si aspettava. Neutro: parole legate all'argomento. Rosso: token che il modello riteneva improbabili. La prima metà suona come un modello prestampato; la precisazione finale è ciò che nota un lettore umano, e anche un detector.

L'idea è più vecchia di ChatGPT. GLTR, uno strumento del 2019 di ricercatori di Harvard e IBM, colorava ogni parola in base al suo rango nelle previsioni di un modello, così le persone potevano individuare il testo generato. Nel loro studio, la visualizzazione ha portato il tasso di rilevamento di lettori non addestrati dal 54% al 72% (Gehrmann et al., ACL 2019 demo).

Burstiness: la variazione tra le frasi

La perplessità si misura sui token. La burstiness guarda un livello più su: quanto cambia la prevedibilità da una frase all'altra. La prosa umana tende ad alternare. Una riga breve e assertiva, poi una frase lunga con due subordinate e un inciso, poi un frammento. Il testo generato mantiene spesso un ritmo più costante, con frasi di lunghezza e struttura simili.

Un detector che misura la burstiness si chiede se il passaggio ha quei picchi e quelle cadute. I profili piatti spingono il punteggio verso "AI". Il problema è che molti generi sono piatti di proposito. Abstract, descrizioni di protocolli e testi giuridici o normativi premiano tutti le frasi uniformi.

Perplessità e burstiness sono facili da spiegare, ed è per questo che dominano gli articoli divulgativi. Non sono però più tutta la storia. La stessa GPTZero dichiara di essere passata a un'architettura di deep learning e di considerare ora queste due misure come un sottoinsieme dei suoi indicatori, non come il metodo principale.

Classificatori addestrati

Oggi la maggior parte dei detector commerciali sono classificatori supervisionati. Un team raccoglie grandi insiemi di testi scritti da persone e da macchine, li etichetta e fa il fine-tuning di una rete neurale per distinguerli. La rete impara qualsiasi cosa separi i due mucchi: scelte lessicali, frequenza delle espressioni, abitudini di punteggiatura, forma dei paragrafi e schemi a cui nessuno ha dato un nome.

I classificatori possono essere molto accurati su testi simili ai loro dati di addestramento. Ghostbuster, un sistema di ricerca che fornisce a un classificatore le caratteristiche estratte da diversi modelli linguistici più deboli, ha riportato 99,0 di F1 tra i domini del suo benchmark (Verma et al., NAACL 2024). Il problema è la deriva. Un classificatore addestrato su una generazione di modelli, un insieme di generi e un'impostazione di decodifica può vacillare quando uno qualsiasi di questi elementi cambia. Il benchmark RAID, con oltre 6 milioni di generazioni su 11 modelli, 8 domini e 11 attacchi avversari, ha rilevato che i detector si lasciano ingannare facilmente da cambi nella strategia di campionamento, da modelli mai visti e da attacchi semplici (Dugan et al., ACL 2024).

L'esempio più istruttivo è arrivato da OpenAI. Il suo classificatore di testo AI, rilasciato a gennaio 2023, segnalava correttamente solo il 26% del testo scritto da AI nel suo set di prova e classificava in modo errato il 9% del testo umano. OpenAI lo ha ritirato a luglio 2023, citando il basso tasso di accuratezza (OpenAI).

Metodi statistici zero-shot

Una seconda famiglia di detector salta del tutto l'addestramento. Questi metodi zero-shot usano le probabilità stesse di un modello linguistico per testare un passaggio.

DetectGPT, nato a Stanford, si basa su un'osservazione: il testo campionato da un modello tende a trovarsi su un picco locale della log-probabilità di quel modello. Modifica qualche parola con un secondo modello (gli autori hanno usato T5) e il testo generato perde rapidamente probabilità, mentre il testo umano cambia in modo meno prevedibile. Su articoli di fake news generati da un modello da 20 miliardi di parametri, DetectGPT ha raggiunto 0,95 di AUROC contro 0,81 della baseline zero-shot più forte (Mitchell et al., ICML 2023).

• Passaggio generato da una macchina
• Passaggio scritto da una persona

Forma illustrativa, basata sul metodo descritto da Mitchell et al. (2023)

DetectGPT è costoso, perché valuta molte copie perturbate di ogni passaggio. Fast-DetectGPT ha sostituito la fase di perturbazione con una stima per campionamento più economica e ha riportato un miglioramento relativo di circa il 75% e un'accelerazione di 340 volte (Bao et al., ICLR 2024). Binoculars confronta come due modelli strettamente imparentati valutano lo stesso testo e ha riportato il rilevamento di oltre il 90% dei campioni di ChatGPT con un tasso di falsi positivi dello 0,01%, senza addestramento su dati di ChatGPT (Hans et al., ICML 2024).

Watermark

Il watermarking sposta il rilevamento al momento della generazione. Nello schema proposto da Kirchenbauer e colleghi, a ogni passo il modello divide il proprio vocabolario in una lista "verde" e una "rossa" usando un hash del token precedente, poi spinge il campionamento verso i token verdi. Un detector che conosce la regola di hashing conta i token verdi ed esegue un test statistico. Il testo umano si colloca intorno al caso; il testo con watermark ha troppi token verdi (Kirchenbauer et al., ICML 2023).

I watermark funzionano solo se il modello che ha scritto il testo ne ha applicato uno, e solo per i detector che conoscono la chiave. Si indeboliscono anche con modifiche pesanti. Krishna et al. hanno mostrato che un parafrasatore addestrato riduceva il tasso di rilevamento di DetectGPT dal 70,3% al 4,6% con un tasso di falsi positivi dell'1%, e che anche il rilevamento del watermark peggiorava (Krishna et al., NeurIPS 2023). In pratica, quindi, i detector usati dal tuo ateneo o dalla tua rivista sono classificatori e strumenti di punteggio statistico, non lettori di watermark.

Punteggi per frase e punteggi per documento

I detector restituiscono risultati a granularità diverse. Alcuni danno un'unica probabilità per l'intero documento. Altri valutano ogni frase o breve finestra di testo, evidenziano quelle sospette e poi le aggregano in una percentuale. Turnitin, per esempio, evidenzia le frasi e nella propria documentazione ha indicato un tasso di falsi positivi a livello di frase intorno al 4% (Turnitin).

Il punteggio per frase è più informativo ma più rumoroso. Una frase ha pochi token, quindi la sua stima di perplessità è instabile. Il punteggio per documento è più stabile ma nasconde dove sta il problema. Approfondiamo il compromesso in rilevamento AI a livello di frase, e perché strumenti diversi non concordano in perché i detector AI non sono d'accordo.

Perché la prosa accademica formale sta vicino al confine

Tutti i metodi descritti premiano la sorpresa e penalizzano la convenzione. La scrittura accademica è costruita sulla convenzione. Le discipline standardizzano le formulazioni perché i lettori possano scorrere gli articoli rapidamente: "Participants were randomly assigned to", "These findings are consistent with", "Further research is needed to". Le guide di stile scoraggiano gli abbellimenti. Chi non è madrelingua si affida spesso a un lessico più ristretto e sicuro. Tutto questo abbassa la perplessità.

La prova più chiara viene da Liang et al. a Stanford. Hanno passato in sette detector saggi TOEFL scritti da non madrelingua inglese e saggi di studenti statunitensi di terza media. I detector sono stati quasi perfetti sui saggi dei madrelingua, ma hanno classificato come AI i saggi TOEFL in media nel 61,3% dei casi. Quando i ricercatori hanno usato ChatGPT per arricchire il lessico di quegli stessi saggi, il tasso medio di falsi positivi è sceso all'11,6% (Liang et al., Patterns 2023).

• Saggi originali61,3%
• Dopo l'arricchimento lessicale11,6%

Fonte: Liang et al., "GPT detectors are biased against non-native English writers", Patterns 2023

La lezione non è che i detector siano inutili. È che i loro punteggi riflettono lo stile tanto quanto la paternità. Un ricercatore attento che scrive in un inglese semplice e disciplinato può finire dal lato sbagliato della linea senza alcun coinvolgimento dell'AI. Esaminiamo questo effetto più da vicino nella nostra analisi dello studio di Liang e in perché la prosa formale può sembrare scritta da AI. Per tecniche di revisione che mantengono intatte le tue idee, vedi come evitare il rilevamento AI nella scrittura accademica.

Il posto di Academic Humanizer

Academic Humanizer è stato creato per quest'ultimo problema. Humanizer analizza una bozza frase per frase, riscrive solo le frasi che i detector segnalano e lascia il resto esattamente come l'hai scritto, mantenendo argomentazione, numeri, citazioni e terminologia. L'AI Detection Report integrato mostra ogni frase segnalata accanto alla sua riscrittura e confronta le due versioni, e i risultati vengono verificati con detector tra cui Turnitin, GPTZero e Originality.ai. Prima di usare qualsiasi strumento su un lavoro da consegnare, verifica la policy sull'AI del tuo ateneo o della rivista, e rileggi tu il risultato prima che vada da qualsiasi parte.