Fast-DetectGPT e Binoculars spiegati: rilevare il testo AI costa meno

Fast-DetectGPT e Binoculars sono due detector zero-shot di testo AI che hanno reso l'idea di DetectGPT abbastanza economica da poter essere usata su larga scala. Entrambi decidono se un passaggio è stato scritto da una macchina chiedendosi quanto le sue parole siano prevedibili per un modello linguistico, ed entrambi lo fanno in un solo passaggio invece delle cento riscritture che richiedeva DetectGPT. Fast-DetectGPT è stato presentato a ICLR 2024; Binoculars a ICML 2024.

Questo post spiega entrambi i metodi a chi non si occupa di NLP, riporta i numeri pubblicati dagli autori e poi affronta la domanda più importante per i ricercatori: cosa fanno questi detector con una prosa umana accurata e formale.

Da dove nascono: il problema del costo di DetectGPT

DetectGPT ha mostrato che il testo generato tende a trovarsi su un picco locale della probabilità di un modello. Per misurarlo, riscriveva ogni passaggio circa cento volte con un modello separato e rivalutava ogni copia. Funzionava, ma era lento. Gli autori di Fast-DetectGPT lo hanno cronometrato sul loro benchmark: 79.113 secondi su una GPU A100. Il loro metodo ha impiegato 233 secondi.

Come funziona Fast-DetectGPT: la curvatura della probabilità condizionata

La mossa chiave è lavorare parola per parola. In ogni posizione del passaggio, un modello linguistico ha una distribuzione sulle possibili parole successive date quelle precedenti. Fast-DetectGPT si chiede: la parola effettivamente usata era una delle scelte preferite dal modello in quella posizione, rispetto a ciò che il modello sceglierebbe di solito lì?

1. Fissare il contestoMantieni il passaggio reale così che ogni posizione abbia le sue vere parole precedenti.
2. Campionare alternativeIn ogni posizione, estrai token alternativi da un modello di campionamento, indipendentemente dalle altre posizioni.
3. Valutare entrambiUn modello di valutazione fornisce la log-probabilità dei token reali e di quelli campionati.
4. NormalizzareSottrai il punteggio medio dei campioni e dividi per la sua dispersione. Un risultato alto significa che il testo sceglie le parole preferite dal modello insolitamente spesso.

Gli autori la chiamano curvatura della probabilità condizionata. Poiché i campioni vengono estratti token per token con il contesto reale fisso, l'intero calcolo richiede solo uno o due forward pass invece di cento. Nel contesto black-box, in cui il modello di origine è sconosciuto, hanno usato GPT-J come modello di campionamento e GPT-Neo-2.7B come modello di valutazione.

Cosa ha riportato Fast-DetectGPT

In media su cinque modelli di origine nel contesto white-box, Fast-DetectGPT ha raggiunto un'AUROC di 0,9887 contro 0,9554 di DetectGPT. Sul testo di ChatGPT e GPT-4 nel contesto black-box ha raggiunto 0,9338 contro 0,7225. L'AUROC va da 0,5, il lancio di una moneta, a 1,0, la separazione perfetta.

• DetectGPT, white-box0,9554
• Fast-DetectGPT, white-box0,9887
• DetectGPT, black-box (ChatGPT, GPT-4)0,7225
• Fast-DetectGPT, black-box (ChatGPT, GPT-4)0,9338

Fonte: Bao et al., Fast-DetectGPT, ICLR 2024, Tabella 1

Come funziona Binoculars: perplessità divisa per cross-perplexity

Binoculars, di Abhimanyu Hans e colleghi, affronta un punto debole diverso. La semplice perplessità, una misura di quanto un modello è sorpreso da un testo, confonde due cose: se il testo è stato scritto da una macchina e se l'argomento è insolito. Gli autori fanno un esempio memorabile che chiamano il problema del capibara. Chiedi a un chatbot di scrivere di un capibara astrofisico e il risultato sorprenderà un modello anche se l'ha scritto una macchina, perché il soggetto stesso è strano.

Binoculars corregge questo effetto con due modelli strettamente imparentati, un osservatore e un esecutore (nel paper, Falcon-7B-Instruct e Falcon-7B). Calcola due quantità:

• Log-perplessità: quanto il modello osservatore è sorpreso dal testo reale.
• Log-cross-perplexity: quanto l'osservatore è sorpreso, in media, da ciò che il modello esecutore avrebbe previsto in ogni posizione. È una base di riferimento per quanto sarebbe sorprendente un testo generato su quell'argomento.

Il punteggio di Binoculars è la prima quantità divisa per la seconda. Un prompt strano fa salire entrambi i numeri, quindi per il testo generato il rapporto resta basso. La scrittura umana tende a essere più sorprendente della base di riferimento della macchina, quindi il suo rapporto è più alto.

• Testo scritto da una macchina
• Testo scritto da una persona

Esempio illustrativo dell'idea, non dati di nessuno dei due paper

Cosa ha riportato Binoculars

Su diversi tipi di documento, Binoculars ha rilevato oltre il 90% dei campioni generati da ChatGPT con un tasso di falsi positivi dello 0,01%, cioè un testo umano su diecimila. Durante lo sviluppo non aveva mai visto dati di ChatGPT. Gli autori hanno anche testato saggi di autori non madrelingua inglese tratti da un forum online, in versione originale e corretta grammaticalmente, e hanno riportato la stessa accuratezza, il 99,67%, su entrambe. Se gli strumenti commerciali si generalizzino allo stesso modo tra i diversi chatbot è un'altra questione, trattata in Turnitin rileva ChatGPT, Claude e Gemini?

Limiti e falsi positivi sui testi formali

Entrambi i paper riportano numeri solidi sui loro benchmark. Alcune avvertenze contano quando queste idee finiscono dentro strumenti che giudicano manoscritti reali.

La scrittura umana prevedibile risulta comunque prevedibile

Entrambi i detector premiano la sorpresa. La scrittura accademica spesso la evita di proposito: descrizioni standard dei metodi, formule fisse, cautele prudenti e terminologia di settore rendono il testo più facile da prevedere. Gli stessi autori di Fast-DetectGPT avvertono che detector di questo tipo possono mostrare tassi di falsi positivi più alti sui testi di chi non è madrelingua inglese. Binoculars è andato bene nel test sui saggi ESL, il che è incoraggiante, ma un dataset di saggi studenteschi non equivale a una sezione dei metodi di una ricerca clinica. Il nostro post sul bias dei detector verso chi non è madrelingua illustra lo studio che ha sollevato questa preoccupazione.

Il testo memorizzato sembra testo generato

Il gruppo di Binoculars ha testato 11 testi famosi. Tre sono finiti dal lato della macchina rispetto alla soglia, perché i passaggi che un modello ha memorizzato sono per lui altamente prevedibili. Gli autori osservano che è coerente con il funzionamento del detector, e che può essere accettabile per alcuni usi ma un problema per altri. Definizioni citate e passaggi standard nella scrittura accademica sollevano una preoccupazione simile.

Parafrasi e mancata corrispondenza tra modelli

Nessuno dei due paper sostiene di resistere a una riscrittura deliberata, e gli autori di Binoculars precisano di non aver studiato gli attacchi avversari. Anche Fast-DetectGPT si indebolisce quando il modello di valutazione è diverso dal modello di origine e quando i passaggi sono brevi. Poiché ogni metodo zero-shot di questo tipo legge le probabilità dei token, un passaggio riscritto in modo sostanziale è un oggetto diverso da valutare. La ricerca sugli attacchi di parafrasi, trattata in il testo generato da AI si può rilevare in modo affidabile?, mostra quanto possono spostarsi i punteggi.

Cosa significa con Academic Humanizer

Poiché detector come questi reagiscono a quanto è prevedibile ogni tratto di testo, una bozza in gran parte umana può comunque contenere alcune frasi che sembrano generate. Academic Humanizer interviene proprio su quelle: trova le frasi che i detector segnalano, riscrive solo quelle mantenendo argomentazione, dati, citazioni e termini, e lascia intatte tutte le altre. L'AI Detection Report confronta poi la versione originale e quella rivista con la stessa misura, così puoi esaminare ogni modifica; prima della consegna conviene comunque verificare la policy sull'AI del tuo ateneo o della rivista.