Rilevatori AI affidabili? Cosa ha scoperto uno studio su 14 strumenti

I rilevatori AI sono accurati? Non molto, secondo uno dei test pubblici meglio documentati finora. Nel 2023 otto ricercatori che si occupano di integrità accademica hanno scritto testi originali, ne hanno generati altri con ChatGPT, ne hanno modificato e parafrasato una parte e hanno sottoposto tutti i 54 documenti a 14 rilevatori. Nessuno ha raggiunto l'80% di accuratezza. La conclusione, pubblicata sull'International Journal for Educational Integrity, era netta: gli strumenti erano "neither accurate nor reliable" (né accurati né affidabili).

Questo articolo spiega come è stato costruito lo studio, cosa mostrano davvero i numeri e perché la sua lezione più utile per i ricercatori è più circoscritta e pratica di "i rilevatori non servono a nulla". Il punteggio di un rilevatore è un segnale. Non è una prova.

Come è stato progettato lo studio

Il punto di forza di questo paper è il suo set di test. Nove ricercatori (gli otto autori più un collaboratore) hanno preparato sei documenti ciascuno, quindi la verità di riferimento di ogni caso era nota. I testi umani, di circa 10.000 caratteri, sono stati scritti da zero, a un livello simile a quello di una laurea triennale, in campi come ingegneria civile, informatica, economia, storia, linguistica e letteratura. Nessuno di essi era mai stato pubblicato su internet, il che esclude che un modello li avesse visti durante l'addestramento.

I rilevatori erano Check For AI, Compilatio, Content at Scale, Crossplag, DetectGPT, Go Winston, GPT Zero, la GPT-2 Output Detector Demo, l'OpenAI Text Classifier, PlagiarismCheck, Turnitin, Writeful GPT Detector, Writer e ZeroGPT. Dodici erano strumenti web gratuiti; Turnitin e PlagiarismCheck erano sistemi commerciali che hanno dato accesso al gruppo. In tutto 756 test singoli, svolti tra marzo e maggio 2023.

Poiché gli strumenti riportano probabilità e non un semplice sì o no, gli autori hanno ricondotto ogni output a una scala a cinque livelli e calcolato l'accuratezza in tre modi diversi. La classifica degli strumenti è cambiata appena tra un metodo e l'altro, il che rende più difficile liquidare i risultati come un effetto del sistema di punteggio.

Il dato principale: nessuno strumento ha raggiunto l'80%

Tutti gli strumenti sono rimasti sotto l'80% di accuratezza e solo cinque hanno superato il 70%: Turnitin, Compilatio, il GPT-2 Output Detector, Crossplag e Go Winston. Turnitin si è classificato primo con tutti e tre i metodi di punteggio. Il terzo posto del GPT-2 Output Detector ha sorpreso gli autori, dato che non era mai stato addestrato su output di GPT-3.5.

• Turnitin76%
• Compilatio74%
• GPT-2 Output Detector Demo72%
• GPT Zero54%
• PlagiarismCheck39%
• Content at Scale33%

Fonte: Weber-Wulff et al. 2023, Tabella 5 (approccio binario, 54 documenti per strumento).

Un dato di accuratezza complessiva nasconde però gran parte della storia. La parte interessante è dove ogni strumento ha fallito.

Dove l'accuratezza è crollata

In media tra strumenti e metodi di punteggio, i testi in inglese scritti da persone sono stati classificati correttamente nel 96% dei casi. Il testo di ChatGPT non modificato si è fermato al 74%. Da lì in poi i numeri sono scesi in fretta.

• Scritti da persone (01-Hum)96%
• ChatGPT, non modificato (03/04-AI)74%
• ChatGPT, modificato a mano (05-ManEd)42%
• ChatGPT, parafrasato automaticamente (06-Para)26%

Fonte: Weber-Wulff et al. 2023, sezione 5.1.1 (media di tutti gli approcci di accuratezza).

Traduzione automatica. I testi umani scritti in un'altra lingua e tradotti automaticamente in inglese sono stati classificati correttamente circa 20 punti in meno rispetto ai testi nati in inglese. La traduzione lascia tracce statistiche che gli strumenti leggono come output di una macchina, anche quando ogni idea viene da una persona.

Leggera revisione umana. Sostituire sinonimi e riordinare le proposizioni, il tipo di passaggio veloce che gli autori chiamano patchwriting, ha portato l'accuratezza media al 42%.

Parafrasi automatica. Un solo passaggio in Quillbot ha fatto scendere l'accuratezza al 26%. La maggior parte dei testi AI parafrasati è stata letta come umana.

Perché cambiamenti così superficiali contano tanto? La maggior parte dei rilevatori non legge il significato. Come spieghiamo in come funzionano i rilevatori AI, valutano quanto è prevedibile ogni parola e quanto appare uniforme il ritmo del testo. Cambia abbastanza scelte lessicali e l'impronta statistica si sposta mentre il contenuto resta lo stesso. È una fragilità del rilevatore, non una proprietà della scrittura.

Una tendenza verso "umano" e il problema delle accuse ingiuste

Con la notevole eccezione di GPT Zero, ogni strumento è stato più accurato sul testo umano che sul testo AI. Gli autori la interpretano come una scelta di progettazione probabilmente deliberata e sostengono che in ambito educativo sia la direzione più sicura. Gli errori, comunque, andavano in entrambe le direzioni.

Il gruppo ha definito un tasso di accuse ingiuste: la quota di casi scritti da persone in cui l'output di uno strumento porterebbe plausibilmente un docente ad accusare uno studente. Per i testi nati in inglese la media tra gli strumenti era del 2,4%. Per i testi tradotti automaticamente era dell'11,1%. Metà degli strumenti non ha mai prodotto un'accusa ingiusta; GPT Zero era il caso anomalo con il 50%, e gli autori lo hanno giudicato inadatto all'uso accademico. Turnitin non ha prodotto accuse ingiuste in questo set.

Sul fronte opposto, in media circa il 20% dei testi AI non modificati non è stato rilevato, e lo stesso è successo a circa metà di quelli offuscati. Il gruppo ha anche visto lo stesso documento ottenere risultati diversi in giorni diversi: un test con Check For AI ha indicato un rischio basso e poi, cinque giorni dopo, un rischio alto. Per chi deve affrontare un'accusa, questa incoerenza conta quanto i tassi di errore.

Il risultato sulla traduzione merita l'attenzione soprattutto dei ricercatori internazionali. Scrivere nella propria lingua e tradurre il proprio lavoro è una pratica legittima, eppure in questo studio ha aumentato il rischio di una falsa segnalazione. È in linea con i risultati che trattiamo in i rilevatori GPT penalizzano chi scrive in inglese come seconda lingua.

Cosa raccomandano gli autori

Le conclusioni sono rivolte ai docenti, e sono ferme:

• L'output di un rilevatore non dovrebbe mai essere l'unica base per una segnalazione di cattiva condotta. A differenza dei software di confronto testuale, i rilevatori AI non forniscono una fonte verificabile, quindi lo studente non ha nulla di concreto da confutare.
• Una segnalazione può aprire un colloquio con lo studente, non portare a un verdetto.
• La prevenzione dovrebbe venire prima del rilevamento: indicazioni chiare sugli usi etici e non etici dell'AI generativa e valutazioni riprogettate per dare valore al processo di scrittura più che al prodotto finale.
• Le istituzioni dovrebbero considerare gli aspetti di privacy e legali del caricamento dei lavori degli studenti su servizi di rilevamento in cloud.

Il paper è anche trasparente sui propri limiti. Ha testato solo l'inglese, un unico generatore e gli strumenti così com'erano all'inizio del 2023. Da allora i fornitori hanno aggiornato i loro prodotti, quindi le percentuali specifiche non vanno lette come punteggi attuali. Ciò che resta valido sono il metodo e gli schemi di errore, e lavori successivi come il benchmark RAID hanno trovato lo stesso tipo di debolezze su scala molto più ampia.

Cosa significa se scrivi con l'aiuto dell'AI

Se sei un ricercatore o uno studente, ne seguono tre indicazioni pratiche. Primo, verifica cosa consente davvero la tua università o la rivista a cui ti rivolgi e dichiara l'uso dell'AI dove richiesto. Secondo, conserva bozze, appunti e cronologia delle versioni; gli autori dello studio sottolineano che i rilevatori non offrono prove, e la documentazione del tuo processo è la prova più forte che puoi avere (vedi come la cronologia delle bozze sostiene l'integrità accademica). Terzo, se vieni segnalato, i tassi di errore pubblicati ti danno una base ragionevole per chiedere una revisione umana. La nostra guida su cosa fare se vieni segnalato ingiustamente come AI spiega come affrontare quel colloquio. Se un docente solleva una segnalazione, come i professori scoprono l'AI spiega cos'altro tendono a guardare oltre al punteggio.

Il ruolo di Academic Humanizer

Studi come questo sono il motivo per cui esiste Academic Humanizer: la prosa scientifica formale e curata può trovarsi vicino alla linea tracciata dai rilevatori, e idee valide vengono etichettate in modo sbagliato. Humanizer analizza una bozza frase per frase, riscrive solo le frasi che i rilevatori segnalano e lascia il resto esattamente come l'hai scritto, mantenendo intatti affermazioni, numeri e citazioni. L'AI Detection Report integrato mostra ogni frase segnalata accanto alla sua riscrittura e confronta le due versioni sulla stessa misura, così puoi vedere cosa è cambiato e rivedere ogni riga prima di usarla.