Artigos sobre detecção de IA: lista de leitura com 11 estudos-chave

Se você quer entender a detecção de textos gerados por IA em vez de simplesmente confiar em uma pontuação, cerca de uma dúzia de artigos faz a maior parte do trabalho. Eles explicam como os detectores medem o texto, quão bem eles resistem, com quem eles falham e com que facilidade uma reescrita superficial muda seus vereditos. Esta lista de leitura reúne onze deles, de 2019 a 2024, mais um estudo escrito para educadores.

Cada item traz o título completo, os autores, o veículo de publicação, um resultado verificado e um link para o artigo. Quando temos um texto explicativo mais longo, ele também aparece.

1. 2019: primeiras ferramentasO GLTR e o detector de saída do GPT-2 mostram duas abordagens que ainda predominam: estatísticas de tokens e classificadores treinados.
2. 2023: zero-shot e marcas d'águaDetectGPT e as marcas d'água em LLMs propõem detecção sem um classificador treinado.
3. 2023: primeiros testes de estresseO DIPPER mostra a evasão por paráfrase; Liang et al. mostram o viés contra autores não nativos.
4. 2024: detectores mais baratos, benchmarks maioresFast-DetectGPT, Binoculars e Ghostbuster melhoram a detecção, enquanto RAID e M4 a testam em grande escala.

Fundamentos: como a detecção começou

1. GLTR: Statistical Detection and Visualization of Generated Text

Sebastian Gehrmann, Hendrik Strobelt, Alexander M. Rush · ACL 2019 (System Demonstrations)

O GLTR colore cada palavra conforme a posição que um modelo de linguagem atribuiu a ela no ranking. O texto de máquina tende a ficar entre as opções mais bem ranqueadas, enquanto as pessoas escolhem palavras menos esperadas com mais frequência. Em um estudo com humanos, o GLTR elevou a precisão das pessoas na identificação de texto gerado de 54% para 72%, sem treinamento prévio. A ideia central, de que a previsibilidade é um sinal, está na base da maioria dos detectores atuais. Artigo

2. Release Strategies and the Social Impacts of Language Models

Irene Solaiman et al. (OpenAI) · Relatório, 2019

Este relatório sobre o lançamento gradual do GPT-2 descreve o classificador baseado em RoBERTa que se tornou o amplamente usado "GPT-2 Output Detector". Os autores relatam que ele detectou texto do GPT-2 de 1,5 bilhão de parâmetros com cerca de 95% de precisão. O mesmo detector reaparece em avaliações posteriores: no RAID, ele passou de 95% em texto do GPT-2 em cinco domínios, mas raramente passou de 60% em texto de outros modelos. Artigo

Detecção zero-shot e marcas d'água

3. DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature

Eric Mitchell, Yoonho Lee, Alexander Khazatsky, Christopher D. Manning, Chelsea Finn · ICML 2023

O DetectGPT observa que o texto escrito por um modelo tende a ficar em um pico local da log-probabilidade desse modelo: pequenas perturbações o tornam menos provável. Ele não precisa de dados de treinamento, apenas das probabilidades do modelo e de um modelo de perturbação como o T5. Em notícias falsas geradas pelo GPT-NeoX, elevou a AUROC de 0,81, do melhor método zero-shot anterior, para 0,95. Leia nosso texto sobre o DetectGPT. Artigo

4. A Watermark for Large Language Models

John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein · ICML 2023

Em vez de adivinhar pelo estilo, essa abordagem insere um sinal no momento da geração. Antes de cada palavra, uma "lista verde" pseudoaleatória de tokens é escolhida e levemente favorecida; depois, um detector conta os tokens verdes e aplica um teste estatístico com valores-p interpretáveis, sem precisar do próprio modelo. Só funciona se o provedor do modelo ativar o recurso. Leia nosso texto sobre marcas d'água. Artigo

Testes de estresse: evasão e viés

5. Paraphrasing evades detectors of AI-generated text, but retrieval is an effective defense

O artigo do DIPPER (cartão acima) é o ponto de partida da pesquisa sobre humanizadores. Um parafraseador de 11 bilhões de parâmetros enfraqueceu marcas d'água, DetectGPT, GPTZero e o classificador da OpenAI, preservando o sentido. A solução proposta, buscar conteúdo correspondente entre as gerações armazenadas pelo provedor, identificou de 80% a 97% das paráfrases com taxa de falsos positivos de 1%. Leia nosso texto sobre o DIPPER.

6. GPT detectors are biased against non-native English writers

Weixin Liang, Mert Yuksekgonul, Yining Mao, Eric Wu, James Zou · Patterns, 2023

Sete detectores populares foram testados em 91 redações do TOEFL escritas por não nativos e em 88 redações de alunos do oitavo ano nos EUA. Eles foram quase perfeitos nas redações americanas, mas sinalizaram mais da metade das redações do TOEFL como IA, com taxa média de falsos positivos de 61,22%; 89 das 91 foram sinalizadas por pelo menos um detector. Enriquecer o vocabulário dessas mesmas redações reduziu a taxa para 11,77%. Leia nosso texto sobre o viés dos detectores. Artigo

2024: detectores mais rápidos e benchmarks mais difíceis

7. Fast-DetectGPT: Efficient Zero-Shot Detection of Machine-Generated Text via Conditional Probability Curvature

Guangsheng Bao, Yanbin Zhao, Zhiyang Teng, Linyi Yang, Yue Zhang · ICLR 2024

O Fast-DetectGPT substitui a etapa cara de perturbação do DetectGPT por uma medida da curvatura da probabilidade condicional baseada em amostragem. Os autores relatam uma melhora relativa de cerca de 75% sobre o DetectGPT, tanto em cenário white-box quanto black-box, e uma detecção cerca de 340 vezes mais rápida. Artigo

8. Spotting LLMs With Binoculars: Zero-Shot Detection of Machine-Generated Text

Abhimanyu Hans et al. · ICML 2024

O Binoculars compara o quanto um texto é surpreendente para um modelo com o quanto as previsões de um modelo são surpreendentes para outro. Sem nenhum dado de treinamento, ele detecta mais de 90% das amostras do ChatGPT e de outros LLMs com taxa de falsos positivos de 0,01%. No RAID, foi o destaque em taxas baixas de falsos positivos. Leia nosso texto sobre Fast-DetectGPT e Binoculars. Artigo

9. Ghostbuster: Detecting Text Ghostwritten by Large Language Models

Vivek Verma, Eve Fleisig, Nicholas Tomlin, Dan Klein · NAACL 2024

O Ghostbuster passa os documentos por vários modelos de linguagem mais fracos, busca combinações das características deles e treina um classificador com o resultado, então não precisa acessar as probabilidades do modelo-alvo. Chegou a 99,0 de F1 entre domínios, 5,9 pontos de F1 acima do melhor modelo anterior, e veio acompanhado de novos conjuntos de dados de redações estudantis, escrita criativa e notícias. Artigo

10. M4: Multi-generator, Multi-domain, and Multi-lingual Black-Box Machine-Generated Text Detection

Yuxia Wang et al. · EACL 2024

O M4 abrange seis geradores (entre eles GPT-4, ChatGPT, Cohere, Dolly-v2 e BLOOMz), domínios que vão da Wikipedia a resumos do arXiv e pareceres de revisão, e sete idiomas: árabe, búlgaro, chinês, inglês, indonésio, russo e urdu. A principal conclusão é que os detectores têm dificuldade de generalizar para domínios e modelos não vistos e, nesses casos, tendem a classificar texto de máquina como humano. Ele virou a base da SemEval-2024 Task 8. Artigo

11. RAID: A Shared Benchmark for Robust Evaluation of Machine-Generated Text Detectors

Liam Dugan et al. · ACL 2024

O RAID testa 12 detectores em mais de 6 milhões de gerações de 11 modelos, 8 domínios, 4 estratégias de decodificação e 11 ataques adversariais, com todos os detectores calibrados para a mesma taxa de falsos positivos. Detectores que parecem excelentes em um cenário podem falhar em outro, e só uma penalidade de repetição reduziu a precisão em até 32 pontos. Leia nosso texto sobre o RAID. Artigo

Mais um para educadores

Testing of detection tools for AI-generated text, de Debora Weber-Wulff et al. (International Journal for Educational Integrity, 2023), testou 14 ferramentas em 54 documentos controlados. Nenhuma chegou a 80% de precisão, e a paráfrase automática reduziu a precisão média para 26%. Leia nosso resumo do estudo com 14 ferramentas ou o artigo. Para a teoria sobre por que a detecção pode continuar difícil, veja nosso post sobre se é possível detectar texto de IA de forma confiável. Para saber o que os professores observam além da pontuação, veja professor consegue detectar IA?

Como ler esses artigos

• Confira a taxa de falsos positivos. Um número de precisão sem ela é difícil de interpretar. Por isso DIPPER, Binoculars e RAID relatam a detecção com uma taxa de falsos positivos baixa e fixa.
• Confira quais modelos e domínios foram testados. Resultados com GPT-2 ou com textos jornalísticos podem não valer para um modelo atual escrevendo uma seção de métodos.
• Observe a data. Ferramentas comerciais são atualizadas com frequência, então uma pontuação de 2023 para um produto específico é um retrato daquele momento.
• Veja quem é sinalizado por engano. Liang et al. e Weber-Wulff et al. mostram que os erros recaem com mais força sobre textos de não nativos e textos traduzidos.

Onde o Academic Humanizer se encaixa

Lidos em conjunto, esses artigos mostram que os detectores reagem a estatísticas de superfície que uma escrita humana cuidadosa também pode ter. O Academic Humanizer foi feito para pesquisadores cujas próprias ideias acabam rotuladas de forma errada por esse motivo. O Humanizer reescreve só as frases que os detectores sinalizam, mantém seu argumento, seus números e suas citações, e o Relatório de Detecção de IA compara o rascunho e o resultado pelo mesmo critério para que você revise cada alteração. Como sempre, consulte a política de IA da sua instituição ou revista antes de submeter.