Fast-DetectGPT e Binoculars explicados: detecção de IA mais barata

Fast-DetectGPT e Binoculars são dois detectores zero-shot de texto de IA que tornaram a ideia do DetectGPT barata o bastante para rodar em grande escala. Os dois decidem se um trecho foi escrito por máquina perguntando o quanto suas palavras são previsíveis para um modelo de linguagem, e ambos fazem isso em uma única passada, em vez das cem reescritas de que o DetectGPT precisava. O Fast-DetectGPT foi apresentado na ICLR 2024; o Binoculars, na ICML 2024.

Este post explica os dois métodos para quem não é da área de PLN, apresenta os números relatados pelos autores e depois olha para a pergunta que mais importa para pesquisadores: o que esses detectores fazem com uma prosa humana cuidadosa e formal.

De onde eles vêm: o problema de custo do DetectGPT

O DetectGPT mostrou que o texto de máquina tende a ficar em um pico local da probabilidade de um modelo. Para medir isso, ele reescrevia cada trecho cerca de cem vezes com um modelo separado e pontuava de novo cada cópia. Funcionava, mas era lento. Os autores do Fast-DetectGPT cronometraram o DetectGPT no benchmark deles em 79.113 segundos em uma GPU A100. O método deles levou 233 segundos.

Como o Fast-DetectGPT funciona: curvatura da probabilidade condicional

O pulo do gato é trabalhar palavra por palavra. Em cada posição do trecho, um modelo de linguagem tem uma distribuição sobre as próximas palavras possíveis, dadas as palavras anteriores. O Fast-DetectGPT pergunta: a palavra realmente usada estava entre as escolhas favoritas do modelo naquela posição, em comparação com o que o modelo normalmente escolheria ali?

1. Fixar o contextoMantenha o trecho real no lugar para que cada posição tenha as palavras que de fato a antecedem.
2. Amostrar alternativasEm cada posição, sorteie tokens alternativos de um modelo de amostragem, de forma independente das outras posições.
3. Pontuar os doisUm modelo de pontuação calcula a log-probabilidade dos tokens reais e dos amostrados.
4. NormalizarSubtraia a pontuação média das amostras e divida pela dispersão. Um resultado alto significa que o texto escolhe as palavras favoritas do modelo com frequência fora do comum.

Os autores chamam isso de curvatura da probabilidade condicional. Como as amostras são sorteadas por token com o contexto real fixo, o cálculo inteiro exige só uma ou duas passadas pelo modelo, e não cem. No cenário black-box, em que o modelo de origem é desconhecido, eles usaram o GPT-J como modelo de amostragem e o GPT-Neo-2.7B como modelo de pontuação.

O que o Fast-DetectGPT relatou

Na média de cinco modelos de origem no cenário white-box, o Fast-DetectGPT chegou a uma AUROC de 0,9887, contra 0,9554 do DetectGPT. Em texto do ChatGPT e do GPT-4 no cenário black-box, chegou a 0,9338, contra 0,7225. A AUROC vai de 0,5, um cara ou coroa, a 1,0, separação perfeita.

• DetectGPT, white-box0,9554
• Fast-DetectGPT, white-box0,9887
• DetectGPT, black-box (ChatGPT, GPT-4)0,7225
• Fast-DetectGPT, black-box (ChatGPT, GPT-4)0,9338

Fonte: Bao et al., Fast-DetectGPT, ICLR 2024, Tabela 1

Como o Binoculars funciona: perplexidade dividida por perplexidade cruzada

O Binoculars, de Abhimanyu Hans e colegas, ataca outra fraqueza. A perplexidade pura, uma medida de quão surpreso um modelo fica com um texto, mistura duas coisas: se o texto foi escrito por máquina e se o tema é incomum. Os autores dão um exemplo memorável que chamam de problema da capivara. Peça a um chatbot que escreva sobre uma capivara astrofísica, e o resultado vai surpreender um modelo mesmo tendo sido escrito por uma máquina, porque o assunto em si é estranho.

O Binoculars corrige isso com dois modelos muito próximos, um observador e um executor (no artigo, Falcon-7B-Instruct e Falcon-7B). Ele calcula duas grandezas:

• Log-perplexidade: o quanto o modelo observador se surpreende com o texto real.
• Log-perplexidade cruzada: o quanto o observador se surpreende, em média, com o que o modelo executor teria previsto em cada posição. É uma linha de base de quão surpreendente seria um texto de máquina sobre esse tema.

A pontuação do Binoculars é a primeira dividida pela segunda. Um prompt estranho aumenta os dois números, então a razão continua baixa para texto de máquina. A escrita humana tende a ser mais surpreendente do que a linha de base da máquina, então sua razão é mais alta.

• Texto escrito por máquina
• Texto escrito por humano

Exemplo ilustrativo da ideia, não dados de nenhum dos artigos

O que o Binoculars relatou

Em vários tipos de documento, o Binoculars detectou mais de 90% das amostras geradas pelo ChatGPT com taxa de falsos positivos de 0,01%, ou seja, um texto humano em dez mil. Ele nunca tinha visto dados do ChatGPT durante o desenvolvimento. Os autores também testaram redações de autores não nativos de inglês, tiradas de um fórum de redação on-line, nas versões original e com a gramática corrigida, e relataram a mesma precisão, 99,67%, nas duas. Se as ferramentas comerciais generalizam do mesmo jeito entre chatbots é outra questão, tratada em o Turnitin detecta ChatGPT, Claude e Gemini?

Limitações e falsos positivos em textos formais

Os dois artigos relatam números fortes em seus benchmarks. Algumas ressalvas importam quando essas ideias vão parar dentro de ferramentas que julgam manuscritos reais.

Escrita humana previsível continua sendo lida como previsível

Os dois detectores premiam a surpresa. A escrita acadêmica muitas vezes a evita de propósito: descrições de métodos padronizadas, expressões fixas, ressalvas cautelosas e terminologia da área tornam o texto mais fácil de prever. Os próprios autores do Fast-DetectGPT alertam que detectores desse tipo podem ter taxas de falsos positivos mais altas em textos de falantes não nativos de inglês. O Binoculars foi bem no teste com redações de ESL, o que é animador, mas um conjunto de redações estudantis não é o mesmo que uma seção de métodos em pesquisa clínica. Nosso post sobre o viés dos detectores contra autores não nativos trata do estudo que levantou essa preocupação.

Texto memorizado parece texto de máquina

A equipe do Binoculars testou 11 textos famosos. Três caíram do lado da máquina no limiar, porque trechos que um modelo memorizou são muito previsíveis para ele. Os autores observam que isso é coerente com o funcionamento do detector e que pode ser aceitável em alguns usos, mas um problema em outros. Definições citadas e trechos padronizados na escrita acadêmica levantam uma preocupação parecida.

Paráfrase e incompatibilidade de modelos

Nenhum dos artigos afirma resistência a reescritas deliberadas, e os autores do Binoculars observam que não estudaram ataques adversariais. O Fast-DetectGPT também enfraquece quando o modelo de pontuação é diferente do modelo de origem e quando os trechos são curtos. Como todo método zero-shot desse tipo lê probabilidades de tokens, um trecho bastante reescrito é outro objeto a pontuar. A pesquisa sobre ataques de paráfrase, abordada em é possível detectar texto gerado por IA de forma confiável?, mostra o quanto as pontuações podem se mover.

O que isso significa com o Academic Humanizer

Como detectores desse tipo reagem ao quanto cada trecho do texto é previsível, um rascunho quase todo humano ainda pode ter algumas frases que soam como de máquina. O Academic Humanizer mira exatamente essas: encontra as frases que os detectores sinalizam, reescreve só elas, mantendo seu argumento, seus dados, suas citações e seus termos, e não toca em nenhuma outra frase. O Relatório de Detecção de IA então compara as versões original e revisada pelo mesmo critério, para que você revise cada alteração, e ainda assim vale consultar a política de IA da sua instituição ou revista antes de submeter.