Fast-DetectGPT·Binoculars 해설: 저렴한 AI 탐지

Fast-DetectGPT와 Binoculars는 DetectGPT의 아이디어를 대규모로 돌릴 수 있을 만큼 저렴하게 만든 두 제로샷 AI 텍스트 탐지기입니다. 둘 다 언어 모델이 보기에 단어들이 얼마나 예측 가능한지를 물어 구절이 기계가 쓴 것인지 판단하며, DetectGPT에 필요했던 100번의 재작성 대신 한 번의 처리로 해냅니다. Fast-DetectGPT는 ICLR 2024에서, Binoculars는 ICML 2024에서 발표되었습니다.

이 글은 NLP 분야 밖의 독자를 위해 두 방법을 설명하고, 저자들이 보고한 수치를 정리한 뒤, 연구자에게 가장 중요한 질문을 살펴봅니다. 이 탐지기들은 신중하게 쓴 격식 있는 사람의 글을 어떻게 판정할까요?

출발점: DetectGPT의 비용 문제

DetectGPT는 기계 텍스트가 모델 확률의 국소적 정점에 놓이는 경향이 있음을 보였습니다. 이를 측정하기 위해 별도의 모델로 구절마다 약 100번 재작성하고 모든 사본의 점수를 다시 매겼습니다. 효과는 있었지만 느렸습니다. Fast-DetectGPT 저자들은 자신들의 벤치마크에서 A100 GPU 기준 DetectGPT가 79,113초 걸렸다고 측정했습니다. 자신들의 방법은 233초였습니다.

Fast-DetectGPT의 작동 원리: 조건부 확률 곡률

핵심은 단어 단위로 작업하는 것입니다. 구절의 각 위치에서 언어 모델은 앞 단어들을 바탕으로 가능한 다음 단어의 분포를 갖습니다. Fast-DetectGPT는 이렇게 묻습니다. 그 위치에서 실제로 쓰인 단어가, 모델이 보통 고를 단어와 비교해 모델이 가장 선호하는 선택이었는가?

1. 맥락 고정실제 구절을 그대로 두어 모든 위치가 실제 앞 단어들을 갖게 합니다.
2. 대안 샘플링각 위치에서 다른 위치와 독립적으로 샘플링 모델로부터 대안 토큰을 뽑습니다.
3. 양쪽 점수 매기기점수 모델이 실제 토큰과 샘플링된 토큰의 로그 확률을 계산합니다.
4. 정규화샘플 점수의 평균을 빼고 그 분산으로 나눕니다. 결과가 높으면 텍스트가 모델이 선호하는 단어를 유난히 자주 골랐다는 뜻입니다.

저자들은 이를 조건부 확률 곡률이라 부릅니다. 실제 맥락을 고정한 채 토큰마다 샘플을 뽑기 때문에, 전체 계산에 100번이 아니라 한두 번의 순전파만 필요합니다. 출처 모델을 모르는 블랙박스 설정에서는 샘플링 모델로 GPT-J를, 점수 모델로 GPT-Neo-2.7B를 사용했습니다.

Fast-DetectGPT가 보고한 결과

화이트박스 설정에서 다섯 출처 모델 평균으로 Fast-DetectGPT는 AUROC 0.9887을 기록했고 DetectGPT는 0.9554였습니다. 블랙박스 설정의 ChatGPT와 GPT-4 텍스트에서는 0.9338 대 0.7225였습니다. AUROC는 동전 던지기인 0.5부터 완벽한 분리인 1.0까지입니다.

• DetectGPT, 화이트박스0.9554
• Fast-DetectGPT, 화이트박스0.9887
• DetectGPT, 블랙박스 (ChatGPT, GPT-4)0.7225
• Fast-DetectGPT, 블랙박스 (ChatGPT, GPT-4)0.9338

출처: Bao et al., Fast-DetectGPT, ICLR 2024, Table 1

Binoculars의 작동 원리: 퍼플렉시티를 교차 퍼플렉시티로 나누기

Abhimanyu Hans와 동료들의 Binoculars는 다른 약점을 다룹니다. 텍스트에 모델이 얼마나 놀라는지를 재는 단순 퍼플렉시티는 두 가지를 혼동합니다. 텍스트를 기계가 썼는지, 그리고 주제가 특이한지입니다. 저자들은 이를 카피바라 문제라는 기억하기 쉬운 예로 설명합니다. 챗봇에게 천체물리학자인 카피바라에 대해 써 달라고 하면, 기계가 썼는데도 주제 자체가 기묘해서 결과물이 모델을 놀라게 합니다.

Binoculars는 밀접하게 관련된 두 모델, 즉 관찰자와 수행자(논문에서는 Falcon-7B-Instruct와 Falcon-7B)로 이를 보정합니다. 두 가지 값을 계산합니다.

• 로그 퍼플렉시티: 관찰자 모델이 실제 텍스트에 얼마나 놀라는지입니다.
• 로그 교차 퍼플렉시티: 각 위치에서 수행자 모델이 예측했을 내용에 관찰자가 평균적으로 얼마나 놀라는지입니다. 이 주제에 대한 기계 텍스트가 얼마나 놀라울지에 대한 기준선입니다.

Binoculars 점수는 앞의 값을 뒤의 값으로 나눈 것입니다. 이상한 프롬프트는 두 값을 모두 높이므로 기계 텍스트의 비율은 낮게 유지됩니다. 사람의 글은 기계 기준선보다 더 놀라운 경향이 있어 비율이 더 높습니다.

• 기계가 쓴 텍스트
• 사람이 쓴 텍스트

아이디어를 보여 주는 예시이며, 두 논문의 데이터가 아닙니다

Binoculars가 보고한 결과

다양한 문서 유형에서 Binoculars는 오탐률 0.01%, 즉 사람의 글 1만 편 중 1편 수준에서 ChatGPT가 생성한 샘플의 90% 이상을 탐지했습니다. 개발 과정에서 ChatGPT 데이터를 한 번도 보지 않은 상태였습니다. 저자들은 온라인 에세이 포럼의 비원어민 영어 에세이를 원본과 문법 교정본으로 나눠 시험했고, 두 경우 모두 같은 정확도 99.67%를 보고했습니다. 상용 도구가 여러 챗봇에 걸쳐 같은 방식으로 일반화되는지는 별개의 문제이며, 턴잇인은 챗GPT·Claude·Gemini를 잡을까?에서 다룹니다.

한계, 그리고 격식 있는 글의 오탐

두 논문 모두 자신들의 벤치마크에서 강력한 수치를 보고합니다. 하지만 이 아이디어가 실제 원고를 판정하는 도구에 들어갈 때는 몇 가지 단서가 중요합니다.

예측 가능한 사람의 글은 여전히 예측 가능하다고 판정됩니다

두 탐지기 모두 놀라움에 점수를 줍니다. 학술 글쓰기는 의도적으로 놀라움을 피하는 경우가 많습니다. 정형화된 방법 기술, 고정된 표현, 신중한 단서 표현, 분야 용어는 모두 텍스트를 예측하기 쉽게 만듭니다. Fast-DetectGPT 저자들도 이런 탐지기가 비원어민 영어 화자의 글에서 오탐률이 더 높을 수 있다고 경고합니다. Binoculars가 ESL 에세이 시험에서 좋은 결과를 낸 것은 고무적이지만, 학생 에세이 데이터셋 하나가 임상 연구의 방법 섹션과 같지는 않습니다. 이 우려를 제기한 연구는 비원어민 작성자에 대한 탐지기 편향 글에서 다룹니다.

암기된 텍스트는 기계 텍스트처럼 보입니다

Binoculars 팀은 유명한 텍스트 11편을 시험했습니다. 그중 세 편이 임계값의 기계 쪽에 놓였는데, 모델이 암기한 구절은 모델에게 매우 예측 가능하기 때문입니다. 저자들은 이것이 탐지기의 작동 방식과 일치하며, 어떤 용도에서는 괜찮지만 다른 용도에서는 문제가 될 수 있다고 언급합니다. 학술 글의 인용된 정의나 정형화된 구절도 비슷한 우려를 낳습니다.

패러프레이징과 모델 불일치

두 논문 모두 의도적인 재작성에 대한 저항력을 주장하지 않으며, Binoculars 저자들은 적대적 공격을 연구하지 않았다고 밝힙니다. Fast-DetectGPT도 점수 모델이 출처 모델과 다르거나 구절이 짧으면 약해집니다. 이런 유형의 제로샷 방법은 모두 토큰 확률을 읽으므로, 상당히 다시 쓴 구절은 점수를 매길 때 전혀 다른 대상이 됩니다. AI 생성 텍스트는 신뢰성 있게 탐지될까?에서 다룬 패러프레이징 공격 연구는 점수가 얼마나 크게 움직일 수 있는지 보여 줍니다.

Academic Humanizer와 함께 볼 때의 의미

이런 탐지기는 텍스트의 각 구간이 얼마나 예측 가능한지에 반응하므로, 대부분 사람이 쓴 초안에도 기계처럼 읽히는 문장이 몇 개 섞여 있을 수 있습니다. Academic Humanizer는 바로 그 문장을 겨냥합니다. 탐지기가 표시하는 문장을 찾아 그 문장만 논증, 데이터, 인용, 용어를 유지하며 다시 쓰고, 다른 문장은 전혀 건드리지 않습니다. 이어서 AI Detection Report가 원본과 수정본을 같은 기준으로 비교하므로 각 변경을 검토할 수 있으며, 제출 전에는 여전히 소속 기관이나 학술지의 AI 정책을 확인해야 합니다.