AI 탐지 연구 논문 읽기 목록: 핵심 연구 11편

점수를 그냥 믿는 대신 AI 텍스트 탐지를 제대로 이해하고 싶다면, 열두 편 남짓한 논문이 대부분을 설명해 줍니다. 탐지기가 텍스트를 어떻게 측정하는지, 얼마나 견고한지, 누구에게 실패하는지, 표면적인 재작성으로 판정이 얼마나 쉽게 바뀌는지 알려 줍니다. 이 읽기 목록은 2019년부터 2024년까지의 논문 11편과, 교육자를 위해 쓰인 연구 한 편을 다룹니다.

각 항목에는 전체 제목, 저자, 발표처, 검증된 핵심 결과 하나와 논문 링크를 담았습니다. 더 긴 해설 글이 있는 경우 함께 연결했습니다.

1. 2019: 초기 도구GLTR과 GPT-2 출력 탐지기가 지금도 주류인 두 접근법, 즉 토큰 통계와 학습된 분류기를 보여 줍니다.
2. 2023: 제로샷과 워터마크DetectGPT와 LLM 워터마킹이 학습된 분류기 없는 탐지를 제안합니다.
3. 2023: 첫 스트레스 테스트DIPPER는 패러프레이즈 회피를, Liang 등은 비원어민 작성자에 대한 편향을 보여 줍니다.
4. 2024: 더 저렴한 탐지기, 더 큰 벤치마크Fast-DetectGPT, Binoculars, Ghostbuster가 탐지를 개선하고, RAID와 M4가 대규모로 검증합니다.

기초: 탐지의 시작

1. GLTR: Statistical Detection and Visualization of Generated Text

Sebastian Gehrmann, Hendrik Strobelt, Alexander M. Rush · ACL 2019 (System Demonstrations)

GLTR은 언어 모델이 각 단어를 몇 순위로 예측했는지에 따라 단어에 색을 칠합니다. 기계가 쓴 글은 상위 순위 단어에 머무는 경향이 있고, 사람은 덜 예상되는 단어를 더 자주 고릅니다. 사람 대상 실험에서 GLTR은 사전 훈련 없이도 생성 텍스트를 알아보는 정확도를 54%에서 72%로 높였습니다. 예측 가능성이 곧 신호라는 핵심 아이디어는 오늘날 대부분의 탐지기 밑바탕에 있습니다. 논문

2. Release Strategies and the Social Impacts of Language Models

Irene Solaiman et al. (OpenAI) · Report, 2019

GPT-2의 단계적 공개를 다룬 이 보고서는 널리 쓰인 "GPT-2 Output Detector"가 된 RoBERTa 기반 분류기를 설명합니다. 저자들은 이 분류기가 15억 파라미터 GPT-2의 텍스트를 약 95% 정확도로 탐지했다고 보고합니다. 같은 탐지기는 이후 평가에도 다시 등장합니다. RAID에서 다섯 개 도메인의 GPT-2 텍스트에는 95% 이상을 기록했지만, 다른 모델의 텍스트에서는 60%를 넘는 경우가 드물었습니다. 논문

제로샷 탐지와 워터마킹

3. DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature

Eric Mitchell, Yoonho Lee, Alexander Khazatsky, Christopher D. Manning, Chelsea Finn · ICML 2023

DetectGPT는 모델이 쓴 텍스트가 모델 로그 확률의 국소적 정점에 놓이는 경향이 있다는 점에 주목합니다. 조금만 교란해도 확률이 낮아진다는 뜻입니다. 학습 데이터 없이 모델의 확률과 T5 같은 교란 모델만 있으면 됩니다. GPT-NeoX로 생성한 가짜 뉴스에서 AUROC를 이전 최고 제로샷 방법의 0.81에서 0.95로 끌어올렸습니다. DetectGPT 해설도 읽어 보세요. 논문

4. A Watermark for Large Language Models

John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein · ICML 2023

이 접근법은 문체로 추측하는 대신 생성 시점에 신호를 심습니다. 단어를 하나 생성하기 전마다 의사 난수로 토큰의 "green list"를 정해 살짝 우대하고, 나중에 탐지기가 green 토큰 수를 세어 해석 가능한 p값을 주는 통계 검정을 수행합니다. 모델 자체는 필요하지 않습니다. 다만 모델 제공자가 기능을 켜야만 작동합니다. 워터마킹 해설도 읽어 보세요. 논문

스트레스 테스트: 회피와 편향

5. Paraphrasing evades detectors of AI-generated text, but retrieval is an effective defense

DIPPER 논문(위 카드)은 휴머나이저 연구의 출발점입니다. 110억 파라미터 패러프레이저가 의미를 유지하면서 워터마킹, DetectGPT, GPTZero, OpenAI 분류기를 모두 약화시켰습니다. 저자들이 제안한 해법은 제공자가 저장해 둔 생성 결과에서 일치하는 내용을 검색하는 것으로, 오탐률 1%에서 패러프레이즈의 80%~97%를 잡아냈습니다. DIPPER 해설도 읽어 보세요.

6. GPT detectors are biased against non-native English writers

Weixin Liang, Mert Yuksekgonul, Yining Mao, Eric Wu, James Zou · Patterns, 2023

널리 쓰이는 탐지기 7종을 비원어민이 쓴 TOEFL 에세이 91편과 미국 중학교 2학년생 에세이 88편으로 시험했습니다. 미국 학생 에세이에서는 거의 완벽했지만 TOEFL 에세이의 절반 이상을 AI로 표시했고, 평균 오탐률은 61.22%였습니다. 91편 중 89편은 적어도 한 탐지기에서 표시되었습니다. 같은 에세이의 어휘를 풍부하게 바꾸자 오탐률은 11.77%로 떨어졌습니다. 탐지기 편향 해설도 읽어 보세요. 논문

2024: 더 빠른 탐지기와 더 어려운 벤치마크

7. Fast-DetectGPT: Efficient Zero-Shot Detection of Machine-Generated Text via Conditional Probability Curvature

Guangsheng Bao, Yanbin Zhao, Zhiyang Teng, Linyi Yang, Yue Zhang · ICLR 2024

Fast-DetectGPT는 DetectGPT의 비싼 교란 단계를 샘플링 기반의 조건부 확률 곡률 측정으로 대체합니다. 저자들은 화이트박스와 블랙박스 설정 모두에서 DetectGPT 대비 약 75%의 상대적 개선과 약 340배 빠른 탐지를 보고합니다. 논문

8. Spotting LLMs With Binoculars: Zero-Shot Detection of Machine-Generated Text

Abhimanyu Hans et al. · ICML 2024

Binoculars는 텍스트가 한 모델에게 얼마나 놀라운지를, 한 모델의 예측이 다른 모델에게 얼마나 놀라운지와 비교합니다. 학습 데이터 없이 오탐률 0.01%에서 ChatGPT와 다른 LLM 샘플의 90% 이상을 탐지합니다. RAID에서는 낮은 오탐률 구간에서 가장 두드러진 성능을 냈습니다. Fast-DetectGPT와 Binoculars 해설도 읽어 보세요. 논문

9. Ghostbuster: Detecting Text Ghostwritten by Large Language Models

Vivek Verma, Eve Fleisig, Nicholas Tomlin, Dan Klein · NAACL 2024

Ghostbuster는 문서를 여러 약한 언어 모델에 통과시키고, 그 특징들의 조합을 탐색한 뒤 결과로 분류기를 학습합니다. 그래서 대상 모델의 확률에 접근할 필요가 없습니다. 도메인 전반에서 F1 99.0을 기록해 이전 최고 모델보다 5.9 높았고, 학생 에세이, 창작 글, 뉴스로 된 새 데이터셋도 함께 공개했습니다. 논문

10. M4: Multi-generator, Multi-domain, and Multi-lingual Black-Box Machine-Generated Text Detection

Yuxia Wang et al. · EACL 2024

M4는 생성기 6종(GPT-4, ChatGPT, Cohere, Dolly-v2, BLOOMz 포함), Wikipedia부터 arXiv 초록과 동료 심사 의견까지의 도메인, 그리고 아랍어, 불가리아어, 중국어, 영어, 인도네시아어, 러시아어, 우르두어 등 7개 언어를 아우릅니다. 핵심 결과는 탐지기가 처음 보는 도메인과 모델에 일반화하기 어려워하며, 그런 경우 기계가 쓴 텍스트를 사람의 글로 판정하는 경향이 있다는 것입니다. 이 데이터는 SemEval-2024 Task 8의 기반이 되었습니다. 논문

11. RAID: A Shared Benchmark for Robust Evaluation of Machine-Generated Text Detectors

Liam Dugan et al. · ACL 2024

RAID는 모델 11종, 도메인 8개, 디코딩 전략 4가지, 적대적 공격 11가지로 만든 600만 건 이상의 생성 텍스트로 탐지기 12종을 시험하며, 모든 탐지기를 같은 오탐률로 보정합니다. 한 설정에서 뛰어나 보이는 탐지기가 다른 설정에서는 실패할 수 있고, 반복 페널티 하나만으로도 정확도가 최대 32포인트 떨어졌습니다. RAID 해설도 읽어 보세요. 논문

교육자를 위한 한 편 더

Debora Weber-Wulff 등의 Testing of detection tools for AI-generated text(International Journal for Educational Integrity, 2023)는 통제된 문서 54건으로 도구 14종을 시험했습니다. 정확도 80%에 도달한 도구는 하나도 없었고, 기계 패러프레이즈를 거치면 평균 정확도가 26%로 떨어졌습니다. 도구 14종 연구 요약이나 논문을 읽어 보세요. 탐지가 왜 계속 어려울 수 있는지에 대한 이론은 AI 텍스트를 신뢰성 있게 탐지할 수 있는가에서 다룹니다. 교수자가 점수 외에 무엇을 보는지는 교수님은 AI 쓴 걸 알까?를 참고하세요.

이 논문들을 읽는 법

• 오탐률을 확인하세요. 오탐률 없는 정확도 수치는 해석하기 어렵습니다. 그래서 DIPPER, Binoculars, RAID는 모두 고정된 낮은 오탐률에서의 탐지율을 보고합니다.
• 어떤 모델과 도메인을 시험했는지 확인하세요. GPT-2나 뉴스 텍스트에서 나온 결과가 방법 섹션을 쓰는 최신 모델에 그대로 적용되지 않을 수 있습니다.
• 날짜를 확인하세요. 상용 도구는 자주 업데이트되므로, 특정 제품의 2023년 점수는 그 시점의 스냅숏일 뿐입니다.
• 누가 잘못 표시되는지 보세요. Liang 등과 Weber-Wulff 등의 연구 모두 비원어민의 글과 번역된 글에서 오류가 가장 크게 나타남을 보여 줍니다.

Academic Humanizer의 자리

이 논문들을 함께 읽으면, 탐지기가 신중하게 쓴 사람의 글에도 나타날 수 있는 표면 통계에 반응한다는 점이 보입니다. Academic Humanizer는 바로 그 이유로 자신의 아이디어가 잘못 분류되는 연구자를 위해 만들어졌습니다. Humanizer는 탐지기가 표시한 문장만 다시 쓰고 논증, 수치, 인용을 유지하며, AI Detection Report는 초안과 결과물을 같은 기준으로 비교해 모든 변경을 검토할 수 있게 합니다. 언제나처럼 제출 전에 소속 기관이나 학술지의 AI 정책을 확인하세요.