IEEE Spectrum, AI 생성 가짜 논문 실험으로 학술 출판 심사의 취약점 점검
Guarding the Gates of Knowledge
IEEE Spectrum 기고자 Benjamin Skuse가 AI로 생성한 논문을 IEEE 심사 체계에 투입해 통과 여부를 확인했다. 그는 실험 하나에서 'run experiment'와 'write paper'만 실행하고 결과물을 손대지 않았으며, 이 결과는 과학 기록의 신뢰를 지키는 일이 얼마나 어려워지고 있는지를 보여준다. 기사에 따르면 Skuse는 프리랜서 작가이자 응용수학 박사로서, AI로 만든 논문이 IEEE의 방어 장치를 통과할 수 있는지 직접 시험했다. 그는 생성된 논문이 어느 정도 그럴듯하고 어느 정도 과학적으로 보이는 수준에 쉽게 도달한다는 점에 놀랐다고 한다. IEEE의 사람 기반 심사 절차와 연구 무결성 검사 프로그램은 무료 도구를 쓰는 생성물과의 고양이와 쥐 같은 싸움에서 현재는 맞서고 있지만, 더 고급 LLM은 무료 버전이 범하던 단순한 실수를 더 이상 저지르지 않는다고 기사는 전한다. 그래서 출판사들은 점점 그럴듯해지는 저품질 생성물과 이를 가려내는 시스템 사이의 군비 경쟁에 갇혀 있다는 것이다. 기사는 Wikipedia도 같은 문제에 직면해 있다고 전한다. 자발적 편집자 모임인 WikiProject AI Cleanup은 플랫폼에서 AI 생성 자료를 찾아 삭제하는 작업을 하고 있으며, 이 팀은 상업 출판사와 같은 문제를 더 적은 인원과 도구로 맡고 있다. 기사는 이러한 불신이 누적되면 과학 기록과 기본 사실에 대한 공통 인식이 흔들리고, 지식을 큐레이션하는 기관들에 대한 신뢰도 함께 약해진다고 경고한다.
IEEE 심사 절차를 통과한 AI 생성 논문 사례처럼, 자동 생성 콘텐츠를 탐지하는 검사 도구의 한계를 고려해 데이터와 문서 파이프라인에 사람의 검증 단계를 명시적으로 넣는 것이 중요하다.
원문 출처
IEEE Spectrum — AI