[뉴스스페이스=이현주 기자] 세계 최대 학술 논문 사전공개 저장소 arXiv가 인공지능(AI)이 생성한 오류를 검증하지 않고 제출한 저자들에게 1년간 이용을 정지시키는 강력한 제재에 나섰다. 환각(hallucination)으로 인한 허위 참고문헌, 조작된 연구 결과, 대형언어모델(LLM)의 메타 코멘트 등이 그대로 노출된 논문을 제출할 경우 저자 전원이 처벌 대상이 된다.

GeekNews, ainet, AI Brief에 따르면, arXiv의 컴퓨터과학(CS) 분야 머신러닝 섹션 책임자인 토마스 디트리히(Thomas G. Dietterich) 오레곤주립대 명예교수는 최근 X(구 트위터)를 통해 "논문에 이름을 올린 모든 저자는 생성 방식과 무관하게 논문 내용 전체에 대해 완전한 책임을 진다"며 새 제재 방침을 공개했다.

그는 "LLM이 생성한 결과물을 저자가 확인하지 않았다는 명백한 증거가 있다면, 논문에 쓰인 그 어떤 내용도 신뢰할 수 없다는 의미"라고 강조했다. 즉 생성형 AI 도구가 "부적절한 표현, 표절 콘텐츠, 편향된 내용, 오류, 실수, 잘못된 참고문헌, 또는 오해를 유발하는 내용"을 생성하더라도 그에 따른 책임은 저자가 져야 한다는 것이다.

2단계 처벌, 복귀 후에도 장벽

구체적인 처벌은 1년간 arXiv 이용 정지에 그치지 않는다. 정지 기간이 끝난 후에도 저자들이 arXiv에 다시 논문을 제출하려면 먼저 권위 있는 동료심사(peer review) 학술지나 학회에서 논문 승인을 받아야 한다. 이는 사실상 2단계 처벌 구조로, 많은 연구자들이 프리프린트 공개 수단으로 arXiv에 의존하고 있는 상황에서 연구 활동에 1년 이상의 제약이 가해질 수 있음을 의미한다.

수학자 토마스 블룸(Thomas Bloom)은 "arXiv가 AI 사용 자체나 AI가 증명·코드 생성 등에 활용된 논문을 금지하는 것은 아니다"라며 "검증되지 않은 AI 생성 콘텐츠를 그대로 제출한 경우만 대상"이라고 선을 그었다.

챗GPT 이후 논문 폭증, 반려율 5배 급증

이번 조치는 AI 생성 논문의 폭발적 증가라는 배경에서 나왔다. Nature 보도에 따르면 2022년 말 챗GPT 출시 이후 arXiv의 월간 논문 제출 건수가 50% 이상 급증했으며, 매월 반려되는 논문 수는 2,400건 이상으로 5배나 늘어났다. arXiv 공동 창립자인 코넬대 물리학자 폴 긴스파그(Paul Ginsparg)는 "AI 쓰레기 논문(AI slop)은 초록이나 본문을 훑어봐도 판별하기 어려운 경우가 많다"며 "시스템에 대한 실존적 위협"이라고 경고했다.

실제로 arXiv의 총 제출 논문 수는 2025년 4월 기준 271만6,003건에서 2026년 5월 현재 304만996건으로 1년여 만에 32만건 이상 증가했다. 2024년 한 해에만 약 24만4,000건의 논문이 게재돼 2023년 대비 3만4,000건 이상 늘어났으며, 이는 하루 평균 700건에 달하는 수치다. 암스테르담대 천문학자이자 arXiv 편집위원회 의장인 랄프 바이어스(Ralph Wijers)는 "수년간 평균 4%였던 논문 반려율이 2025년 초부터 10~12%로 급증했다"고 밝혔다.

2025년 10월 첫 조치, 이번엔 개인 책임 추궁

arXiv는 2025년 10월 이미 컴퓨터과학 분야의 리뷰 논문 및 포지션 페이퍼에 대해 동료심사를 거친 논문만 접수하겠다는 방침을 발표한 바 있다. 당시 arXiv는 "매월 수백 편의 리뷰 논문이 쏟아지고 있으며, 대부분은 주석이 달린 참고문헌 목록 수준에 불과하다"고 지적했다. 하지만 이번 1년 이용정지 조치는 논문 카테고리 전체가 아닌 개별 저자에게 직접 책임을 묻는다는 점에서 한층 강화된 제재다.

주요 AI 학술대회에 제출된 분석 결과에 따르면 2024년 9월 기준 컴퓨터과학 논문 초록의 약 25%가 LLM에 의해 수정된 흔적을 보였으며, 같은 해 생의학 논문 초록의 13% 이상이 AI의 도움으로 작성된 것으로 추정된다. 또 2025년 arXiv, bioRxiv, medRxiv 등 주요 연구 공유 플랫폼에 게재된 논문은 약 37만 편으로 전년 대비 16% 증가했다.

이번 제재 방침은 arXiv의 공식 정책에는 아직 반영되지 않은 것으로 보이지만, 디트리히 교수의 공개 발언과 다수의 매체 보도를 통해 사실상 시행 예고 상태다. arXiv는 특정 범주의 논문을 일괄 차단하는 대신 개별 저자의 검증 책임을 강조함으로써, AI 시대 학술 출판의 새로운 윤리 기준을 제시하고 있다.