생성형 AI 확산 속 AI 대필 논문 등장
기존 표절 탐지 체계 한계 노출
연구 과정 중심 평가 체계 전환 요구

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

학문적 진실을 탐구해야 할 논문이 인공지능(AI)을 거치며 정교한 가짜로 변질되는 사례가 늘고 있다. 겉으로는 완성도 높은 학술 형식을 갖췄지만 실제로는 허위 데이터나 조작된 근거에 기반한 연구가 적지 않다. 더욱이 기존 표절 탐지 도구로는 이러한 새로운 형태의 부정을 거의 가려내지 못한다는 사실이 드러났다. 이로 인해 연구 검증과 평가 체계를 전면적으로 다시 설계해야 한다는 요구가 학계 안팎에서 커지는 추세다.

AI 대필에 따른 학문 평가 위기

변화는 AI 사용 확산과 맞물려 빠르게 나타나고 있다. 지난해 전국 단위 조사에서 대학생의 88%가 과제 작성 과정에 AI를 사용한 것으로 드러났다. 일부 학생은 참고문헌 정리나 문장 교정에 그치지 않고 논문의 핵심 논지를 생성하거나 존재하지 않는 출처를 만들어내는 데까지 AI를 사용했다. 논문이 더 정교해 보이도록 허위 정보를 덧붙이는 사례도 확인됐다.

기술적 측면 역시 이러한 변화를 뒷받침한다. AI는 적절한 프롬프트만 주어지면 실험 구상부터 데이터까지 포함한 논문 형태의 결과물을 단시간에 만들어낸다. 이른바 'AI 기반 논문 부정(AI-assisted thesis fraud)'이 등장한 배경이다. 겉으로는 정상적인 연구처럼 보이지만 실제로는 조작된 근거와 취약한 주장에 기반한 경우가 많다. 문장의 완성도와 연구 내용의 실질 사이에 큰 간극이 발생한다는 점이 가장 큰 위험 요소다.

최근 연구에서도 이 같은 가능성이 확인됐다. 실제 대화 형식으로 질문을 이어가며 AI를 유도할 경우 상당수 시스템이 허위 결과나 부적절한 연구 방법까지 생성하는 것으로 나타났다. 여기에 AI 시스템이 지속적으로 업데이트되며 안전장치를 우회하는 방식도 함께 발전하고 있다는 점이 문제를 더욱 복잡하게 만든다.

표절 탐지 한계 드러난 대응 체계

이처럼 부정 방식이 바뀌면서 기존 대응 방식의 한계도 드러나고 있다. 그동안 학계는 표절 탐지 기술을 중심으로 연구 윤리를 관리해 왔다. 그러나 현재의 탐지 방식은 새로운 유형의 부정을 충분히 걸러내지 못한다. 대표적인 예가 문장 유사도 검사다. 이러한 방식은 다른 글에서 그대로 가져온 문장을 찾는 데는 효과적이지만, 새롭게 만들어진 내용까지 판별하기는 어렵다. 표현을 바꾸거나 문장을 재구성하면 탐지를 벗어날 가능성도 높다.

탐지 기술을 강화하거나 처벌을 확대하자는 주장도 있지만 효과에는 한계가 있다. 연구에 따르면 현재의 탐지 시스템은 문장 표현을 조금만 수정하거나 문법 교정 프로그램으로 다듬는 수준의 편집만으로도 탐지를 피할 수 있는 것으로 나타났다. AI 표절 탐지 프로그램인 턴잇인(Turnitin) 등 관련 기업이 높은 정확도를 강조하며 기술을 내놓고 있지만, 성능은 특정 조건에서만 안정적으로 나타난다. 글의 유형이나 작성자의 언어 능력에 따라 결과가 크게 달라지며 사람이 편집을 거친 글에서는 탐지 정확도가 크게 떨어지는 것으로 확인됐다.

더 큰 부작용으로 지적되는 것은 오탐지 문제다. 학생이 직접 작성한 연구 결과가 AI 생성물로 잘못 판정될 경우 교육 현장의 신뢰가 크게 훼손될 수 있다. 처벌 중심의 정책 역시 한계를 드러낸다. 학생들이 부정행위를 선택하게 되는 구조적 배경을 해결하지 못하기 때문이다. 대학이 연구의 깊이나 과정보다 논문 수 같은 정량적 성과에만 무게를 둘수록 학생들은 겉보기에는 완성도 높은 논문을 빠르게 만들어내려는 유혹에 더 쉽게 노출된다.

신뢰 회복을 위한 제도적 전환

지능화된 논문 부정에 대응하려면 탐지 기술에만 의존하기보다 연구 과정의 투명성을 높이는 방향으로 평가 체계를 전환해야 한다. 우선 연구의 출처를 확인할 수 있는 평가 방식이 필요하다. 논문 제출 시 기초 데이터와 공개 발표를 함께 요구하는 방식이다. 학생이 데이터 수집 경로와 연구 설계 선택 이유를 설명하는 영상을 제출하도록 하면 조작 시도를 크게 줄일 수 있다. 구두 심사 역시 내용 이해도를 확인하는 방식으로 강화해 즉석에서 논리를 설명하거나 계산 과정을 재현하도록 하는 절차가 요구된다.

연구 과정 자체를 기록으로 남기는 체계도 마련돼야 한다. 문서의 버전 변경 이력, 초안 수정 과정, AI에 입력한 질문과 생성 결과 등을 함께 제출하도록 하는 방식이다. 이러한 기록은 연구가 어떤 과정을 거쳐 만들어졌는지 확인하는 중요한 단서가 된다. 전문가 검토와 협력 평가의 역할도 확대돼야 한다. 형식 요건을 확인하는 심사에서 벗어나 연구 방법과 데이터의 타당성을 함께 검토하는 복수 전문가 평가가 중요하다. 일부 논문에 대해서는 동료 연구자가 핵심 분석이나 논리를 직접 재현하는 검증 절차를 도입하는 방안도 고려할 수 있다. 지도교수 평가 기준 역시 변화가 불가피하다. 논문 편수 중심에서 벗어나 지도 과정의 충실도와 연구 결과의 재현 가능성을 함께 반영하는 방향으로 재편이 요구된다.

학문적 정직성 토대 재정립

AI 확산으로 조작된 연구가 학계에 유입되고, 심사 과정의 시간과 자원이 낭비되는 부작용이 나타났다. 단순한 표절 탐지 보고서에 의존하는 방식만으로는 상황에 대응하기 어렵다. 이러한 논문은 타인의 글을 표절한 문제가 아니라 존재하지 않는 사실을 만들어낸 경우가 많기 때문이다. 따라서 대응 방향도 달라져야 한다. 연구의 출처를 투명하게 기록하고 연구 내용에 대한 이해도를 엄격히 검증하는 평가 문화가 필요하다. 논문 작성 과정 기록 의무화나 소규모 재현 검증 같은 제도를 도입하면 부정을 완전히 차단하지는 못하더라도 시도 자체의 비용을 크게 높일 수 있는 구조가 형성된다. 검증 가능한 연구가 정당하게 평가받는 환경이 마련될 때 학문 공동체에 대한 신뢰도 유지될 수 있다.

본 연구 기사의 원문은 The Quiet Fraud: Why AI-Assisted Thesis Fraud Is the New Academic Mirage을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.