AI 탐지기 시대, 논문 표절과 자동 생성의 도덕성은 어떻게 다른가?

AI 탐지기의 도입은 학문적 부정행위를 감지하기 위한 기술적 진보로 평가되지만, 실제 교육 현장과 학계에서는 ‘표절’과 ‘AI 자동 생성’이라는 두 행위를 동일선상에 둘 수 있는가에 대한 윤리적 논쟁이 확산되고 있다. 표절은 기본적으로 타인의 아이디어나 문장을 출처 없이 가져와 자신의 것으로 주장하는 행위이며, 이는 오랜 기간 학문적 사기행위로 규정돼 왔다. 반면 AI 자동 생성은 기계가 만들어낸 문장을 사람이 사용하는 것이며, ‘타인’의 결과물을 도용하는 것이 아니라는 점에서 표절과는 본질적으로 구별된다. 그러나 AI 탐지기는 이러한 구분 없이 단지 ‘사람이 썼는가, 기계가 썼는가’만을 판단하려 한다. 이로 인해, 학문 윤리의 핵심 가치인 창의적 사고, 독자적 연구, 출처 명기 등의 판단 기준이 기술적 수치에 의해 흐려지고 있다. 실제로 많은 대학은 AI 생성 가능성이 높게 나타난 글에 대해 표절과 유사한 수준의 조치를 취하고 있으며, 이 과정에서 학생은 ‘창작의 주체’로서의 자율성과 도덕성을 부정당하는 경우가 발생한다. 이처럼 AI 탐지기는 표절과 자동 생성의 본질적 차이를 고려하지 않은 채 일률적으로 부정행위로 처리하려는 경향을 강화하고 있다.

AI 탐지기 결과가 도덕성 판단을 대체할 수 없는 이유

AI 탐지기는 기술적으로는 문장의 통계적 특성을 기반으로 작동하지만, 그것이 학문적 도덕성까지 판단할 수 있는 것은 아니다. 표절의 도덕적 문제는 ‘남의 것을 자신의 것으로 속이는 행위’에 있으며, 이는 의도성과 출처 은폐라는 요소를 포함한다. 반면 AI로 글을 생성하는 행위는 일종의 도구 활용이며, 이를 어떻게 사용했는지에 따라 도덕적 판단은 달라질 수 있다. 예를 들어, GPT를 사용해 논문의 초안을 잡고, 그 후 자신의 분석과 의견을 반영해 수정·보완했다면, 이는 창작 과정의 일부로 볼 수 있다. 그러나 동일한 텍스트가 AI 탐지기에서 ‘AI 작성 가능성 90%’로 표시된다면, 일부 교수나 기관은 이를 표절에 준하는 부정행위로 간주한다. 문제는 AI 탐지기가 의도성을 판별할 수 없다는 것이다. 기술은 결과만 보여줄 뿐, 그 결과가 도출된 과정을 이해하지 못한다. 따라서 AI 탐지기 점수만으로 도덕적 평가를 내리는 것은 매우 위험하며, 교육자는 결과뿐 아니라 ‘어떻게 그 글이 만들어졌는가’를 함께 살펴야 한다. 도덕성은 맥락과 의도에 따라 판단되는 것이며, 단일 점수로 측정될 수 없다. AI 탐지기를 도덕적 기준의 대체 도구로 사용하는 것은, 오히려 교육의 윤리적 기반을 해치는 행위가 될 수 있다.

AI 탐지기로는 판단할 수 없는 학문적 기준의 복잡성

학문적 기준은 단지 ‘글을 누가 썼는가’가 아니라, ‘얼마나 독자적인 사고와 근거를 바탕으로 구성됐는가’를 중심으로 한다. 따라서 AI로 생성된 문장이라 하더라도, 그것이 단순한 복제물이 아니라 창의적 구조 안에 포함되어 있고, 논리적 주장을 지지하기 위한 수단으로 활용됐다면 학문적 기여로 간주될 여지가 있다. 반면, 사람 손으로 쓴 글이라도 타인의 주장만 나열하고 스스로의 분석이 없다면 그것은 학문적으로 부실한 글이다. AI 탐지기는 이런 구분을 할 수 없다. 기술은 창의성과 비판적 사고의 존재 여부를 판단할 수 없으며, 단지 언어의 패턴만을 감지할 뿐이다. 그렇기에 AI 탐지기 결과를 기준으로 학문적 완성도를 평가하는 것은 명백한 오류다. 실제로 한 국내 대학의 연구윤리위원회에서는 AI 사용이 감지된 논문에 대해 토론을 벌인 끝에, “전체 구조와 주장의 흐름이 창의적이며, AI는 단지 초안에 활용된 도구”라는 점을 근거로 논문을 그대로 인정한 사례가 있다. 이는 학문적 판단이 기술적 결과가 아닌, 내용의 질과 구조, 창의성에 기반해야 함을 보여준다. 학문은 단순히 글을 쓰는 것이 아니라, 개념을 구성하고 논리를 전개하며, 타당한 근거를 통해 주장을 설득하는 과정이다. AI 탐지기는 이 과정을 감지할 수 없으며, 따라서 그 결과는 학문적 판단의 참고 수준을 넘지 못한다.

AI 탐지기 시대, 새로운 도덕성과 학문 규범이 필요하다

AI 탐지기 기술이 계속 발전하고, 학생들의 AI 활용이 일상화되는 시대에는 표절과 AI 자동 생성 사이의 윤리적 경계를 명확히 재정의해야 한다. 가장 중요한 것은 학생과 연구자에게 ‘어디까지가 허용 가능한 AI 활용인지’에 대한 명확한 기준을 제시하는 것이다. 예를 들어, AI를 아이디어 정리에 활용하는 것은 허용하고, 문장 수준 생성은 주의 요구, 전체 글의 50% 이상 자동 생성은 부정행위로 간주하는 식의 세부 규정이 필요하다. 둘째로는 AI 탐지기의 결과를 도덕성 판단 도구로 삼는 것을 지양하고, 글의 작성 과정, 초안 존재 여부, 작성자의 설명 등을 함께 고려하는 평가 체계로의 전환이 필요하다. 셋째는 학문 공동체 내에서 AI의 도구적 성격을 인정하면서도, 창의성과 비판적 사고를 독려하는 방향의 규범을 만들어야 한다. 이를 위해서는 교과과정에 AI 활용 윤리 교육을 포함시키고, 교수자와 학생이 함께 학문적 기준을 정립해가는 문화가 필요하다. 마지막으로, 기술에 기대기보다는 ‘설명 가능한 평가’를 지향해야 한다. AI 탐지기는 ‘이 글은 AI일 가능성이 높다’는 정보만 줄 수 있고, 왜 그런 결과가 나왔는지 설명할 수 없다. 도덕성과 학문적 정당성은 설명 가능한 평가 과정을 통해 확보될 수 있으며, 이는 결국 인간 중심의 교육 철학에서 비롯된다.