논문 AI 판독 오류 사례 모음: AI 탐지기로 억울하게 표절 처리된 학생들

AI 탐지기의 도입은 논문 표절과 같은 학문적 부정행위를 방지하려는 목적에서 시작되었지만, 실제 교육 현장에서는 이 기술이 오히려 억울한 피해자를 양산하고 있다는 비판이 계속되고 있다. 특히 GPTZero나 Turnitin과 같은 대표적인 AI 탐지기는 문장의 예측 가능성이나 반복 구조를 기반으로 ‘AI가 작성했을 확률’을 수치화하지만, 이 결과가 절대적인 판단 기준으로 오용되는 사례가 심심치 않게 나타나고 있다. 예를 들어, 국내 모 대학의 문헌정보학과 대학원생 A씨는 직접 작성한 논문 초안이 Turnitin의 AI 탐지 기능에서 93%의 AI 생성률로 표시되었고, 지도교수로부터 재작성 지시를 받았다. 그는 조사와 정리를 수차례 거쳐 만든 원고를 부정행위로 오해받은 것에 큰 충격을 받았으며, 이후 심리적 압박으로 인해 논문을 포기했다. 문제는 이처럼 탐지기의 결과가 교육자에게도 ‘절대적인 증거’처럼 여겨진다는 점이다. 심지어 탐지기의 수치가 높다는 이유만으로, 어떤 교수는 학생의 글 전체를 AI가 작성한 것으로 간주하고 면담조차 생략한 채 성적을 무효 처리하기도 한다. 하지만 이 기술은 어디까지나 ‘가능성’에 기반한 확률적 추정이며, 확정적 증거가 아니다. 기술은 오류를 포함할 수 있다는 점에서 그 결과에 의존한 평가 행위는 신중을 기해야 하며, 책임 또한 사용자에게 있다.

 

AI 탐지기 오류로 인해 실제로 발생한 피해 사례들

AI 탐지기로 인한 오답률 문제는 단순한 기술 오류에 머물지 않고, 학생들의 삶과 커리어에 중대한 영향을 미치는 수준으로 확산되고 있다. 미국의 한 대학에서는 영어영문학과 재학생 B씨가 제출한 학기말 에세이가 GPTZero에 의해 96% AI 작성 판정을 받아 0점 처리된 사례가 있다. B씨는 수업을 성실히 수강했으며, 해당 글의 초안과 수정본, 독서 기록까지 보관하고 있었지만, 담당 교수는 탐지기의 결과를 이유로 학생의 반박을 받아들이지 않았다. 이에 따라 B씨는 해당 과목을 재수강해야 했으며, 장학금 대상에서도 제외되었다. 한국의 사례도 심각하다. 모 과학기술특성화대학에서 졸업논문을 제출한 C씨는 Turnitin 탐지기에서 85% AI 생성률을 기록해 졸업 보류 판정을 받았고, 졸업 일정이 한 학기 미뤄지는 결과를 겪었다. 이 학생은 GPT를 전혀 사용하지 않았고, 오히려 논문 작업 기간 동안 자료 조사 일지를 매일 작성했지만, ‘기계적 문장 구성’이라는 사유로 글 전체가 의심받았다. 특히 문제는 교수나 대학이 이 결과를 객관적으로 해석할 준비가 부족하다는 데 있다. 대부분의 AI 탐지기는 결과 수치를 제공할 뿐, 정확히 어떤 문장이 어떤 기준으로 판단되었는지는 설명하지 않는다. 그 결과 학생은 방어할 수 없고, 교수는 결과에 기댄 판단을 내리게 된다. 피해자는 결국 AI가 아닌 사람인 것이다.

AI 탐지기 결과에 대한 맹신과 제도적 허점의 악순환

AI 탐지기의 판별 결과는 참고용이라는 전제가 있지만, 실제 교육현장에서는 이 수치가 절대적인 평가 도구로 기능하는 경우가 많다. 교수들이 해당 기술의 한계나 작동 원리를 정확히 이해하지 못한 채 결과 수치만을 신뢰하는 경우가 빈번하며, 이에 따라 정량적 수치가 질적 판단을 대체하게 된다. 특히 논문이나 에세이 평가에서 ‘AI 점수’가 일정 기준 이상이면, 별도의 검토 없이 부정행위로 처리하거나 재제출을 요구하는 규정이 생겨나고 있다. 이는 기술이 사람의 판단력을 대체하는 위험한 구조로 이어지며, 교육의 본질적 가치를 훼손한다. 예를 들어, 최근 한 대학에서는 AI 탐지기에서 80% 이상 점수를 받은 보고서를 ‘AI 사용 의심’으로 분류해 별도의 해명서를 요구하고 있으며, 해당 조치에 대한 학생의 이의 제기는 대부분 기각되고 있다. 이 과정에서 가장 큰 문제는 ‘의심받는 사람’이 입증 책임을 져야 한다는 점이다. AI 탐지기는 “AI가 썼을 가능성이 높다”고 말할 뿐, 진짜 사용 여부를 입증하지 못한다. 하지만 학생은 자신의 글이 인간의 손으로 쓰였다는 것을 설명하기 위해 초안, 타이핑 영상, 메모 등을 증거로 제출해야 한다. 교육은 본래 ‘신뢰’를 기반으로 해야 하지만, AI 탐지기가 평가의 중심에 놓이는 순간 학생은 항상 ‘의심받는 자’로 존재하게 된다. 이 구조는 교육의 목적과 윤리에 반할 뿐 아니라, 지속 가능한 학문 공동체를 위협하는 요인이 된다.

AI 탐지기 오답률을 줄이기 위한 현실적 대안과 방향성

AI 탐지기를 완전히 배제할 수는 없지만, 현재와 같은 일방적 사용은 반드시 제도적으로 재검토되어야 한다. 먼저 가장 시급한 개선점은 ‘AI 탐지기 결과에 대한 이의제기 절차의 공식화’다. 학생은 단순한 결과 수치에 반박할 권리를 가져야 하며, 대학은 탐지기 결과 외에도 학생이 제공하는 증거를 함께 검토하는 시스템을 마련해야 한다. 예를 들어 초안과 최종본 비교, 타이핑 로그, 문장 수정 과정 등을 제출하면, 교수는 이를 근거로 ‘사람이 썼을 가능성’을 판단할 수 있어야 한다. 둘째로, AI 탐지기의 결과를 활용하되 판단의 근거로 삼을 때에는 ‘교수의 해석 보고서’를 동반해야 한다. 단순 수치로 인한 자동 평가가 아니라, 교수의 해석과 판단이 함께 기록되어야 공정성과 설명 책임이 보장된다. 셋째로, 학생과 교수를 대상으로 AI 탐지기와 관련된 기술 교육이 필수화되어야 한다. 기술이 무엇을 기준으로 작동하는지, 오답률이 어느 정도인지, 어떤 한계가 있는지를 이해하지 못한 채 사용하는 것은 비윤리적이다. 넷째로, 논문 심사나 졸업 평가 등 고위험 평가에서는 AI 탐지기 의존을 낮추고, 동료 평가 또는 구술 면담을 병행하는 방식이 도입될 필요가 있다. 마지막으로 대학 차원에서 ‘AI 탐지기 보조 활용 가이드라인’을 마련해, 어떤 경우에 탐지 결과를 어떻게 사용할 것인지 명확한 기준을 수립해야 한다. 기술은 도구일 뿐이며, 사람의 사고를 대체할 수 없다. 진짜 학문은 여전히 사람의 손에서 시작되며, 교육의 정의는 판단의 여지를 남길 때 완성된다.