AI 탐지기 적용 시 학생 권리 보호를 위한 제도적 보완

생성형 AI의 확산과 함께 AI 탐지기의 도입이 가속화되면서, 교육 현장에서는 기술 활용과 함께 새로운 갈등이 발생하고 있다. 특히 대학, 고등학교, 학술기관 등에서 학생이 제출한 과제나 논문을 AI 탐지기로 검증하는 절차가 일반화되면서, 기술 중심의 판단이 학생의 권리를 침해하는 사례도 나타나고 있다. 예를 들어, GPTZero에서 높은 AI 가능성 판정을 받은 글에 대해 학교 측이 무단으로 ‘표절’ 또는 ‘부정행위’로 간주하고, 별도 확인 절차 없이 감점 또는 징계를 내리는 경우가 있다. 이처럼 AI 탐지기의 판정 결과가 절대적인 사실로 오용되면서, 학생은 스스로 해명할 기회를 갖지 못하고 부당한 평가를 받을 수 있다. 더욱이 AI 탐지기의 오판 가능성이나 기술적 한계는 명확히 존재하지만, 이를 이유로 판정이 번복되거나 재평가가 이뤄지는 사례는 매우 드물다. 이런 환경에서는 학생의 표현 자유와 학습권, 정당한 평가를 받을 권리가 침해될 가능성이 크다. 따라서 AI 탐지기를 활용하는 과정에서 학생의 권리를 어떻게 보호할 것인지에 대한 제도적 보완이 시급히 논의되어야 한다.

AI 탐지기 판정 결과에 대한 소명과 이의제기 절차의 부재

AI 탐지기가 학생 글에 대해 높은 AI 생성 확률을 표시했을 경우, 현재 대부분의 학교나 기관은 별도의 이의제기 절차 없이 해당 점수를 신뢰하는 구조를 유지하고 있다. 이러한 구조는 학생이 억울한 상황에 처하더라도 사실상 문제를 해결할 수단이 없음을 의미한다. 학생이 직접 작성한 글임을 주장하고, 그 과정을 설명하거나 초안, 참고자료 등을 제출하더라도, 탐지기 점수 하나로 모든 평가가 결정되는 경우도 적지 않다. 이는 평가 과정의 투명성과 공정성을 저해하며, 기술 중심 평가가 교육의 인간적 판단 기능을 대체하고 있다는 비판을 낳고 있다. 또한 이의제기 절차가 존재하더라도, 그 기준이 명확하지 않거나 담당자가 AI 기술의 원리에 대해 충분한 이해를 갖추지 못한 경우에는 실질적인 문제 해결이 어렵다. 학생이 소명할 수 있는 최소한의 권리로는 판정 결과의 근거 설명을 요구할 수 있는 권리, 점수 오류에 대한 검토 요청 권리, 그리고 최종 평가에 대해 제3자에게 재심을 요청할 수 있는 권리가 포함되어야 한다. 그러나 현재 대부분의 교육기관은 탐지기 결과를 ‘정답’으로 받아들이는 경향이 강하고, 학생에게는 방어 수단이 없는 상태다.

특히 비영어권 국가에서 영어 과제를 작성한 후 AI 탐지기에 제출했을 때, 단순한 표현과 반복적 문장 구조 때문에 높은 AI 점수가 나오고도 이를 반박할 방법이 없다는 사례가 많다. 어떤 경우에는 번역기를 사용하지 않았음에도 번역투 문장이라는 이유로 AI 의심을 받았고, 실제로 감점 처리된 학생도 있다. 이런 상황은 학생에게 정당한 방어권이 주어지지 않는 구조적 문제를 드러내며, 이의제기 시스템의 부재가 얼마나 학습자의 권리를 위협하는지를 보여주는 대표적인 예다.

AI 탐지기 오탐 방지를 위한 절차적 보호 장치 필요성

AI 탐지기가 완전한 기술이 아니며, 오류 가능성과 해석의 불확실성이 존재한다는 점에서, 그 판정 결과가 평가에 결정적으로 작용하는 상황에서는 보다 정교한 절차적 보호 장치가 필요하다. 첫째, AI 탐지기 결과를 활용할 경우, 반드시 인간 평가자의 추가 검토를 의무화해야 한다. 교수나 담당자는 탐지기 점수 외에도 글의 내용, 주제 적합성, 글쓰기 과정 등을 함께 고려해야 하며, 단일 수치에 의존한 평가를 지양해야 한다. 둘째, 학생에게 사전 고지 및 동의를 받는 절차가 필요하다. 예를 들어 “AI 탐지기 분석이 수행되며, 이 결과는 단독 평가 기준이 아니며, 이의 제기 절차가 마련되어 있음”이라는 사실을 안내해야 한다. 셋째, 판정 결과가 일정 기준 이상일 경우, 자동 불합격이나 감점이 아닌 ‘재확인’ 단계를 먼저 거치는 절차를 도입해야 한다. 넷째, 학생의 소명을 반영할 수 있는 플랫폼이나 문서 양식을 제공하고, 이를 평가자가 의무적으로 검토하도록 제도화해야 한다. 마지막으로, AI 탐지기 개발업체가 제시한 점수 해석 기준이 평가 현장에서 어떻게 활용되는지에 대해 학교가 책임 있는 기준과 가이드를 마련해야 한다. 탐지기는 교육적 도구이지, 사법적 판결의 도구가 아니기 때문이다.

학생 권리를 위한 AI 탐지기 기반 평가 시스템의 재설계 방향

AI 탐지기를 교육에 적용하는 것은 피할 수 없는 흐름이지만, 그 활용이 학습자의 권리를 침해하지 않도록 하기 위해서는 평가 시스템 전반의 재설계가 필요하다. 첫 번째로, AI 탐지기 기반 평가를 보조적 판단 도구로 명확히 규정하고, 점수 해석에 대한 가이드라인을 표준화해야 한다. 예를 들어 AI 가능성 80% 이상이더라도, 인간 평가자의 보완 검토와 학생의 소명 없이는 평가에 반영하지 않는 등의 원칙이 필요하다. 두 번째로, 학생들이 기술에 대한 신뢰를 갖도록 하기 위해 탐지기 알고리즘의 구조와 오류 가능성에 대한 설명 교육이 함께 이뤄져야 한다. 세 번째로, 기관 내부에 AI 탐지기 관련 이의제기 전담 부서를 설치하고, 제3자 검토 절차를 통해 내부 평가의 객관성을 확보해야 한다. 네 번째로, 탐지 결과 리포트는 반드시 ‘해석 가능한 언어’로 제공되어야 하며, 탐지 사유와 위험 문장이 명확히 구분되어야 한다. 마지막으로, 학생의 글쓰기 능력을 향상시키는 방향으로 탐지기 피드백을 재설계하고, 창의적 글쓰기 교육과 병행함으로써 기술 사용이 학습자의 권리와 충돌하지 않도록 조정해야 한다. AI 탐지기의 도입이 공정한 평가를 위한 것이라면, 그 평가가 모든 학습자에게 동등한 권리와 해명의 기회를 제공할 수 있어야 한다. 기술은 결코 인간의 권리 위에 설 수 없으며, 기술 기반 평가도 결국 인간을 위한 교육을 지향해야 한다.