AI 탐지기 중심 평가 체계, AI와 인간의 협업은 허용될 수 있을까

 

생성형 AI 기술의 급속한 발전은 교육과 학문 전반에 큰 영향을 주고 있으며, 그중에서도 ‘인간의 글쓰기’와 ‘AI의 도움을 받은 글쓰기’ 사이의 경계가 모호해지고 있다. ChatGPT를 비롯한 대규모 언어 모델은 단순한 문장 생성 기능을 넘어, 논리적 구성, 문체 조정, 아이디어 브레인스토밍까지 가능하게 함으로써, 많은 학습자들이 실제 과제나 글쓰기 과정에서 부분적으로 AI를 활용하고 있다. 문제는 이러한 협업적 글쓰기가 AI 탐지기에는 ‘순수 인간 작성’으로 간주되지 않고, 전체가 AI 생성물로 판단될 가능성이 높다는 점이다. 특히 Turnitin이나 GPTZero 등의 탐지기는 문장의 구조적 패턴과 단어 선택 확률을 바탕으로 감지하기 때문에, AI가 일부 기여했더라도 전체 문서가 감지 범위에 포함될 수 있다. 이로 인해 학생과 연구자들은 협업의 투명성을 갖고자 해도, 탐지기가 이를 구분하지 못해 부정행위로 오해받는 상황이 생기고 있다. 기술이 인간의 작업을 보조하는 도구로 자리잡아야 할 시점에, AI 탐지기는 오히려 협업의 가능성을 원천 차단하고 있다는 우려가 제기된다. 인간과 AI의 협업 가능성을 교육 시스템 내에서 허용하기 위해선, 그 경계와 판단 기준이 명확히 정립되어야 한다.

AI 탐지기 기준에 따른 협업 제한의 문제점

현재 대부분의 교육기관이나 학술지에서는 AI 탐지기 점수가 일정 수준 이상이면, 해당 문서가 인간 창작으로 보기 어렵다는 입장을 취하고 있다. 그러나 이는 AI의 사용 범위나 역할에 대한 구체적 분석 없이 결과 수치만을 판단 기준으로 삼는 방식이기 때문에, 공정성과 논리성에서 한계를 갖는다. 예컨대 일부 학생은 AI를 아이디어 정리에만 활용했음에도 높은 감지 점수를 받아 징계 대상이 되고, 반면 AI를 광범위하게 사용한 다른 학생은 탐지기를 회피한 문장을 작성해 문제없이 통과되는 상황이 발생한다. 이는 기술적 기준의 오류일 뿐만 아니라, 교육적 윤리 기준의 왜곡이기도 하다. AI 탐지기가 인간-AI 협업의 흔적을 구분하지 못한다면, 오히려 학생들은 투명한 협업을 회피하고 감지 회피 전략에 몰두하게 된다. 결과적으로 탐지기의 오작동이 정직한 협업보다 교묘한 회피를 유도하는 아이러니한 구조를 만든다. 교육은 정직한 시도와 발전 가능성을 존중하는 공간이어야 하며, 탐지기는 그 시도의 진위를 파악하지 못하는 한 한계가 존재할 수밖에 없다. 따라서 단순히 AI 사용 여부를 감지하는 것을 넘어, 어떤 방식으로 협업이 이루어졌고, 인간이 어느 정도 개입했는지를 판단할 수 있는 시스템이 필요하다.

AI 탐지기와 인간 협업을 인정하는 평가 모델의 방향

AI와 인간의 협업을 평가 체계 안으로 정식으로 수용하기 위해서는 기존의 감지 중심 탐지기를 보완할 수 있는 새로운 평가 모델이 필요하다. 먼저 ‘AI 사용 선언서’ 또는 ‘사용 보고서’를 학생이 제출하도록 함으로써, AI 사용 여부를 스스로 공개하고, 어떤 단계를 어떻게 보조했는지 설명할 수 있도록 해야 한다. 이는 협업의 투명성을 높이며, 교육자 역시 학생의 학습 태도와 창의적 기여도를 함께 평가할 수 있는 기반이 된다. 다음으로 평가자는 탐지기 점수 외에도, 작성 과정, 수정 이력, 내용의 창의성 등을 종합적으로 판단해야 한다. 단순한 감지 수치에 의존한 평가보다는, 글의 주제 전개 방식, 논증의 깊이, 사고의 흐름 등을 기준으로 한 평가 체계를 확립하는 것이 바람직하다. 또한 AI 탐지기 개발자들은 기술의 역할을 단순 감지에서 벗어나, 협업 패턴을 인식할 수 있는 방향으로 진화시킬 필요가 있다. 예를 들어 ‘AI 생성 문장 비중’, ‘수정된 문장 비율’ 등의 정량 데이터를 기반으로, 인간 기여도를 수치화하거나 시각화하는 기능이 개발된다면, 평가의 객관성을 높이는 데 큰 도움이 될 것이다. 협업은 금지가 아니라 조정과 교육의 대상이 되어야 하며, 탐지기도 그 방향성을 함께 반영해야 한다.

AI 탐지기 이후의 교육 평가 기준, 협업을 품을 수 있는가

궁극적으로 AI 탐지기 중심의 평가 체계가 교육의 미래 방향과 조화를 이루려면, 인간과 AI의 협업을 ‘회피해야 할 대상’이 아니라 ‘지도하고 유도해야 할 학습 전략’으로 재정의해야 한다. 생성형 AI의 시대는 피할 수 없는 현실이며, 학생들은 앞으로 어떤 방식으로든 이 도구들과 함께 학습하고 성장하게 될 것이다. 교육의 역할은 기술 사용을 통제하는 것이 아니라, 기술과의 건전한 상호작용을 설계하는 데 있다. AI 탐지기의 존재가 학습자의 창의성과 자율성을 억제하고, 정직한 협업조차 부정하는 결과를 낳는다면, 이는 기술의 목적을 오용하는 셈이 된다. 따라서 향후 교육 시스템은 협업을 허용하되, 명확한 기준과 가이드라인을 통해 학생이 책임 있게 AI를 활용할 수 있도록 도와야 한다. 또한 평가 체계 전반은 인간 사고와 표현의 과정 자체에 더 높은 가치를 부여하도록 재편되어야 하며, 탐지기는 그 보조 수단으로 작동해야 한다. AI 탐지기 기술은 결국 평가 시스템의 일부일 뿐이며, 그 중심은 언제나 사람, 즉 교육자와 학습자여야 한다. 기술은 정직함을 검증하는 도구로 남되, 인간의 가능성을 억제하는 장치가 되어서는 안 된다. 인간-AI 협업 시대의 교육은 기술의 감시가 아닌, 신뢰와 책임의 철학 위에서 설계되어야 한다.