생성형 AI, 학계 내 확산되는 연구윤리 리스크와 시스템적 대응의 필요성

생성형 AI가 학계 현장에 빠르게 확산되면서, 국내외 학문 공동체에서 윤리 문제와 관련된 우려가 실질적으로 증대되고 있다. 주요 대학과 연구 기관들은 최근 논문 제출 및 연구 보고 과정에서 AI 도구의 무분별한 활용으로 인한 저작권 침해, 표절, 사실 왜곡, 데이터 조작 등의 심각한 사례가 실제로 확인되고 있음을 공식적으로 인정했다. 단순한 우려 차원을 넘어, 이미 실질적 피해 사례가 학술지 및 심사 과정에서 빈번하게 포착되고 있다는 점이 전문가들 사이에서 공유된다. 주요 학술지의 편집위원들은 AI 도구 사용 흔적이 있는 논문의 표절률 상승, 출처 미기재, 자동 생성문구 오남용을 경고하며, 학계 신뢰성 훼손이라는 구조적 위협이 단기간 내로 심화될 가능성을 명확히 지적한다.

국내외 학문네트워크에서 확산된 문제 유형은 인용 누락, AI 생성 데이터의 출처 불명확, 자동 번역·요약 관련 데이터 오류, 생성형 AI가 생산한 허위 또는 조작된 참고문헌 삽입 등이 대표적이다. 특히 일부 신진 연구자와 대학원생 집단에서 기존의 학술적 윤리 기준에 대한 인식 부족과 AI 도구 활용 편의성에 대한 과신이 복합적으로 작용, 문제를 더욱 심각하게 하고 있다. 일부 대학에서는 AI 탐지 툴 대응책을 시범 도입하는 등 물리적 시스템적 대비를 시도하고 있으나, 현재까지는 학계 전체를 아우르는 통일된 기술적·윤리적 가이드라인 부재로 인해 실효적 대응은 미흡한 상황이다. 실제로 미국과 유럽 주요 대학들은 AI 활용시 반드시 출처 명시와 수기 확인 및 편집 절차를 필수화하는 방안을 공식 입장으로 격상하고 있다. 그런데 한국은 아직까지 연구윤리원칙에 AI 관련 항목이 덧붙여지는 데 그치고 있어, AI의 창의성과 자동화 도구 활용의 명암에 대한 실질적 대응력이 뒤처지고 있다.

여기에 더해, 최근 AI 기업의 서비스가 크게 고도화되면서 텍스트 검열 우회와 탐지 회피, 인간 필력의 완벽한 모방 등이 기존 표절 검출 시스템 자체를 무력화시키는 방향으로 진화하고 있다. OpenAI, Google 등 빅테크가 공급하는 대규모 언어모델(LLM)은 기존의 데이터 학습 과정을 통하여 대규모 학문적 자료를 포함하고 있으며, 이는 소위 ‘AI 저작물’과 실제 연구 결과물 경계의 모호성을 심화시키고 있다. 실제로 일부 AI 모델은 인용에 포함되지 않은 논문, 허위 출판 정보, 합성된 연구 결과물까지 그대로 생성하여 제출 자료에 포함시키는 사례가 발생 중이다. 과학기술정책연구원(STEPI) 및 교육부 산하 연구윤리기구는 최근 이 문제 대응을 위한 ‘AI 활용 연구 및 논문 윤리 관리지침’ 개정안을 협의 중이지만, 국내 일선 대학 및 석·박사 과정 학생들에 대한 실질적 안내 및 교육은 여전히 체계화되지 못했다. 이로 인해 “학생들은 어디까지가 합법이고, 어디에서부터 규정 위반인지조차 모른다”는 내부 관계자 의견이 반복적으로 나오고 있다.

현재 학계의 글로벌 동향을 살펴보면, 영미권 주요 학술지(네이처, 사이언스 등)는 AI 생성 텍스트 활용시 ‘AI가 작성에 어떻게 관여했는지 명확히 표기’해야 하며, AI를 실제 공동저자(Author)로 등재하는 것은 원칙적으로 금지하고 있다. 실시간 AI 활용 탐지 툴(예: Turnitin, Copyleaks) 뿐 아니라, 최근에는 AI 자체가 생성한 문장 구조 분석, 인간 필력과 알고리즘 패턴 감지 등까지 혼합한 다중 솔루션이 개발되고 있다. 이는 AI로 인한 신뢰성 위협이 단순히 표절, 베끼기 수준을 넘어 출판·심사 시스템 자체의 신뢰를 깨뜨리는 위협 요소로 인식되는 점과 맞물린다. 실제 한 국제학술지 편집위원은 “제출 논문의 상당수가 AI가 생성한 후기, 인용, 논문구절을 단순 복붙한 형태”라며 “이런 문서가 통과되면 연구의 재현성과 검증 가능성에 치명적 타격을 준다”고 경고한다.

한국 학계의 사정 역시 다르지 않다. 2025년 들어 대형 국립대 및 상위권 사립대에서 AI 기반 문헌조사 및 논문 작성 지원 서비스를 일괄 중단하거나, ‘AI 활용 내역 제출’을 의무화하는 방침이 확산되는 점 역시 이 위기의 심각성을 반영한다. 동시에 중소규모 대학, 전문대 등에서는 오히려 AI 사용에 대한 규제 공백을 틈타 오·남용 경향이 두드러진다. 과학기술정보통신부가 발행한 2025년 ‘AI 가이드라인’은 이를 보완하고자 ‘데이터 출처 명확성, 생성형 AI 도구 이용범위 준수, 자동생성 데이터 신뢰성 검증’ 등을 주요 항목으로 신설했으나, 실질적 실행 단계에서는 여전히 자율 준수에 의존하는 분위기가 강하다.

결국, 생성형 AI의 확산은 학계에 새로운 효율성과 생산성을 제공하는 동시에, 기존 학문 생태계 자체의 신뢰성·투명성 체계를 위협하는 근원적 요인으로 작용하고 있다. 핵심은 AI 도구 활용의 편의성, 효율성 지원과 동시에, 자동화 시스템을 통한 악용 사례 탐지와 엄정한 윤리적 판단이 공존해야 한다는 점이다. 향후에는 AI로 인한 연구윤리 위반이 단순한 실수나 이해 부족 문제가 아니라, 학문 공동체 전체의 존립을 위협하는 시스템적 위기임을 인식한 정책적·기술적 대응이 반드시 병행되어야 한다. 과학기술계와 교육계, 정부 및 기업 모두가 학술 표절, 데이터 조작, 허위 연구 사실에 대한 AI 기여도를 실명 및 계량화하고, 실질적 사후 검증 시스템을 확립하는 노력이 필수적이다.

— 윤세현 ([email protected])