“고등학생도 AI 딥러닝 모델 만들 수 있어요” 현장의 실제 변화와 보안 쟁점

인공지능(AI) 교육이 고등학생들의 손끝까지 도달했다. 최근 주목받는 AI 교육 프로그램 현장 사례에 따르면, 고등학생들이 기본적인 프로그래밍을 넘어 이미지 분류, 자연어 처리 등 실질적 딥러닝 프로젝트에 직접 참여하는 일이 빈번해졌다. 이 기사에선 서울 소재 일반 고교생들이 오픈소스 코딩 플랫폼에서 데이터셋을 설계, 파이썬 코드로 머신러닝 모델을 구축해 자율적 산출물 발표까지 진행하는 현장을 조명한다. 경찰청·한국정보화진흥원 등 공공기관과 대학, IT기업 연계로 교재 커리큘럼 고도화가 진행 중이다. 2026년 1월 기준, 전국 120개 고등학교에서 1,500명 이상이 AI 진로 프로젝트에 참여한다는 것이 교육 당국 집계다.

AI 도구가 고도화되며 프로그래밍 언어 및 신경망 프레임워크가 대폭 간소화된 점도 높은 진입장벽을 낮췄다. 구글 코랩, 텐서플로우, 파이토치 기반 실습 프로그램은 별도 고성능 PC 없이도 브라우저만으로 GPU 연산 환경을 제공한다. 기사에 언급된 교육 담당자는 “CIFAR-10·MNIST 같은 클래식 데이터뿐 아니라, 학생들이 동아리 활동이나 지역 커뮤니티에서 자체 수집한 텍스트·이미지·음성 데이터로 모델을 훈련시키고 있다”고 말했다. 학생들이 직접적 문제의식을 반영한 프로젝트(가짜 뉴스 탐지, 환경 소음 분류 등)가 다수 등장한다는 점에서 실질적 AI 활용 역량이 고교 단계까지 파급되고 있음이 확인된다.

배경에는 정부의 디지털 인재양성 정책이 있다. 2024년 이후 교육부·과기정통부의 ‘AI 인재 100만 양성’ 정책에 힘입어, 공교육 과정 내 ‘AI 기초’, ‘딥러닝 실무’ 등의 선택 과목이 신설됐다. EBS 등 교육 미디어, 삼성전자·네이버 등 민간 플랫폼, 대학이 공동으로 온라인·오프라인 연계 강좌·캠프·경진대회를 개최한다. 학생들은 기본 파이썬 언어, 신경망 구조 원리, 오픈데이터셋 활용법, 모델 튜닝 실습 등을 학습하며, 소규모 팀플레이 기반 자율 프로젝트까지 경험한다는 점이 과거와의 차이다. 실제 교육 현장 교사들은 ‘AI 알고리즘이 블랙박스로만 남지 않고, 데이터 전처리에서부터 모델 평가까지 전체 과정을 설명하며 지도하고 있다’고 입을 모은다.

그러나 이러한 급격한 저변 확대에는 뚜렷한 위협도 존재한다. 가장 큰 문제는 개인정보·윤리·보안이다. 고등학생들이 독자적으로 크롤링 웹 데이터를 취합하거나, 자율 프로젝트로 민감한 정보를 다루는 경우가 늘고 있다. 국내외 다수 사례에서는 사전 동의 없는 데이터 수집, 부적절한 레이블링, 모델 결과 설명 부실 등의 경고가 잇따른다. 사교육 시장에서는 ‘딥러닝 포트폴리오 대행’ 등 미인증 사업자가 난립해, 결과물 조작·저작권 위반·성능 과장 등이 사회문제로 부상 중이다. 실제, 지난해 인공지능 경진대회 참가팀의 7% 내외가 데이터베이스 무단 크롤링, 라이선스 위반 등으로 실격 처리됐다. 미래 교육이 추구하는 윤리적 AI 원칙(투명성·책임성·설명가능성)에 대한 체계적 교육이 더욱 중요해진 결정적 이유다.

기술적 보안 위협도 확산된다. 자율 프로젝트 환경에서는 종종 외부 오픈코드·모듈이 무분별하게 활용된다. 일부 학생들은 깃허브 등에서 악성코드를 포함한 모델 파일(.pt, .ckpt 등)을 별다른 검증 없이 사용하기도 한다. 최근엔 오픈소스 학습 플랫폼·코랩 계정 해킹 및 GPU 도용 사례, 강의자료 공유 사이트에서의 랜섬웨어 유포 시도 등 공격 유형도 진화했다. 현장 인터뷰에 따르면, 2025년 기준 고교 클라우드 계정 공격 보고수가 전년 대비 2.2배 증가했다. 본질적으로 ‘실습 인프라의 사이버 위생’ 보장, 학생 수준에 맞는 강의별 보안 체크리스트 배포, 교육용 계정별 접근권한 분리와 같은 다중 방어 조치가 요구되고 있다. 데이터 바이러스, 무단 로그 수집, 피싱 메일 등 현실적 유형별 사례를 예시로 들어 예방 교육이 병행되어야 한다.

또한, AI 프로젝트에 특화된 저작권·데이터 라이선스 교육 공백도 위험 신호다. 학생들이 AI 모델 생성시 해외 오픈소스(예: Hugging Face, Kaggle) 라이선스 조항을 제대로 고지하지 않거나, 모델 학습 데이터의 원저작권자를 식별하지 않는 경우가 다반사다. 오픈소스 모델 공개 플랫폼의 이해 부족, 결과물 상용화 가능성에 대한 분별력 부족 등 지속적 실습 경험에서 오는 윤리 감수성 약화가 현실적 위협이 되고 있다.

한 발 더 나아가, 교육 인프라의 ‘AI 안전 인식’ 확산이 아직 부족하다. 실제로 교육 현장 교사 연수과정 중에서도 AI 보안·윤리·저작권 실습이 매우 제한적으로 이루어지고 있다는 분석이 있다. 대다수 현장 교육자료는 ‘데이터셋 활용 방법’이나 ‘모델 구성법’ 중심이며, 실습 예제 중 개인정보/저작물 가이드라인 준수가 구체적으로 명시된 것은 20% 미만에 불과하다. 이는 AI 교육의 기초 체계에 보안이 내재화되지 않음을 방증한다. 2026학년도 신입생 커리큘럼부터는 ‘AI 데이터 윤리·사이버 보안’ 주차가 별도로 배정될 전망이나, 실제 이행 수준은 모니터링이 필요하다.

요컨대, 고등학생에게 AI 딥러닝 교육을 확장하는 것은 데이터 활용 역량 저변 확대, 미래 기술 인재 기반 구축이라는 순기능이 분명하다. 하지만, 교육 현장에서의 실질적 위협(개인정보 유출, 악성코드 감염, 윤리적 부작용) 최소화를 위한 시스템적·기술적 대응 없이는 긍정적 효과 역시 제한될 가능성이 높다. 현재 고교 AI 교육 확장은 ‘잠재적 위협에 대한 실질적 대응 체계 구축’이라는 숙제를 강하게 던지고 있으며, 투자만큼 신뢰의 보완이 동반되어야 함이 강조된다.

— 윤세현 ([email protected])