‘옷 벗기는 AI’, 경계의 붕괴와 글로벌 대응의 난제

최근 AI 이미지 생성 기술이 급속히 발전하면서, 사용자의 의도에 따라 ‘디프레이크(Deepfake)’ 혹은 ‘옷 벗기는 AI’와 같은 성착취적 이미지를 누구나 손쉽게 제작·확산할 수 있는 시대가 도래했다. 기사에 따르면, 이로 인한 사회적 우려가 급증하면서 유엔 산하 각국 인권기구, 빅테크, 시민사회단체가 성명과 공동대응을 발표하고 있다. 기술원리 측면에서 보면, 이러한 AI 이미지 생성기는 대규모 데이터셋과 생성적 적대 신경망(GAN), 그리고 최근 텍스트-투-이미지(Stable Diffusion, DALL·E 등) 기반 모델을 활용해 특정 인물의 신체이미지를 현실적으로 합성한다. 여기에 퍼스널 이미지까지 교묘히 조합되는 상황은 개인정보 및 초상권 침해를 넘어 디지털 성범죄의 양상을 바꾸고 있다. 특히 공개 인물, 여성, 미성년자 사진이 온라인에서 쉽게 수집되어 악용되며, 피해자들은 신원 노출·정신적 충격·사회적 낙인이라는 3중 피해를 입는다.

이러한 문제가 심각한 사회적 파문을 일으키는 데는 AI 툴의 접근성, 무분별한 서비스 제공, 플랫폼의 책임 회피, 국제 공조의 지연 등이 복합적으로 작용한다. 2026년 들어 미국·영국 등 주요국은 아동·청소년 관련 AI 성착취 엄벌, 성인 대상 “딥누드” 배포 금지 등 대응 입법을 본격 논의 중이나, 글로벌 플랫폼 사업자는 소극적 태도를 보인다. 실제 AI업계에서는 “오용 방지”를 명분으로 한 규정이 있으나, 근본적으로는 각국별 법체계·콘텐츠 규정의 온도차, 기술의 국경 초월성, 자동 필터링 한계가 공존한다. 국내 규제환경에서도 정보통신망법·성폭력처벌법 등 적용 외 범죄소명이나 삭제 조치의 실효성 문제가 반복된다.

산업적으로는 AI 개발사와 플랫폼의 책임론, ‘윤리적 AI’ 구축, 사용자 인증 강제, 데이터셋 관리 정비 등이 핵심 이슈다. 생성 AI 기술은 본래 창의·생산성 혁신 도구로 설계됐으나, 기술중립론과 잇단 오용으로 인해 “규제-혁신의 균형”이라는 딜레마에 직면했다. 필자는 OpenAI, Stability, MS, 구글 등 글로벌 AI 리더들이 이용자 정책 고도화, 글로벌 공조 및 API 차단, 악성 컨텐츠 블랙리스트 공유를 모색 중임을 확인했다. 한편, 국내외 스타트업들의 ‘누드 변환’ 비공식 모델, 소셜 플랫폼 내 비공식 유통망은 공공영역의 상시 감시만으로 억제하기 어렵다.

사례를 보면, 최근 일본에서 ‘옷 벗기는 딥러닝 앱’ 확산으로 여성 및 미성년자 피해 제보가 폭증했고, 한국 내에서도 SNS, 텔레그램 등에서 연예인·일반인 합성 이미지 판매가 성행했다. 2025년 유럽 의회는 ‘AI 법안’에 맞춤형 이미지 합성 금지조항을 신속히 삽입했고, 국내에서는 여성가족부와 과기정통부가 합동 태스크포스를 구성했다. 기술의 진화 속도를 고려할 때, 단순 대응에서 선제적 예방 및 교육, 피해 회복 지원, 그리고 알고리즘 자체의 윤리 내장(Explainable AI 등)이 요구된다. 특히 보호 장치 없는 오픈소스 및 ‘프로그래머 커뮤니티’ 상의 미성년자 접근은 우려에 정점에 있다.

향후 전망은 긍정과 비관이 교차한다. 데이터, 알고리즘, API Access, 플랫폼 ‘셧다운’ 정책의 정교화가 제도적 기반이 될 것이나, AI의 진보와 다크웹/프라이빗 서버 확산이 맞물려 실효적인 통제에는 한계가 있다. 궁극적으로 AI 테크놀로지는 인간의 창의적 ‘보조자’에 머무를 것인지, 또는 새로운 범죄의 촉매가 될 것인지는 사회적 합의, 기술자 커뮤니티의 자율규제, 글로벌 윤리 거버넌스가 동반되어야 한다.

이번 사태는 탈경계(AI의 무경계성)와 디지털 범죄의 저비용·고효율화, 그리고 규제공백이라는 21세기적 난제를 드러낸 동시에, 우리가 어떤 AI 사회를 택할 것인가의 중차대한 기로임을 일깨운다. 성착취 AI 이미지는 단지 피해자의 문제가 아닌, 모든 사회 구성원이 직면한 ‘신뢰·양심·기술윤리’의 화두이다.

이도현 ([email protected])