AI 딥페이크 범죄, 정부 범부처 대응체계로 맞선다

정부가 인공지능(AI) 기반 디지털 범죄, 특히 딥페이크 영상과 음성의 확산에 대응하기 위해 방미통위(방송미디어진흥위원회), 행정안전부, 성평등부 등 관계 부처가 합동으로 새로운 대응 시스템을 구축한다. 최근 AI 기술의 발전으로 인한 딥페이크 범죄는 피해 양상이 다양하게 확장되고, 사회 전반에 대한 불신과 혼란을 유발하고 있다. 이에 핵심 부처들이 기존의 단발적 대응에서 벗어나 체계적이고 장기적인 정책 협력을 추진하기로 했다.

AI 딥페이크 범죄란 인공지능 학습 기술을 활용해 특정 인물의 얼굴이나 목소리를 정교하게 합성하는 범죄로, 사생활 침해뿐 아니라 공적 신뢰 훼손, 정치적 조작, 금융사기 등으로도 빈번하게 악용되고 있다. 특히 최근에는 성착취 딥페이크 영상이 연예인, 공무원 등의 피해를 야기하는 사례가 급증했다. 이에 각 부처는 딥페이크 탐지 기술 도입, 피해자 지원, AI 관련 법령 신설, 플랫폼 책임 강화 등 다각도의 대책을 내놓았다.

방미통위는 국내외 미디어 플랫폼들과 협조해 딥페이크 영상의 유통 차단 기능 고도화에 착수했고, 국내 빅테크사와 협력해 실시간 모니터링 체계를 실효적으로 구축한다는 방침이다. 행정안전부는 AI 활용 민원·신분증 대면 업무에 있어 딥페이크 검증 모듈을 도입할 예정이다. 또, 위조 영상·음성으로 발생할 수 있는 피싱 등 보이스피싱 범죄에 대한 정책 브리핑도 강화된다. 성평등부는 여성 및 사회적 약자 대상 딥페이크 범죄 피해자 지원을 위한 전문 상담 센터 확대, 법률·심리 지원책 공고에 집중한다.

이번 발표는 국내외 딥페이크 피해 실태조사 결과가 주요 배경으로 지목된다. 실태조사에 따르면 2025년 한 해에만 전국적으로 3,800건이 넘는 딥페이크 생성 및 유포 범죄가 적발됐다. 전년 대비 2.5배 이상 증가한 수치로, 대다수는 온라인 커뮤니티, 메시징 앱, SNS 채널을 통해 빠르게 퍼진 사례다. 피해자는 10대~30대 젊은 층이 압도적이었으며, 개인·공공부문 모두 피해의식이 확산돼 왔다. 실제로 국내 유명 연예인과 지방자치단체 공무원이 피해를 입은 사건이 올해 상반기 연이어 보도되며 사회적 불안감이 한층 짙어졌다.

해외에서는 이미 AI 딥페이크 범죄 대응 시스템 구축에 나선 지 오래다. 유럽연합(EU)은 2025년 디지털서비스법(DSA) 내에 딥페이크 자동 탐지 및 제거 명령 조항을 시행했고, 미국도 연방정부-IT기업 공동감시 태스크포스를 가동 중이다. 한국 역시 지난해 정보통신망법, 성폭력처벌법 개정에 이어 현재 국회에 AI 음성·영상 위조죄를 신설하는 법안이 상정되어 있다. 각 부처의 정책은 이러한 입법·제도적 흐름과 맞물려 종합 대응 방안을 선제적으로 제시한 형태다.

부처별 구체적 추진 계획을 보면, 탐지·차단 기술 개발에 국비 220억 원이 투입된다. AI 기반 딥러닝 분석 모듈, 진위 식별 알고리즘 고도화 사업, 국제 보안 인증 공조 등이 주요 과제로 포함되어 있다. 또, 딥페이크 피해 신고·상담 원스톱 지원체계는 7월 중순부터 시범 운영될 예정이다. 이 서비스는 온라인 신고, 신속 디지털포렌식 분석, 법률지원 매칭 등 실질적 피해 회복 절차를 간소화한다.

하지만 정책 추진 과정에서 해결해야 할 과제도 적지 않다. 첫째, 디지털 플랫폼이 해외 서버를 기반으로 하거나 익명성을 보장한다는 점에서 범죄 추적에 기술적 한계가 존재한다. 둘째, AI 딥페이크 기술의 고도화 속도가 매우 빨라 기존 탐지 솔루션으로는 진위 식별이 어렵다는 현장 지적이 잇따른다. 셋째, 피해 규정·처벌 관련 법령의 애매모호함과 실효성 부족 문제가 계속 지적된다. 실제로 상당수 피해자들은 명확한 가해자 특정 및 신속한 법적 판결에 어려움을 겪고 있다.

한편, 시민단체와 전문가들도 이번 정부의 다부처 협력체계를 긍정적으로 평가하면서도, 실효성 확보와 사각지대 해소에 대한 추가적 고민이 필요하다는 목소리를 내고 있다. 예컨대, 피해 접수 후 실질적인 지원이 얼마나 신속히 이뤄지는지, 사회적 약자에 대한 예외 없는 배려가 진행되는지, 그리고 빅테크 기업의 책임범위를 어디까지 확장할 수 있는지에 대한 구체적 해명이 요구된다. 사적 명예훼손 뿐 아니라 대선 등 주요 사회·정치 이벤트에서의 딥페이크 악용 문제, 금융범죄로의 전이가 유기적으로 발생할 수 있음을 감안할 때 기민한 제도 혁신과 데이터 기반 정책 개선이 핵심이다.

AI 딥페이크 문제는 단순히 기술적 해킹 차원의 범죄를 넘어, 사회적 신뢰와 공적 안전을 훼손하는 복합 이슈다. 정부의 이번 대응체계 개편이 실제 피해 감소와 예방으로 이어지려면, 단기적 규제뿐 아니라 사회 전체의 인식 제고, 기술-법제 간 갭 해소, 피해자 중심 지원 정책이 조화를 이뤄야 한다. 실무 부처와 민간 플랫폼, 시민사회 간 다각적 협업 없이는 효과적인 대응이 어렵다는 현실적 경계가 계속 제기된다.

정부는 2026년 연말까지 딥페이크 전담팀 확대, AI 범죄 근절 범정부 계획 고도화, 국제 공조 이벤트 등을 추가 예고했다. 앞으로 실제 정책 이행 과정에서 투명성 확보와 국민 신뢰 회복이 관건이 될 전망이다.

이수진 ([email protected])