딥페이크 ‘공세’에 움켜진 규제의 손… 글로벌 ‘생성형 AI’ 공동 대응 본격화

올해 들어 생성형 AI 기반 딥페이크 기술의 악용 사례가 국내외에서 잇따라 보고되고 있다. 스캔들, 허위 인터뷰 영상, 유명인 합성 음성 범죄에서 나아가 기업 CEO 사칭 ‘페이크 화상통화’와 공공기관 개인정보 유출까지, 그 범위는 일상과 사회 핵심 신뢰 구조를 위협하는 수준에 이르렀다. 이를 계기로 미국·유럽연합(EU)·아시아 주요 국가 감독 기구들이 최초로 ‘딥페이크 대응’ 공동 선언과 실무 네트워크 구축에 합의했다는 소식이 전해졌다.

이번 합동 모임에서 각국은 변형된 딥페이크 탐지 기술 개발 지원, 실시간 모니터링 체계 공유, 법적 정의 재정비 등 구체적인 대응 방향을 도출했다. 특히 유럽연합은 AI법(AI Act)의 본격 시행에 맞춰 영상·음성 마지막 편집에 ‘생성 AI 산출물 표시 의무’ 규정을 확대할 방침이다. 미국 연방거래위원회(FTC)는 AI기반 허위콘텐츠 신고 전담 핫라인을 신설했다. 한국에서도 2025년부터 딥페이크 영상 자동탐지 및 차단 기능을 주요 온라인 플랫폼에 의무화하는 방안이 추진된다.

딥페이크의 본질적 위험은 ‘신뢰 붕괴’다. 진위 판별의 기준점이 흐려지면 금융·행정·교육 등 사회 전 부문에 2차 피해가 파급될 우려가 크다. AI 음성 합성을 이용한 보이스피싱, 가짜 인플루언서 영상으로 인한 허위정보 전파, 선거·여론 조작 등은 이미 발생된 사례다. 국가별 ‘AI 위험도’ 등급 분류 방식이 달라, 글로벌 플랫폼사업자에 적용되는 규정에도 온도 차가 있다. 이로 인해 첨예한 딥페이크 대응은 단일국가 틀을 넘어 초국가적 규범과 기술 공유가 필수로 인식되고 있다.

기술적으로는 두 갈래 흐름이 병행된다. 첫째, ‘딥페이크 탐지’ 알고리즘의 고도화다. 이미지 내부의 노이즈 패턴, 비디오 프레임 간 위화감 등 비인간적 합성 징후를 자동 포착하는 AI 기반 분석기가 잇달아 상용화된다. 2026년 현재, 이른바 ‘리버스 AI’의 진화 속도가 범죄 집단의 AI 생성 속도와 팽팽한 경쟁을 벌이고 있다. 둘째, ‘출처 증명(프로브넌스)’ 기술이다. 국가 단위에서는 변조 내역 추적 및 디지털 워터마킹 의무화 논의가 활발하다. 여기에 블록체인 기술을 결합해, 영상·음성 파일 해시(암호화) 기록이 위조 방지책으로 주목받는다. 예를 들어, 프랑스와 싱가포르는 언론사/공공기관 주도의 디지털 서명 체계를 시범 도입한다는 계획이다.

동시에, ‘규제-표현의 자유’ 균형 문제가 부각된다. 생성 AI의 이점—생산성 혁신, 소수언어 번역 지원, 창작 지원 등—을 저해하지 않고, 오용 리스크만 최소화하는 타깃 규제 설계가 요구된다. 영국·일본 등은 AI 개발 기업과의 자율적 협약을 병행한다. 대표적으로, 메타·구글·마이크로소프트는 2026년부터 자체 생성 콘텐츠에 ‘AI 생성’ 워터마크 삽입 및 삭제 불가 원칙을 명문화했다. 글로벌 100대 SNS/커뮤니티 사이트도 딥페이크 탐지 API 연동 의무화 조치에 착수했다.

이른바 ‘합성표현 시대’ 사회적 교육의 필요성도 커진다. 딥페이크 구별법, 미디어 진위 판별 교육, AI 컨텐츠 식별 앱 활용법 등 시민 기술 리터러시가 공교육·평생학습에 점차 도입되는 것이 특징이다. 거대 플랫폼사는 오픈소스 탐지기 배포·허위콘텐츠 신고 협력 등 이용자 신고 기반 사회적 감시망을 확대 중이다. 한국에서는 ‘K-디지털워크숍’에서 AI 악용 방지 커리큘럼이 시범 적용되고 있다.

반면, 딥페이크 탐지 기술 자체에 대한 역공 우려도 적지 않다. 탐지기가 공개되면 범죄 집단이 이를 회피하는 ‘적응형 딥페이크’ 개발에 나서는 ‘기술 군비경쟁’이 지속된다. 이로 인해, 국가별 AI 거버넌스 간 기술혁신 속도 격차가 또 다른 취약점이 될 수 있음을 경계해야 한다. 특히 중앙아시아, 남미 등 규제 미비 국가는 글로벌 딥페이크 생산지로 악용될 위험이 있다.

규제와 기술, 시민사회의 대응이 삼각협력적으로 결합할 때에만 AI시대의 신뢰 기반이 유지될 수 있다. AI·IT산업을 위한 정책적 지원과 다층적 감시⸳실질적 책임 부과, 그리고 ‘사회적 신뢰회복 기술’의 지속적 고도화가 병행돼야 한다. 딥페이크 위기를 계기로, AI의 사회적 수용력 자체를 평가·선순환하는 국제적 룰메이킹이 한층 주목받는 대목이다. 앞으로 각국 감독기구의 공동 이니셔티브가 실제 현장 대응력으로 이어지는지를 면밀히 점검해야 할 것이다. — 유재혁 ([email protected])