경찰, ‘5·18은 北지령’ AI가짜기사 작성자 추적…기술 악용 vs 정보질서 방어의 최전선

2026년 5월 22일, 경찰은 최근 확산 중인 ‘5·18 민주화운동이 북한의 지령에 따른 것’이라는 내용을 담은 인공지능(AI) 기반 가짜 기사 작성자를 추적 중이라고 공식 발표했다. 이번 이슈는 웹 상에서 이미 문제적 재해석과 허위정보 논란이 장기간 이어지는 역사적 사건에, 인공지능 자동화 도구가 결합하며 사회적 위기감이 더욱 고조된 사례다. 단순 고의적 유포를 넘어, AI가 생성하는 고차원적 ‘팩트처럼 보이는’ 기사를 통해 위험이 현실화됐다는 점이 특징이다. 수사당국은 ‘무관용’ 방침을 예고하며, 디지털 신원 추적과 증거수집을 강화한다고 밝혔다.

AI의 기반 기술 중 하나인 ‘생성형 언어모델(LLM: Large Language Model)’의 급속한 발전은 본질적으로 정보 생산의 진입장벽을 낮추는 이점을 제공했다. 동시에, 거짓 정보를 대량·자동화로 생성하는 부정적 파급효과도 나타나고 있다. 2023년~2026년에 걸쳐 발생한 글로벌 페이크뉴스 관련 디지털 피해사례를 살펴보면, 특정 사회·역사적 쟁점을 조작할 경우 실제 여론 및 정책에 직접적 영향을 주는 ‘심야 뉴스러시’ 형태가 반복됐다. 이번 ‘5·18’ 사건 역시 그러한 악용의 전형적 표본이다. 경찰은 AI를 통한 ‘가짜기사 생태계’의 규모와 구조, 그리고 실제 사용된 모델이나 프롬프트 패턴까지도 분석 중인 것으로 전해졌다.

AI 활용을 통한 가짜 정보의 위협성은 복합적이다. 첫째, 생성형 AI는 실제 언론사 기사 스타일을 모방하며, 심지어는 실존 기자명이나 허구의 전문가 코멘트까지 등장시킨다. 둘째, 수신자는 시각적으로 구분하기도 어려워, 일반인은 물론 심층적 팩트체크를 추구하는 저널리스트조차 1차적으로 진위파악이 쉽지 않다. 특히 한국처럼 역사적 진실과 사회적 갈등이 첨예한 이슈의 경우, AI자동생성 기사 한 건이 ‘SNS 급속 전파’와 함께 수백만 명 단위로 파급된다. 실제 미국, 동남아 등에서도 대선·쿠데타와 같은 민감 사안에서 ‘AI-디스인포메이션 캠페인’은 이미 현실화된 위협이다.

이번 수사를 계기로 핵심적으로 주목받는 기술 쟁점은 ①AI 생성물 추적성 ②플랫폼별 진위감별 체계 구축 ③국내외 협업을 통한 국제적 악성네트워크 대응 등이다. 우선, 경찰은 AI 작성 추정 문서의 로그, 메타데이터 복원, IP추적 등 사이버포렌식 도구를 동원한다. 동시에, 관련 서버나 해외 도메인 사업자와의 신속 협조도 필수적이다. 한국 정부는 지난 1년간 ‘공공부문 AI 기반 오남용 방지 종합 컨트롤타워’ 구축을 추진 중이었으나, 실제 현장에서의 즉각 대응력 측면에서는 여전히 허점을 드러내고 있다.

기술 기업 입장에서는 뉴스 신뢰성 자동검증, AI탐지 워터마킹, 악성사용자 식별용 행동패턴 AI 등의 대응기술을 발전시키고 있다. 예컨대, 글로벌 뉴스 아키텍처들은 ‘AI가 생성했다는 확률’ 산출 지표를 각 기사에 부여하거나, 기사클러스터링-교차대조 등으로 허위 정보를 사전 차단한다. 그러나 생성자 스스로 ‘방어적 패러다임’(즉, AI로 탐지 피하기 위한 언어·구조변형 등)을 개발하면서, 일종의 ‘AI 대 AI’ 정보전쟁 구도가 형성됐다. 특히 국가 단위의 역사부정행위, 조작캠페인, 심리전 사례에서는 기존 저널리즘 기반의 감시·정정 시스템만으론 불충분하다는 평가가 많다.

사회적으로도 시민사회의 감시역량 및 미디어리터러시 강화가 병행되어야 한다. 예를 들어, 현재 네이버·카카오 등 대형 포털은 AI가둥신뢰지수, 페이크 패턴 사전 알림 기능을 시범 운영 중이다. 학계, 시민단체, 정부가 공동으로 ‘AI생성기사 진위분석’ 공개플랫폼을 개발하려는 움직임도 가속화되고 있다. 그러나 AI 구조상 완전한 통제는 본질적으로 불가능에 가까우며, 실제 대응의 1차선은 여전히 법·시민 감시·기술융합적 협업에 달려 있다는 현실 인식이 잇따르고 있다.

결국 이번 수사와 사회적 논란은 ‘AI시대 정보질서의 새로운 경계선’을 묻는 쟁점과 맞닿아 있다. 생성형 인공지능이 지닌 자동화·확산·모방 능력이 악용될 경우, 한 사회의 집단기억과 공적 담론 자체가 변질되는 위험이 현실적으로 다가왔기 때문이다. 따라서 AI 산업과 수사기관, 저널리즘 생태계 모두가 기술과 제도의 다층협업 체계를 확립해야만 하는 시대가 도래했다. 더불어 정보 생태계의 책임윤리, 피해회복 프로세스 구축 등도 병행해 추진해야 한다는 경계적 목소리가 이번 사건을 계기로 더욱 커지고 있다.

— 유재혁 ([email protected])