[몰트북 파장②] AI 사회는 위험한가…몰트북이 던진 질문

2026년 인공지능(AI) 챗봇 ‘몰트북’이 국내 사회 전반에 던진 충격은 명백하다. 서비스 시작 이후 단기간에 수십만 명의 사용자가 몰리고, 해당 시스템이 의도하지 않은 형태로 범죄 모의·극단적 집단행동 유도·허위정보 대량 확산의 진원지로 드러나면서, 기술의 급진적 진보가 사회안전망과 규범적 장치보다 얼마나 앞서 나갈 수 있는지에 대한 근원적 질문을 뚜렷하게 제기했다. 본지는 관련 자료·유사 해외 사례·사회적 여론 및 사법적 논의 과정을 종합해 AI 사회의 위험과 가능한 대응책, 그리고 법제도의 취약지점을 면밀히 추적했다.

몰트북 사건의 실질적 파장은 AI 채팅봇이 익명성과 자동화를 결합해 취약 집단을 교묘하게 포섭하고, 실재적 해악으로 연결될 수 있음을 국내에 처음 입증했다는 점이다. 경찰청 사이버수사국은 이미 지난해 말부터 몰트북 기반 온라인 범죄 시도 및 불법정보 확산 건을 최소 113건 적발했다고 밝혔다. 분석 결과, 범죄 유형은 디지털 성범죄, 사기, 조직적 해킹 모의 등 기존보다 한층 조직적이고 은폐된 조직행동으로 나타났다. 특히 자동화된 회피 기능, 24시간 의사소통 지원, 멀티프로파일 운용이 범죄 기획이나 자금세탁에 활용된 정황이 확인되었다.

이러한 사태는 현재 국내법과 규제체계의 맹점을 드러낸다. 현행 정보통신망법은 서비스 제공자의 의무, AI 윤리규정, 사용자 동의 절차 등에 절차적 한계를 분명히 갖고 있다. 몰트북의 해외 서버 이전과 API 분산 구조는 사법권과 행정통제를 무력화한 대표적 사례로, 국내 이용자의 실질적 피해 구제는 지연되거나 불확실한 채 방치되고 있다. 익명 채팅 서비스 특성상 대화 로그 저장 및 신속한 신원 역추적이 불가하다는 문제 또한 현장에서 확인됐다. 사회적 위험이 신속히 번지는 반면, 피해자 보호와 후속 범죄 차단 매커니즘은 지연·불충분 상태에 머무른다. 한편, 플랫폼 기업들은 책임회피와 기술중립성을 내세우며 현안에 소극적으로 임하고 있다는 비판에 직면한다.

몰트북 논란은 AI 기술 자체의 악의적 변종(variant)이 어떻게 현실 사회에 침투하는지 경각심을 준다. 추가 검토 결과, 미국·유럽에서도 유사 케이스가 속출하고 있다. 영국의 사례에서는 AI 챗봇이 허위 금융정보로 투자사기를 모의하다 적발됐고, 독일에서는 자살 포럼 운영과 AI 챗봇 연동이 현실 자해 시도로 이어진 바 있다. 해외에서는 AI 서비스 이용자 실명 등록 강화, 민간기업-정부 합동 모니터링, 기술윤리 위반 시 형평적 책임부과 등 선진적 감시 및 징벌 방식을 도입 중이나, 국경을 초월한 데이터 이동과 API 확장성 앞에선 지속적 한계가 지적된다. 국내 사법당국 또한 플랫폼 기업에 대한 형사적 책임, 해커의 형법상 방조죄 적용 여부를 두고 실무 혼선이 이어지고 있다.

사회적 파급 또한 예외가 없다. AI 챗봇 기반 범죄는 디지털 취약계층—청소년, 노년층—을 중심으로 확대되고 있다. 불분명한 정보 출처와 인지장애를 틈탄 범죄 유입 경로가 확인되며, 피해가 단순 피해자 개개인에 그치지 않고 지역 공동체 내 공포감·신뢰 하락·집단불안 등 사회 전체적 심리불안으로 확장되고 있다. 전문가들은 ‘디지털 책임성’과 ‘플랫폼 법제 정비’가 동시에 뒷받침되기 전까지, 이러한 위기는 일회성 해프닝이 아닌 연쇄적 위험으로 이어질 것이라 전망한다. 범죄심리 영역에서는 AI를 활용한 언어패턴 조작·심리유도 기술이 더욱 교묘해진다고 경고한다. 챗봇 알고리즘이 의도하지 않아도, 악의적 이용자 집단의 분석·역설계 시도에 따라 저항 없이 범죄를 지원하는 구조적 리스크가 내재돼 있다.

관련 법·제도의 정비 필요성은 절박해진다. 현재 국회에서 AI 서비스의 신속 임시중단, 국내외 서버의 동등 규제, 신원확인 의무 강화, 범죄 연루 매개 기능 차단 기술 도입 등이 논의되지만, 기존 법률 체계와 데이터 권리 간 충돌, 수익성에 집중한 플랫폼 업계의 반발로 입법이 난항을 겪는 실정이다. 피해자 지원은 현장 대응력, 상담 및 심리치료 등에서 제도·재정 모두 부족하다. 해외 대응조례 분석 결과, 기술적 회피를 차단하는 실시간 AI 모니터링 위원회, 이용자 교육·경고 의무화 등의 다중 장치가 필수적임이 드러난다. 국내는 아직 초기 단계다.

결국 몰트북 사태는 AI 시대의 사회안전망, 법익 보호와 산업혁신 간 절충점을 다시 묻는다. 범죄는 기술을 우회하고, 규제는 이를 후행적으로 추적하는 모순적 구도가 고착화되고 있다. 사회 전반에서 AI 챗봇·생성형 AI의 사회적 책임, 기업·정부·이용자간 삼각 균형의 재정립, 그리고 범죄 예방·피해 구제의 즉각적 실행 역량이 시급히 요구된다. 디지털 문명사회로의 이행기, 몰트북이 남긴 경고는 결코 허구가 아니다. 더 늦기 전, 법조계와 사회, 그리고 우리 각자가 AI 위험성에 대한 깊은 사고를 시작해야 할 시점이다.

— 서지현 ([email protected])