한국 국방 AI, 첨단화 속 실행권한 부재가 남긴 숙제

한국 국방 분야의 인공지능(AI) 기술 도입이 가속화되고 있지만, 정책적·실무적 난제에 봉착해 있다. 최근 공개된 관계 당국 자료와 국방부 브리핑에 따르면, 최근 3년간 육군, 해군, 공군이 각각 주요 지상전투 및 감시, 통제 시스템에 다양한 AI 솔루션과 자동화 엔진을 시범 적용했으나, 실제 교전이나 공격 명령, 즉 ‘방아쇠’에 해당하는 결심 및 실행 권한은 일관되게 인간 지휘관에 한정되어 있다. 이러한 구조는 황당하고 모순적이거나 무책임한 정책의 결과가 아닌, 보안, 윤리, 국제 규범 준수라는 글로벌 추세와 자국의 안보 리스크 평가의 복합적 산물임을 먼저 짚어야 한다.

AI는 전장 상황에서 데이터 수집, 목표 식별, 위험 분석, 위협 예측 등 다양한 분야에서 인간의 판단력을 극대화하는 툴로 각광받고 있다. 최근 육군이 운용을 시작한 ‘스마트 경계체계’나 공군의 무인정찰체계, 그리고 해군의 자율항해 드론 등에서 이미 데이터 기반의 실시간 위협탐지와 경고 시스템은 핵심 전투 지원 자산이 되었다. 하지만 이들 모두 ‘판단 보조’ 또는 ‘권고’ 레벨에서만 AI가 작동할 뿐, 실질적 무력사용이 요구되는 ‘방아쇠’는 인간이 직접 쥐고 있다. 이는 유엔 차원의 LAWS(자율살상무기) 논의와, 국내 정보보안 및 전장통제 원칙에 따라 제한되고 있다. 실제로 AI의 자동화된 교전권 도입을 검토한 적이 있으나, 적성국의 쇼크 독트린 도입 가능성, 오작동 및 오판위험, 사고시 책임 소재의 불명확 등 위협 평가 하에서 해당 논의는 중단된 바 있다.

국방 AI의 ‘두뇌’가 현저히 발전한 데 비해 ‘방아쇠’가 없는 현재 구조는 단기적으로 부정적 신호만은 아니다. 오히려 미국, 독일, 이스라엘 등 AI 국방 선진국들 역시 치명적 무력 행위의 결정권을 반드시 인간에게 남겨두겠다는 정책을 유지 중이다. 미국 국방부 DoD Directive 3000.09가 이를 명확히 규정하며, 유럽 주요국도 AI 무기결정권 유보에 공감대를 형성하고 있다. 그러나 AI가 점진적으로 고도화·주도권 확장되고, 전장 속도·복잡성이 기하급수적으로 증가함에 따라, 미래의 위협 양상은 현 정책의 타당성·실효성을 계속 시험할 수밖에 없다. 양자컴퓨팅과 네트워크화, 실시간 데이터 융합 등 미래 군사 혁신에 대한 선제적 대응책 구축이 더욱 중요하다.

금번 국방 AI 정책의 딜레마는 두 가지 축에서 드러난다. 첫째, AI 도입부대에서 반복되는 ‘실행 전 결제’ 병목 현상이 실무자 피로와 전장 대응속도 둔화를 우려로 남기고 있다는 점이다. 둘째, AI 오작동이나 시스템 해킹 시 발생 가능한 민간피해·자국군 오폭 등 윤리적 위험이 무게감 있게 제기되고 있다. 국내외 전문가 집단의 권고는 두 갈래다. 기술적 안전장치 강화를 통해 부분적 자동화 실행권한 또는 권고·집행 이중확인 체제를 실험적으로 도입하는 방안, 그리고 철저한 인간 중심 통제(=HI-Lo 스택) 구성을 고수해야 한다는 보수적 입장으로 나뉜다. 국가 안보를 위한 판단에 있어 한 치의 오판, 그리고 데이터 신뢰도 저하가 가져올 수 있는 치명상을 고려할 때, 기존의 보수적 접근이 단기적으론 바람직하다는 인식이 팽배하다.

정보보안 측면에서 주목해야 할 것은 AI 시스템의 신뢰성과 사이버 공격 면역력에 대한 근본적 검증 과정이다. 이는 앞서 이듬해 이스라엘 군이 실제 전시 상황에서 AI 기반 자율 무기체계가 사이버 공격에 노출되어 일시적으로 기능정지된 사례, 미 육군의 수행 평가에서 오작동으로 민간 피해가 우려된 사건 등 국제적 선행사례에서 확인된다. 국내 사정상 군 내 보안 관제·점검 역량이 민간 대비 상대적으로 열악한 점, 군 전용 망 내 신기술 통합 과정에서 발생할 수 있는 검증 부실 위험 역시 간과할 수 없는 부분이다. 특히 AI 학습데이터 위·변조 가능성과, 시스템 업데이트 인프라의 안전성 미비는 가까운 시일 내 해결해야 할 핵심 위협으로 꼽힌다.

결국, ‘AI의 두뇌’만 키우는 상황이 자칫 미래전에서 치명적 허점으로 이어질 수 있다는 우려와, 하지만 인간의 통제권 상실이 더 큰 위험을 가져온다는 인식이 동시에 존재한다. 국방부와 산학연의 협업 속도, 윤리 가이드라인의 정비, 국제 협약(군비통제·무인무기규제)과의 정합성 확보가 향후 모든 AI 무기체계 발전의 본질적 전제조건이 될 전망이다. 인간 중심 안전장치와 보안성, 그리고 비상상황 신속대응체계를 동시에 강화하는 하이브리드 전략이 필요하다. 이와 함께, 의사결정 과정의 투명성 강화와 위기 발생 시 책임소재의 명확성 등, 조직 신뢰도를 높일 수 있는 투명한 내부관리체계도 마련되어야 한다.

국방 AI는 분명히 진화하고 있으나, 현 시점에서 ‘방아쇠’를 AI에 넘기는 것은 절대적 신뢰성을 담보할 기술·정책 환경이 부족하다. 앞으로도 인간-기계 간 역할 재정립, 위협요소 선제차단 체계 정교화에 대한 끊임없는 점검이 필요하다.

— 윤세현 ([email protected])