AI 보안의 새로운 전쟁터…구글 제미나이 악용 중국 범죄조직, 글로벌 공조 확산 신호등

2026년 6월 13일, 구글이 자사 최신 생성형 AI 모델인 ‘제미나이(Gemini)’의 악용을 둘러싸고 중국발 국제 범죄 조직을 상대로 직접 소송에 나섰다. 보도에 따르면 이번 소송은 미국 정부기관인 FBI, 국내 주요 통신사 및 보안기업까지 공동으로 대응하는 방식으로 전개되고 있다. 이례적으로 글로벌 빅테크와 국가기관, 민간기업 전 분야가 동시에 AI 악용 이슈에 출동한 최초 사례다. 구글이 밝힌 주요 내용과 각종 데이터 및 동향을 검토하면, AI 생태계 변화와 신흥 위협 양상, 국제 협력 구조 등에서 다층적 전략 변화를 포착할 수 있다.

당사자인 구글은 미국 캘리포니아 연방법원에 중국계 조직을 대상으로 ‘AI 서비스 이용 목적의 대량 계정 탈취·가짜 인증·불법 API 호출’ 등 총 3종 악용 시나리오를 적시했다. 특히 중국 조직은 소셜 엔지니어링·탈취계정 네트워크·프록시망을 복합적으로 활용해 제미나이의 신원 인증 시스템을 교란, 합법적인 사용자인 양 대량 쿼리 호출을 단행했다. 내부 조사를 토대로 구글은 지난 몇 달간 최소 수만 건 수준의 불법 API 트래픽과 챗봇 오남용을 탐지, 이 조직이 동유럽~북미 IP대역(사실상 우회망)까지 전 세계적으로 인프라를 분산한 정황을 입증했다.

여기서 눈여겨볼 점은, 기존 AI 범죄 패턴이 단순 피싱이나 사칭 수준이었던 것에서 확장돼 보다 정교한 위조 인증·자동화 봇·‘AI를 능가하는 AI(Adversarial AI)’ 활용으로 진화했다는 사실이다. 실제로 제미나이 사례에서 범죄 조직은 불법 코드로 원격봇을 운영, 정상사용자 트래픽에 혼합시키는 모델기반 우회 전략을 활용했다. 이는 AI 서비스를 제공하는 엔드포인트가 기존 웹·앱 API 보안 수준만으로는 충분히 방어불가한 신종 위협임을 시사한다.

수사당국의 설명에 따르면, 범죄 조직은 구글 AI를 통해 스팸·피싱 SMS 자동생성, 피싱 사이트 구축, 금융기관 로그인 정보 수집 등 사회공학 공격을 대규모로 자동화했다. FBI는 “AI 생성 텍스트·허위 인증이 결합한 신종 피싱 시나리오가 검출됐다”고 공식 브리핑했다. 이들이 지난 1년간 도입한 신규 API 우회 방식은 글로벌 기반의 미러서버·중계망·신분세탁용 가상번호 등 다계층 공격이 핵심이다. 이로 인해 통신사와 클라우드 사업자까지 조기 차단책 마련에 착수, API 접근 패턴 실시간 추적·계정 리스크 분석 등 머신러닝 기반 방어 모델이 시급히 적용되고 있다.

정량적 데이터도 눈에 띈다. 구글·마이크로소프트 등 글로벌 AI 서비스 제공사의 2026년 상반기 보안 보고서에 따르면, 전체 API 요청 중 평균 8%가 비정상(오토메이션 혹은 악성API)으로 집계된다. 특히 중국발 악성 트래픽 비율은 지난해 동기대비 37%p 성장, 전체 AI 서비스 ‘위조 트래픽’에서 최대 55%까지 높아졌다. 국내 통신사 3사(2026.5분기 기준)는 악성 AI API 접속 탐지통합(이상행위 가능) 건수도 월평균 12만 건 이상 집계했다. 이처럼 정상-비정상 API 쿼리 구분이 점점 정교한 머신러닝 모델 없이는 어렵다는 결론이 업계 표준으로 자리잡고 있다.

공동 대응의 전술적 측면을 보면, FBI는 AI 기반 침입탐지(Deep Anomaly Detection), 통신사는 네트워크 트래픽 샘플링, 구글·MS 등 빅테크는 AI 모델 자신에게 ‘자체 정상-비정상 패턴’ 메타러닝을 적용하는 중이다. 실제 2026년 2~4월 글로벌 AI 업계는, 모델 자체에 이질적 쿼리(특정 라벨링된 위장 API) 탐지모듈을 탑재해 서비스 출시 3개월만에 우회시도 1,400만 회를 차단했다. 업계는 앞으로 AI 보안의 초점이 단순 API 차단이나 계정정지에서 벗어나, ‘실시간 행위 시퀀스 파악’, ‘범죄 트랜잭션의 패턴 분석’ 그리고 신원 인증에서 ‘상호추적’까지 확장될 것으로 내다본다.

취약점 분석 관점에서, AI 챗봇 사용이 급증할수록 공격자들은 인간 행동 패턴 학습·코드 교란·버그훈터 식 자동화 등 예측불가 기법으로 진화한다. 사이버 보안 전문가들은 “AI 서비스가 API Key, OAuth, 다중인증 같은 전통 보안기법만으로는 점차 한계를 맞고, 데이터 드리븐 행위 분석·위협 인텔리전스 공유 등 신속한 모델링 적용이 필수”라고 진단했다. 참고로 지난해 유럽연합 사이버보안국(ENISA)의 ‘AI·ML 보안 리스크 분석’ 역시 AI가 자가진화적 취약점을 노리는 공격에는 ‘연합 데이터베이스 패턴 공유’, ‘AI간 행위중계 모델’ 도입 등 네트워크 협업형 보안 모델이 해법이 될 수 있다고 강조했다.

다만 AI 활성화 자체가 중단될 수는 없는 만큼, 업계 최대 화두는 “AI 플랫폼·API·신원 인증 사이클 전반에 걸친 동적 행위모델의 상시 업데이트”다. 이는 개인정보 보호·클라우드 거버넌스 등 다양한 이슈와 직결되는 동시에, 글로벌 공조 없이 분산된 데이터 한계 역시 단초가 될 수밖에 없다. 구글의 이번 ‘제미나이 악용’ 소송으로 촉발된 케이스는 향후 외부공격 뿐만 아니라 내부 정책·서비스 설계(예: API 방어, 인증 토큰 설계, 불법봇 탐지) 전반의 아키텍처 변화를 촉진할 전망이다. 결론적으로 AI 서비스의 안전한 성장과 활용을 위해, 업계·정부·연구기관간 ‘실시간 위험패턴 공유’와 머신러닝 기반 공동 모델링 노력이 필연적 과제로 떠오르고 있다.

— 문지혁 ([email protected])