울산 남구, 생성형 AI 공약 통합 관리 시스템 개발…지자체 업무 혁신 신호탄

울산 남구가 전국 기초자치단체 최초로 생성형 AI를 활용한 ‘공약 통합 관리 시스템’ 개발에 착수했다. 남구는 민선 8기 들어 행정 인프라 혁신을 표방하며, 생성형 AI 엔진을 행정공약 이행 점검·성과 분석·주민 소통에 접목시킨 전담 플랫폼 구축을 공식화했다. 이 시스템은 공약 이행 현황, 문제점 진단, 실시간 질의응답, 최적 정책컨설팅 제공 등 기존의 수작업·담당자 전담으로 처리하던 단계를 대거 자동화한다. 국가 차원이나 시 단위에서는 AI 기반 행정 시스템 도입이 논의·실증 중이었지만, 기초단체에서 정책의 전순환에 생성형 AI가 투입된 사례는 찾아보기 어렵다.

남구가 개발하는 시스템의 핵심은 행정데이터·주민의견·작업일지·정부정책 정보를 대규모로 수집·정제한 후, 생성형 AI로 통합 분석하여 담당자·주민에게 맞춤 인사이트를 실시간 제공한다는 점이다. 각 공약별 진행률, 이슈 현황, 예상 쟁점 및 해결 방안까지 종합 문답형 리포팅이 AI에 의해 자동 제안된다. 주요 위협요소는 개인정보·주민의견 등 민감 데이터의 처리 과정에서 발생할 수 있는 정보 유출, 내용 왜곡, 악의적인 프롬프트 삽입에 따른 피싱과 악성 자동응답 등이다. 현장 행정은 주민 접근성·투명성 증대로 이어질 수 있지만 동시에, AI 모델의 편향·오인식 리스크, 데이터셋 최신성 미비로 인한 의사결정 오류, 조직 내부의 과신 등 구조적 문제 가능성도 예상된다.

국제적으로 북미·유럽 주요 도시가 2023~2025년 사이 공공행정에 생성형 AI를 시범 도입하며 ▲고객센터 챗봇 자동화 ▲정책 보고서 요약 ▲의회 질의응답 자동브리핑 등에서 일정 수준의 생산성 향상을 달성했다. 영국 지방정부의 경우 주민참여형 민원처리 AI 도구 실증 후, 잘못된 정보제공·권한 혼동 등이 드러나 즉각적인 전문가 검증 절차가 추가되었다. 한국에서는 서울, 부산 등 광역단위 일부 부처의 정책 Q&A 봇, 보고서 초안용 생성 AI 등이 제한적으로 운영 중이며, 본격적 실시간 주민 소통·공약 이행평가 AI 플랫폼까지 구현하기는 전례가 거의 없다. 울산 남구의 사례는 그간 중앙-광역-기초 행정 체계 중 가장 느린 혁신 속도를 보였던 기초자치단체에서 데이터 기반 AI 행정 전환을 실험적으로 추진한다는 점에서 의의가 있다.

보안 측면에서는 대용량 행정데이터 연동·민감 정보 처리와 동시에 실시간 대민 서비스가 복합되므로, 신규 위협 모델에 선제적 대응이 필요하다. 특히, 생성형 AI는 프롬프트 해킹(prompt injection), 데이터 오용(미승인 정보 추출), 임의 정책제안 권한 횡포 등의 위험이 현실화될 수 있다. 해외에서는 이미 공공기관 AI 챗봇에 대한 자동화 공격, 악의적 프롬프트 삽입을 통한 정보 유출, 편향적 응답 확대와 같은 사고가 보고되고 있다. 남구의 시스템 구조에서도 데이터 입력단 및 AI 엔진의 역할 분리, 이상 입력 실시간 모니터링, 담당자-주민 상호 검증 로직 구축, 민감 정보 암호화, 모델 업데이트, 정책 결재 프로세스 자체의 복수 검증 등 종합적 방어 체계가 요구된다. 상대적으로 보안 예산과 전문 인력이 적은 기초단체에서는 무리한 자동화·AI 의존 강화가 행정 신뢰성 하락, 외부 공격점 노출로 이어질 수 있으므로, 반드시 다중 검증 시스템과 외부 보안감사, 시범운영 등 보수적 접근을 병행해야 한다.

한편, 행정 업무의 생성형 AI 도입은 대민 서비스 속도·효율성을 크게 높이는 한편, 책임소재 불명확·AI 임의 판단 확대에 따른 신뢰 이슈가 현재도 논란거리다. 주민과의 실시간 상호작용, 공약 진단 결과의 자동화 보고서는 편의성과 투명성을 강화할 수 있지만, 주민들이 실제 AI의 결과를 어느 정도 신뢰할지, 또 알고리즘 편향이나 입력오류 발생 시 책임 소재가 어떻게 구분될지 명확하지 않다. 앞서 타 지자체·해외의 비슷한 실험에서도 투명한 운영 내역 공개, AI 결정과별(사람-기계 혼합) 프로세스, 주민 안내책자 배포 등 보완책이 필수적이었다. 남구 역시 정책 기획 단계부터 IT, 법률, 개인정보, 정보보호 등 전문 위원회의 지속적 점검과 의사결정 이원화 등 통제 장치를 구축해야만, AI 혁신 효과를 먼 미래까지 확장할 수 있을 것이다.

남구의 선택은 기초행정 전반의 디지털 전환 움직임, 지방정부의 신사업 도입 경쟁 한가운데서 행정서비스의 새로운 표준이 될 가능성이 있다. 그러나, 기술적 진보와 보호–책임–신뢰의 삼중 과제가 균형을 이루려면, AI의 기능 자체만이 아니라 위험관리, 데이터보호, 주민참여, 계속되는 검증체계 전방위적 혁신이 병행되어야 한다.

— 윤세현 ([email protected])