AI와 디지털 위험사회: 생태계 전환점에서의 기술·정책 전략

한국데이터법정책학회가 ‘디지털 위험사회와 AI’를 주제로 한 동계학술대회를 개최했다. 이번 행사에서 논의된 핵심 내용은 디지털 전환 가속에 따른 위험증가, 인공지능 기술의 파급력, 이에 대응하는 법·정책의 불확실성과 업계·사회 전반에 미칠 장기적 구조 변화에 초점이 맞춰졌다. 학계와 정책, 산업계 전문가들이 한 데 모여 AI의 위험사회적 함의를 진단한 것은, 한국이 처한 산업구조/기술환경상 시의적절한 담론이라는 평가가 나온다.

최근 글로벌 기술산업 판도에서는 AI 기반의 가치망이 급속도로 팽창하고 있다. 2024년말 기준, 대다수 제조·IT기업은 AI 내재화와 동시에 서비스/보안/규제 준수까지 통합적으로 고민하는 실정이다. 한국 제조업 역시 차세대 먹거리 확보와 데이터 처리 CapEx(투자비용) 간 균형이라는 과제에 직면해 있다. 학술대회에서 발표된 유럽 및 미국의 ‘AI 책임성 프레임워크’ 사례 분석은 국내 정보통신산업에 의미 있는 벤치마킹 대상을 다시 한번 부각시켰다. EU의 AI Act, 미국의 NIST 프레임, 일본의 ‘사회적 수용성’ 평가체계는 기술 확산과 법제정, 책임소재 배분이 사전에 조율되는 모델이다. 이에 비해 한국은 개인정보보호법·산업보안법 등 분절적 규제 중심이며, 통합 리스크 관리체계 논의가 현실과 괴리되고 있다는 지적이 반복됐다.

한편, 동계학술대회에서 제시된 AI·디지털 위험 유형은 크게 세 가지로 구분된다. 첫째, 데이터 편향·알고리즘 불투명성과 ‘설명가능한 AI(XAI)’ 부재에서 발생하는 신뢰성 리스크다. 둘째, 자동화·초자동화가 산업·노동 생태계를 급격히 재편하며 전통 제조·IT기업의 사업모델이 빠르게 구식화될 위험이다. 실제 글로벌 제조 산업 내 상위 500여 개 기업 중 절반 가량이 지난 3년간 AI 전환 실패 및 내부 보안 취약으로 비용 및 평판 하락을 겪은 사례가 보고됐다. 셋째, 규제 불확실성에 따른 리걸리스크(Legal Risk)와, 사회적 영향평가(SIA) 미비에 의한 집단적 피해 가능성이다.

이와 같은 위험에 대응해 국내 산업계가 구축해야 할 전략적 방향성은 더욱 분명해지고 있다. 우선, 내외부 데이터 거버넌스와 AI 윤리위원회 구성의 선제적 도입이 중견·대기업 중심으로 확대되고 있다. 삼성, 현대차, SK 등 주요 그룹의 ‘AI리스크 대응 조직’이 지난 1년 새 전사 전략의 중추로 자리잡은 것이 대표적이다. 경쟁 글로벌 기업 대비 국내 제조업체들의 AI 내재화는 여전히 걸음마 단계이나, 하드웨어-서비스-규제 간 통합 솔루션 개발 여력이 부족하다는 단점 역시 동시에 확인된다. 이런 현실에서 정책 당국·기업·학계가 머리를 맞대는 학술대회의 기능적 의미는 각별하다. 그러나 이슈 대응 전략 역시 그 실효성·구체성이 부족하다는 비판이 일부에서 제기된다. 최근 미국·EU에선 AI 기술·시장 위험을 인식하는 산업 내 자율거버넌스가 확산 중이나, 한국은 여전히 규제기관 주도의 하향식 통제구조에 머무르는 한계가 뚜렷하다는 것이다.

특히, AI와 디지털 리스크가 단순한 기술적 위협에 그치지 않고 산업 경영구조/조직문화/복합거버넌스 등 소프트 카테고리로 확산되고 있는 점은 감시 가능한 정책설계와 내부 통제 기술 간 ‘포괄적 밸런스’가 핵심이 될 수 있음을 보여준다. 업계 현장에선 ‘AI 책임’ 범주가 고객 신뢰 확보의 결정적 변수로 작용하고 있음이 연례보고서/고객 만족도 조사 등에서 확인된다. 결국, 지급결제산업, 의료, 제조, 유통 등 다중 업종에 걸쳐 데이터 위험-규제-실무대응 프로토콜의 연계 강화, AI 시스템 ‘설명가능성’ 강화와 투명한 의사결정 구조 구축이 기업 경쟁력 확보와 위험 완화라는 두 마리 토끼를 잡는 열쇠가 될 전망이다. 학술대회에서 ‘개방형 합의’의 필요성이 지적된 배경도 여기에 있다. 한국형 AI 규제체계·기술거버넌스가 실제 비즈니스 모델 내에 안착하기 위해선, 시장 주체와 사회적 수요자가 참여하는 ‘협치 플랫폼’이 반드시 필요하다는 목소리가 커지고 있다.

결국, 이번 학술대회는 한국 디지털 경제가 ‘위험사회’라는 프레임을 어떻게 해석하고, AI 시대의 거버넌스 모델을 재정의할 것인가라는 근본적 질문을 던진다. 기술 진보의 속도와 위험 내재화의 균형, 그리고 산업생태계 혁신과 리스크 분산 거버넌스라는 복합적인 변수 앞에서, 기업·정책·학계의 전략적 조율 수준이 곧 한국 산업경쟁력의 미래를 좌우할 전망이다.

— 서하준 ([email protected])