기업의 업무 현장에 스며드는 맞춤형 생성형 AI, Agentic Workforce 시대의 도래

ChatGPT, Gemini, Claude 등 대형 생성형 AI가 최근 기업 내부로 확장되고 있다. 이 변화는 단순 이용 단계에서 멈추지 않고 각 사의 고유 업무·시스템·보안 정책에 특화된 ‘전용 AI’로의 내재화 양상으로 이어진다. 기사에 따르면 이 흐름은 Agentic Workforce—능동적으로 작업을 완수하는 AI 에이전트 개념—의 부상과 맞닿아 있다. 2024~2026년 사이, 대형 기업을 중심으로 AI의 기업 맞춤화 요구가 크게 증가했고, 이는 AI가 더 이상 개별 직원의 도구 수준에 머무르지 않고 ‘팀’ 또는 ‘조직의 일원’처럼 움직이도록 새롭게 설계되고 있음을 의미한다.

세계 주요 ICT·금융·의료·제조 등 다양한 분야에서 ‘전용 LLM(대형 언어모델)’ 도입이 확산됐다. 구글, 마이크로소프트, 네이버, 카카오 등 플랫폼 사업자는 비정형 데이터 분석, 업무 자동화, 고객서비스 챗봇을 넘어 개발, 법무, 재무 등 코어 미션형 업무 지원까지 구현하는 전용 모델을 제공한다. 삼성전자는 자체 서버와 내부망에서 구동되는 ‘삼성 Bixby AI’를, 한국전력은 발전소 노하우가 내장된 전력특화 AI를 론칭했다. 해외에서도 JP모간, 시티그룹, 유나이티드헬스 등이 맞춤형 에이전트 배포에 앞장서고 있다.

결정적 차별점은 데이터 접근성과 활용방식이다. 기존 범용 AI와 달리, 기업 전용 AI는 내부 문서·업무 프로세스·제품 데이터 등에서 학습 및 즉각적 피드백을 받고, 민감/법적 데이터 보호 측면도 강화된다. 주요 적용사례 분석에서, 예컨대 제조기업은 품질/작업기록, 법률팀은 케이스 기반 자료, 마케팅 부서는 캠페인 성과 등을 LLM에 올려놓고 즉석에서 QA, 요약, 리포트, 예측까지 다층적인 업무를 자동화한다. 기존 RPA(로봇프로세스자동화)와 달리 LLM 기반 에이전트는 복잡한 문맥 이해와 창의적 제안능력까지 갖췄다는 평가다.

이와 함께 에이전트 협업 구조가 논의되고 있다. 하나의 전용 AI가 기업 전체를 지원하는 것이 아니라, 각 부서/업무별 특화된 다수의 ‘마이크로 에이전트’가 API, 데이터베이스, 외부 솔루션과 연동해 유기적으로 일하는 방안이 실험 중이다. 실제, 2025년부터 국내외 대기업들은 LLM API와 사내 Data Lake, ERP/CRM시스템 연동 등 AI 내재화를 본격적으로 추진했다. 국가별로는 데이터 주권 문제, GDPR 등 개인정보 이슈, 내부 감사와 관리 체계도 병행 강화되고 있다.

이러한 흐름 속에서, 현장에선 AI 도입의 기대와 우려가 동시에 존재한다. 한편으론 반복·분석 업무 경감, 조직 운영 효율 극대화 등 기회 요인이 부각된다. 매뉴얼, FAQ, 법률 해석, 고객 상담 등 전형적 업무 자동화뿐 아니라, 현장 이슈 분류 및 경보, 신규 사업 제안, 위험 요인 분석까지 확장 적용이 이뤄지고 있다.

동시에 전문가들은 ‘AI 거버넌스’의 중요성을 강조한다. 전용 AI가 사내 보안망을 뛰어넘어 데이터 유출, 부적합 응답, 편향된 결정 등 위험을 내포할 수 있기 때문이다. 현실적으로는 입출력 기록 로깅, 관리자 검수, 데이터 라벨링 강화, 사용자별 권한 분리 등 다층 관리 체계가 실효성 기준으로 부상한다.

또 다른 지점은 인적자원 변화다. AI가 직접 보고·계획을 작성하고 심층 비즈니스 질의에 답변하는 과정에서, 업무분장·평가 기준·교육 훈련 등 인사 체계도 재편이 필요하다. 2026년 현재, 일부 제조/금융사에선 ‘AI와 협업능력’이 승진/평가의 새로운 척도로 자리잡는 중이다. 향후 노동시장에서는 업무 자동화에 따른 보완적 일자리와 ‘AI 활용 능력’ 중심의 신직업 수요가 점차 확대될 것으로 보이며, HR 부서의 AI 기반 인재관리, 교육 플랫폼 연계 사례도 빠르게 늘고 있다.

AI의 ‘내재화’ 경향은 단순 업무 보조 개념에서 벗어나, 조직 자체를 혁신하는 도구로 각인되고 있다. 이에 따라 CTO, CIO, 법무/감사팀, 현업부서 등과의 긴밀한 협조가 더욱 중시된다. 앞으로 기업 내 전용 AI, 에이전트 워크포스가 조직의 차별화 경쟁력과 유연한 프로세스 혁신의 중심축으로 자리할 가능성이 크다. 다만, 지나친 자동화 의존이나 규정 미비, 내부 저항 등은 향후 기업 경쟁력의 리스크 요인으로 지적되고 있으므로 명확한 정책과 단계적 도입 전략이 병행돼야 한다.

— 유재혁 ([email protected])