기업형 RAG, 인젠트-한국딥러닝 협력으로 현실 전선 진입

인젠트와 한국딥러닝의 최근 파트너십은 기업 내 문서 기반 인공지능(AI) 데이터 활용의 새로운 진화를 예고한다. 두 회사가 협력하여 공개한 전략은 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 기반 AI 시스템의 정확도와 신뢰성을 높이는 데 초점을 맞췄다. RAG는 사전 학습된 대형 언어 모델(LLM)이 외부 데이터셋, 즉 문서·DB 등을 실시간 참조해 질의마다 최적의 정보를 취합, 생성 응답을 내놓는 구조다. 본질적으로 추론·사실확인 역량 고도화를 통한 산업현장 활용성 확장에 핵심이 있다.

인젠트가 강점으로 내세우는 솔루션은 기존 전자문서·보고 등을 신속히 구조화해 대규모 AI가 ‘실서비스 레벨’로 탐색·요약 가능하게 만드는 데이터 레이크 에코시스템이다. 여기에 한국딥러닝이 개발한 특화 RAG 기술은 자체 질의 재구성, 문맥 필터링, 메타데이터 동적 결합을 통해 기업 내 다층적 데이터 흐름을 LLM에 전달하는 최적화 기능을 제공한다. 실 이용자 인터뷰 및 데모테스트에 따르면 일반 오픈소스 RAG 대비 문서 인식률과 적합 응답률에서 12~18%가량 향상된 결과가 도출됐다. 기업이 실질적으로 요구하는 것은 단순 요약·검색이 아닌, 준법·내부지침 등 맥락적 판단과 복잡한 문서 연결 관계를 파악하는 역량이다. 두 회사는 이를 위해 데이터 소싱, 전처리, 질의·검색 알고리즘의 연동 전 과정을 API로 모듈화해 빠른 애플리케이션 적용성을 강조했다.

해외 주요 SI 업체 사례에서도 찾을 수 있듯, RAG는 그동안 전통적인 챗봇이나 FAQ형 AI의 허들을 넘지 못한 한계를 지녔다. 가장 큰 과제는 문서의 ‘좋은 인용’과, 실시간 최신성 반영 역량, 그리고 기업 내 데이터 보안·컴플라이언스다. 구글, 마이크로소프트 등도 일부 금융권 및 의료분야에서 내부 RAG 솔루션 도입을 시도 중이며, 여기서는 ‘신뢰할 수 있는 출처 명확화’와 ‘정보 추적성’ 확보 여부가 관건이 되고 있다. 인젠트-한국딥러닝 연합 체계는 자체 서버 내 구성, 또는 프라이빗 클라우드 연동 등 시나리오별 맞춤 지원이 가능한 구성을 내세운다. 자체 데이터 거버넌스, 접근 권한 관리, 기존 문서관리시스템 연동성 등에서 국내 환경에 특화된 커스터마이징이 용이하다는 평가가 따른다.

최근 삼성SDS, 현대오토에버, 네이버클라우드 등도 사내 지식 검색형 RAG 솔루션을 도입, 실제 보고·업무 플로우에 접목을 시작했다. 하지만 현장 인터뷰에선 동음다의어 처리, 긴 문서 내 핵심정보 추출 난이도, 실질 업무 완료 시점까지의 질의 반복 문제를 지적했다. 즉, 단순 모델 도입만으로 실 사용자 만족도를 확보하기 쉽지 않으며, 데이터 컨텍스트 분석, 사내 문체 적응, 답변 신뢰성 점수를 입출력으로 활용하는 등 차별화 기능 고도화가 필수라는 평가다. 인젠트-한국딥러닝 플랫폼은 최근 코퍼스 자동 분류와 질의 재구성 능력 면에서 LLM 특화형 프롬프트 템플릿 관리, 리트리버 학습 내역 시각화 같은 관리도구 강화로 중소·대기업 모두 손쉽게 체증없는 작업환경을 구축할 수 있음을 시사한다.

데이터 품질 관리와 전처리, 도메인 전문성 확보도 주요 포인트로 지목된다. 특히 국내 규제 준수를 위해 기업 내 기록 데이터의 익명화, 적절한 필터 처리, 정의 기반 메타 태깅 등에 투자해야 실익이 크다. 이미 다수 은행, 공공기관이 파일럿 테스트에서 RAG 시스템 내 신뢰도 지표를 빅데이터 대시보드와 연동하는 방식을 시도하고 있으며, 일부 보험·제조 기업은 RAG 기반 IR/QA(정보 검색/질의응답) 시스템으로 정착하면서 추가적인 내·외부 데이터 결합 체계를 모색 중이다.

기술적으로도 단일 LLM 활용 대신 아키텍처 다중화, 화자별/지식단위별 응답가능성 평가, 사내 ERP·CRM과 연동성, 이중감사체제 등 복수 레이어를 거치는 것이 기업형 RAG의 경향이다. 인젠트-한국딥러닝이 표방하는 ‘체계화된 통합 파이프라인’은 단순 자연어응답을 넘어 데이터 증거력 강화, 정책기록·지침서 추론 등 실제 비즈니스 리더십 수요와도 부합한다는 것이 관련 업계의 중평이다.

현장의 주요 도입 장애요인은 ‘적응까지의 체감속도’, 즉 사내 직원이 새로운 검색 시스템을 신속히 이해하고 신뢰할 수 있는지, 그리고 기존 IT 인프라 투자와의 시너지, 직원 컴플라이언스 교육과정 자동화에 있다. 이번 사례는 단기적 성능 지표뿐 아니라, 장기적 IT 거버넌스·리스크 관리, 그리고 점진적 프로세스 혁신이라는 관점에서 볼 필요가 있다. 인젠트-한국딥러닝의 시도는 현재 한국의 B2B AI 현장에 필요한 실질적 로드맵 제공이라는 데서 의의가 크다. 시연 결과의 신뢰도, 문서의질/업무 문맥 대응 역량 판별을 위한 삼성SDS 등 경쟁사의 후속 연구와 비교분석, 실제 유저 경험 기반 확장성 추적이 향후 과제로 남는다.

— 유재혁 ([email protected])