[단독] 엔비디아 ‘한국인 데이터’ 분류서 장애인·성소수자 빠져…차별 키우는 AI

엔비디아가 최근 공개한 AI 학습용 한국인 데이터 셋의 분류 기준에서 장애인, 성소수자 등 주요 소수자 집단이 제외된 사실이 드러났다. 이로 인해 AI가 차별을 강화할 수 있다는 우려가 제기되고 있다. 이는 엔비디아가 자체적으로 구축한 다국적·다문화 데이터 프레임 중 한국인 표본에 대해, 국가별·성별·연령 등은 세분화했으나 사회적 약자나 소수자에 대한 명시적 분류 기준을 적용하지 않은 것이 원인으로 꼽힌다. 외신과 국내 데이터 연구계에 따르면, 엔비디아 외에도 글로벌 테크 기업들이 우회적으로 ‘표준 한국인’ 데이터셋을 사용할 때 소수자를 대표하지 않는 경향이 여전하다. 이러한 구조적 결핍이 AI 알고리즘 설계 및 실제 서비스 결과에 ‘알려지지 않은 편향’을 키워줄 가능성이 높다는 전문가 견해도 이어진다.

AI가 학습하는 데이터의 대표성 문제는 최근 몇 년간 기술 산업계에서 반복적으로 논의된 바 있다. 실제로 AI 모델이 정상치로 학습한 대상에 장애나 성소수자가 ‘존재하지 않는’ 것처럼 취급될 경우, 알고리즘의 결과물은 현실의 다양성을 제대로 반영하지 못한다. 사회적 소수자를 배제한 데이터로 학습된 AI는 추천 시스템, 인력관리, 공공 서비스, 심지어 자동 번역과 이미지 생성 분야까지 직간접적 차별적 결과를 도출할 수 있다. 과거 미국과 유럽에서는 백인 남성 중심의 얼굴인식 데이터셋으로 인한 흑인·여성 오인식 문제가 대규모 이슈가 되기도 했다. 한국 사회도 점차 인구 구조·정체성 스펙트럼이 다변화되고 있음에도, 초거대 AI 모델의 분류 기준은 기성의 ‘다수자 대표 중심’에서 벗어나지 못하는 실정이다.

기술적 원리는 AI의 확률적 예측·분류 구조에 내재되어 있다. 데이터셋에서 나타나지 않거나 표본이 매우 적은 소수자 집단에 대해선 ‘default’, ‘other’ 또는 아예 미분류 상태로 학습된다. 이와같이 결손된 분류값은 실제 서비스에서 역으로 소외집단에 대한 오작동이나 예측 오류, 서비스 제한 등 형태로 드러난다. 예를 들어 장애인 관련 키워드가 충분히 주입되지 않은 언어 모델은 장애인 당사자들의 경험·상황에 대한 문답 정확도가 떨어진다. 성소수자 이슈도 유사하다. 사회적으로 성 소수자를 ‘자연스럽게’ 다루지 못하는 AI의 언어모델은 상담, 의료정보, 심지어 채팅봇 등에서 왜곡되거나 불충분한 응답을 제공하게 된다. 엔비디아 등 글로벌 기업이 이를 적극적으로 반영하지 않는다면, AI 산업은 ‘기술적 공정성’에서 더 큰 신뢰 위기를 맞을 수 있다.

국제적으로 구글, 메타, 오픈AI 등도 AI 데이터셋 편향 시정에 나서고 있지만, 각 국가와 문화권의 소수자 보호 이슈에 대해선 대응이 국가별로 상이하다. 한국은 상대적으로 장애·성소수자 인권 인식이 늦게 확장되는 편이고, 데이터 구축 과정 역시 ‘한국적인 평균값’에 치중되어 있다. 차이가 뚜렷한 문화적·사회적 다양성을 반영할 법제·지침·국가데이터 규약이 미흡하다는 지적이 많다. 특히, 우리 사회 특유의 ‘드러나지 않는 다수 규범’이 데이터로 이어져 AI 산업 경쟁력에도 악영향을 미칠 수 있음을 경계해야 한다. 더구나 AI 학습 데이터가 한 차례 구동되고 난 뒤, 잘못된 분류 규칙과 편향은 ‘잊히지 않는 정보’로 모델 내에 각인되어 장기간 누적된다. 이를 해결하려면 사전적 데이터 구축 단계에서부터 소수자의 목소리를 수집하고, 분류 기준 자체를 재정립해야 한다.

정책적으로는 ‘AI 윤리성 평가’의무제 등 규제 도입 논의가 본격화되고 있다. 예를 들어 한국정보화진흥원의 AI법제 자문은 ‘소수자 분류·포함 기준 투명성’을 모범사례로 제시했다. 학계에선 AI 모델의 훈련 데이터셋이 공개·감사 대상이 되는 ‘데이터 시정 청구제’ 도입 필요성이 커지고 있다. 이러한 기업·정책 모두의 변화를 통해 다양성·대표성·투명성이 실질적으로 구현될 때, AI의 사회적 신뢰 기반도 강화된다. 단기적으로는 단순히 새로운 데이터 분류 기준 추가가 아닌, ‘누락된 집단이 없음을 검증’하는 절차가 IT기업 내부 QA 및 외부 평가에 의무화돼야 할 것으로 보인다. 궁극적으로 데이터 자체에 우리 사회의 인권·평등 가치를 내재화하는 선순환이 매우 중요하다.

향후 AI 산업계는 글로벌 기업뿐 아니라 국내 데이터 산업계 전체의 데이터 분류·포함 원칙을 공개하고 검증하는 시스템 도입에 주목해야 할 것이다. 기술 산업 경쟁력 강화를 위한 AI 생태계의 발전은 단순히 ‘기술적 효율’이 전부가 아니다. 궁극적으로는 우리 사회 모두를 위한, 누구도 배제하지 않는 데이터와 서비스를 만들어나가는 기술 윤리를 가질 때 비로소 AI의 무한잠재력도 빛날 수 있다.

— 이도현 ([email protected])