AI 관리자의 그림자, 감시와 통제에 놓인 노동현장
배달 플랫폼 산업 현장은 이미 빅데이터와 알고리즘으로 움직이는 무한경쟁의 전장이다. 이번엔 이 경쟁에 한 단계 진화한 ‘AI 관리자’가 투입됐다. ‘AI 관리자’는 단순히 배달 단가를 결정하고 업무 배정을 최적화하는 것을 넘어, 상담 중 나누는 라이더와 고객의 대화까지 실시간으로 모니터링한다. 기계적 효율을 명분 삼지만, 실상은 노동자의 프라이버시와 자율성, 그리고 정신건강까지 속속 파고드는 통제 메커니즘의 정점이다.
현장 라이더들은 업무 상담 과정마저 ‘감시 대상’이 된 현실에 대해 강한 불안과 피로를 호소한다. 최근 복수의 배달업체에서 AI가 현장 상담 전 과정을 녹음·분석하는 시스템을 도입했다. 상담사가 친절하게 응대했는지, 불만 상담이 있었는지, 혹은 표준화된 대본에서 벗어났는지 등을 모두 평가한다. AI는 점수와 키워드로 인간을 재단하고, 평가 점수가 떨어진 상담원은 곧장 불이익을 받는다. “이제 숨 쉴 틈도 없다”는 라이더들의 말은 과장이 아니다. 본래 인간 관리자라면 상황별로 인간적 재량을 들여다볼 수 있었겠지만, AI는 그저 편향 없이 ‘데이터’로 사람을 정량화한다.
배달료 산정 구조 역시 한층 더 불투명·비인간화됐다. AI는 실시간 주문량, 거리, 날씨뿐 아니라, 각 라이더의 평점, 과거 문제 사례까지 종합해 개인별 배달 단가를 결정한다. 언뜻 최적화로 보이지만, 이 과정의 기준이 외부엔 철저히 가려져 있다. 이에 따라 동일 업무에 종사해도 각기 다른 단가를 받는 이해 불가능한 상황이 속출한다. 실제로 복수의 라이더들이 “내 단가는 이유도 없이 갑자기 떨어졌다”고 토로한다. 회사 측 설명은 항상 같다. “AI가 산출한 결과”. 책임 소재를 묻기도 어렵고, 이의를 제기하면 상담 대화마저 AI 감시에 노출된다.
근본적인 문제는 AI의 감시 구조가 오로지 업체의 경영관리, 비용절감, 효율 극대화만을 목표로 한다는 점에 있다. 소위 ‘4차 산업혁명’의 혁신이라는 허울 아래, 노동자는 데이터라는 추상값으로만 대우받는다. 여기에 ‘상담 엿듣기’ 시스템은 노동자의 노동조건뿐 아니라 고객의 대화까지 범위를 넓힌다. 이는 현행 개인정보보호법 맥락과도 충돌 소지가 크다. 과연 상담 안내를 받는 고객이나, 대화에 집중하는 라이더가 자신들의 대화 내용이 실시간 AI 분석에 쓰인다는 사실을 인식할 수 있을까? 사전 안내나 동의 없는 AI 감청은 분명한 위험 신호다.
해외의 유사 사례를 보면 감시 AI 도입이 현장에 심각한 스트레스를 유발하고, 프라이버시 침해 논란에 불을 붙였다. 미국 아마존의 알고리즘 배정 시스템은 연이은 노동자 파업으로 이어졌다. 영국 우버 이츠 운전사들도 “보이지 않는 독재”라 불렀다. 최근 국내외 노동전문가들은 “알고리즘 관리자는 인간의 존엄과 온전한 노동권을 악화시키는 통제 시스템”이라고 비판해왔다. 한국 산업현장 역시 열악한 플랫폼계에서 더욱 짙어진다.
AI 알고리즘이 제멋대로 ‘공정’이나 ‘효율’의 이름으로 노동을 재단하는 작업장은, 이른바 디스토피아적 노동의 표본이 될 위험성이 깊다. 지금처럼 AI 관리자에 대한 투명성 검증, 사회적 감시, 피해자 권리구제 장치 모두 부재한 구조라면 피해는 계속해서 개별노동자에게 전가될 뿐이다. 특히 상담 내용 감청 문제가 대표적이다. 언제, 어디까지, 누구의 판단에 의해 녹취/분석이 이뤄지는지 회사는 공개하지 않는다. 익명 내부고발자들은 이미 ‘AI 관리자’가 라이더 심리상태까지 분석하며 인사 평가 요소로 삼는다고 폭로한다. 현장 노동자가 단 한 마디라도 의문을 표시하면, 곧장 “사내마케팅 교육 재이수”, “평가점수 강등” 같은 제재가 일상적이다. 상담원 역시 최소한의 인간적 신뢰구간 없이 365일 추적당하는 신세다.
정부와 국회의 대응도 뒤처져있다. AI 관리 시스템은 명백히 현행 근로기준법상 감시설비에 해당됨에도, 대규모 플랫폼 사업자들은 “AI는 사람이 아니다”며 법적 무책임을 자처한다. 근로자대표기구는 실질적 감시범위조차 파악하지 못하는 실정이다. 시민단체들이 연이어 ‘AI 관리자 공개법’ 제정을 촉구하지만, 정부는 프레임워크 마련에만 머물고 있다. 이미 AI는 사람을 대체했고, 인간에 대한 책임은 오히려 공중에 붕 뜬 지 오래다.
AI 관리자의 확산은 산업경쟁력 신화의 끝에 서서, 효율 압박이란 명분 아래 더욱 강력한 사회적 통제와 감시로 번진다. 이제 요구돼야 할 것은 단순한 기술의 발전보다, ‘인간 중심 AI 도입을 위한 사회적 투명성’, ‘알고리즘의 외부 점검’, 그리고 현실을 체감할 수 있는 피해구제 시스템이다. 감시와 효율 사이에서 인간 존엄이 희생되지 않는 사회적 안전망이 필요하다. 익명성과 데이터라는 안개에 묻힌 AI 관리자의 정체, 그 내부를 용기 있게 해부하고 공개하는 일만이 플랫폼 노동현장을 지킬 유일한 길이다.
— 송예준 ([email protected])