편집자주
인공지능(AI) 알파고가 바둑 최고수 이세돌을 꺾으며 특이점의 전조가 도래했음을 알린 지 10년. AI는 이제 바둑판을 넘어 인간의 삶 곳곳에 깊이 침투했다. 로봇이 육체노동을 대신하고 AI 비서가 의사결정을 돕는 시대. 모든 직업군에서 인간과 기계의 전쟁 같은 생존 경쟁이 불붙었다. 기획 연재 <그림자 전쟁 : AI의 직업 침탈기>에서는 AI가 회사에 조용히 침투해 노동자들을 밀어내는 현실을 현장 깊이 들어가 취재했다. 또 알고리즘에 밀려나지 않기 위한 노동자의 분투, AI와 인간이 공생하기 위한 해법 등을 알아봤다.


오션파라다이스사이트

1일 경기 고양시 주엽역 인근에서 만난 배달노동자 심의석씨가 배달플랫폼 콜 배정 화면을 들여다보고 있다. 송주용 기자


겨울의 한기가 남아 있던 3월 초. 배달노동자(라이더) 심의석(51)의 등은 잔뜩 젖어 있었다. 감기 기운 탓인지 아침부터 머리가 빙 모바일바다이야기 빙 돌고 식은 땀이 줄줄 흘렀다. 몸 상태가 좋지 않아 배달 오토바이는 속도를 영 내지 못했고, 음식을 픽업하는 시간도 지체됐다. '조금 더 늦었다간 관리자가 독촉 메시지를 보낼 텐데.' 의석의 불안감이 커졌다.
이런 날엔 가까운 거리로 콜(일감)을 달라고 요청하거나 업무 속도가 늦어도 사정을 봐달라고 부탁하고 싶은 마음이 굴뚝같다. 하 백경게임랜드 지만 융통성 없는 관리자에겐 그 어떤 부탁도, 사정도 할 방법이 없었다. 그저 내려주는 콜을 수십 초 안에 수락할지 거절할지 정해야 했다.
그날 이후 일주일을 앓아 누웠던 그는 관리자의 냉혹함에 혀를 내둘렀다.
"아주 잔인해요. 배정해준 콜을 어떤 이유로든 계속 거절하면 일정 시간 동안 일감 자체를 안 줘버려요. '너 야마토게임장 내 말 안 들어? 알겠어. 일 안 시켜줘.' 이런 심보 아니겠어요? 직장 갑질도 보통 갑질이 아닌 거죠."
관리자가 사람이라면 '오늘 너무 힘드니 조금 봐달라'고 사정이라도 할 수 있을 텐데 그럴 수가 없었다. 의석과 함께 일하는 관리자는 사람이 아닌 인공지능(AI)이기 때문이다. 이 관리자는 철저히 효율성 위주로 짜인 알고리즘에 따라 바다이야기게임 배달 노동자에게 일감을 준다. 의석은 'AI 관리자와 일해야 하는 시대라지만 인간의 가치를 이렇게 무시해서 되겠나' 싶었지만 하소연할 곳은 없다.



그래픽=김대훈 기자



피도 눈물도 없는 AI 관리자



그래픽=이지원 기자


의석의 말처럼 AI 관리자는 배달노동자의 사정 따윈 고려하지 않는다. 사람이라면 노동자의 표정과 말투, 목소리를 통해 자칫 과도하게 몰아붙였다간 큰일이 생길지 모른다고 감지하겠지만 AI는 감정이 없다. 라이더가 보내준 일감을 얼마나 수락했는지, 정해진 시간에 배달했는지 등 철저히 숫자와 데이터로만 노동자를 다룬다.
폭우가 쏟아지고 폭설이 내려도 마찬가지다. 사람 관리자였다면 "비가 많이 오니 천천히 운행하라"거나 "날씨 탓에 지각했으니 이해한다"며 융통성을 발휘할 수 있지만 AI는 노동자를 단 한 가지 기준, 목표 달성 여부로 판단한다. AI 관리자 도입 이후 노동자들이 더 가혹한 환경에 내몰렸다는 비판이 나오는 이유다.
심지어 배달플랫폼들은 "궂은 날씨에는 돈을 더 줄 테니 나와서 일하라"는 솔깃한 제안을 내놓으며 노동자들을 위험한 도로 위로 내몰고 있다.
AI 관리자는 게임 속 캐릭터를 조종하듯 노동자를 부려먹는다. 라이더 김지수(33)도 몇 해 전 여름 아찔한 경험을 했다. 서울 중랑구와 경기 북부권에서 배달일을 하는 그는 배달플랫폼이 내건 우천 배달 프로모션(행사)을 수행하고 있었다. 프로모션은 궂은 날씨를 뚫고 배정한 일감을 소화하면 건당 수수료를 더 지급한다. 쏟아지는 장맛비 탓에 점심 무렵부터 이미 녹초가 됐지만 임무를 완료하기 위해선 쉴 수 없었다.
비를 뚫고 배달을 서두르던 지수는 결국 커브길을 돌다 오토바이와 함께 미끄러져 도로 위를 나뒹굴었다. 큰 부상을 입어 재활치료까지 총 8개월을 날려야 했다. 지수는 배달플랫폼과 AI 관리자가 위험한 노동환경을 고려하지 않는다고 토로했다.
"평소 배달수수료가 최저임금도 안 되니까 비오는 날 메꾸려는 사람들이 많거든요. 그런데 AI는 라이더의 편의나 안전을 전혀 챙겨주지 않아요. 배달노동자들이 겪는 사고의 한 원인이죠. 사고가 나도 AI는 아무런 책임도 안 집니다."
지수는 AI가 라이더의 활동 반경을 고려하지 않는다며 불만을 토로했다. "서울 중랑구가 업무 중점 지역인데 영등포구 여의도, 경기 구리시와 남양주시까지 콜을 배정해요. 서울시 자치구 3~4개를 넘나드는 건 기본이고 서울과 경기를 오가기도 해요. 배정되는 장거리 콜을 계속 수락하다 보니 경기 파주시에서 일이 끝난 적도 있거든요. 익숙하지 않은 장거리 콜을 뛰다보면 아무래도 사고 위험도 커지죠."배달노동자들은 장거리 콜이 들어오면 상대적으로 센 운임료를 보고 수락하기도 하고 이를 거절했을 때 불이익이 걱정돼 장거리 콜을 계속 받는다고 말했다.
AI의 교묘한 일 처리도 꼬집었다. "예전처럼 30분 안에 배달완료 같은 직접적이고 자극적인 말은 이제 쓰지 않아요. 하지만 AI는 자연스럽게 노동자들이 위험한 노동환경에서 속도 경쟁에 뛰어들도록 조종하는 겁니다."



서울 시내에서 한 배달노동자가 콜을 수행하는 모습. 연합뉴스





그래픽=김대훈 기자



"AI, 업무 배경 설명 없어"…산재 증가 한 요인



그래픽=이지원 기자


AI 관리자의 또 다른 문제는 불친절이다. 사람 관리자라면 하급자에게 일감을 줄 때 어떤 이유와 목적으로 일을 배정했는지 설명해줄 수 있다. 하지만 AI의 일감 배정 방식은 배달플랫폼 기업의 '영업 비밀'이라는 명분 뒤에 철저히 감춰져 있다. 노동자들은 왜 이 지역으로 배달을 가야 하는지, 이 일감이 왜 내게 배정됐는지 알지 못한다. 그저 AI 상사가 짜 놓은 판 위에서 움직이는 수단이자 도구일 뿐이다.
사람 관리자라면 사고 위험을 줄이기 위해 배달지역에 대한 사전 정보나 위험 구간에 대한 정보를 사전에 알려줄 수도 있지만 AI 관리자와는 제대로 소통할 수 없다. 심지어 배차를 반복적으로 거부했을 때 주어지는 불이익의 기준과 수위도 꽁꽁 감춰져 있다.
배달플랫폼 기업들이 '산재사고 1위 업종'이라는 오명을 쓴 이유 중 하나는 AI 도입 이후 악화한 노동환경 탓이다. 고용노동부가 국회에 제출한 지난해 상반기(1~6월) 기업별 산업재해 사상자 숫자를 살펴보자. 해당 기간 가장 많은 산재 사상자를 낸 기업은 배달의민족(우아한청년들, 814명)이었다. 2위는 쿠팡이츠(419명)였다. 배달의민족은 2022년 처음 산재 사상자 1위 기업이 된 뒤 이후 한 번도 자리를 내주지 않았다.



그래픽=김대훈 기자



AI 관리자, 노동자의 목줄을 쥐다



지난 2023년 영국 코번트리 아마존 물류센터에서 진행된 24시간 부분 파업 당시 한 노동자가 물류센터 앞에서 '나는 로봇이 아니다'라고 적힌 피켓을 들고 있다. 로이터·연합뉴스


AI 관리자 탓에 노동자의 건강권이나 기본권이 침해받는 건 배달 라이더만 겪는 문제는 아니다. 특히 AI 관리자를 한국보다 먼저 도입한 해외에서는 여러 논란이 이미 터져 나오고 있다.
세계적 전자상거래 기업 아마존은 AI를 이용해 노조 활동을 제약했다는 의심을 받는다. 경제정책 싱크탱크인 오픈마켓 인스티튜트 등이 실시한 여러 연구 결과에 따르면 AI 관리자는 창고 안에서 물건을 나르고 정리하는 노동자가 작업 때 쓰는 스캐너와 앱 접속 기록 등을 통해 노동자의 행동과 작업 속도 데이터를 파악했다. 또 업무 만족도 등 여러 데이터를 활용해 노조 결성 가능성이 높은 사업장을 분석하고, 노조를 만들 것 같은 직원들이 뭉치지 못하게 물리적으로 분리시켰다는 의혹도 나온다.
AI는 중간관리자를 넘어 최종 의사결정에도 관여하고 있다. 미국 구직 관련 기업 리쥬메 빌더가 지난해 기업 관리자 1,342명을 대상으로 설문을 벌인 결과 응답자의 20%는 'AI가 인간의 개입 없이 최종 결정을 내리도록 맡기는 경우가 많다'고 답했다. AI 기술이 발달할수록 이 비율은 높아질 수밖에 없다.
전문가들은 AI의 역할이 현장 노동자에서 중간 관리자, 최종 의사결정권자로 올라갈수록 인간에 대한 구조적 통제가 강해질 것으로 전망한다. 김성희 고려대 노동대학원 교수는 "AI의 역할이 커질수록 노동자의 업무 방식과 노동형태, 고용 여부까지 결정하게 될 것"이라며 "AI는 숫자와 데이터로만 움직이기 때문에 노동자를 보호하기 위한 대책이 중요하다"고 강조했다.

AI 관리자와 사람 노동자… 공존하려면



그래픽=이지원 기자


전문가와 노동자 사이에선 AI와 인간 노동자가 함께 일하는 시대를 피할 수 없다면 '공존의 법칙'을 찾자고 호소한다.
우선 AI에 대한 인간의 통제 강화 필요성이 제기됐다. 오민규 노동문제연구소 해방 연구실장은 AI 알고리즘에 대한 근로감독과 산업안전감독을 주장했다.
"무조건 빨리빨리를 강조하고 휴일이나 폭우, 폭설 같은 극한 날씨에도 노동자가 나와서 일하게끔 만드는 것이 AI 알고리즘이죠. 지금까지는 알고리즘이 노동관계법과 각종 규범을 제대로 지켰는지 노동의 관점에서 제대로 평가하고 분석한 사례가 거의 없어요."
AI 알고리즘이 근로기준법이나 산업안전보건법을 위반하지는 않았는지, 노동자의 노동환경을 악화시키지는 않았는지 검증하자는 설명이다.
AI 알고리즘의 투명한 공개도 요구했다. 적어도 노동자들이 어떤 원리로 일감을 배정받았고, 왜 이 일을 해야 하는지 공개해 최소한의 업무 이해도를 확보하고 노동안전을 보장하자는 주장이다. 국제노동기구(ILO)에서도 플랫폼 기업이 노동자에게 AI 알고리즘 작동 원리를 충실히 설명하도록 의무화하는 논의를 진행하고 있다.
김성희 고려대 노동대학원 교수는 기업의 AI 알고리즘 구축에 노동자 참여를 보장해야 한다고 말했다.
"AI는 결국 기존 데이터를 학습해 자신만의 판단을 내리는 기술입니다. 기업의 효율성을 중심으로 짜인 데이터만 학습한다면 결국 AI는 최종 의사결정 때도 기업 입장에서 효율만 생각하겠지요. 지금이라도 노동자가 AI 데이터 학습과 알고리즘 구축에 참여해야 AI도 노동자를 고려하는 판단을 내릴 수 있을 겁니다."
현장 노동자들은 노동자로서 최소한의 권리를 보장해달라고 토로했다. 현재 노동자의 몸 상태나 작업환경을 설명할 최소한의 소통 창구를 만들고, 배달노동자의 최저임금을 보장하는 것이 핵심이다. 특히 최저임금 보장은 배달플랫폼의 과도한 프로모션에 빠져들지 않고 AI의 비인간적 일감 배정에서 해방되기 위해 반드시 필요하다는 입장이다. 만약 배달노동자들이 시간당 3건의 배달을 수행한다면 건당 운임료를 3,440원 이상으로 책정해 최저임금 1만320원을 채울 수 있다.
오민규 실장도 이 같은 공존의 조건에 동의했다. "배달노동자에 대한 최저임금이 보장되면 배달시간 2분을 줄이기 위해 목숨을 걸 필요가 없어지죠. 실질적인 노동자 보호 장치가 될 겁니다."



그래픽=김대훈 기자


송주용 기자 juyong@hankookilbo.com