<2>AI생태계의 ‘유령 청소부’
이미지 확대
디지털 쓰레기를 처리하는 일은 인공지능(AI) 뒤에서 일하는 사람의 몫이다. 사진은 본지가 입수한 콘텐츠 모더레이터 교육용 자료가 버려지는 모습.

디지털 쓰레기를 처리하는 일은 인공지능(AI) 뒤에서 일하는 사람의 몫이다. 사진은 본지가 입수한 콘텐츠 모더레이터 교육용 자료가 버려지는 모습.
인공지능(AI) 생태계의 파수꾼일까, 청소부일까. 분명한 점은 보이지 않지만 필수적인 존재라는 사실이다. 국내에서 아직 생소한 개념인 콘텐츠 모더레이터는 유해 콘텐츠를 걸러내는 노동자다. 서울신문은 국내외에서 활동하는 전현직 콘텐츠 모더레이터들을 심층 인터뷰했다. 또 이들이 AI에게 필터링 기술을 가르친 뒤 대체되는 과정을 살펴봤다.
●영상 걸러내는 ‘콘텐츠 모더레이터’
“영상 수위요? 상상을 초월하죠. AI가 영상을 보다가 ‘그냥 사람한테 시켜야지’라고 할걸요?”
콘텐츠 모더레이터 손지혁(30대 초반·이하 가명)씨는 한 시간에 600여개의 숏폼(짧은 동영상)을 본다. 일주일도, 하루도 아닌 한 시간에 600여개다. 이 중 20~30개가 노골적인 포르노물이거나 잔인한 영상이다. 알몸 댄스 챌린지, 참수당하는 군인, 자해하는 청소년…. 이런 콘텐츠를 매뉴얼에 따라 분류하고 거르는 것이 그의 일이다. 그의 기술과 노하우는 고스란히 AI에게 넘어간다. 솎아내고 또 솎아내도 계속 밀려오는 숏폼은 압박 그 자체다. 끊임없이 작업물을 토해내는 컨베이어벨트처럼.
●음란물·참수 영상까지 상상 그 이상
지혁씨는 말레이시아의 한 BPO(비즈니스 프로세스 아웃소싱) 회사에 다닌다. 릴스, 틱톡, 쇼츠 등을 운영하는 글로벌 플랫폼(원청)이 외주를 주면 동남아에 있는 BPO사(하청)가 정화 작업을 맡는다. 지혁씨가 속한 팀은 한국 관련 영상물을 관리한다.
그는 지난 3일 서울신문과의 인터뷰에서 “한국 콘텐츠는 한국인이 처리하는 게 가장 빠르다”며 “한국어 욕설, 은어를 잘 알기 때문”이라고 설명했다. 지혁씨는 “IS(테러 단체 ‘이슬람국가’)의 테러를 옹호하며 참수하는 영상이 가장 충격적이었다”고 말했다.
박정화(30대)씨는 국내 한 인터넷 커뮤니티에 올라오는 게시글과 댓글을 실시간으로 감시한다. 1시간에 8000~1만 2000개의 게시글을 훑는다. 그는 “젠더 갈등이 컸던 2022년 음란 행위를 하면서 살인하는 장면이 담긴 영상이 올라왔는데, 그 잔상이 아직도 남아 있다”고 말했다. 정화씨는 “언제부턴가 아이들을 계속 옭아매는 강박에 사로잡혔다”며 “내 아이들이 조금이라도 위험한 상황에 놓이면 안 된다는 강박”이라고 말했다.
이미지 확대


시한폭탄이 된 트라우마
“종일 투신·생식기 영상만… 정신 피폐”
“아이들을 옭아매야 하는 강박 생겨”
테크 기업 이름만 보고 지원했다 충격
견디는 것 외엔 마땅한 방법이 없어국내 BPO사에 들어갔다가 곧 포기한 양민아(20대 후반)씨는 “구인 광고에서 콘텐츠 관련 일이라고 해서 기대감을 갖고 시작했다. 그런데 어떤 날은 사람 사진에서 생식기 부분만 하루 종일 표시하고, 어떤 날은 건물에서 뛰어내리는 영상만 보다 보니 정신이 피폐해졌다”며 “퇴사하고도 한동안은 스마트폰을 쳐다볼 수도 없었다”고 말했다. 민아씨처럼 채용 공고에 언급된 페이스북, 유튜브 등 글로벌 테크 기업의 이름에 매료돼 문을 두드렸다가 충격에 빠지는 이들이 많다.
콘텐츠 모더레이터들은 심각한 트라우마를 겪었지만 견디는 것 외엔 마땅한 방법이 없었다. 오히려 버티다 보면 ‘맷집’이 생겨 점점 무감각해졌다. 정신건강은 사측이 보호해야 할 영역이 아니라 노동자가 갖춰야 할 ‘능력’이었다. 신입 모더레이터를 교육하는 한 BPO의 교관은 이렇게 말했다. “여러분은 우리 사회를 깨끗하게 만드는 가치 있는 일을 하는 겁니다. 그렇지 않으면 7살짜리 아이도 성관계 영상을 볼 수 있으니까요.”
한국노동안전보건연구소가 의뢰한 ‘국내 콘텐츠 모더레이터 노동의 실태와 위험성’ 보고서를 쓴 노가빈(연구책임자)·이수민(공동연구원)씨는 “반복적인 유해 콘텐츠 시청은 언제 터질지 모르는 폭탄과 같다”며 “사측에서 정신건강 시스템을 마련해도 허울뿐인 경우가 많다”고 말했다.
모더레이터 업무는 프리랜서 형태의 계약직이 많은데, 잠시라도 휴식 시간을 가지면 재계약에서 불리하게 작용한다. 정화씨는 재택근무를 하며 육아를 병행할 수 있겠다 싶어 일을 시작했는데, 오히려 끼니를 거르거나 화장실도 못 가는 날이 빈번하다고 한다. 그는 “10분이라도 쉬고 오거나 화장실에 가면 바로 관리자한테 연락이 온다”고 했다. 지혁씨는 “1시간에 600~700개 영상을 검수하지 못하면 바로 호출된다”고 했다.
쳇바퀴가 돌아가는 속도는 점점 빨라진다. 사측은 처음에는 30초짜리 영상을 1분 동안 검수할 수 있게 시간을 준다. 평균 작업 시간이 40초라면 1분→40초→35초→30초 안에 마치도록 시간을 단축하며 압박한다. 동남아에서 모더레이터로 일한 성은경(30대 초반)씨는 “퀄리티(질)와 퀀터티(양) 모두에서 압박을 받는다”면서 “속도가 가장 중요한 업무 평가 기준”이라고 전했다.
유령 노동자로 전락한 그들
“끼니 거르고 화장실 못 가는 날 빈번”
“배달 라이더처럼 시간 내 무조건 완료”
스마트폰 반납·비밀유지 서약 ‘열악’
직업코드도 없어… 법적책임 강화를하은성 노무사는 “배달 라이더가 신호 위반을 해서라도 음식을 시간 안에 배달해야 하는 것과 같다”면서 “콘텐츠 모더레이터들에게는 보안 강요라는 족쇄가 덧씌워진다”고 말했다. 출근하자마자 스마트폰을 반납해야 하고 본인이 하는 일을 외부에 발설하지 않겠다는 비밀유지 서약서를 쓴다.
은경씨가 다니던 회사엔 3년 전까지만 해도 ‘ID 검열팀’이 있었다. 소셜미디어(SNS) 계정과 실제 사용자가 일치하는지 확인하는 팀이었는데, 어느새 팀이 사라졌다. 그는 “AI가 대신 할 수 있게 됐기 때문”이라고 말했다. AI를 가르치고 AI에게 밀려난 것이다.
민아씨도 “처음엔 사람이 일일이 라벨링 작업을 했지만 점점 AI가 필터링한 작업물을 수정하는 쪽으로 사람의 일이 바뀌었다”고 말했다. 지혁씨는 “AI에게 밀려난 잉여 인력은 교육을 받으며 대기하다가 AI가 처리할 수 없는 새로운 영역이 생기면 거기로 투입된다”고 밝혔다.
2018년 페이스북의 콘텐츠 모더레이터로 일했던 셀리나 스콜라는 외상 후 스트레스 장애(PTSD)에 대한 보상을 요구하는 소송을 최초로 제기했다. 이후 세계 곳곳에서 모더레이터의 노동권 보장 요구가 이어졌다. 국내에선 최근에서야 모더레이터, 데이터 라벨러의 고용 불안 문제가 제기되고 있다. 지난 1월 서울지방노동위원회는 유해 콘텐츠를 분류하는 교육을 받은 뒤 ‘채용 취소’를 통보받은 교육생이 낸 진정을 부당 해고로 인정했다. 이학영 더불어민주당 의원실이 중앙노동위원회로부터 제출받은 ‘데이터 라벨러·콘텐츠 모더레이터 관련 구제 신청 현황’에 따르면 최근 5년간 11건(인정 4건·기각 6건·각하 1건)이 접수됐으며, 신청 취지는 대부분 부당 해고였다.
전문가들은 모더레이터의 노동 안전망 확보를 위해 정부 지원과 기업의 법적 책임을 강화해야 한다고 조언한다. 노가빈 연구책임자는 “모더레이터라는 ‘직업코드’가 아직 없다”며 “이들을 둘러싼 장막을 걷어 내는 실태 조사와 통계 확보가 우선 필요하다”고 강조했다.
‘혐오·음란물’ 청소의 외주화… 인건비 싼 동남아에 2차 하청업체 몰려인공지능(AI) 시대의 콘텐츠 모더레이팅 작업은 철저하게 외주화, 분업화되고 있다. 피라미드의 최상단은 유튜브, 틱톡, 인스타그램, 페이스북, 엑스(X·옛 트위터) 등을 운영하는 빅테크 기업이 자리잡고 있다. 글로벌 원청인 셈이다. 이들은 중간 계층인 1차 하청 업체에 콘텐츠 검수를 맡긴다. 콘센트릭스(미국)와 텔레퍼포먼스(프랑스)가 1차 하청의 양대 산맥으로 알려져 있다. 콘센트릭스는 40여 개국(직원수 약 43만명), 텔레퍼포먼스는 100여 개국(약 50만명)에 지사를 두고 있다.
1차 하청 기업은 일감을 다시 2차 하청 기업(지사)에 보낸다. 인도, 태국, 말레이시아, 인도네시아 등 아시아 개발도상국에 주로 포진한 2차 하청 업체들이 피라미드의 밑바닥을 이루고 있다. 이들 국가는 컴퓨터를 다룰 줄 아는 인력이 비교적 많고, 임금은 싸며, 노동 관련 법규가 느슨하다는 특징을 갖고 있다. ‘디지털 쓰레기 처리장’으로서의 ‘3박자’를 고루 갖춘 셈이다.
●검열에도 다양한 언어·문화권 인력 투입
동남아의 2차 하청 업체들은 자국 인력뿐만 아니라 해당 유해 콘텐츠가 주로 생산되고 유통되는 국가 출신 인력을 따로 모집한다. 문화적·언어적 맥락에 대한 이해가 부족해 콘텐츠 속 혐오 표현이나 음란한 내용을 분별하는 데 한계가 있기 때문이다. 한국의 구직 포털에서 말레이시아나 태국 등지에 있는 콘텐츠 모더레이팅 업체가 한국 인력을 찾는 구인 광고를 종종 볼 수 있는 것도 이런 이유에서다. 현지 교민이 취업하는 경우도 있고 한국에서 원정 취업에 나서는 경우도 있다.
●딥페이크는 韓, 화형은 阿, 난민혐오는 美
실제로 유해 콘텐츠 내용은 지역마다 큰 특징이 있다. 한국과 관련된 유해 콘텐츠는 딥페이크 성착취물이 가장 많다. 미국의 사이버보안 업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 딥페이크 음란물에 등장하는 개인 가운데 53%가 한국인이다. 대부분이 연예인이었다. 아프리카 문화권은 화형(火刑)이나 강간, 아랍권은 참수(斬首)나 여성에 대한 명예살인, 유럽과 미국은 난민 혐오, 인종차별과 관련된 유해 콘텐츠가 많다고 한다.
■기획취재팀
팀장 이창구
장진복 김중래 명종원 이성진 기자
기획취재팀
2025-02-24 1면
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
<2>AI생태계의 ‘유령 청소부’
이미지 확대
디지털 쓰레기를 처리하는 일은 인공지능(AI) 뒤에서 일하는 사람의 몫이다. 사진은 본지가 입수한 콘텐츠 모더레이터 교육용 자료가 버려지는 모습.

디지털 쓰레기를 처리하는 일은 인공지능(AI) 뒤에서 일하는 사람의 몫이다. 사진은 본지가 입수한 콘텐츠 모더레이터 교육용 자료가 버려지는 모습.
인공지능(AI) 생태계의 파수꾼일까, 청소부일까. 분명한 점은 보이지 않지만 필수적인 존재라는 사실이다. 국내에서 아직 생소한 개념인 콘텐츠 모더레이터는 유해 콘텐츠를 걸러내는 노동자다. 서울신문은 국내외에서 활동하는 전현직 콘텐츠 모더레이터들을 심층 인터뷰했다. 또 이들이 AI에게 필터링 기술을 가르친 뒤 대체되는 과정을 살펴봤다.
●영상 걸러내는 ‘콘텐츠 모더레이터’
“영상 수위요? 상상을 초월하죠. AI가 영상을 보다가 ‘그냥 사람한테 시켜야지’라고 할걸요?”
콘텐츠 모더레이터 손지혁(30대 초반·이하 가명)씨는 한 시간에 600여개의 숏폼(짧은 동영상)을 본다. 일주일도, 하루도 아닌 한 시간에 600여개다. 이 중 20~30개가 노골적인 포르노물이거나 잔인한 영상이다. 알몸 댄스 챌린지, 참수당하는 군인, 자해하는 청소년…. 이런 콘텐츠를 매뉴얼에 따라 분류하고 거르는 것이 그의 일이다. 그의 기술과 노하우는 고스란히 AI에게 넘어간다. 솎아내고 또 솎아내도 계속 밀려오는 숏폼은 압박 그 자체다. 끊임없이 작업물을 토해내는 컨베이어벨트처럼.
●음란물·참수 영상까지 상상 그 이상
지혁씨는 말레이시아의 한 BPO(비즈니스 프로세스 아웃소싱) 회사에 다닌다. 릴스, 틱톡, 쇼츠 등을 운영하는 글로벌 플랫폼(원청)이 외주를 주면 동남아에 있는 BPO사(하청)가 정화 작업을 맡는다. 지혁씨가 속한 팀은 한국 관련 영상물을 관리한다.
그는 지난 3일 서울신문과의 인터뷰에서 “한국 콘텐츠는 한국인이 처리하는 게 가장 빠르다”며 “한국어 욕설, 은어를 잘 알기 때문”이라고 설명했다. 지혁씨는 “IS(테러 단체 ‘이슬람국가’)의 테러를 옹호하며 참수하는 영상이 가장 충격적이었다”고 말했다.
박정화(30대)씨는 국내 한 인터넷 커뮤니티에 올라오는 게시글과 댓글을 실시간으로 감시한다. 1시간에 8000~1만 2000개의 게시글을 훑는다. 그는 “젠더 갈등이 컸던 2022년 음란 행위를 하면서 살인하는 장면이 담긴 영상이 올라왔는데, 그 잔상이 아직도 남아 있다”고 말했다. 정화씨는 “언제부턴가 아이들을 계속 옭아매는 강박에 사로잡혔다”며 “내 아이들이 조금이라도 위험한 상황에 놓이면 안 된다는 강박”이라고 말했다.
이미지 확대


시한폭탄이 된 트라우마
“종일 투신·생식기 영상만… 정신 피폐”
“아이들을 옭아매야 하는 강박 생겨”
테크 기업 이름만 보고 지원했다 충격
견디는 것 외엔 마땅한 방법이 없어국내 BPO사에 들어갔다가 곧 포기한 양민아(20대 후반)씨는 “구인 광고에서 콘텐츠 관련 일이라고 해서 기대감을 갖고 시작했다. 그런데 어떤 날은 사람 사진에서 생식기 부분만 하루 종일 표시하고, 어떤 날은 건물에서 뛰어내리는 영상만 보다 보니 정신이 피폐해졌다”며 “퇴사하고도 한동안은 스마트폰을 쳐다볼 수도 없었다”고 말했다. 민아씨처럼 채용 공고에 언급된 페이스북, 유튜브 등 글로벌 테크 기업의 이름에 매료돼 문을 두드렸다가 충격에 빠지는 이들이 많다.
콘텐츠 모더레이터들은 심각한 트라우마를 겪었지만 견디는 것 외엔 마땅한 방법이 없었다. 오히려 버티다 보면 ‘맷집’이 생겨 점점 무감각해졌다. 정신건강은 사측이 보호해야 할 영역이 아니라 노동자가 갖춰야 할 ‘능력’이었다. 신입 모더레이터를 교육하는 한 BPO의 교관은 이렇게 말했다. “여러분은 우리 사회를 깨끗하게 만드는 가치 있는 일을 하는 겁니다. 그렇지 않으면 7살짜리 아이도 성관계 영상을 볼 수 있으니까요.”
한국노동안전보건연구소가 의뢰한 ‘국내 콘텐츠 모더레이터 노동의 실태와 위험성’ 보고서를 쓴 노가빈(연구책임자)·이수민(공동연구원)씨는 “반복적인 유해 콘텐츠 시청은 언제 터질지 모르는 폭탄과 같다”며 “사측에서 정신건강 시스템을 마련해도 허울뿐인 경우가 많다”고 말했다.
모더레이터 업무는 프리랜서 형태의 계약직이 많은데, 잠시라도 휴식 시간을 가지면 재계약에서 불리하게 작용한다. 정화씨는 재택근무를 하며 육아를 병행할 수 있겠다 싶어 일을 시작했는데, 오히려 끼니를 거르거나 화장실도 못 가는 날이 빈번하다고 한다. 그는 “10분이라도 쉬고 오거나 화장실에 가면 바로 관리자한테 연락이 온다”고 했다. 지혁씨는 “1시간에 600~700개 영상을 검수하지 못하면 바로 호출된다”고 했다.
쳇바퀴가 돌아가는 속도는 점점 빨라진다. 사측은 처음에는 30초짜리 영상을 1분 동안 검수할 수 있게 시간을 준다. 평균 작업 시간이 40초라면 1분→40초→35초→30초 안에 마치도록 시간을 단축하며 압박한다. 동남아에서 모더레이터로 일한 성은경(30대 초반)씨는 “퀄리티(질)와 퀀터티(양) 모두에서 압박을 받는다”면서 “속도가 가장 중요한 업무 평가 기준”이라고 전했다.
유령 노동자로 전락한 그들
“끼니 거르고 화장실 못 가는 날 빈번”
“배달 라이더처럼 시간 내 무조건 완료”
스마트폰 반납·비밀유지 서약 ‘열악’
직업코드도 없어… 법적책임 강화를하은성 노무사는 “배달 라이더가 신호 위반을 해서라도 음식을 시간 안에 배달해야 하는 것과 같다”면서 “콘텐츠 모더레이터들에게는 보안 강요라는 족쇄가 덧씌워진다”고 말했다. 출근하자마자 스마트폰을 반납해야 하고 본인이 하는 일을 외부에 발설하지 않겠다는 비밀유지 서약서를 쓴다.
은경씨가 다니던 회사엔 3년 전까지만 해도 ‘ID 검열팀’이 있었다. 소셜미디어(SNS) 계정과 실제 사용자가 일치하는지 확인하는 팀이었는데, 어느새 팀이 사라졌다. 그는 “AI가 대신 할 수 있게 됐기 때문”이라고 말했다. AI를 가르치고 AI에게 밀려난 것이다.
민아씨도 “처음엔 사람이 일일이 라벨링 작업을 했지만 점점 AI가 필터링한 작업물을 수정하는 쪽으로 사람의 일이 바뀌었다”고 말했다. 지혁씨는 “AI에게 밀려난 잉여 인력은 교육을 받으며 대기하다가 AI가 처리할 수 없는 새로운 영역이 생기면 거기로 투입된다”고 밝혔다.
2018년 페이스북의 콘텐츠 모더레이터로 일했던 셀리나 스콜라는 외상 후 스트레스 장애(PTSD)에 대한 보상을 요구하는 소송을 최초로 제기했다. 이후 세계 곳곳에서 모더레이터의 노동권 보장 요구가 이어졌다. 국내에선 최근에서야 모더레이터, 데이터 라벨러의 고용 불안 문제가 제기되고 있다. 지난 1월 서울지방노동위원회는 유해 콘텐츠를 분류하는 교육을 받은 뒤 ‘채용 취소’를 통보받은 교육생이 낸 진정을 부당 해고로 인정했다. 이학영 더불어민주당 의원실이 중앙노동위원회로부터 제출받은 ‘데이터 라벨러·콘텐츠 모더레이터 관련 구제 신청 현황’에 따르면 최근 5년간 11건(인정 4건·기각 6건·각하 1건)이 접수됐으며, 신청 취지는 대부분 부당 해고였다.
전문가들은 모더레이터의 노동 안전망 확보를 위해 정부 지원과 기업의 법적 책임을 강화해야 한다고 조언한다. 노가빈 연구책임자는 “모더레이터라는 ‘직업코드’가 아직 없다”며 “이들을 둘러싼 장막을 걷어 내는 실태 조사와 통계 확보가 우선 필요하다”고 강조했다.
‘혐오·음란물’ 청소의 외주화… 인건비 싼 동남아에 2차 하청업체 몰려인공지능(AI) 시대의 콘텐츠 모더레이팅 작업은 철저하게 외주화, 분업화되고 있다. 피라미드의 최상단은 유튜브, 틱톡, 인스타그램, 페이스북, 엑스(X·옛 트위터) 등을 운영하는 빅테크 기업이 자리잡고 있다. 글로벌 원청인 셈이다. 이들은 중간 계층인 1차 하청 업체에 콘텐츠 검수를 맡긴다. 콘센트릭스(미국)와 텔레퍼포먼스(프랑스)가 1차 하청의 양대 산맥으로 알려져 있다. 콘센트릭스는 40여 개국(직원수 약 43만명), 텔레퍼포먼스는 100여 개국(약 50만명)에 지사를 두고 있다.
1차 하청 기업은 일감을 다시 2차 하청 기업(지사)에 보낸다. 인도, 태국, 말레이시아, 인도네시아 등 아시아 개발도상국에 주로 포진한 2차 하청 업체들이 피라미드의 밑바닥을 이루고 있다. 이들 국가는 컴퓨터를 다룰 줄 아는 인력이 비교적 많고, 임금은 싸며, 노동 관련 법규가 느슨하다는 특징을 갖고 있다. ‘디지털 쓰레기 처리장’으로서의 ‘3박자’를 고루 갖춘 셈이다.
●검열에도 다양한 언어·문화권 인력 투입
동남아의 2차 하청 업체들은 자국 인력뿐만 아니라 해당 유해 콘텐츠가 주로 생산되고 유통되는 국가 출신 인력을 따로 모집한다. 문화적·언어적 맥락에 대한 이해가 부족해 콘텐츠 속 혐오 표현이나 음란한 내용을 분별하는 데 한계가 있기 때문이다. 한국의 구직 포털에서 말레이시아나 태국 등지에 있는 콘텐츠 모더레이팅 업체가 한국 인력을 찾는 구인 광고를 종종 볼 수 있는 것도 이런 이유에서다. 현지 교민이 취업하는 경우도 있고 한국에서 원정 취업에 나서는 경우도 있다.
●딥페이크는 韓, 화형은 阿, 난민혐오는 美
실제로 유해 콘텐츠 내용은 지역마다 큰 특징이 있다. 한국과 관련된 유해 콘텐츠는 딥페이크 성착취물이 가장 많다. 미국의 사이버보안 업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 딥페이크 음란물에 등장하는 개인 가운데 53%가 한국인이다. 대부분이 연예인이었다. 아프리카 문화권은 화형(火刑)이나 강간, 아랍권은 참수(斬首)나 여성에 대한 명예살인, 유럽과 미국은 난민 혐오, 인종차별과 관련된 유해 콘텐츠가 많다고 한다.
■기획취재팀
팀장 이창구
장진복 김중래 명종원 이성진 기자
기획취재팀
2025-02-24 1면
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지