Nosedive, Uber and Social Credit System in China

 

* daum 블로그의 지속적 편집 에러로 교정/편집이 제대로 이루어지지 않습니다. 따라서, 어느 정도 교열이 되었고, 보다 나은 가시성/가독성을 가진 '네이버 포스트'(링크)를 권장합니다.

 

 

 

 

 

 

Nosedive

 

Nosedive는 Netflix에서 만든 Blackmirror 시리즈 중 한 에피소드이다. Blackmirror 시리즈는  새로운 기술의 도입으로 인해 현대 혹은 가까운 미래에 발생할 수 있는 예상치 못한 후속 현상들을 다룬 시리즈이다. Nosedive는 이 중 사회구성원들이 사회 활동 중 접촉한 상대방에게 1부터 5까지의 별점을 부과하는 사회를 배경으로 하고있다(아래 비디오 참조).

 

 

한 개인에게 부과되는 이 별점(Star Ratings)은 그 개인의 사회경제적 지위 및 활동에 심각한 영향을 미치게 된다. 예를 들어 비행기 예약에서도 평점이 낮은 사람은 높은 사람에게 우선 순위에서 밀리게 된다. 이 평점의 상승을 통해 자신의 사회경제적 지위 향상을 목표로 하는 주인공이 자신의 평점이 낮아진 과정이 자신의 의지와 상관없음을 항공편 예약시 항공사 직원에게 설명하던 도중 감정적으로 되면서 이를 말리는 공항보안요원으로부터 감점을 받아 그녀의 평점은 급강하(Nosedive)하게 된다(아래 비디오 참조).

 

 

 

그런데 별 하나부터 5개에 이르는 평점을 매기는영화 속의 app은 아래 Google이나 Zomato처럼 사실 우리 곁에 이미 깊숙히 들어와있는 rating system이다. 

 

 

<Google의 비지니스 평점시스템>

 

 

<Zomato의 식당 평점 시스템>

 

Uber

 

위 평점시스템은 모두 자발적이므로 일반 대중들이 선택의 순간에 위 평점들을 참조는 하지만 절대적 판단의 근거로 삼지 않을 수도 있다. 그러나 이 둘과 달리 소비자로 하여금 평점을 적극적으로 권유하고 이 평점이 비지니스의 생존을 위협할 수도 있는 심각한 의미를 가지는 평점시스템을 도입한 곳이 있는데 그 중 하나가 우리에게 친숙한 Uber이다. 탑승객은 목적지에 도착한 후 탑승 종료를 위해 휴대전화의 Uber App을 들여다보게 되는데 이 때마다 운전자에 대한 평점화면이 등장하기 때문에 위 Google review나 Zomato review와는 비교할 수 없을 정도로  평점에 참여하는 빈도가 높아진다. 

 

Uber는 이 탑승객의 평점을 취합하여 자사의 기준에 미치지 못한다고 판단되는 운전자는 더 이상 영업활동을 못하게 하는 조치를 취한다. 그러하기에 Uber 운전자는 위 Nosedive에 나오는 주인공처럼 탑승객이 운행 종료 후 자신에게 행여 나쁜 평점을 줄까봐 웬만하면 억지춘향식으로라도 웃으면서 탑승객을 보내려한다. 반대로 운전자도 탑승객을 평가할 수 있으며 반드시 평가해야한다. 왜냐하면 탑승객에 대한 별점 평가를 거치지 않으면 탑승 종료를 할 수 없기 때문이다. 이쯤되면 상호평가이기 때문에 공정한 게임인 것같지만 현실적으로 그렇지 않다. Uber 탑승 경험이 있는 사람은 이해하겠지만 대부분의 운전자는 휴대폰 화면을 잘 볼 수 있도록 운전대 옆에 거치시켜 놓는다. 즉 app을 통한 운전자의 탑승종료 과정 화면이 옆 혹은 뒷좌석 승객과 공유된다. 이런 상황에서 면전에 승객을 두고 낮은 평점을 줄 운전자는 없기 때문이다. 

 

 

<Uber 탑승객의 운전자에 대한 평점화면>

 

 

중국의 사회신용평가시스템 (Social Credit System in China)

 

Uber가 소비자의 소비 경험을 토대로 한 비지니스 평가시스템의 한 전형이라고 한다면 Nosedive에서는 한 발자국 더 나아가 한 사회구성원과 다른 사회구성원간의 사회적 접촉이라는 광범위하고 주관적인 경험을 대상으로 상호 평점을 매기는 시스템이다. Uber의 평점시스템이 한 비지니스 운영자라 할 수있는 택시운전수 - 사회경제적 취약계층이 대부분인 - 의  경제활동을 중단케할 수있는 영향력을 가졌다면 Nosedive의 평점시스템은 한 사회구성원의 정상적인 사회활동을 제한하고 더 나아가 사회로부터의 격리라는 결과까지 가져오게 한다. Nosedive의 주인공이 그러했듯이.  이처럼 영향력 측면에서 무게감을 달리하는 두 평점시스템이지만 공통점은 이 평점시스템이 여전히 사회 영역 내에서만 이루어진다는 것이다. 반면 이 디지털 평점시스템을 직접 국가(State)의 사회구성원 통제 수단으로 이용하려는 시도가 있으니 바로 중국의 Social Credit System (SCS)이다.

 

SCS는 중국 정부가 향후 중국 사회가 소비에 기반한 경제로 가기 위해서는 반드시 사회구성원간 신뢰가 필요하다는 명목 하에 2020년 전국 실시를 목표로 2014년에 론칭한 사회구성원 평점시스템이다. 중국에는 이와 같은 정부의 공식적 SCS가 론칭하기 이전부터 이미 사기업에 의해 운영되는 유사한 시스템이 있다. 예를 들어 Alibaba의 Sesame Credit의 경우 알리바바의 서비스(Ali-pay)를 이용하는 고객들의 모든 정보를 취합하여 고객차별화를 구축하는 시스템을 이미 운영하고 있다. 중국 정부의 SCS는 이런 Alibaba의 Sesame Credit와 같은 기업의 소비자 고객 차등화 시스템에 더하여 개인 사회생활의 준법성, 더 나아가 도덕성과 정치적 성향(Ideology)까지 평가하는 시스템으로 진화를 목표로 한다. SCS의 평가 항목과 알고리듬은 아직 구체적으로 알려진 바 없으나 궁극적으로 중국 정부는 이 SCS를 인민이라는 자녀들을 착한 아이로 만들기 위한  수단으로 여기는 것이 확실해 보인다. 즉 자녀가 착한 행동을 했을 때는 참 잘했어요 스탬프와 동시에 주말 놀이동산을 약속하는 반면 밥을 깔끔히 먹지 않았을 때는 그 날 저녁 컴퓨터를 하지 못하게 하는 부모 역할을 하는 것이다. 

 

이 SCS가 대략 어떤 모습을 띨 것인가는 파일롯 프로그램을 시행한 지방정부 중 하나인  Rongcheng의 프로그램을 보면 알수있다(아래 비디오 참조).

 

  

인민들은 기본 1,000점을 배정 받은 후 평점을 위한 정보 획득을 임무로 하는 공무원이 매달 동네를 순회하면서 그 동네에서 한 달간 벌어진 일 중에서 가산점을 받을 만한 일을 한 사람과 감점을 당할 짓을 한 사람을 선별하여 평가서를 작성한 후 그 결과를 중앙 컴퓨터에 입력한다. 이 평가 대상에는 사적 영역이라할 수 있는 부부싸움도 들어가는데 부부싸움을 한 부부는 점수를 감점당하게 된다. 비디오 후반에 나오는 사람은 기본 점수 1,000점에서 50점을 감점당해 950점인 관계로 고속철도를 이용할 권리를 박탈당하고 할 수 없이 훨씬 시간이 걸리는 버스를 이용하게 된다.  이 사람이 이 불편함을 벗어나기 위해서는 점수를 다시 올리는 수 밖에 없는데 비디오에 나온 것처럼 어디에 쓰일지 모를 헌금을 하고 또 헌혈을 하게되면 잃어버린 점수를 다시 복구할 수 있다. 

 

2020년에 시행을 목표로 한 중국의 SCS는 이렇듯 상업적 활동은 물론 정치적, 사회적 그리고 법적 행위까지 망라하는 광범위한 정보를 수집하여 개인의 평점을 매길 것으로 보인다. 흥미로운 것은 서구 리버럴에겐 Dystopian 시스템처럼 보이는 이 시스템에 대해 중국 인민들은 소수를 제외하곤 환영하며 자신의 정보가 국가에 의해 그리고 Alibaba와 같은 거대 기업에 의해 이용되는 것에 거부감을 가지지 않는다는 것이다. 2018년도의 한 서베이에 의하면 2,200명 응답자 중 80%가 이 시스템을 강력하게 지지하는 것으로 나타났다. 오히려 76%는 이 시스템이 무너진 중국사회의 시민들 간 상호불신을 회복시켜줄 수단이 될 것으로 기대하고있다(아래 비디오 참조).

 

SCS에 긍정적인 중국 인민들

 

중국 정부의 이 디지털화된 사회통제시스템인 SCS는 안면인식 기능으로 무장된 감시카메라와 맞물려 더욱 강력한 힘을 발휘할 것으로 보인다(아래 비디오 참조).

 

 

안면인식기능이 장착된 중국의 감시카메라

 

약 14억의 인구를 가진 중국은 2018년 현재 전국적으로 약 2억대의 캄시카메라가 작동 중이고 예정대로라면 2020년에 5억대가 넘는 감시카메라가 중국의 모든 곳을 감시하게 될 것이라고 한다. 안면인식(facial recognition)기능을 가진 이런 감시카메라를 테스트하기 위해 BBC 기자가 자신의 사진을 중국 정보기관에 입력한 후 시험을 한 결과 7분만에 그가 있는 곳이 밝혀질 정도로 효율적인 감시기능을 수행한다. 실제 사례도 있다(아래 비디오 5:40 참조). 중국에 체류 중인 이 외국인은 길에서 무단횡단하다가 안면인식 감시카메라에 찍히고 불과 20초뒤에 그의 WeChat 구좌에서 벌금이 자동으로 빠져나간 경험을 얘기한다. 

 

 

이처럼 안면인식 감시카메라 기술과 더불어 대중감시(Mass Surveillance)의 일환으로 이용될 가능성이 큰 중국의 SCS는 중국 정부(State)와 Alibaba 그리고 Tencent 와 같은 거대 온라인 기업의 합작품이라 할 수 있다. 이런 국가와 기업간의 합작관계는 Liberal Capitalism 국가로 연장될 수 있는 바 미국의 경우 NSA(미국국가안보국)와 FBI(연방수사국) 그리고 Google과의 합작이 그 유형일 것이다. 이런 온라인 대기업의 정보를 이용한 소비가 행위 패턴에 대한 모니터링 기능을 가진 자본주의 형태를 미국 학자 Shoshana Zuboff 는 Surveillance Capitalism(감시 자본주의)로 칭하면서 Information Capitalism의 한 변형으로 이해한다. 

 

 

맺음말

 

SCS의 치명적인 단점은 통치의 대상인 인민들의 신뢰성에 대한 검증을 하는 주체인 국가(state)는 이 검증의 대상에서 배제된다는 점이다. Uber 역시 마찬가지이다. Uber 본사의 화이트칼라들은 끊임없이 탑승객에게는 운전자의 검증을 요구하지만 절대로 Uber에 대한 평점을 요구하지 않는다. Uber 운전자들에게 모든 관련 세금, 비용, 보험을 부담시키고 운전자들이 시간 당 최저임금도 안되는 수입을 올리는 경우에도 검증은 도로 위 운전자와 탑승객 사이에서만 이루어는 것을 당연하게 여기게 만든다. 중국 정부도 마찬가지이다. 그들은 인민들을 자신들이 원하는 방식으로 검증하고 이 결과에 따라 체제에 복종하는 '착한' 시민과 그렇지 않은 '나쁜' 시민을 나누어 통치에 적극 활용할 것이다.  이처럼 통치에 이용하려는 움직임은 곳곳에서 포착된다. 가령 팔룬공 수련자를 개종하게하거나 공개적으로 회교율법을 실천하는 위구르 소수민족을 고발할 경우 보상점수를 제공해주는 것들이 바로 그 사례이다. 이에 저항하는 인민들은 Nosedive의 주인공처럼 사회에서 격리되는 처벌을 받게 될 것이며 이는 샹하이 Tongji 대학교 Zhu Dake가 말하는 신용전체주의 (Credit Totalitarianism) 국가로 중국을 이끌 것이다.