UPDATED. 2019-07-19 16:32 (금)
‘감시 사회주의’와 결합하는 중국의 인공지능과 빅데이터
‘감시 사회주의’와 결합하는 중국의 인공지능과 빅데이터
  • 조준상 선임기자
  • 승인 2019.06.17 14:39
  • 댓글 0
이 기사를 공유합니다

중국‘사회신용평가시스템’(SCS) 2020년 전면 도입 예고
사회신용점수 평가기준 중 행동과 선호, 대인관계가 가장 문제
중국의 SCS에 대한 우려가 특히 높은 것은‘감시 자본주의’와 결합할 위험성이 매우 높기 때문

[커버스토리 - AI와 인간 어떤 길을 갈 것인가? -인공지능과 사회경제]

지난 1월 동중국해에 있는 저장성의 한 중국인 사업가는 은행들로부터 대출을 거절당했다. 정부의 한 자녀 갖기 정책을 위반한 데 대한 벌금을 2012년 이후 내지 않았다는 게 이유였다. 은행들은 정부가 운영하는 사회신용 웹사이트 ‘크레딧차이나’(creditchina.gov.ch)에 그렇게 기록돼 있다고 말했다.

국제인권단체 ‘휴먼라이트와치’에 따르면, 베이징에 거주하는 한 변호사가 2016년 2월 비행기 티켓을 구입하려다 거부당했다. 법원에서 그를 “믿을 수 없는 사람”으로 블랙리스트에 올려 있었기 때문이었다. 이유는 2014년 명예훼손 소송에서 패소하며 법원의 명령에 따라 사과문을 냈는데 이 사과문이 “불성실한” 것으로 법원이 간주했다는 것이다. 해당 변호사는 이런 사실을 사전에 전혀 통보받지 못했고 비행기 티켓 구입이 거부됐을 때에서야 알았다.

이런 황당한 일들은 2020년 전면 도입이 예고된 이른바 ‘사회신용평가시스템’(SCS) 구축 계획의 시범사업이 실시되면서 중국 안에서 현재 무시로 벌어지고 있다. 블랙리스트가 만들어지기 시작한 때는 2013년 9월이다. 그 얼마 뒤인 2014년 6월 중국 국무위원회는 사회신용평가시스템 구축 계획을 발표했다. 그때부터 올해 3월 말까지 블랙리스트 명단에 올라간 개인과 기업 숫자는 1349만명에 육박한다.

기존 신용 개념을 넘어 사회행동을 점수화하겠다는 중국 정부의 야망

목표는 거창하다. ‘공무상의 정직, 상업상의 정직, 사회상의 정직, 사법신뢰의 구축을 강화시키기 위해 신뢰가 활짝 꽃피우는 공론장 환경을 조성한다. 이를 위해 전국적인 신뢰와 정직의 문화를 꽃피울 수 있도록 13억 시민(법인 포함)의 신뢰성을 평가하는 SCS를 개발한다’는 것이다. “진지함과 신뢰도가 모든 사람들 속에서 행위의 의식적 규범이 되는” 바람직한 사회를 보장하는 데 도움을 주려는 목적을 지닌다고 설명된다.

SCS는 처음에는 자발적인 참여에서 시작하지만 2020년에는 의무화하는 것으로 돼 있었다. SCS 개발 면허는 8개 민간회사에 내주는데, 여기에는 중국 굴지의 데이터 업체들이 참여한다. 하나는 8억5천만명이 사용하는 위챗을 개발한 소셜네트워크 공룡기업인 텐센트다. 텐센트는 개발 면허를 받은 차이나 래피드 파이낸스(China Rapid Finance)의 제휴 대상이다. 다른 하나는 알리바바다. 계열사인 앤트파이낸셜서비스그룹(Ant Financial Service Group)이 운영하는 세사미 크레딧(Sesame Credit)을 통해 참여한다. 이 계열사는 보험상품과 중소기업 대출 업무를 한다. 세사미 크레딧은 우버와 같은 공유택시 플랫폼인 ‘디디추싱’, 중국 최대의 데이트 사이트인 ‘바이허’와 협력하고 있다.

계획의 중요한 일부를 이루는 금융 부문 개인정보평가 부문에서는 정부 주도의 플랫폼에 사적 평가사들이 이미 통합됐다. 지난해 중국 중앙은행인 인민은행은 ‘백항신용평가’로 불리는 정부 주도의 개인정보통합 플랫폼에 텐센트 그룹의 텐센트 크레딧, 알리바바 계열그룹인 앤트파이낸셜서비스그룹의 지마 크레딧을 포함하는 사적 신용평가사들을 통합했다. 이 시스템은 은행과 기타 금융기관들이 이용하도록 하기 위해 개인의 금융 약력에 기초해 신용평가를 편집한다. 또한 지난 3월 전국인민대회에서 리커창 총리는 중국의 사회거버넌스 개혁계획의 일부로 SCS 구축 노력을 재확인했다.

SCS에 따르면 중국의 모든 시민들에게는 기본 사회신용점수로 1천점이 부여된다. 사회신용 등급은 4등급으로 나뉜다. 960~1천점은 A등급, 850~955점은 B등급, 600~840점은 C등급이다. 이보다 낮은 점수는 모두 D등급이다. 사회신용 점수가 D등급에 해당하면 해당자는 “신뢰성이 없는” 사람으로 지목돼 블랙리스트에 올라간다. 중국 정부가 사회신용 점수를 매기기 위해 동원하는 방법론은 구체적으로 알려지지 않았다. 다만 이 계획에 참여하고 있는 사적 기업의 하나인 알리바바가 공개한 5가지 평가기준은 △신용 경력(연체가 있는지 등) △수행능력(계약의무를 이행하는 능력이 있는지) △개인적 특성(전화번호나 주소 등) △행동과 선호 △대인관계다.

비디오 게임을 하루 10시간 동안 하면 게으르다?

이 평가기준 중 행동과 선호, 대인관계가 가장 문제가 된다. 알리바바의 설명을 보면 “비디오 게임을 하루 10시간 동안 하는 사람은 게으르다”고 평가한다. 이런 식의 선호와 행동에 대한 평가가 중국 정부가 좋아하지 않는 선호나 행동을 하지 않도록 하는 유도로 이어지는 건 매우 쉽다. 대인관계의 평가도 마찬가지다. 온라인상의 친구 맺기나 상호작용으로 평가점수를 많이 받을 수 있다. 이를테면 정부에 대한 긍정적 메시지나, 중국 경제는 잘 굴러가고 있다는 식의 메시지가 등급을 끌어올린다. 하지만 온라인상에서 사귄 친구가 정부 비판적인 얘기를 꺼내기라도 한다면 자신의 사회신용평가에까지 영향을 준다. 속칭 ‘바른 소리’ 하는 사람과는 놀지 않는 게 신상에 이롭다는 얘기다.

기본점수를 깎아먹는 심각한 위반에는 음주운전, 횡령, 사기가 포함된다. 이보다 작은 위반에는 너무 많은 비디오 게임을 한다거나 “허위뉴스” 특히 테러 공격과 관련한 허위뉴스를 퍼뜨린다거나 군복무를 거부한다거나 하는 것이 포함된다. 개를 풀어놓고 걷는 것처럼 공개된 장소에서 부적절하게 행동하는 것도 감점 요인이다. 개를 되찾으려면 따로 시험을 봐야 한다. 앞서 살펴본 사례처럼 진실로 뉘우친다고 정부가 믿지 않을 경우 “부정직한” 사람으로 때때로 선언되기도 한다. “신뢰할 수 없는” 사람으로 선언돼 블랙리스트에 올라가면 비즈니스 클래스 열차표를 구입하거나 특정 호텔에 묵을 수 없게 된다. 어떤 경우에는 자녀들의 학교 입학이 거부되기도 한다. 고용 기회가 사라지기도 한다. 중국 정부는 채용 결정을 하기 전에 블랙리스트에 올라있는지 확인하도록 사업자들에게 권장하고 있다.

반면 점수가 높은 사람들에게는 혜택이 따른다. 공원이나 공공도서관을 출입할 때 무료로 입장할 수 있고, 은행 잔고가 없이도 원하는 호텔을 예약할 수 있다. 항공기나 열차 예약에서 할인을 받을 수 있다. 최근 중국 남부 푸젠성 성도인 푸저우에 소재한 한 건설회사는 은행 서비스를 받으며 할인 혜택을 받았다. 이유는 사회신용점수가 푸저우의 시화(市花)인 재스민에서 이름을 딴 이른바 ‘재스민 점수’에 해당했기 때문이다.

점점 더 많은 도시에서 SCS가 도입되고 있음을 알리는 ‘사우스차이나모닝포스트’ 2019년 2월15일 보도의 한 장면. 사진=SCMP 보도 장면 캡처
점점 더 많은 도시에서 SCS가 도입되고 있음을 알리는 ‘사우스차이나모닝포스트’ 2019년 2월15일 보도의 한 장면. 사진=SCMP 보도 장면 캡처

30개 이상 지방도시, 이미 지역 SCS 도입 시행 중

SCS는 지방정부 차원에서 시범사업으로 착착 추진되고 있다. 2016년 장쑤성 쉬저우는 시화의 이름에서 딴 오스만투스(계화꽃) 사회신용점수제를 시작했다. 1300만명을 포괄한다. 시 당국은 사람들의 신뢰도를 분석하기 위해 치안, 사회복지, 민생, 행정, 상업 담당 부서, 가족계획을 포함한 지방 부서들로부터 데이터를 수집하다. 예를 들어 사람들은 자원봉사 활동에 참가하면 추가 신용점수를 받고 교통 위반을 하면 감점을 받는다. 2017년 12월 항저우, 난징, 샤먼을 포함한 12개 도시가 지역 차원의 개인신용점수 시스템을 도입했다. 이후 20개 도시가 추가로 비슷한 시스템을 도입했고 이보다 더 많은 도시들이 시스템 도입을 준비하고 있다.

지난해 9월에는 중국 연예계에 SCS를 적용한 성격에 해당하는 ‘중국연예인 사회책임보고서(2017~2018)’도 나왔다. 베이징사범대학교 뉴미디어전파연구센터 등에서 펴낸 이 보고서는 전 세계에서 활동하는 중국 연예인 100명을 대상으로 ‘직업 분야’, ‘자선활동 분야’,‘개인의 청렴성’을 측정하는 방식으로 작성됐다. 각 분야가 어떤 기준으로 측정됐는지 공개되지 않았는데, 보고서 작성자는 ‘조사와 웹 추적’으로 평가가 이뤄졌다고 밝혔다. 이 보고서에서 판빙빙과 청충(성룡)은 “사회적으로 긍정적인 영향력이 0%”로 평가됐다. 사실상 ‘인간 말종’이라는 낙인이다. 청룽이 중화주의 심기를 건드리고 판빙빙이 떠들썩한 탈세의 장본인이었다고 해도, 그동안 이들이 행한 자선과 선행을 감안하면 0%라는 숫자는 나올 수 없었음에도 말이다.

여기에서 알 수 있듯이 사회신용평가 도입이 확대되면서 논란은 커지고 있다. 특히 공공서비스에 대한 사람들의 접근을 결정하는 데 개인신용 점수를 광범위하게 이용하는 것에 대한 비판이 쏟아지고 있다. 신뢰와 무관한 요인들을 이용해 개인신용을 평가함으로써 사람들의 권리를 남용하는 것일 수 있다는 이유에서다. 라이 진창 세계은행 국제금융공사의 기술 전문가는 “신용정보의 본질적 목적은 (금융기관이) 고객의 위험 노출 정도를 평가하는 것을 돕는 것인데, 여기에 사회신용 점수를 도입하는 것은 적용 범위를 넘어선 남용에 해당한다”고 지적한다. 실제로 이런 식의 사회신용평가 점수를 도입하고 있는 곳은 다른 곳에선 찾아볼 수 없는 중국만의 현실에 해당한다.

SCS의 도입에 사적 신용평가사들의 결합이 필수적인 만큼 면허를 내주는 기업들도 늘어나고 있다. 문제는 이 과정에서 중국 인민은행과 국가발전화개혁위원회(NDRC) 간의 마찰도 빚어지고 있다. 지난해 10월 NDRC는 사회신용평가 서비스 시행을 위해 26개 사업자를 승인했는데, 여기에는 인민은행이 부적격하다고 승인을 거부한 기업들이 다수 포함됐다. 인민은행 안에서부터 금융 상환 능력에 한정돼야 할 신용평가가 너무 넓은 영역으로 확대되고 있다는 불만의 목소리가 나오고 있다는 사정을 감안하면, 규제기관들 사이에서 불협화음으로 풀이될 수 있다.

사회신용시스템 도입이 확대되면서 신종 범죄도 발생하고 있다. 사회신용점수를 높게 받기 위한 뇌물이 횡행하고 있는 것이다. 중국 남동부에 있는 후난성 성도인 창사에서는 최근 한 경찰관에 대한 재판이 있었다. 혐의는 교통위반기록을 삭제하는 도움을 대가로 뇌물 4200만 위안(약 71억원)이나 엄청난 뇌물을 받았다는 것이다. 교통위반이 사회신용평가 항목에 포함된 데 따른 현상인 것이다.

시장에서 일하기와 외로운 이모 방문의 상대적 가치를 결정할 수 있는가?

신뢰사회 구축을 명분으로 내걸고 있는 중국의 SCS가 서방 자본주의의 신용과 얼마나 거리가 있는지는 논란거리다. 중국 신용시스템은 금융과 관련한 신용만이 아니라 법원 판결, 범죄 기록, 학문적 부정직성, 무단횡단, 운전위반, 교통요금 미지급 등 광범위한 사회신용 점수까지 포괄한다. 하지만 일자리를 잃으면 신용이 하락하고 이로 인해 다른 일자리를 얻는 데 지장을 받는 건 서방 자본주의의 현실이기도 하다. 미국에서는 사용자가 구직 신청자의 신용기록에 적힌 정보를 근거로 구직 요청을 거부하는 것은 불법이 아니다. 일자리 상실로 신용이 낮아지거나, 제때 임차료를 냈음에도 엄청난 의료비 때문에 신용카드 빚을 지게 된 이들은 주택 임차가 거부되는 경우도 허다하다. 효과 측면에서 SCS와 만리장성이 쌓여있는 게 아니라는 얘기다.

그럼에도 중국의 SCS에 대한 우려가 특별히 높은 것은 그것이 ‘감시 자본주의’(중국이 ‘사회주의 시장경제’를 공식 내세우고 있음을 감안하면, ‘감시 사회주의’라는 표현이 더 적합할 듯하다)와 결합할 위험성이 매우 높기 때문이다. 특히 중국공산당 1당 체제인데다 시진핑 주석이 임기제를 없애며 영구집권을 선언한 터라 우려는 매우 높다. 헤지펀드 투자귀재로서 가끔씩 입바른 소리를 해오던 조지 소로스가 올해 1월 스위스 다보스 세계경제포럼에도 중국의 SCS를 꼽으며 권위주의 정권과 인공지능․빅데이터가 결합은 ‘열린사회의 적’이라고 목소리를 높은 것도 이런 배경에서다. <당신은 누구를 신뢰할 수 있는가? - 우리에 대한 정보 집적의 기술과 기술이 우리를 갈라놓을 수 있는 이유(Who Can you Trust? - How Technology Brought Us Together and Why It Might Drive Us Apart)>의 저자인 레이첼 보츠만은 “SCS가 중국 공산당의 감시방법인 ‘당안’(dang'an; 일종의 기록 archive)을 게임화시켜 만든 빅데이터”라고 평가한다. 이를 통해 결국 ‘게임화한 복종’을 창출한다는 것이다. 2017년 10월 출간돼 중국 정부를 발칵 뒤집어 놓은 이 책의 내용은 SCS가 갖는 함의를 비판적으로 분석하고 평가한 것이다.

이런 비판에 대해 중국 정부는 SCS가 중국의 가족, 학교, 법원에 현재 체화해 있는 가치들을 반영할 뿐이라고 반박한다. 광범위한 반사회적 행동, 사회적 행동에 대해 시장에서 한 행동처럼 점수를 부여할 수 있다는 항변이다. 하지만 SCS의 방법론에는 근본적인 한계가 있다. 어떻게 보통의 (금융)신용과 사회신용이 하나의 잣대가 적용될 수 있는 ‘통분 가능성’(commensurability)을 가지느냐는 물음이다. 예를 들어, 시장에서 일하는 것과 외로운 이모를 방문하는 것의 상대적 가치를 어떻게 결정할 수 있느냐는 것이다. 연금술사가 찾고자 했던 철을 금으로 전환시키는 영약인 엘릭서(elixir)가 없고서는 불가능한 일이다. SCS에서 효도는 매우 중요한 사회신용의 항목이다.

수천만 명의 중국 농민들이 굶어죽는 비극을 불러온 마오쩌둥의 ‘대약진운동’에 비유해 SCS에 대해 시장과 사회의 통분을 위한 제2의 ‘대약진’이라는 풍자가 나오는 것도 이런 이유에서다. 아마도 그것이 낳는 비극은 인공지능과 빅데이터 기술이 권위주의 정권과 결합해 억압의 무기로 전환되는 미래로 성큼 다가서는 것이기 쉽다. 조지 오웰이 <1984년>에서 경고했던 그런 미래로 말이다. ‘감시 자본주의’, 아니 ‘감시 사회주의’라는.

 

본 기사는 월간지 <이코노미21> 455호(2019년 5월)에 게재된 글입니다.

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.