영상통화 10분만에 8억원이 사라졌다

[2023-07-05, 08:05:52] 상하이저널
실생활에서 활용되는 얼굴 인식 기술 ‘주의’

현재 중국의 대도시에서는 얼굴 인식으로 회사, 학교, 주거지 등의 출입이 가능하고, 이외에도 결제, 신분 인증, 대중교통 이용까지 일상생활에서 널리 활용되고 있다. 세계적으로 높은 기술력을 가지고 있는 것으로 평가되고 있는 중국의 인공지능 얼굴인식 기술은 범죄에도 활용이 되고 있어 한편으로는 주의가 필요하다.

실생활에서 활용되는 얼굴 인식 기술

중국은 인공지능 분야와 얼굴 인식 분야에서 높은 기술력을 갖추고 있으며 일상생활에서 적극적으로 사용하고 있다. 2018년에는 중국 연구진이 개발한 인공지능 알고리즘이 세계 얼굴 인식 기술 경진 대회(FRVT)에서 1~5위를 휩쓸기도 했다. 실제로 중국의 알리페이는 얼굴 인식 결제 서비스를 제공하고 있으며, 저장(浙江)대학교를 포함한 많은 학교는 얼굴 인식으로 학교 출입을 관리하고 있다. 이외에도 베이징에서는 얼굴 인식으로 대중교통 이용이 가능하며, 항저우에 있는 무인 호텔에서는 얼굴 인식으로 투숙객의 신분을 확인하기도 한다. 
  
알리페이의 얼굴인식 결제와 저장대학교 얼굴 인식 출입

일찍부터 얼굴 인식 기술에 관심을 가진 중국 정부는 2019년부터는 핸드폰에 가입할 때 얼굴 정보를 등록하도록 하고 있으며, 이미 전국에 방범 카메라를 6억 대 이상 설치·운영 중이다. 중국 정부는 AI 기술을 활용하여 신원 확인, 결제, 대출 모니터링, 범죄자 감시 등 다양한 영역에서 얼굴 인식 기술을 적극적으로 쓰고 있다.  중국은 개인정보 보호보다는 데이터 확보에 중점을 두면서 인공지능과 얼굴인식 분야에서 독보적인 기술력을 가지고 있다. 
 
앱을 통해 얼굴을 바꾼 모습_ 도우인(抖音)에서 직접 적용 후 캡처

얼굴 인식과 얼굴 합성 기술은 일반인들도 SNS 앱이나 사진 편집 앱 등을 통해 쉽게 이용할 수 있다. 대표적인 중국의 SNS인 도우인(抖音, 중국판 틱톡)에서는 위 사진과 같이 원하는 테마를 선택한 후 본인의 사진을 넣어 얼굴을 합성할 수 있다. 어린아이, 조폭, 사극까지 테마의 종류가 다양하며, 결과물 역시 자연스러운 것부터 우스꽝스러운 것까지 다양하다. 이외에도 중국에서는 드라마 촬영 중 사생활 논란이 생긴 배우의 얼굴을 바꾸고, 라이브 방송에 유명인이 온 것처럼 얼굴을 바꾸는 등 다양하게 얼굴 인식 기술과 얼굴 합성 기술을 사용하고 있다. 


10분 만에 8억 원을 사기당한 IT업체 대표

하지만 얼굴 인식 기술이 악용되는 사례도 적지 않다. 기술이 최근 내몽고(内蒙古)자치구의 공안은 인공지능을 이용한 보이스피싱 사례를 발표했다. 푸저우시(福州)의 한 IT업체의 궈(郭) 대표는 10분 만에 430만 위안(한화 약 8억 원)을 사기당했다. 
 
얼굴을 바꿔 영상통화를 하며 돈을 요구하는 것을 그린 일러스트(바이두)

지난 4월 20일 정오, 궈 대표는 지인으로부터 위챗 영상통화를 한 통을 받았다. 그 지인은 입찰하기 위해서는 보증금 430만 위안이 필요한데, 기업용 계좌가 필요해서 궈 대표의 회사 계좌를 빌리고 싶다고 이야기했다. 지인에 대한 신뢰와 영상 통화로 신원을 확인한 곽 대표는 회사 계좌에 지인이 돈을 입금했는지 확인하지 않고 두 차례에 걸쳐 430만 위안을 지인의 은행카드로 송금했다. 그러나 이후 궈 대표는 자신이 사기를 당했다는 것을 알게 됐다. 사기꾼은 인공지능 얼굴 합성 및 음성 변조 기술을 이용하여 궈 대표의 친구를 가장하여 사기를 친 것이다. 사기꾼이 궈 대표 친구의 위챗을 도용했던 것 역시 궈 대표가 보이스 피싱에 넘어간 이유 중 하나다. 

다행히 신고를 받은 공안과 은행은 해당 계좌를 동결하여 336만 8,400위안(약 6억 원)을 확보했지만, 여전히 93만 1,600위안(약 1억 6천만 원)은 되찾지 못한 상태다. 이외에도 얼굴 인식 기술과 얼굴 합성 기술을 활용한 범죄가 잇따르면서 중국 공안 당국은 영상 통화로 돈을 요구하면 여러 방법으로 신분을 확인할 것을 당부하고, SNS에 얼굴이 잘 드러나는 영상이나 사진을 올리지 않을 것을 권고했다.

얼굴 인식 기술의 문제점

얼굴 인식 기술의 발전은 일상생활에서 편리함을 가져오고, CCTV에서 활용하면서 범죄 감시 같은 분야에서도 사용되고 있다. 또한 대규모 인공 지능 모델과 얼굴 인식 기술의 개발로 얼굴 합성 기술의 적용 범위가 점점 더 넓어지고 이용의 문턱이 낮아져 미용, 영상 제작 및 가상 앵커와 같은 응용 서비스가 탄생했다. 하지만 중국의 이러한 얼굴 인식 기술의 활용은 심각한 개인정보 침해라는 비판 역시 받고 있다. 개인의 얼굴을 식별하고 나아가 표정까지 식별하는 것은 분명한 개인정보 침해의 문제가 존재한다. 

중국의 얼굴 인식 CCTV(네이버)

또한 얼굴 인식 뿐만 아니라 점점 더 자연스러워지는 얼굴 합성 기술 역시 또 다른 범죄로 이어지고 있다. 보이스피싱보다 한 단계 발전하여 영상 통화로 지인을 사칭하여 8억 원을 가로챈 것처럼 범죄에도 악용될 위험성이 크다. 기술의 발전은 단순히 얼굴을 바꾸는 것 이상으로 표정과 움직임의 세부 사항을 사실적으로 만들어 범죄자들이 악용하고 있다. 

불법 및 거짓 정보를 만들어 타인의 명예를 훼손하고, 타인의 신분을 사칭하고 사기를 치는 등의 현상이 나타나고 있다. 인공지능 얼굴 인식 기술의 발전을 이용하면서도, 앞선 사례와 같은 피해가 발생하지 않도록 보이스 피싱에 대한 경각심을 가지고, 개인정보보호에도 신경을 써야 할 것이다.

학생기자 김다은(저장대 영문과)


전체의견 수 0

  비밀댓글
등록