中 챗GPT가 쓴 가짜뉴스 퍼뜨린 남성 ‘구속’… AI 위조 처벌 첫 사례

[2023-05-11, 14:08:30]

최근 중국의 한 남성이 오픈 AI의 챗GPT를 이용해 가짜 뉴스를 작성, 유포한 혐의로 경찰에 구속됐다. 이는 중국의 AI로 생성된 딥페이크 법적 규제에 따른 첫 구속 사례다.

9일 펑파이신문(澎湃新闻) 등 현지 매체에 따르면, 최근 간쑤성(甘肃省)에 거주하는 홍(洪) 씨는 챗GPT에게 허위 기사를 작성하도록 지시한 뒤 해당 내용을 인터넷에 유포했다.

홍 씨가 유포한 기사 제목은 ‘간쑤성 기차 사고로 도로 수리공 9명 사망’으로 이를 사진과 함께 바이쟈하오(百家号) 계정 21곳에 업로드했다. 홍 씨는 챗GPT에 사건 키워드와 함께 기사 분량, 형식 등을 구체적으로 요청한 것으로 전해졌다.

실제로 챗GPT로 작성된 기사를 보면, 사고가 발생한 구체적인 시간과 장소, 사고 경위를 비롯한 목격자 여러 명의 증언까지 허위라고 의심하기 힘들 정도로 상세히 기재되어 있었다.

조사 결과, 홍 씨는 바이자하오 계정을 대량 구매한 뒤 허위 기사를 올려 불법으로 이득을 취한 것으로 밝혀졌다. 실제로 간쑤성 기차 사고 관련 허위 기사는 경찰이 조사에 착수 시점에 이미 조회수 1만 5000건을 넘긴 것으로 확인됐다.

이 사건은 중국 ‘인터넷정보서비스의 심도 합성 관리 규정’이 실시된 후 처음으로 집행되는 AI 기술 이용 허위 정보 조작 사건이라는 점에서 의의가 깊다고 평가된다.

한편, 중국 법률은 국가 안보, 국가 이미지, 사회 공익을 해하거나 경제, 사회 질서를 교란시키는 행위에 딥페이크 기술을 사용하는 것을 엄격히 금지하고 있다.

이민희 기자

[관련기사]

전체의견 수 0

상하이방