이는 한편으로는 온라인 반품 정책의 허점을 이용한 수법이기도 하다. 요컨대 중국에서는 반품을 요청할 경우 해당 상품에 결함이 있거나, 혹은 최소한 품질 기준에 부합하지 않는다는 증거를 사진으로 찍어서 제출하면 실제 상품을 반품하지 않고도 전액 환불을 받을 수 있다. 더욱이 대부분의 온라인 쇼핑몰에서는 이 과정이 자동화 시스템으로 이뤄지고 있다. 구매자가 하자가 있는 제품 사진을 업로드하면 알고리즘이 이를 판단해 자동으로 환불 처리를 해주는 것이다.
문제는 AI의 등장으로 무엇이 진짜이고 무엇이 가짜인지 구별하기가 점점 더 어려워졌다는 데 있다. 저장성에서 청과물 쇼핑몰을 운영하는 첸은 지난 3개월 동안 환불 요청이 아홉 건이나 들어왔다며 하소연했다. 그는 “처음에는 믿고 환불을 처리했지만 빈도가 잦아지자 의심을 품게 됐다”며 분통을 터뜨렸다. 사진에서 조작 흔적을 발견해도 판매 플랫폼 측은 충분한 증거가 없다며 인정하지 않았다.
이런 사례가 급증하자 지난 9월 중국 당국은 AI로 만든 사진과 동영상에 워터마크 등 육안으로 확인 가능한 라벨을 반드시 표시하도록 규정했다. 또한 데이터에 삽입된 식별 정보도 의무적으로 부착하도록 지시했다. 하지만 과연 얼마나 효과가 있을지는 미지수다. 부정 사례를 일일이 적발하기란 사실 어렵기 때문에 사기 위험은 여전히 남아 있는 상태다. 출처 ‘사우스차이나모닝포스트’.
김민주 해외정보작가 world@ilyo.co.kr
