10만 구독자 채널 믿었다가…AI·딥페이크 활용 ‘투자 사기’ 주의보

‘AI 합성’ 허위 수익 인증해 투자자 현혹…자사 유튜브 채널에 딥페이크 콘텐츠 제작 정황도

[일요신문] 최근 A 씨는 유튜브에서 투자 상품을 홍보하는 인터뷰 영상을 보고 투자를 결심했다. A 씨는 영상에 안내된 링크를 통해 한 투자업체 홈페이지에 접속했고, 초기 며칠 동안 업체는 거래 화면을 전달하며 실제 수익이 발생한 것처럼 인증했다. 이후 업체는 “지금 아니면 기회가 없다”며 거액 투자를 요구했다. 투자에 응한 A 씨는 얼마 뒤 수익금 회수를 시도했지만 업체는 수수료와 세금 명목의 추가 입금을 요구하며 출금을 미뤘고, 끝내 연락이 두절됐다. 확인 결과 초기 수익 화면은 조작된 것으로 드러났고, A 씨는 수천만 원에 달하는 피해를 입었다. 

펜시브 홈페이지에 기재된 본사 주소는 서울시 구로구 산업단지의 한 빌딩이었다. 지난 3일 기자가 해당 주소를 직접 찾아가봤지만 '펜시브'라는 업체는 없었다. 관리사무소에서는 펜시브가 해당 건물에 입주한 적이 없다고 답변했다. 사진=한승구 기자

최근 온라인 투자 사기 업체들이 딥페이크와 AI 합성 기술을 활용한 투자 홍보에 속아 관련 피해가 잇따르고 있다. 이들은 증권사 애플리케이션과 유사한 화면을 자체 제작해 허위로 수익을 인증하거나 자사 운영 유튜브 채널에 AI 합성 콘텐츠를 게시해 투자자들의 신뢰를 쌓는 수법을 사용한다. 전문가들은 조작된 영상들이 실제와 구분하기 어려운 만큼 투자자들에게 각별한 주의가 필요하다고 말한다. 

A 씨가 투자한 업체의 이름은 ‘펜시브’다. 펜시브는 사회관계망서비스(SNS)와 자사 홈페이지 등을 통해 엔진 설비 사업을 내세우며, 이를 기반으로 한 실물 투자 상품으로 고수익을 낼 수 있다고 홍보해 왔다.

펜시브는 전형적인 ‘폰지 사기’ 수법을 이용한 것으로 파악됐다. 실제 사업 수익 없이 신규 투자자의 자금으로 기존 투자자에게 수익을 지급해 신뢰를 쌓은 뒤 투자 규모가 커지는 단계에서 출금을 중단하는 방식이다.

펜시브는 투자 초기 수익을 인증하며 투자자와 신뢰를 형성한 뒤 거액 투자를 유도했다. 이후 투자자들이 투자금 회수를 요청하면 수수료 등 명목의 추가 입금을 요구하거나 출금을 제한해 자금 회수를 막았다. 실제로 펜시브의 투자 화면에는 인출 가능 날짜가 별도로 설정돼 있었으며, 해당 기간 이전에는 출금이 불가능하다는 안내가 표시돼 있었다.

이 같은 피해 사례는 1월 말부터 온라인 커뮤니티 등을 중심으로 잇따라 터져나왔다. 문제가 공론화하자 2월 3일 펜시브 홈페이지는 접속이 불가능한 상태로 전환됐다. 이날 ‘일요신문i’가 홈페이지에 기재된 주소를 직접 찾아갔지만 해당 장소에 펜시브라는 업체는 없었다.

전문가들은 펜시브 사례는 그간 반복돼 온 이른바 ‘폰지 사기’ 유형에 해당한다고 설명한다. 최근에는 AI 기술 발전으로 딥페이크 등을 활용한 허위 홍보와 수익 인증이 이뤄지면서 투자 피해가 더 확산되고 있다고 지적한다.

이윤호 동국대 경찰행정학과 명예교수는 “투자금을 유도한 뒤 거액을 요구하고 잠적하는 방식은 오래전부터 반복돼 온 전형적인 리딩방 사기 수법”이라면서도 “과거에는 전화나 문자 중심이었다면, 최근에는 AI와 딥페이크 기술을 활용해 투자자들의 신뢰를 쌓는 방식이 기승을 부리고 있다”고 말했다. 이어 “AI로 제작된 영상이 실제와 거의 구분되지 않을 정도로 정교해지면서, 피해자들이 영상만으로 진위 여부를 판단하기가 쉽지 않은 상황”이라고 덧붙였다.

실제로 펜시브는 상담원 얼굴까지 AI로 합성·변조해 신뢰를 조성했고, 해외 거래소나 증권사 애플리케이션과 유사하게 인터페이스를 복제한 모바일 트레이딩 시스템(MTS)을 운영했다. 이 과정에서 투자 수익 화면을 조작해 사용한 것으로 파악됐다. 앱에 표시된 수익률은 실제 사업 성과와 무관한 허위 수치로, 플랫폼 내부에서만 구현된 가짜 수익이었다.

펜시브 자사 유튜브 채널 '펜시브' 화면 갈무리. 현재 해당 채널의 게시글은 모두 내려갔으며 채널 명도 '새로운삶과인생'으로 바뀌었다. 사진=유튜브 화면 캡처

또 펜시브는 구독자 약 10만 명 규모의 유튜브 채널 ‘펜시브’를 운영해 온 것으로 확인됐다. 해당 채널에는 임직원이 등장해 회사 및 엔진 기술을 소개하는 인터뷰 영상 등의 콘텐츠가 게시돼 있었다.

이 채널은 계정을 구매해 운영했을 가능성과 함께 영상에 딥페이크 기술을 활용했다는 의혹이 제기되고 있다. 펜시브 유튜브 채널의 구독자 수는 약 10만 명에 달했지만 게시된 영상은 10개에 불과했다. 영상들의 조회수는 모두 2000회 안팎이었다. 또 영상에 등장한 임직원들의 소속 부서는 홈페이지에 게시된 조직도 등에서 확인되지 않았다.

‘일요신문i’는 펜시브 측에 영상에 등장한 직원들이 실제로 재직하는지와 영상의 진위 여부 등을 질의했지만 답변을 받지 못했다. 이후 2월 4일 해당 유튜브 채널은 ‘펜시브’에서 ‘새로운삶과인생’으로 채널명을 변경했고, 기존 소개 글과 영상을 모두 삭제했다.

펜시브 사례 외에도 최근 사기 의혹을 받는 투자 업체들이 자사 유튜브 채널에서 딥페이크 등을 활용한 콘텐츠를 제작한 정황이 파악됐다. 재생에너지 분야 사업을 표방하며 투자자를 모집한 일부 업체들이 유사한 방식으로 유튜브 채널을 운영하며 홍보에 집중해왔다.

이들 채널 또한 구독자 수가 10만 명 안팎에 달했지만 게시된 영상 수는 10여 개에 불과했다. 또 게시된 영상의 조회수 역시 모두 비슷한 수준이었다. 영상에는 임직원이 등장해 재생에너지 기술을 설명하거나 투자자들이 후기를 소개하는 콘텐츠가 게시돼 있었다.

한 인터뷰 영상에서 배경에 놓인 사물의 화질만 유독 낮거나 갑자기 형태를 알아보기 어렵게 뭉개지는 현상도 포착됐다. 전문가들은 특정 영역의 해상도가 급격히 떨어지거나 사물의 형태가 왜곡되는 현상이 AI 합성 영상의 특징 중 하나라고 설명한다. ‘일요신문i’는 해당 업체들의 고객센터와 이메일 등을 통해 영상의 진위 여부 등을 문의했지만 답변을 받지 못했다.

전문가들은 비대면 방식으로 과도한 수익을 인증하며 투자를 종용하는 경우 각별한 주의가 필요하다고 말한다. 이윤호 동국대 경찰행정학과 명예교수는 “시장 평균과 비교해 과도하게 높은 수익률을 제시한다면 그 자체로 사기를 의심해야 한다”며 “투자 과정에서 비대면으로 수익 인증을 받고 상담만 주고받기보다 실제로 사람을 만나 구조를 확인하는 절차가 필요하다”고 말했다. 이어 “투자를 권유받을 경우 해당 업체가 금융감독원에 등록된 곳인지 반드시 확인하고, 실제 사업장이 존재하는지 등 소재지 여부를 꼼꼼히 살펴봐야 한다”고 덧붙였다.

한승구 기자 [e-mail]