#“친구 초대하고 더 많은 크레딧을”
텔레그램 ‘AI 딥 누드’(가명) 채널에 입장하자마자 메시지들이 쉼 없이 전송됐다. 특정 인물의 사진을 전송하면 1분 안에 사진 속 인물의 옷을 원하는 대로 벗겨준다는 내용이었다. 원한다면 여성의 옷을 들어올릴 수도 있고, 무표정의 여성을 괴이한 얼굴로 웃게 만들 수도 있었다. 예시로 국내 유명 연예인의 합성 사진이 제공됐다. 이들이 보낸 메시지 최상단에는 ‘우리는 궁극적 리얼리즘을 추구한다’고 쓰여 있었다.
기자가 메시지를 읽는 사이 더 자연스러운 결과물을 얻기 위한 ‘유용한 팁’이라며 추가 메시지가 도착했다. 왜곡된 포즈를 취하지 않은 정면 전신 샷, 상반신 클로즈업 샷은 피할 것, 두 명 이상이 있는 사진보다는 단독 사진을 선택할 것 등이었다. 또, 노출된 피부가 많을수록 결과가 좋다는 문구와 함께 현재는 여성 사진만 가능하다는 말도 덧붙였다. 광고 메시지와 합성 사진은 취재가 이어지는 며칠 동안 하루도 빠짐없이 전송됐다.
이 업체는 이미지 생성 인공지능(AI) 프로그램을 이용해 원하는 인물을 나체로 만들어 주는 딥페이크 사이트다. 명령어를 입력하면 AI가 사진 속 인물의 체형 등은 그대로 둔 채 옷만 제거하고 가상의 신체를 만들어 그럴듯하게 합성한다.
최근 세계적 팝스타 테일러 스위프트가 딥페이크 피해를 입어 백악관까지 관련 입법을 촉구하고 나서기도 했다. 사건이 커지자 처음 사진이 퍼진 X는 관련 이미지를 전부 삭제하고 ‘테일러 스위프트’를 검색하지 못하도록 조치했다. 그러나 딥페이크를 이용한 성범죄는 그 대상이 유명인에서 일반인으로 확대되며 늘어나는 추세다. 2023년 12월 미국의 소셜미디어 분석 회사 그래피카(Graphika)가 발표한 자료에 따르면 레딧(Reddit)과 X와 같은 온라인 플랫폼에서 딥페이크 업체를 광고하는 링크 수가 불과 한 해 동안 2000% 이상 증가했다.
원인은 업체의 다단계식 운영 방식에 있었다. 일요신문이 다수의 딥페이크 업체들을 취재한 결과, 이들은 기존 회원을 홍보책으로 이용해 몸집을 불려오고 있는 것으로 나타났다. 온라인에 추천 링크를 올려 새로운 가입자를 유치하거나 목표치의 조회수를 채우는 홍보글을 쓴 회원에게 ‘크레딧’이라 불리는 포인트를 지급하는데 이를 통해 딥페이크 기술을 무료로 사용할 수 있도록 하고 있다.
A 업체 역시 초대 링크를 통해 입장하면 처음 한 번은 무료로 딥페이크 이용이 가능하다고 홍보했다. 이후로는 결제가 필요했는데 사진 한 장을 처리하는 데 소요되는 비용은 1크레딧(1.99달러·약 2650원), 동영상을 만들기 위해서는 5크레딧(9.95달러·약 1만 3260원)이 필요했다. 그러나 굳이 결제를 할 필요는 없었다. 이후 별도로 전송된 메시지에는 굵은 글씨로 다음과 같이 쓰여 있었다.
해당 업체는 크레딧을 구입할 능력이 없다면 자사를 홍보하는 방법을 제시했다. A 업체의 텔레그램 채널로 연결되는 추천 링크가 적힌 글을 X나 틱톡, 인스타그램과 같은 SNS에 올리고 이 링크를 통해 가입하는 사람이 크레딧을 충전할 때마다 글 작성자에게 인센티브를 제공한다는 것이다. 충전을 하지 않고 링크를 통해 입장만 하더라도 0.3크레딧을 부여한다고도 했다.
B 업체의 경우 게시글의 가독성을 높이고 조회수를 높일 수 있는 지침을 구체적으로 제공하기도 했다.
미성년자들은 범죄의 가해자도, 피해자도 될 수 있었다. 일단 초대 링크만 얻으면 딥페이크 대상이 누구든 합성 의뢰와 제작이 가능했다. ‘19세 이상만 이용 가능하다’는 문구가 뜨긴 했지만 그 외 인증 절차는 요구하지 않았다. ‘19세 이상이 맞다’는 버튼만 누르면 사실상 초등학생도 이용이 가능한 구조다.
C 업체가 운영하는 대화방에서도 마찬가지다. 입장 인원이 3만여 명에 달하는 이 대화방에서는 하루에도 수천 개의 딥페이크 합성물이 불법으로 유포되고 있었다. 다수의 해외 이용자가 있었지만 미성년 이용자를 찾는 일은 어렵지 않았다. 2월 9일 한 참가자가 국내의 중·고등학교에서 찍은 듯한 사진 6장을 올리며 “Nude please(옷을 벗겨 달라)”라고 하자 누군가 알겠다는 듯 ‘엄지척’ 이모티콘을 보냈다. 사진 속에는 칠판 앞에 서 있는 교복 차림의 학생과 교실을 걷고 있는 교사의 앞 뒷모습이 담겨있었다. 사진이 찍힌 구도로 보아 불법 촬영물로 추정됐다.
아예 API(Application Programming Interface) 액세스를 판매하는 곳도 있었다. D 업체는 299달러에 API 액세스 및 추가기능을 제공하고 있었다. API란 특정 프로그램의 기능이나 데이터를 다른 프로그램이 접근할 수 있도록 미리 정한 통신규칙을 말한다. API 접근 권한을 얻게 되면 오픈된 데이터를 활용해 또 다른 애플리케이션(앱)을 개발할 수 있다. 이렇게 되면 딥페이크 업체에 의뢰를 하지 않고도 개인이 무한으로 합성물을 생성해 낼 수도 있고 또 다른 이를 활용해 또 다른 앱이나 사이트를 만드는 것도 가능하다.
#AI가 만든 허상이라도 ‘실형’
사용자들은 AI를 이용해 만들어진 합성물은 진짜가 아니라고 주장한다. 딥페이크에 사용한 사진은 사적인 관계에서 불법 촬영을 한 것도 아니고, n번방 사건처럼 협박 및 강요를 통해 얻어낸 것도 아니며, 그 결과물 역시 허위라는 것이다.
그동안 성인 여성을 대상으로 한 합성물 제작 및 유포 행위나 배포 목적 없이 제작 후 소지만 하는 행위에 대한 처벌은 다소 미온적이었다. ‘성폭력범죄의 처벌 등에 관한 특례법 제14조의2’는 분명 반포할 목적으로 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨린 자는 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처하도록 규정하고 있지만 실제 실형까지 이어지는 선례는 많지 않았다.
경찰청의 한 관계자는 “n번방 사건 이후로 딥페이크 범죄 피해자가 눈에 띄게 늘었다”면서도 “물리적인 성착취 행위가 없다 보니 안타깝게도 다른 성범죄보다 아직은 가볍게 여겨지는 것이 사실이다. 가해자가 제작을 했다 해도 단순 소지만이 목적이었다면 현행법에서는 제대로 된 처벌을 하기 힘들다”고 말했다.
다행히 최근 판례는 조금씩 달라지고 있다. 2023년 9월 법원은 AI 프로그램을 활용해 아동 성착취물 360개를 제작하고 해외 음란사이트에서 포인트를 얻을 목적으로 과거 불법 유출된 모델들의 사진 816개를 유포한 40대 남성에게 징역 2년 6개월을 선고했다. 당시 피고인은 “AI 프로그램에 의한 제작물은 가공의 아동·청소년을 대상으로 하는 것으로 성착취물에 해당하는지에 대한 법리적 검토가 필요하다”고 주장했지만 받아들여지지 않았다.
재판부는 “헌법재판소에서 실제 아동·청소년이 등장하는 것을 오인할 정도로 만들어진 컴퓨터 합성 사진도 성적 대상으로 묘사하면 아동 청소년 성착취물에 해당한다는 결정이 있었다”며 “아동·청소년이 등장하는 성착취물 같은 경우 사람들의 성인식을 왜곡시키고, 또 다른 성범죄를 유발하는 등의 해악이 크다”고 판시했다. 이어 “AI 프로그램이라는 첨단 기술이 상용화되고 있는데 이런 범죄에 활용한다는 것이 상당히 우려스럽다”고 덧붙였다.
이에 대해 한 형사 전문 변호사는 “아동·청소년을 대상으로 한 성착취물의 경우 법원에서 특히 엄격하게 판단하는 경향이 있다. 또 이 사건 피고인은 아동 성착취물 제작·배포 외에도 불법 촬영물 유포와 소지 등 다른 여러 범죄를 함께 저질러 죄질이 가볍지 않기도 했다”면서도 “판결문에 인공지능을 활용한 범죄 행위에 대한 우려를 적시한 것은 유의미한 변화”라고 했다.
AI 기술을 기반으로 한 딥페이크 성범죄 피해는 앞으로 더 증가할 것으로 보인다. 관련 보고서를 작성한 그래피카의 산티아고 라카토스(Santiago Lakatos)는 “합성 이미지를 만들어 내는 업체들은 기존 전자 상거래 회사와 동일한 마케팅 전략과 수익 창출 도구를 활용하면서 발전된 온라인 산업으로 운영되고 있다”며 “(딥페이크) 서비스로의 접근성이 증가함에 따라 상대방 동의를 얻지 않은 이미지의 생성 및 배포는 물론이고 아동 성착취물 제작과 같은 피해 사례가 추가로 발생할 가능성이 매우 높다”고 분석했다.
포털 플랫폼들은 모니터링 및 검색 차단을 통해 범죄 영상물이 유통되는 경로를 차단하겠다는 입장을 밝혔다. 한국인터넷자율정책기구(키소·KISO)는 네이버·카카오·에스케이커뮤니케이션즈 등 포털사와 협력해 ‘지인능욕’ ‘지인합성’ 등의 불법 촬영물 및 성 착취 관련 검색어 등 110개를 청소년 보호 검색어에 새로 추가했다. 청소년 보호 검색어로 지정되면 해당 검색어 검색 결과 노출이 제한되며 연령 확인 절차를 통해 검색 결과를 확인할 수 있다.
다만, 불법 합성물 유포가 활발히 이뤄지는 X나 텔레그램의 경우 경찰이 적극적으로 수사에 임하는 것을 제외하고는 별다른 제재 수단이 없는 상황이라 신속한 해결책 마련이 요구된다.
가해자들이 자랑삼아 하는 말인데…‘지인능욕’ 대체 표현 없나
‘지인능욕’이 국내 언론에 처음 등장한 건 2016년이다. 소라넷에서 특정 여성을 성적으로 비하할 목적으로 성 착취물을 만들어 신상정보와 함께 유포한 것이 그 시초였다. 이후 합성기술은 인공지능의 발전으로 피해자의 음성과 얼굴을 위조하는 딥페이크로 발전해 왔다.
문제는 지난 9년 동안 아무 문제의식 없이 사용되고 있는 지인능욕이라는 표현이다. 성범죄 피해자들을 도와온 활동가들은 이 용어가 매우 모호하다고 지적한다. 추적단불꽃이자 미디어플랫폼 얼룩소에서 에디터로 활동 중인 원은지 씨는 “지인능욕은 가해자들이 자신들의 성범죄 행위를 자랑삼아 부르는 표현”이라고 설명했다. 물리적 접촉 없이 주변 여성을 성적으로 공격함으로써 느끼는 심리적 우월감과 성취감이 가해자 입장에서 설명된 단어라는 것이다.
가해행위를 미화하거나 모호하게 표현하는 단어는 가해자의 책임이 가볍게 인식되게 하거나 범죄행위의 심각성을 희석시킨다. 원 씨는 “디지털성범죄는 수사 경험이 풍부한 수사관을 만나야 그나마 수사에 진전을 볼 수 있는데 지인능욕 사건은 좋은 수사관을 만나도 성 착취만큼 중대한 범죄가 아니라는 인식과 법 때문에 피해자는 제대로 된 보호를 받지 못하는 것이 현실”이라고 했다. 물리적 성 접촉이 없고 직접 위협 행위가 없다는 이유였다.
실제로 원 씨는 4년 동안 지인능욕 피해자를 도와왔지만 경찰이 가해자를 검거한 것은 10명 중 1명꼴이었다. 이 과정에서 한 경찰은 피해자에게 ‘지인’ 중에 의심되는 사람이 없으면 범인을 잡기 어렵다는 말을 하기도 했다고 한다. 그러나 범인 검거 사례를 보면 피해자와 일면식이 없는 사람도 있었다. ‘지인’이라는 단어에 매몰돼 해당 범죄가 실제 얼굴을 아는 사이에서만 벌어지는 것으로 간과해서는 안 된다는 것이 그의 설명이다.
원은지 씨는 “지인능욕이라는 범죄 자체를 뿌리 뽑을 수 없다면, ‘몰카’를 ‘불법촬영’으로, ‘아동청소년음란물’을 ‘아동청소년성착취물’로 바꾼 것처럼 그 범죄의 특성을 잘 담을 수 있는 대체 표현이 필요하다”고 지적했다.
한편 2023년 진행된 ‘지인능욕 뿌리 뽑기 프로젝트’에서는 지인능욕의 대체 표현으로 ‘온라인 스토킹 성착취’ ‘인물 특정 디지털 성범죄’ ‘딥페이크를 이용한 온라인 성범죄’ ‘성적 인격 살인’ ‘허위성 미디어 성범죄’ 등이 제안된 바 있다.
최희주 기자 hjoo@ilyo.co.kr
