민주당 소속의 애덤 시프 미 하원 정보위원장이 미국의 글로벌 IT 업체들에 보낸 서한에 나오는 내용이다. ‘로이터통신’은 최근 시프 위원장이 딥페이크로 제작된 사진과 동영상에 대한 대책을 제시하라는 서한을 페이스북, 트위터, 유튜브 등에 보냈다고 보도했다. 이미 지난 대선에서 영향력을 선보였던 딥페이크가 내년 대선에선 훨씬 큰 영향력을 발휘할 것으로 예상되기 때문이다.
이미 할리우드는 물론이고 한국 연예인들을 희생양으로 만든 딥페이크가 미국 대선까지 뒤흔들 수도 있다는 분석이 지배적이다. 내년에 국회의원 선거를 앞둔 대한민국 역시 마찬가지다. 특히 유튜브 등을 통해 가짜뉴스가 범람하고 있는 한국 상황에선 더욱 치명적일 수도 있다. 문재인 대통령이나 박근혜 전 대통령 등이 등장하는 딥페이크 동영상이 선거판을 뒤흔들 가능성도 배제할 수 없다.
왼쪽은 트럼프 대통령을 모욕하는 오바마 전 미국 대통령 모습으로 딥페이크 영상이다. 원본은 오른쪽 할리우드의 영화 제작자인 조던 필의 영상이다. 오른쪽 원본 영상에 오바마 대통령의 얼굴을 합성해 왼쪽의 딥페이크 영상을 만든 것이다. 사진=유튜브 캡처
“누군가 가정용 컴퓨터로 20달러를 투자해서 제작한 딥페이크가 대선 판도를 뒤바꿀 수 있다.”
미디어 분석 플랫폼 ‘지그널 랩스’의 조시 긴즈버그가 ‘옵서버’와의 인터뷰에서 한 말이다. 관련 기술이 급속도로 발전하면서 이제 딥페이크 영상은 손쉽게, 그리고 저렴한 비용으로 제작할 수 있다. 반면 이렇게 만들어진 딥페이크는 그 파괴력이 무시무시하다. 텍스트보다는 이미지와 동영상이 더 각광받는 요즘 분위기에서 딥페이크는 가짜를 가장 진짜처럼 보일 수 있게 만드는 수단이다.
내년 대선을 앞둔 미국은 이와 관련된 경계의 목소리가 높다. 미국 하원 정보위원회 딥페이크와 AI의 위험성을 논의하기 위한 청문회를 개최했고 코츠 국가정보국장(DNI), 크리스토퍼 레이 연방수사국(FBI) 국장, 지나 해스펠 중앙정보국(CIA) 국장, 로버트 애슐리 국방정보국(DIA) 국장 등은 상원 정보위원회 회의에 출석해 딥페이크에 대한 우려를 표명했다. 단순한 상대 후보 비방이 아닌 러시아와 중국 등 미국에 적대적인 국가까지 딥페이크를 활용해 미국 대선에 개입할 여지도 충분해 미국은 이를 안보 문제로도 보고 있다.
정치권뿐 아니라 재계에서도 경계의 목소리가 높다. 메릴랜드대 교수이자 개인 정보 보호 전문가인 대니엘 시트론은 학교 모의 법정에서 “기업공개(IPO)를 하루 앞두고 최고경영자(CEO)가 아동 매춘을 권하거나 마약을 하는 영상을 담은 딥페이크 동영상이 등장했다고 상상해보라”며 “해당 기업 주가가 급락하고 막대한 돈을 잃을 수 있다”고 말했다.
이런 우려에 불을 붙인 것이 바로 지난 5월 불거진 낸시 펠로시 하원의장의 만취 동영상이다. 유튜브나 페이스북 등을 통해 확산된 이 영상에서 펠로시 하원의장은 마치 술에 취해 횡설수설하는 듯한 모습이 담겨 있다. 그렇지만 이는 가짜였다. 딥페이크 기술조차 필요 없었다. 단지 기존 동영상의 재송 속도만 75% 수준으로 늦췄을 뿐이지만 수많은 대중이 여기에 속고 말았다. 워싱턴대 연구진이 딥페이크의 위험성을 입증하기 위해 제작한 버락 오바마 전 대통령 영상은 더욱 충격적이었다. 실제 오바마 전 대통령의 동영상과 구별이 쉽지 않을 만큼 정교했기 때문이다.
7월 18일 도널드 트럼프 미국 대통령이 2020년 대선 출정식을 가졌고 민주당은 26∼27일 대선주자들의 첫 TV토론을 시작으로 경선 과정에 돌입한다. 미 대선은 2020년 11월 3일이지만 이미 대선 레이스가 막을 올린 것. 문제는 이보다 앞선 2020년 4월 15일에 치러지는 대한민국 국회의원 선거(총선)다. 미국에선 2020대선을 앞두고 딥페이크에 대한 경계와 대비가 한창인데 반해 한국은 조용하다. 미국에서만 가능한 일이기 때문이라고 볼 수는 없다. 이미 할리우드 여배우들이 딥페이크에 당했듯이 한국 연예계에서도 딥페이크의 피해가 등장하고 있기 때문이다. 게다가 유튜브 등을 중심으로 확산되고 있는 ‘가짜뉴스’에 딥페이크 기술이 가미된다면 미국보다 더 큰 혼란에 빠질 수도 있다.
딥페이크로 제작된 사진과 동영상에 대한 대책을 제시하라는 서한을 미국의 글로벌 IT 업체들에 보낸 민주당 소속의 애덤 시프 미 하원 정보위원장. 연합뉴스
총선이나 지방선거에서는 대선주자인 정당 대표자와 함께 활동하는 장면을 찍은 사진을 사무실 벽에 게재하는 경우가 많다. 선거 운동 과정에서 이런 사진이 필수적이라는 얘기까지 나올 정도다. 그런데 실제 활동장면이 아니라 합성사진을 게재하는 것도 허위사실공표죄로 단속대상이다. 실제로 이런 가짜 합성사진이 적발돼 단속된 사례도 있다.
그런데 딥페이크 기술이 가미되면 활동사진을 합성하는 수준을 뛰어 넘어 함께 활동하는 동영상까지 제작될 수도 있다. 기존에는 다소 티가 나는 합성사진이 난무해 선관위 적발 사례도 종종 있었지만 딥페이크 기술을 활용하면 더욱 완벽한, 그것도 사진이 아닌 동영상이라 적발이 쉽지 않을 수 있다.
더욱 치명적인 부분은 선거구도 전반을 뒤흔들 수 있는 가짜 뉴스와의 결합이다. 예를 들어 총선이 임박한 상황에서 문재인 대통령과 김정은 위원장이 밀담을 나누는 딥페이크 영상이 등장할 수도 있다. 박근혜 전 대통령이나 황교안 자유한국당 대표 등이 등장하는 딥페이크 영상도 충분히 등장할 수 있다.
게다가 이런 딥페이크 영상이 결합한 가짜뉴스가 선거에 임박해 유포될 경우 선거 이전에 진위여부를 명확히 밝힐 시간조차 없어 더욱 치명적인 가짜뉴스가 될 수 있다. 경찰 수사를 통해 딥페이크 영상임이 드러났을 때에는 이미 선거가 끝난 뒤일 가능성이 높다.
정치권 관계자들은 정당이나 후보들이 이런 딥페이크를 활용한 가짜뉴스를 유포할 가능성은 적다고 얘기한다. 이런 과정을 통해 당선될지라도 향후 선거법 위반으로 처벌돼 의원직이 상실될 위험성이 큰 데다 정당 차원에서 이런 행위를 할 경우 정치적인 위기에 내몰릴 수 있기 때문이다.
그렇다고 ‘행여 그런 일이 정말 생기겠냐’는 안이한 인식으로 바라볼 수는 없는 영역이다. 실제로 그런 딥페이크 영상이 유포돼 선거 결과에 엄청난 영향을 끼쳤는데 나중에 범인을 찾고 보니 정치와 무관한 일반인일 수도 있다. 예를 들어 대학생이 장난삼아 만든 딥페이크 영상이 총선 결과에 엄청난 영향을 미칠 수도 있다. 대한민국 역시 ‘누군가 가정용 컴퓨터로 3만 원 정도를 들여 만든 딥페이크 영상이 총선 판도를 뒤바꿀 수 있는’ 위기에 직면해 있는 셈이다.
신민섭 기자 leady@ilyo.co.kr
조재진 프리랜서
| 딥 페이크, 넌 누구니? 입모양 조작 정도는 식은 죽 먹기 딥페이크(Deepfakes)는 ‘딥러닝’(Deep learning·기계학습)과 가짜를 의미하는 ‘페이크’(Fake)의 합성어다. 기계학습을 이용해 인공지능(AI)이 스스로 객체를 인식해서 영상 프레임마다 합성을 하는 기술이다. 예를 들어 어떤 영상에 얼굴만 합성해서 원래 동영상 속 인물을 다른 사람처럼 감쪽같이 합성해낼 수 있다. 게다가 입모양을 바꿔 다른 말을 하는 것처럼 꾸밀 수 있다. 구글의 텐서플로우 같은 오픈소스 기계학습 도구를 사용해서 제작이 가능하다. 이처럼 상용 아이템으로도 작업이 가능해 AI 전문가들은 “어려운 기술은 아니다”고 설명하고 있다. |
| “일반인도 표적 될 수 있다” 지인능욕 딥페이크 주의 최근 인기 걸그룹 멤버 A의 성관계 동영상이 유포됐다는 소문이 SNS를 통해 확산되고 있다. 심지어 ‘A 양 동영상’이라고 알려진 음란 파일도 몇 가지가 돌고 있다. 이 가운데에는 A를 닮은 듯하지만 다소 모호한 동영상도 있고 실제 A인 것처럼 보이는 것도 있다. 그렇다고 실제 A가 출연한 것은 아니다. 누군가 A의 얼굴 이미지를 가지고 만든 딥페이크 영상이다. 국내에서 딥페이크 영상이 처음 화제가 된 것은 지난해 초다. 인기 걸그룹 멤버 2~3명의 딥페이크 영상이 SNS 등을 통해 확산된 것. 어설픈 수준의 합성 누드 사진이 유포되는 것으로도 큰 상처를 받았던 연예인들 입장에선 아예 자신의 얼굴이 정교하게 합성된 포르노 영상까지 감내해야 하는 위기에 내몰리고 말았다. 
아마추어 컴퓨터 프로그래머가 딥페이크로 할리우드 배우 갤 가돗의 얼굴을 실제 음란물에 합성해서 만든 영상이 화제가 됐었다. 마더보드 캡처 딥페이크의 폐해가 미국에서 더 심각하다. 2017년 연말 미국 온라인 커뮤니티 ‘레딧’에 ‘딥페이크’(deepfakes)라는 아이디를 쓰는 네티즌이 갤 가돗, 스칼렛 요한슨, 테일러 스위프트, 오브리 플라자 등 할리우드 유명 여배우의 얼굴을 포르노 배우의 몸과 합성해서 만든 딥페이크 영상을 공개해 엄청난 화제가 되기도 했다. 이를 접한 스칼렛 요한슨은 ‘워싱턴포스트’와의 인터뷰에서 “누구든 표적이 되는 것은 시간문제”라고 말하기도 했다. 문제는 이런 폐해가 연예인에서 일반인으로 확산될 수도 있다는 점이다. 이미 심각한 사회문제가 되고 있는 ‘지인능욕’에 딥페이크가 악용될 수도 있다. 지능능욕이란 평소 알고 있는 사람의 사진을 SNS 등에서 구한 뒤 음란물에 합성해서 유포하는 디지털성범죄다. 여기에 피해자의 개인정보와 성적 명예훼손 문구가 더해지면 그 피해는 훨씬 더 심각해진다. 그런데 지인능욕 범죄에 딥페이크 기술이 더해질 경우 SNS 등으로 구한 지인의 얼굴 사진을 포르노 영상에 합성한 음란 동영상까지 제작돼 유포될 수도 있다. 이미 미국에서는 이런 범죄가 실제로 벌어지고 있다. ‘워싱턴포스트’에 따르면 딥페이크 토론 게시판이나 사적인 채팅에서 동료, 급우, 친구 등 지인의 사진을 활용한 딥페이크 포르노 제작 의뢰가 이뤄진다고 한다. 이런 요청을 받고 동영상을 만드는 몇몇 제작자들은 영상 한 개당 20달러를 받는다고 밝히기도 했다고 한다. 게다가 리벤지 포르노로 확산될 가능성도 배제할 수 없다. 헤어진 연인 등을 상대로 하는 성범죄로 지인능욕의 범주에 해당되지만 리벤지라는 단어에서 알 수 있듯이 복수심 등 더욱 강력한 범행동기가 밑바탕이 된 만큼 훨씬 더 심각한 피해를 초래할 수 있다. 조재진 프리랜서 |
| 한국은 딥페이크 안전지대인가? 처벌 기준도 없고 처벌돼도 솜방망이 한국에서도 연예인 딥페이크 영상이 유포되기 시작했다는 것은 곧 정치권 가짜뉴스와 일반인 지인능욕 범죄에서도 딥페이크가 악용될 가능성이 높아졌다는 의미가 된다. 결국 대한민국이 딥페이크 안전지대가 아니라는 의미다. 그렇지만 정치권과 검찰과 경찰 등 수사기관에서는 아직 딥페이크에 대한 대비가 거의 이뤄지지 않고 있는 실정이다. 실제 미국 정치권과 달리 아직 한국에선 대비는커녕 딥페이크의 위험성조차 제대로 인지하지 못하고 있었다. 기자의 문의 전화를 받은 한 정당 미디어 관계자는 “딥페이크에 대해 듣기는 했지만 정치권에서 가짜뉴스와 결합해 총선에서 영향력을 발휘할 가능성까지는 감안하지 못했다”며 “지금부터라도 그 부분에 대해 심도 깊게 살펴봐야 겠다”는 입장을 보였다. 
가짜 음란물 캡처 사진. 음란물 주인공이 K팝 아이돌 걸그룹 멤버를 연상케해 충격을 주고 있다. 또 다른 정당 미디어 관계자 역시 딥페이크의 위협에 대해 잘 모르고 있었다. 오히려 “한국 정치권에서도 딥페이크가 문제가 된 적이 있냐?”고 물어왔다. 물론 아직은 그런 사례가 없지만 할리우드 스타들이 당했듯이 한국 걸그룹 멤버들이 피해를 입고 있는 상황을 정치권에 대입하면 한국 정치권 역시 미국 정치권처럼 위험한 상황이다. 지인능욕 등의 범죄에서도 마찬가지다. 아직 국내에서 딥페이크가 지인능욕 범죄에 활용돼 문제가 된 사례는 없지만 당장 오늘이라도 그럼 범죄라 벌어질지라도 새로울 것은 없다는 게 AI 업계 관계자들의 우려다. 별도의 처벌 기준이 없는 데다 기존 법을 기준으로 할 경우 처벌이 다소 가볍다. 최근 미국에서는 관련 법이 발효되기도 했다. 미국 버지니아주는 올해 초 딥페이크 포르노 영상을 리벤지 포르노의 영역에 포함시키기로 한 법안을 통과시켜 7월 1일부터 발효됐다. 이 법에 따르면 딥페이크 포르노 영상을 제작·유포할 경우 1등급 경범죄가 돼 최대 12개월 징역과 2500달러(약 292만 원) 벌금을 부과한다. 반면 아직 한국에선 딥페이크 범죄에 대한 사법처벌의 기준이 없다. 음란물 제작·유포, 수출·수입 등을 1년 이하 징역 또는 500만 원 이하 벌금에 처하는 형법 제 244조(음화 제조 등) 정도가 처벌 기준이다. 신민섭 기자 |
