‘딥페이크(deepfake)’란 ‘딥러닝(deeplearning)’과 ‘페이크(fake)’의 합성어로, 인공지능(AI) 기술을 이용해 인물의 얼굴을 특정 영상에 합성한 편집물을 말한다.
본래 딥페이크는 지난해부터 ‘레딧’이라는 한 인터넷 커뮤니티에 유명인의 얼굴을 음란물에 합성해 올린 사람의 아이디였는데, 현재는 정교하게 얼굴이 합성된 영상을 통칭하는 말로 쓰인다. 과학기술 정책을 연구하는 최순욱<너비의 깊이> 센터장은 “딥페이크 기술은 영상에 있는 얼굴을 다른 사람의 얼굴과 바꿀 수 있는 기술”이라며 “죽은 가수의 얼굴을 합성해 라이브 동영상을 만드는 등 상업적으로 활용 가능성이 높은 기술”이라고 전했다.
딥페이크와 가짜뉴스
딥페이크 기술이 주목받기 시작했을 때, 전문가들은 이 기술이 정치·경제적으로 악용될 가능성이 있다며 우려를 표했다. 미국 전 대통령 오바마의 딥페이크 영상은 가장 대표적인 사례로 꼽힌다. 지난해 4월 오바마가 트럼프를 ‘쓸모없는 인간’이라고 말하며 비방하는 영상이 공개됐다.
영상의 마지막에 딥페이크라는 사실이 공개됐지만, 영상을 몇 번 돌려봐도 자연스러운 합성으로 인해 논란이 일었다. 이 영상은 미국 언론사 버즈피드에서 만든 것으로, 딥페이크 동영상의 위험성과 심각성을 알리기 위해 제작됐다.
만약 선거 기간에 이런 영상이 발표됐다면 그 심각성과 논란은 훨씬 더 큰 파장을 일으켰을 것이다. 그 외에도 기업의 CEO나 고위 인사가 범죄행위를 저지르는 딥페이크 동영상이 공개된다면, 그 다음날 그 기업의 주가가 폭락하는 사태가 벌어질 수도 있다.
딥페이크 포르노의 확산
전문가들은 딥페이크 등장 당시에 정치적인 우려를 크게 꼽았지만 정작 딥페이크 기술이 가장 많이 악용되는 곳은 바로 포르노다. 특히 유명인을 대상으로 한 이른바 ‘딥페이크 포르노’가 불법 사이트에서 유통되고 있다. 네덜란드 사이버 보안회사 ‘딥트레이스’가 공개한 보고서에 따르면 지난해 딥페이크 영상은 약 8천 개 정도였지만, 올해는 약 1만5천 개 정도로 딥페이크 영상의 수는 빠르게 증가하고 있다. 이 중에서 포르노가 약 96%를 차지하며, 이런 딥페이크 포르노 영상 중에서 약 25%가 한국의 여성 연예인을 대상으로 한 것으로 밝혀졌다. 지난 8월에 만들어진 것으로 추정되는 한 딥페이크 포르노 사이트는 한국의 걸그룹만을 대상으로 하고 있고, 특정 멤버의 영상 합성을 부탁하는 댓글들이 쇄도한다. 이런 영상들은 인터넷을 통해 퍼져 조회수가 적게는 수천 건에서 많게는 수백만 건에 달한다.
그 외에도 딥페이크 프로그램 사용법을 올려 회원들에게 딥페이크 포르노 제작을 부추기기도 하며, 딥페이크 영상을 만들어 올리면 포인트를 지급해 다른 딥페이크 영상을 볼 수 있도록 유도하고 있다. 이에 따라 텀블러, 트위터 등 각종 SNS에서도 일정한 돈을 받고 지인의 얼굴을 합성해주는 계정이 존재할 정도다. 최 센터장은 “얼굴이 잘 나온 영상 하나, 혹은 사진 몇백장만 있어도 딥페이크 영상을 만들 수 있다”며 악용의 위험성을 경고했다.
딥페이크 포르노, 처벌할 수 있나
딥페이크 영상에 대한 우려가 커지면서 딥페이크 포르노 유포자와 제작자에 대한 처벌을 강화해야한다는 여론이 커지고 있다. 김태연<태연법률사무소> 변호사는 “딥페이크로 얼굴을 도용 당하는 경우 피해자 및 가족에게 성적 수치심 및 모멸감 등 정신적 피해를 가져온다”며 “특히 유명인일 경우 빠른 전파와 이미지 훼손이 극심하기 때문에 강력한 처벌이 필요하다”고 전했다.
우리나라는 현재 딥페이크 영상을 제작하거나 유포할 시 정보통신망 이용 촉진 및 정보보호 등에 관한 법률 제70조(사이버명예훼손)나 형법 제244조(음란물제조죄)에 위반된다. 하지만 처벌은 제대로 이뤄지지 않고 있는 실정이다. 이한기<디지털성범죄아웃> 사무국장은 “얼굴만 본인이고, 신체는 본인이 아니기 때문에 성폭력 영상으로 봐야하는지에 대한 법적 논쟁점이 있다”고 말했다.
또한 대부분의 딥페이크는 해외 사이트를 통해 유포되거나 해외에서 제작되는 경우가 많아 처벌에 난항을 겪기도 한다. 김 변호사는 “딥페이크 영상은 주로 해외에서 만들어지고 게시되는 경우가 많다”며 “해외 사이트의 경우에는 협조가 잘 되지 않고, 현재로서는 강제할 법령이 없는 점 때문에 규제가 어렵다”고 전했다. 덧붙여 “대부분의 국가가 딥페이크 관련법이 부족하다”며 “기술의 발전을 법률이 예측하기 어려웠던 것으로 보인다”고 말했다.
한편 미국에서는 딥페이크 영상에 대한 경각심이 높아지고 있는 추세다. 버지니아주에서는 지난 7월부터 딥페이크 영상을 보복성 포르노 영상으로 분류한다고 밝혔다. 이에 따라 딥페이크 포르노는 1등급 경범죄로 취급되며 최대 12개월 징역 또는 약 2500만 달러(한화 약 3백만원) 정도의 벌금이 부과된다. 또한 미국에 본사를 둔 트위터는 딥페이크 영상 혹은 사진을 포스팅하는 트위터 계정을 정지시키겠다고 밝혔다.
내가 직접 보지만 그것이 실제가 아닐 수도 있는 기술 발전의 시대가 성큼 다가왔다. ‘백 번 듣는 것보다 한 번 보는 것이 낫다’는 말이 있지만, 보는 것도 믿을 수 없는 시대가 온 것이다.
인터넷에 한 번 유포된 영상은 영원히 남는다. 딥페이크를 악용한 영상 제작은 엄연한 초상권 침해와 명예 훼손이며, 한 사람에게 씻을 수 없는 상처를 남기는 행위다. 이 사무국장은 “딥페이크 포르노는 명백한 성희롱이며 성적 수치심을 줄 수 있는 행위”라며 “호기심으로라도 찾아보는 것은 지양해야한다”고 전했다. 그저 단순 호기심과 오락거리에 지나지 않는 출발이 영원한 아픔을 남길 수도 있다는 점을 기억하길 바란다.
도움: 김태연<태연법률사무소> 변호사
이한기<디지털성범죄아웃> 사무국장
최순욱<너비의 깊이> 센터장
