[이슈메이커] 팩트체크를 부르는 딥페이크 시대
[이슈메이커] 팩트체크를 부르는 딥페이크 시대
  • 고주연 기자
  • 승인 2019.09.25 14:09
  • 댓글 0
이 기사를 공유합니다

[이슈메이커=고주연 기자]

 

딥페이크(Deepfake)

팩트체크를 부르는 딥페이크 시대

 

 

ⓒPhoto by Christian Gertenbach on Unsplash
ⓒPhoto by Christian Gertenbach on Unsplash

 

 


딥페이크는 머신러닝 기반 AI 동영상 합성 알고리즘을 말한다. 완벽에 다가가는 속도에 있어 우리가 목격해온 딥러닝의 놀라움을 감안하면, 뉴스에 나오는 등장인물의 얼굴과 음성을 보고도 2차 검증을 해야 할 시대가 임박했다.

 

딥페이크, 무엇이 문제인가

원본 등장인물의 얼굴, 음성, 동작을 제 3자의 것으로 감쪽같이 바꿔치기하는 합성 동영상 기술 딥페이크. 이가 2017년 레딧(reddit)을 통해서 세간에 알려졌다. 전 세계 다수의 이용자가 드나드는 해당 소셜 웹사이트에서 익명의 아이디 ‘Deepfakes’는 여러 개의 합성 포르노 영상을 게시했다. 여기에는 엠마 왓슨, 테일러 스위프트, 스칼릿 요한슨 등 할리우드 스타도 속해 있었다. 추후 이것들이 AI가 만들어낸 가짜 동영상으로 밝혀지면서 해당 게시글을 삭제됐지만 관련 후속 조치 이전까진 모든 이용자의 게시 글 조회가 가능했다. 이듬해 1월에는 딥페이크 기술을 탑재한 온라인 소프트웨어와 어플리케이션이 배포됐다. 딥페이크 기술을 적용한 합성 동영상의 손쉬운 제작과 배포가 가능해지면서 지미 팰런, 리암니슨 등 전 세계적 인지도를 가진 유명인을 소재로 엔터테인먼트성 영상이 생성됐다. 소수가 아닌 어떤 누구라도 본연의 의도와 목적으로 가짜 동영상을 퍼뜨릴 수 있는 환경에 놓이자 레딧, 트위터 등 다양한 플랫폼에서 딥페이크 영상을 금지하게 됐다.
 

머신러닝 기술 발전에 따라 딥페이크는 빠른 시일 내에 더욱 정교해질 전망이다. 이에 따라 미국 2020 대선을 앞두고 딥페이크 관련 규제가 시급하다는 목소리가 높아지고 있다. 딥페이크 기술로 가짜 뉴스 영상을 제작하고 유통할 수 있기 때문이다. 실제로 작년 워싱턴대학 연구팀이 제작한 가짜 오바마 동영상이 출현하자 주요 외신은 정교한 합성의 페이크뉴스 생산이 위험 수위에 달했다고 지적했다. 당시 해외 머신러닝 분야의 컴퓨터 과학자와 전문가들은 보도를 통해 딥페이크 관련 규제 도입을 촉구했다. 이미 정치적 의도를 내포한 시도도 있어왔다. 지난 5월, 벨기에의 한 정당에서 SNS에 게시한 동영상도 하나의 사례다. 해당 영상에 등장하는 미국 트럼프 대통령은 “파리 기후변화협약 탈퇴를 유예하지 않는다”고 발언했다. 후일 영국 가디언은 영상에서 트럼프가 이야기 한 파리 기후변화협약 관련 발언 모두 딥페이크 기술을 적용한 가짜였다고 밝혀냈다. 이미 실시간 반응을 보였던 많은 대중들 사이에서 논란이 불거진 이후의 조치였다.

 

 

딥페이크 정책 마련과 개인의 주의가 필요   

정치적인 영역에서 딥페이크의 본질적인 우려가 드러난다. 가짜 뉴스 영상이 광활한 웹 세계에서 존재하는 한 그에 따른 파급력은 사실상 측정이 불가하기 때문이다. 일반적으로 우리는 눈으로 지각하는 동영상의 경우 무비판적으로 신뢰하는 경향이 있다. 이는 영상에 나오는 등장인물이 정치적인 권력을 가진 경우, 또는 출처가 뉴스 기관인 경우엔 신뢰성과 더불어 일종의 공신력도 위장할 수 있다. 향후 인공지능 기술로 간편한 언론조작이 가능할 수도 있다는 이야기다.
 

그러나 사실적 묘사로 인해 이를 보는 사람들이 현실과 진실을 구분하기 어렵다는 점보다 더 중요한 문제가 있다. 지난 미국 대선 시즌에서 역전에 성공한 트럼프의 승리에 있어 페이스북을 통한 가짜 광고성 뉴스 유포는 한 몫 했다는 분석은 이미 잘 알려져 있다. ‘과거와 같은 역사를 반복할 것인가’라는 물음에 있어 최근 가디언은 “대부분의 이용자가 새로운 정보의 진위 여부를 검증하려는 귀찮음을 댓글을 남기고 공유하는 것으로 대신한다”고 지적한다.
 

딥페이크는 4차 산업 시대의 가장 주목받는 혁신 기술 중 하나다. 딥페이크의 알고리즘은 이미지 패턴매칭을 주요 기능으로 두고 있으며 인간이 컴퓨터에 데이터를 주입해 지도하는 생성적 대립신경망(GAN, Generative Adversarial Networks) 기반으로 이뤄져 있다. 해당 이미지 패턴매칭 기술은 의학, 보안, 금융 등 각계 산업 분야의 활용도에 있어 향후 창출 가치가 상당히 기대되는 유망 분야다. 중국 IT 기술 기업의 1, 2, 3위가 모두 AI 얼굴인식 기술 기반의 기업체이며, 보안, 의료 산업 등 다양한 분야에서 기술적 미래 가치를 인정받고 있다. 즉, 버릴 수 없는 기술이기 때문에 정부를 중심으로 정교한 관련 규제가 미리 마련되어야 한다는 것이다. 
 

모든 기술은 중립적이다. 기술의 사용 목적에 있어 나타나는 빛과 그림자를 무시할 수 없을뿐이다. 딥페이크 확산에는 리벤지 포르노 의도를 내포한 음란물 유통이 있다. 이에 따라 공격에 맞서 적절한 대응을 취할 수 있는 유명인과 달리 대부분의 일반인이 사각지대에 놓여있다는 점도 우려다. 페이스북, 인스타그램 등 SNS에 게시된 수많은 사진의 도용으로 누구나 딥페이크를 악용할 소지가 있기 때문에 향후 이와 관련한 현실적인 정부의 대책 마련이 시일 내에 필요할 것이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 영등포구 국제금융로8길 11, 321호 (여의도동, 대영빌딩)
  • 대표전화 : 02-782-8848 / 02-2276-1141
  • 팩스 : 02-2276-1116
  • 청소년보호책임자 : 손보승
  • 법인명 : 이슈메이커
  • 제호 : 이슈메이커
  • 간별 : 주간
  • 등록번호 : 서울 다 10611
  • 등록일 : 2011-07-07
  • 발행일 : 2011-09-27
  • 발행인 : 이종철
  • 편집인 : 이종철
  • 인쇄인 : 신진민
  • 이슈메이커 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2019 이슈메이커. All rights reserved. mail to webmaster@ndsoft.co.kr
ND소프트