[이슈메이커=손보승 기자]

날로 악랄해지는 디지털 성범죄
 

얼굴 사진에 음란물을 합성해 제작 및 유포하는 ‘딥페이크(Deepfake)’ 영상물이 메신저 앱 ‘텔레그램’을 통해 무차별적으로 유포되며 심각한 사회 문제로 떠올랐다. 허위 영상물로 피해를 본 학교를 검색할 수 있는 ‘딥페이크 피해 학교 지도’까지 등장하는 등 학생과 학부모의 우려가 커지면서 당국도 대응에 나섰다. 경찰은 ‘딥페이크’ 성범죄에 대한 특별 단속에 나섰고 국회도 처벌을 강화하는 방지법을 의결할 예정이다.

 

 

경찰청 7개월 간 특별 집중단속
딥페이크 성범죄가 기업과 군대 등의 일터를 넘어 전국 초·중·고등학교까지 확산했다. 파문이 일자 주요 외신들도 “몰카를 근절하려 분투한 한국이 이제는 딥페이크와 전투를 벌이고 있다”며 “한국이 세계적 (딥페이크 성착취물) 문제의 진앙”이라고 집중적으로 보도했다.

  경찰청 국가수사본부는 8월 28일부터 내년 3월31일까지 7개월 간 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하기로 했다. 경찰청은 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄로, 발본색원해 국민 불안감을 불식시키도록 최선을 다하겠다”며 “국민의 적극적인 신고·제보를 바란다”고 강조했다. 경찰은 시·도 경찰청 사이버성폭력수사팀을 중심으로 적극적 단속을 펼쳐 딥페이크 제작부터 유포까지 철저히 추적·검거할 방침이다. 기술적으로는 탐지 소프트웨어를 활용한 분석, 국제공조 등 수사에 필요한 사항을 적극적으로 지원할 예정이다.

  딥페이크 허위 영상물 등 범죄 발생 건수는 최근 급증하는 추세다. 경찰청에 따르면 2021년 156건, 2022년 160건, 2023년 180건으로 계속 늘었고, 올해 들어 7개월 간 297건으로 증가 속도가 빨라졌다. 청소년들 범행이 늘고 있다는 점이 큰 문제다. 최근 허위 영상물 등 범죄 혐의로 입건된 전체 피의자 중 10대의 비중은 2021년 65.4%, 2022년 61.2%에서 2023년 75.8%로 커졌다. 이에 대응해 경찰은 학교전담경찰관(SPO)을 중심으로 범죄첩보 수집, 경각심 제고를 위한 사례 중심 예방 교육·홍보 등의 활동을 병행하기로 했다. 경찰은 딥페이크 성범죄가 확산한 데 대해 “과거엔 합성을 위해 고도의 기술이 필요했지만, 인공지능(AI) 기술 발전으로 이제는 누구나 인터넷 검색만으로 딥페이크 봇 등에 접속해 허위 영상물 등을 제작할 수 있게 됐기 때문”이라고 설명했다.

 

  방송통신심의위원회 역시 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하자 긴급회의를 소집하고 딥페이크 음란물 확산 사태와 관련한 대책을 마련했다. 먼저 방심위 홈페이지에 기존에는 디지털 성범죄 신고 배너만 있었지만, 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했다. 아울러 관련 모니터링 요원을 기존보다 배로 늘려 실시간으로 피해 상황을 감시할 방침이다.

  딥페이크의 폐해가 비단 우리나라만의 문제는 아니다. 이에 주요 각국은 대책 마련에 골몰하고 있다. 인스타그램의 경우 청소년 이용자를 위한 안전 사용 강화 방안을 발표해 18세 미만 이용자 계정을 ‘비공개’로 일괄 전환했다. SNS가 청소년에게 미치는 악영향이 걷잡을 수 없는 단계에 이르자 안전장치를 도입하기로 한 것이다. 또한 팔로어가 아닌 사람은 해당 계정에 올라온 콘텐츠를 볼 수 없도록 했다. 메시지도 팔로어나 기존에 연결된 사람으로부터만 받을 수 있으며, 부모의 감독 기능을 이용하여 자녀의 사용 시간을 제한할 수 있도록 조정했다. 이러한 조치는 우리나라에서도 내년 1월부터 적용된다.

 

 

AI 기본법 제정 논의 탄력 받나
딥페이크 기술 이용 디지털 성범죄에 대한 처벌 강화를 골자로 하는 이른바 ‘딥페이크 성범죄 방지법’이 국회 상임위원회를 통과했다. 국회 여성가족위원회는 9월 23일 전체회의를 열고 아동·청소년의 성보호에 관한 법률(청소년성보호법)·성폭력방지 및 피해자 보호 등에 관한 법률(성폭력방지법) 개정안을 의결했다.

  이번 개정안은 성 착취물을 이용한 아동·청소년 대상 협박·강요 범죄의 처벌 규정을 신설, 현행 성폭력처벌법보다 무겁게 처벌하도록 했다. 또한 딥페이크 등을 이용한 디지털 성범죄에 긴급한 수사가 필요할 경우, 경찰관이 상급 부서 등의 사전 승인 없이 ‘긴급 신분 비공개 수사’를 할 수 있다는 내용을 담았다. 성폭력방지법 개정안에는 불법 촬영물 삭제와 피해자 일상 회복 지원을 국가의 책무로 명시하고, 중앙과 지역에 ‘디지털성범죄피해자지원센터’를 운영할 수 있도록 근거 규정을 신설해 피해자 신상정보 삭제 지원·피해 예방 등 사업을 할 수 있게 했다.

 

 

  이와 함께 인공지능(AI) 기본법 제정에 대한 이야기도 흘러나오는 중이다. 딥페이크 성범죄가 논란이 되면서 AI 정책이 주요 이슈로 떠올라서다. 기술이 성범죄에 악용되며 오남용을 막기 위한 규제를 두고 국회 과학기술정보방송통신위원회 국정감사에서 관련 논의가 이뤄질 가능성이 크다. 실제 세계 주요국에서는 AI 규제에 초점을 둔 법제가 하나둘 제정되고 있다. 미국 캘리포니아 주는 AI로 인해 피해가 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진하고 있다. 유럽연합(EU)은 AI 위험 수준에 따른 차등 규제를 담은 ‘AI법’을 세계 최초로 통과시켰다. 또한 EU의 AI 법은 AI 시스템을 쓰는 모든 사람에게 책임을 부과할 것을 명시했다. 일본은 지난 5월 AI 규제 방침 등을 밝혔다.

  다만 일각에서는 규제 법안을 만들면 생성형 AI 산업발전을 가로막는 것이 아니냐는 우려를 제기한다. 국회 입법조사처도 “표시 기술과 제도의 불완전성, 산업계 부담 증가, 표현의 자유 제한 등의 문제가 예상되므로 적절한 보완 조치가 필요할 것”이라며 조심스러운 입장이다. 이로 인해 지난 제21대 국회에서도 규제와 진흥 사이 간극을 좁히지 못한 바 있다.

  정부도 규제와 산업발전 사이에서 고민하는 것으로 보인다. 과학기술정보통신부 강도현 제2차관은 국회에 출석한 자리에서 텔레그램을 이용해 확산한 딥페이크 음란물 문제를 “굉장히 심각한 상태이고 피해자 입장에서 검토해야 하는 것 아닌가 싶다”라고 밝혔다. 하지만 또 다른 과기정통부 관계자는 “AI 워터마크는 정확히 표시할 수 있는 성격이 아니고, 산업발달을 저해하지 않는 방안도 필요하다”라며 방법론을 고민 중이라고 말했다.

 

  여기에 딥페이크 음란물이 확산되고 있는 텔레그램, 유튜브 등 해외 사업자에 AI 기본법 규제가 적용되기 어려울 경우 국내 사업자와 역차별 문제도 제기된다. 네이버나 카카오 등 국내 포털 사업자들은 필터링 기술로 음란물을 필터링하거나 비가시성 워터마크 기술 도입을 검토하는 등 선제적으로 대응해왔다.

  전문가들은 AI 진흥을 우선시 하되 딥페이크 등 부작용 피해 최소화를 위한 지침 형태로 입법 보완이 필요하다고 본다. 고려대 기술경영전문대학원 이성엽 교수는 언론 인터뷰에서 “워터마크 부착은 딥페이크 악용 콘텐츠를 사전에 막기 위한 조치로 충분히 논의할만하지만, AI기본법에서 사업자 처벌 내용이 담길 경우 규제에 무게가 실리게 돼 과도한 부분이 있다. 이 부분은 성폭력처벌법이나 정보통신망법을 통해 논의할 부분”이라고 지적했다.

  한편 법 제정과는 별도로, 다른 대책들도 추진되고 있다. 과기정통부는 성균관대 산학협력단 등과 함께 악의적으로 변조된 콘텐츠 대응을 위한 딥페이크 탐지 고도화 및 생성 억제 기술을 연구개발 중이다. 또 진짜 데이터가 가짜 데이터를 찾아 진위를 가리는 ‘생성적 적대 신경망’ 기술을 활용하는 방안도 검토 중이라고 알려졌다. 한국정보통신기술협회도 플랫폼 및 생성형 AI 업계에 제시할 지침인 ‘AI 워터마크 적용 가이드라인’을 마련할 계획으로 전해졌다.