전국 학교에 ‘딥페이크 공포’가 확산하고 있다. 전국교직원노동조합(전교조)이 지난 27일 딥페이크 성범죄 긴급 실태조사를 진행하자 이날 오전까지 단 하루 만에 무려 1200건에 달하는 피해 사례가 접수됐다. 또한 디지털성범죄피해자지원센터가 여성가족부 산하 한국여성인권진흥원에 설치된 2018년 4월 이후 올해 8월 25일까지 '딥페이크' 피해 지원에 나선 건수가 2,154건에 달한다.

최근 온라인상에 전국 초·중·고교 500여 곳의 명단이 담긴 ‘딥페이크 피해 학교 목록’이 올라오자 “실제 피해를 입었다”는 신고가 쏟아지고 있는 것이다. 전교조 관계자는 “절반 가까이가 학생들의 신고이고, 초등학교도 있다”며 “텔레그램상에 유포되다 보니 (명단에 올라온 학교) 학생·교사 모두 본인이 피해자인지 아닌지 확인하기가 어렵다는 게 가장 큰 불안 요소로 작용하고 있다”고 전했다.

딥페이크 성범죄는 주가해자와 주피해자 모두 10대라는 점에서 심각성을 더한다. 여성가족부 산하 한국여성인권진흥원에 따르면 지난 25일 기준 올해 딥페이크 피해지원 요청자는 781명으로 이 중 10대는 36.9%(288명)에 달한다. 이는 2022년 64명에 비해 4.5배로 폭증한 수치다. 경찰청에 따르면 올해 1∼7월 딥페이크 성범죄 피의자 역시 10대가 전체(178명)의 73.6%(131명)에 달했다.

10대 여학생들은 SNS 계정을 비밀 계정으로 전환하고, 얼굴이 나온 게시물을 일괄 삭제하는 등 자구책에 나서고 있다. 피해 학교 명단에 오른 서울의 한 고교 재학생 B 양은 “텔레그램 내 범죄는 추적도 어렵고 이미 다 퍼졌을 것이란 생각에 자포자기하고 있다”며 “다른 친구들도 본인이 피해자는 아닐까 하는 불안감에 떨고 있다”고 말했다. 경기 소재 고교의 C 양도 “담임선생님이 SNS를 자제하고 얼굴이 나온 게시물을 내리라고 주의를 줬다”고 전했다.

수사 선상에 오르는 학교도 늘어날 것으로 보인다. 경남경찰청은 경남 하동군 A 중학교 학생 5명이 딥페이크 음란물을 제작해 유포한 사건을 수사 중이다. 피해 학생만 12명 이상으로 추정되고 있다. 부산경찰청도 부산 일대 중·고교에서 발생한 딥페이크 성범죄 사건 10여 건을 수사 중이다. 한편 서울경찰청 사이버수사대는 22만 명 이상이 참여한 것으로 알려진 텔레그램 채널과 관련해 내사에 착수했다. 경찰 관계자는 “40만 명이 참여한 것으로 알려진 채널 등 유사 사례들도 전반적으로 들여다보고 있다”고 말했다. 경찰은 앞으로 7개월간 딥페이크 성범죄 관련 특별 집중 단속도 실시한다.

이런 가운데 딥페이크 성착취물에 등장하는 인물의 절반 가량이 한국인이라는 해외 보안업체의 조사 결과가 나왔다.

보안서비스 업체 ‘시큐리티 히어로’는 최근 공개한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성착취물에 가장 취약한 국가라고 밝혔다.

보고서는 지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%가 한국 국적이라고 했다. 2위 미국(20%), 3위 일본(10%)과는 격차가 적지 않았다.

보고서는 딥페이크 성착취물에 많이 이용된 상위 10명 중 8명이 한국인 가수라고 했다. 그 중 1위인 가수 A씨가 이용된 성착취물은 1595개로, 조회수는 561만회에 달했다. 보고서는 사안의 민감도를 고려해 피해 명단을 공개하지 않았다.

딥페이크 성착취물 수는 매해 증가하고 있다. 보고서에 따르면 2022년 제작된 딥페이크 성착취 영상은 3725개였는데 2023년에는 2만1019개로, 464% 증가했다. 2023년 기준 온라인상에서 9만5820개 딥페이크 영상이 확인됐고, 이 중 98%는 딥페이크 성착취물인 것으로 드러났다. 보고서는 성인물 웹사이트 상위 10곳 중 7곳은 딥페이크 성착취물을 보유하고 있다고 했다.

딥페이크로 성착취물의 주요 등장인물은 여성이었다. 보고서는 “젠더가 딥페이크 영상 속 인물을 선택할 때 주요한 역할을 한다”며 “딥페이크 성적 영상 99%가 여성을 주인공으로 등장시키는 반면 1%만이 남성을 등장시킨다”고 했다.

  시큐리티 히어로 보고서 통계 

심각한 사회적 문제로 대두된 가운데 방송통신심의위원회(방심위)가 음란물의 유통 경로인 텔레그램 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하겠다고 28일 밝혔다.

류희림 방심위원장은 이날 오전 서울 목동 방심위에서 긴급 전체회의를 열고 "종합대책을 논의·확정해 이 심각한 위협의 퇴출에 나설 것"이라고 말했다.

우선 방심위는 텔레그램 등 주요 SNS(소셜미디어)에 대한 자체 모니터링 인원을 2배 이상 늘려 불법 성범죄영상물을 신속 적발하고, 향후 디지털 성범죄 전담 인력을 늘리겠다고 밝혔다.

특히 삭제·차단 조치 관련 전자심의를 강화해 24시간 이내 조치할 수 있도록 시정을 요구하고, 악성 유포자는 즉각 경찰에 수사 의뢰하겠다고 강조했다. 이를 위해 국내 주요 포털사이트와 함께 텔레그램·페이스북·엑스·인스타그램·유튜브 등 글로벌 온라인플랫폼 사업들과 협의체를 구성해서 신속한 삭제 차단 조치와 함께 자율적인 규제를 강력히 요청하겠다고 밝혔다.

류 위원장은 "해외에 서버가 있는 글로벌 온라인 플랫폼 사업체 중 국내 공식 협의체가 없는 사업체들에 대해서는, 면대면 협의 채널을 이끌어 내 상시적인 협의가 될 수 있도록 추진하겠다"고 강조했다.

아울러 "디지털 성범죄영상물의 제작·소지·유포 등에 대한 처벌이 미약해 관련 범죄가 확산하고 있다는 지적에 대해서도 보완 입법을 관계기관에 건의하겠다"며 "관련 전문가들과 협력해 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구하겠다"고 밝혔다.

이밖에 방심위는 딥페이크 성범죄영상물 신고를 보다 쉽게 할 수 있도록 전날 홈페이지에 전용 배너를 설치하고, 방심위 신고전화인 1377 기능을 강화해 상담원이 24시간 365일 접수·상담한다고 밝혔다.