▲ 딥페이크'(deepfake) (PG) [장현경 제작] 일러스트

디지털성범죄피해자지원센터(이하 디성센터)가 여성가족부 산하 한국여성인권진흥원에 설치된 2018년 4월 이후 올해 8월 25일까지 '딥페이크' 피해 지원에 나선 건수다.

타인의 일상 사진이나 일반 영상물을 성적 불쾌감을 유발할 수 있는 형태로 합성·편집한 것을 의미하는 '딥페이크'로 인한 피해 지원건수는 2018년 69건에서 올해(25일 기준) 781건으로 11배 넘게 급증했다.

이러한 추세라면 올해 딥페이크 피해자는 1천명을 넘어설 것으로 보인다.

디성센터는 삭제지원 특화 시스템인 'DNA 시스템'을 가동해 총력 대응에 나서고 있지만, 텔레그램 등 해외 플랫폼 대응에 한계가 있다고 한다.

전문가들은 제작·유포자에 대해 강력하고 엄하게 처벌하고, 청소년을 대상으로 한 디지털 교육을 강화해야 한다고 입을 모은다.

▲ 딥페이크 유포 범죄 대응 나선 국회 국회 여성가족위원회 이인선 위원장이 27일 오후 서울 여의도 국회 소통관에서 불법합성물인 딥페이크 유포 범죄 관련 기자회견을 하고 있다.

신고 들어오면 즉각 삭제 지원…텔레그램 등 해외 플랫폼 대응엔 '한계'

28일 디성센터에 따르면 불법 촬영물과 딥페이크를 탐지할 수 있는 삭제지원 특화 시스템인 'DNA 시스템'의 검출률은 99%가 넘는다.

제작자가 원본을 흑백으로 바꾸거나 반전시켜도 색출이 가능하며, 자막과 워터마크를 삽입해도 이를 잡아낼 수 있다.

디성센터 관계자는 "다른 국가들이 주로 쓰는 '해시(HASH) 시스템'은 원본을 약간만 변형해도 검출하기 힘든데, DNA 시스템은 이보다 훨씬 더 촘촘하다"며 "300여개의 국내외 성인사이트를 24시간 감시하고 유포 현황을 실시간으로 파악하고 있다"고 설명했다.

다른 디지털 성범죄와 마찬가지로 딥페이크에 대한 신고가 들어왔을 경우 먼저 피해자와 상담을 진행하고, 유포 사실을 확인한 뒤 삭제 지원에 나선다.

만약 피해자가 아동·청소년이라면 선제적인 삭제 조치에 들어간다.

올해 1월 1일부터 8월 25일까지 디성센터에 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하 청소년이나 어린이였다.

해당 촬영물이 해외에 서버를 뒀거나 유포자가 국외에 머물고 있다면, 핫라인으로 구축해 놓은 각국의 수사기관이나 미국 실종학대아동방지센터(NCMEC), 국내외 정보기술(IT) 기업 등을 통해 삭제 조처를 한다.

다만 해외 대응에는 여전히 어려움이 따른다.

특히 앞선 'N번방 사건'과 이번 딥페이크 성범죄 영상의 주요 유포 경로가 된 텔레그램이 사각지대로 꼽힌다.

유포되는 불법 촬영물 범위도 파악하기 힘들뿐더러, 국내 기업이 아니라서 법적으로도 통제할 수 없는 탓이다.

디성센터 관계자는 "국내 사이트에 올라온 불법 촬영물은 대부분 삭제하고 있지만, 해외 플랫폼의 경우 국제 공조 체계를 강화했음에도 한계가 있는 게 사실"이라고 밝혔다.

▲ 텔레그램 [연합뉴스 자료사진]

딥페이크에 대한 경각심 부족…"사회적인 인식 변화가 가장 중요"

전문가들은 N번방 사태와 버닝썬 사태 등을 겪으면서 우리 사회가 디지털 성범죄에 대한 문제의식은 높아졌지만, 딥페이크에 대한 경각심은 여전히 부족하다고 입을 모은다.

곽대경 동국대 경찰사법대학 교수는 "딥페이크 유포자나 제작자들을 보면 '호기심으로, 재미삼아 그랬다'고 변명하는데, 사건의 심각성을 인지하지 못한다는 방증"이라며 "반면 피해자 입장에서는 이는 인격을 완전히 파괴당하는 일이나 마찬가지"라고 비판했다.

곽 교수는 "특히 어린 여학생들이 자기 모습을 합성한 사진을 목격하면 엄청난 수치심을 느끼고, 일상생활을 하기 힘들 정도에 이른다"고 우려했다.

게다가 딥페이크를 시청한 이들의 경각심이 부족하다는 점을 들며, 이러한 행태를 개선하기 위해선 결국 사회적인 인식 변화가 가장 중요하다고 강조했다.

그는 "딥페이크가 단순한 장난이 아닌, 심각한 범죄라는 인식을 가질 수 있도록 관련 범죄에 대한 무거운 처벌이 나와야 한다"며 "관련 영상물이 유포되는 것을 목격했다면 이를 즉각 신고하는 시민 의식 개선도 필요하다"고 말했다.

서혜진 여성변호사회 인권이사도 딥페이크 사건으로 기소돼 처벌된 사례가 별로 없었고, 2020년 이후에야 일부 사건에 경미한 처벌을 내렸다는 점을 지적했다.

서 인권이사는 "다른 디지털 성범죄에 비해 딥페이크 처벌은 극히 일부에 불과하다"며 "딥페이크 제작과 유포가 죄가 된다는 사실이 널리 알려지는 게 실패했던 이유"라고 꼬집었다.

그는 "어릴 때부터 디지털 기기에 익숙한 청소년들은 스마트폰 전자 기기를 이용한 '놀이'와 '괴롭힘' 사이의 구분이 희미하다는 특성이 있다"며 "이들에게 딥페이크에 대한 문제의식을 심어주기 위해 학교에서 관련 교육을 강화해야 한다"고 강조했다.

딥페이크 가해자 부모들 '증거 지우기' 나서

최근 미성년자 불법합성물(딥페이크) 가해자의 부모들이 디지털장의사에게 증거 삭제를 의뢰하고 있는 것으로 알려졌다.

최근 소셜네트워크서비스(SNS)에서 딥페이크 피해 지역 및 학교에 이어 가해자 명단이 돌고 있는 영향으로 풀이된다. 현재 엑스(X·구 트위터)에는 '딥페이크 피해학교 목록'과 '딥페이크 피해학교 지도' 등이 공유되고 가해자들의 인스타그램 주소도 게시되고 있다.

이에 가해자로 추정되는 10대 남학생들의 부모는 관련 SNS의 게시물을 삭제하기 위해 디지털장의사 업체에 접근하고 있다. 이들은 온라인상에 유포된 딥페이크 불법합성물 삭제도 같이 의뢰한 것으로 전해지고 있다.

가해 학생들이 증거를 인멸하려는 사이 피해 여학생들은 SNS를 비공개하거나 게시물을 내리는 등 두려움에 떨고 있다. 일부 학교는 피해 확산을 막기 위해 학생들에게 SNS 등에서 얼굴 사진을 내리라고 공지했다.

딥페이크 공포가 확산하자 수사당국과 교육당국이 실태 팡가에 나섰다. 경찰청 국가수사본부는 내년 3월 7개월간 '딥페이크 성범죄 관련 특별 집중단속'을 실시한다. 교육부는 전날 전국 17개 시도교육청에 딥페이크 피해·가해 현황을 파악해 달라는 공문을 보냈다.

학생이나 보호자는 SNS, 단체 채팅방에서 딥페이크 의심 성범죄물이나 게시글을 발견하면 112(경찰)·117(학교폭력 신고)로 신고할 수 있다. 재학 중인 학교의 학교전담경찰관(SPO)나 여성긴급전화(1366), 디성센터(02-735-8994) 등에서 피해 상담도 가능하다.

[저작권자ⓒ 미디어시시비비. 무단전재-재배포 금지]