“혹시 내 아이도?” 초중고 딥페이크 성범죄 무방비 노출

[시사매걱진 신혜영 기자] 최근 불특정 다수 여성 얼굴에 음란물을 합성하는 ‘딥페이크’ 성범죄물이 텔레그램을 통해 확산하며 우려가 커지고 있다. 특히 딥페이크 성범죄가 초·중·고교까지 확산되면서 불안감이 더욱 가중되고 있다. 급기야 ‘딥페이크 피해 학교 리스트’ 글까지 나돌자, 일부 학교는 실태 파악에 나서고 경찰은 수사를 시작했지만 난항이 예상되고 있다.

초중고까지 확산된 딥페이크 성범죄 “누구도 안심할 수 없다”

최근 딥페이크를 활용한 성범죄에 청소년들이 무방비 노출되고 있다는 우려가 크다. 텔레그램에는 전국 초·중·고·대학 이름이나 ‘지능방(지인능욕방)’, ‘겹(겹치는)지인방’ 등의 이름으로 딥페이크 합성물을 제작 및 유포하는 불법 대화방이 우후죽순격으로 생겼다.

중·고등학교와 대학교 등 주로 소속 학교나 지역을 중심으로 딥페이크 성범죄 문제가 기승을 부리면서 피해 우려가 커자 지난 8월 27일 ‘딥페이크 피해 학교 지도’가 등장하기도 했다. 해당 누리집을 방문하면 피해자가 있는 것으로 추정되는 학교들을 지도에서 찾아볼 수 있다. 28일 기준 ‘딥페이크 피해학교 지도’에는 현재 500여 곳이 넘는 전국 초·중·고등학교와 대학교가 피해 학교로 등록돼 있으며, 제보를 통해 학교 목록을 업데이트 하고 있다.

대학가와 군부대 안에서 ‘딥페이크’ 성범죄가 잇따른 직후 ‘딥페이크 피해학교 지도’까지 나돌자, 지역 중·고등학생 사이에서도 공포와 불안감이 더욱 커지고 있다.

28일 다수의 맘카페에서는 딸 자녀가 딥페이크 성범죄 피해를 입은 것은 아닌지 우려하는 글들이 올라왔다.

“무엇을 조심시켜야 하나. 인터넷 끊고 히잡 쓰고 다녀야 하나. 현실은 히잡 쓰고 다니는 여성들이 더 당하고, 졸업사진으로도 딥페이크를 하는데.”

“여자애들이 자신의 노출사진을 올리는 것도 아닌데 왜 조심하라고 하나”, “이런 일 자체가 없도록 남자들을 교육시켜야 한다.”

“딥페이크 터진 남녀공학 학교에서 여학생만 불러다가 조심하라고 했다. 여자로 태어난 게 죄인가, 딸 가진 게 죄인가. 늘 피해자가 조심해야 하나. 기가 찬다.”

‘딥페이크’ 성범죄에 대한 공포가 교육계 전반으로 번지면서 광주 교사단체가 교육 당국의 전수 조사와 보호 조치 마련을 촉구했다.

전국교직원노동조합 광주지부는 27일 성명을 내 “최근 온라인 커뮤니티와 사회관계망서비스(SNS)를 중심으로 불법 합성물 성범죄 피해가 우려되는 학교 명단이 확산되고 있다”며 “규제조차 없이 국가가 방치한 인공지능(AI)과 디지털 기술을 활용한 성범죄는 온갖 혐오와 성적 대상화를 거름 삼아 사회 곳곳으로 퍼져나가고 있다. 이제는 학생과 교사들이 불안에 떨고 있다. 추가 피해 우려 목소리가 매우 높아지고 있다”고 주장했다.

딥페이크 성범죄 신고 10대가 73.6% 차지

경찰청에 따르면 지난 1∼7월 딥페이크 성 착취 범죄 신고는 전국에서 총 297건 접수됐으며, 입건된 피의자 178명 중 10대는 131명으로 73.6%를 차지했다.

교육부가 전국 17개 시도교육청을 통해 8월 27일까지 긴급 취합한 ‘딥페이크’ 범죄 피해 신고 현황을 발표한 바에 따르면 ‘딥페이크’ 성착취물 피해를 입었다고 신고한 초·중·고 학생과 교직원이 196명으로 파악됐다. 학생 186명, 교사 등 교원 10명이다. 교육부는 이 중 179건을 경찰에 수사 의뢰했다.

하지만 딥페이크 성범죄에 대한 집중 수사와 단속에 나섰지만, 난항이 예상된다. 이번 딥페이크 성범죄는 텔레그램 봇(Bot)을 통해 불법합성물이 제작된 것으로 알려졌다. 단체 채팅방이 아닌 봇과의 1대 1 비밀 채팅방 형식이다. 텔레그램에 협조가 없으면 딥페이크 불법합성물을 의뢰한 가해자들을 수사하기 어렵기 때문이다. 텔레그램은 종단 간 암호화 기술 기반으로 한다. 종단 간 암호화 기술은 송신자 기기(스마트폰 등)에서 메시지가 즉시 암호화되고 서버를 거쳐 수신자 기기에 도착하면 이때 복호화되는 기술이다. 메시지 송신과 수신까지 이어지는 경로(서버)를 수색해도 해독할 수 없다.

허민숙 국회입법조사처 입법조사연구관은 “딥페이크 성범죄는 갑자기 발생한 초유의 사태가 아니라 이미 오래 전부터 있었던 일”이라며 “협력이 안 된다는 이야기는 상당히 참혹한 현실”이라고 했다.

그러면서 허 입법조사관은 “텔레그렘에서 일어나는 모든 범죄에 대해 경찰이 손을 쓸 수 없다면 텔레그렘을 한국에서 셧다운 해야하지 않겠나”라면서 “강제 퇴출의 결단이라도 내려야 한다”고 말했다.

방송통신위원회 김태규 직무대행은 텔레그램 제재 여부에 대해 “텔레그램 그룹 채팅방, 채널 서비스 등에서 공개되는 영역에 대해 불법 촬영물 삭제나 유통 방지 등 제재를 가할 수 있는 지에 대해 법률적인 검토를 할 것”이라고 말했다.

경찰청 내년 3월 말까지 특별 집중 단속

경찰청 국가수사본부는 내년 3월 말까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중단속’을 벌인다. 교육부는 전날 전국 17개 시도교육청에 딥페이크 피해·가해 현황을 파악해 달라는 공문을 보냈다.

교육부는 딥페이크 성착취물 제작이 호기심 차원의 놀이가 아니라 법적 처벌의 대상이 된다는 점과 피해자 대처요령 등을 담은 안내문을 학교에 전달했다.

경찰은 딥페이크 확산을 예방하기 위해 27일 ‘긴급스쿨벨’을 발령했다. 긴급스쿨벨에는 SNS 단체 채팅방 등에서 ‘딥페이크’로 의심되는 게시글을 인지한 경우, 반드시 112·117로 신고하거나 담당학교 학교전담 경찰관(SPO)에게 통보해달라고 당부하는 내용이 담겼다.

스쿨벨 시스템은 서울경찰청과 서울시교육청간 협력을 통해 구축된 시스템으로, 발령될 경우 서울시내 초·중·고 전 학교인 1374개교와 학부모 78만 명에게 온라인 시스템을 이용해 일괄적으로 전파된다.

딥페이크 성범죄 처벌 법규 미흡

최근 딥페이크 성범죄가 초중고 학교까지 확산되고 있으나 처벌 법규는 미흡한 지적이다. 현재 딥페이크 성범죄는 지난 2020년 개정된 성폭력처벌법의 적용을 받는다. 허위영상물을 만들어 반포하면 이하 징역 또는 5000만 원 이하의 벌금이 부과될 수 있다.

피해자가 아동·청소년인 경우 청소년보호법 위반으로 입건될 수 있다. 청소년보호법은 ‘아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물’을 대상으로 한 성교행위나 신체노출물을 ‘아동·청소년 성착취물’로 규정한다. 아동·청소년의 성보호에 관한 법률상 아동·청소년 성착취물 제작죄의 법정형은 무기 또는 5년 이상 징역이다.

하지만 피해자가 형사미성년자여도 법망을 피해갈 가능성이 존재한다. 불법합성물의 외관이 명백히 아동·청소년으로 인식돼야 하기 때문이다.

가해자와 피해자가 모두 초등학생인 경우, 가해자는 촉법소년이지만 피해자는 청소년보호법의 보호를 받는다.

피해자와 가해자 모두 ‘청소년’인 사례가 많아 사법당국의 대책 마련이 시급한 것으로 나타났다.

실제야, AI야? 구분하기 어려울 정도로 정교

딥페이크는 AI를 활용한 일종의 얼굴 조합 기술을 의미한다. 조작된 영상을 만들어 사실 같이 보이게 하는 기술로 기존에 있던 인물의 얼굴 혹은 신체 부위를 합성한 이미지와 비디오, 오디오 등을 총칭한다. 사람의 모습과 행동이 담긴 단 몇 분짜리 영상과 말한 문장 100여 개만 있으면 딥페이크로 가짜 영상을 만들 수 있다.

딥페이크 기술은 실제 영상과 구분하기 어려울 정도로 정교해지고 있다. 예전에는 딥페이크 영상에서 얼굴표정이나 동작이 부자연스러운 게 많았다면 요즘은 자세히 살펴봐야만 가짜라는 걸 아는 경우가 많다.

스코틀랜드 에버딘대학교 연구진이 일반인 124명을 대상으로 실험한 결과, 약 65%가 AI가 만든 가짜 얼굴과 실제 사람의 얼굴 사진을 구분하지 못한 것으로 조사됐다. 실험 참가자 3명 중 2명이 AI로 만든 얼굴을 ‘실제 사람 얼굴’이라고 오판한 것이다. 실제 사람의 얼굴 사진을 ‘사람’이라고 선택할 확률은 51%에 불과했다.
 

딥페이크 서비스 온라인상 수없이 퍼져 있어
누구나 쉽게 접근 가능

문제는 누구나 쉽게 딥페이크 서비스를 이용할 수 있다는 것이다. 딥페이크 음란물을 만들어주는 웹사이트는 온라인상에서 그 수를 헤아릴 수 없을 정도로 많이 퍼져 있다.

8월 28일 정보기술(IT) 업계에 따르면, 구글플레이 등 스마트폰 앱스토어에서 ‘딥페이크’, ‘AI 얼굴 합성’, ‘AI 페이스 스왑’ 등 관련 키워드를 검색하면 수십 개의 관련 서비스 앱들이 뜰 정도로 유·무료 AI 영상 편집 프로그램들이 유통되고 있다. 누디파이, 언드레스, 딥누드 등의 이름으로 이른바 ‘옷 제거’ 딥페이크 앱이 국내에서도 기승을 부리고 있다.

컴퓨터를 잘 다루는 사람이 아니어도 손쉽게 불법 음란물을 만들 수 있는 환경이 다 보니 딥페이크 서비스를 이용하는 사람들도 늘고 있다.

그러다 보니 피해 사례도 매년 급증하는 추세다. 방송통신위원회에 따르면 ‘딥페이크를 포함한 성적 허위 영상물’에 관한 신고는 2021년 1913건에서 2023년(11월까지) 5996건으로 2년 사이 3배 이상 늘었다.

유통단계에서의 엄격한 제재가 필요

전문가들은 당국의 제재나 단속 조치보다 기술의 발전 속도가 훨씬 빨라 앞으로도 딥페이크 성범죄는 빠르게 증가할 것으로 전망한다.

전문가들은 인공지능(AI) 기반 딥페이크 기술로 누구나 어렵지 않게 합성 영상을 만들 수 있어, 유명인은 물론 일반인도 얼마든지 범죄 타깃이 될 수 있다고 경고하며 유통단계에서의 엄격한 제재가 필요하다는 게 이들의 조언이다.

서울여자대학교 정보보호학과 김명주 교수는 “딥페이크 이미지나 영상을 만드는 도구가 광범위하게 퍼져 있다. 일정 회비만 내면 얼마든지 만들 수 있고, 비용도 크지 않다”며 “영상 만드는 속도는 발견하고 단속하는 속도보다 빠르다. 음란물이 만들어져도 피해자가 인지하기 어렵고, 인지한다고 하더라도 사건화되는 게 힘들다”고 분석했다.

전문가들은 콘텐츠 제작을 못 하게 하는 건 사실상 불가능하기 때문에 유통단계에서 어떻게 효율적으로 차단할 것인지 사회적 논의를 시작해야 한다고 강조한다. 딥페이크 악용 콘텐츠가 무분별하게 확산되고, 이로 인한 사회적 혼란이 발생하지 않도록 유통단계에서의 철저한 관리와 함께 딥페이크 영상 악용 범죄에 대한 처벌 규정을 강화해야 한다는 지적이다.

최재식 카이스트 교수는 “개개인이 AI기술을 활용해 콘텐츠를 만드는 행위까지 일일이 제한하는 것은 한계가 있다”며 “현재 AI가 생성한 콘텐츠에 대한 탐지 기술들이 다양하게 개발되고 있고, 이를 플랫폼에 적용하는 등으로 유통단계에서 딥페이크 악용 콘텐츠 확산을 차단해야 한다”고 강조했다.
 

딥페이크 기술 오남용 여부 판단 기준조차 없어

국내의 가장 큰 문제는 딥페이크 기술의 오남용 여부를 판단할 기준조차 없다는 점이다. 관련 법안들이 발의됐지만 국회에 계류하면서 규제가 미비한 상황이다.

지난해 20대 직장인 여성 A씨(24)는 직장 상사 B씨가 자신의 사회관계망서비스(SNS)에 있는 사진으로 음란물을 제작한 것을 알고 고소했지만 경찰은 불송치 결정을 내렸다.

유포 목적으로 영상을 제작했다는 사실을 입증하기 어렵다는 게 불송치 결정의 이유였다. 2020년 6월 ‘딥페이크 처벌법(개정 성폭력처벌법 제14조의2)’이 도입됐지만 B씨의 사례처럼 타인의 사진을 이용해 딥페이크 음란물을 만들어 보관하는 행위 자체는 처벌하기 매우 어렵다. 해당 법안에 따르면 반포 등을 할 목적으로 사람의 얼굴·신체·음성을 대상으로 한 영상물을 제작한 자는 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처해 질 수 있다. 영리 목적으로 제작한 자는 7년 이하의 징역으로 가중 처벌된다.

가해자를 법적 처벌하기 매우 어려운 상황이다. 딥페이크 음란물의 확산 피해가 늘어날 것으로 예상되는 만큼 보완 입법을 검토해볼 만 하다는 의견이 나온다.

서울여자대학교 정보보호학과 김명주 교수는 “지금까지 법원에서 처벌된 건 70건 남짓이다. 그중 반 이상은 집행유예로 풀려나고, 실제 징역을 산 사람은 5~6건 정도”라며 “‘(현행 구조하에) 범죄를 저질러도 큰 처벌을 받지 않는다’라는 사회적 인식을 줄 수 있어 힘이 빠지는 규제”라고 덧붙였다.

정부 대책은

윤석열 대통령은 8월 27일 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 딥페이크 영상물과 관련해 “명백한 범죄”라면서 관계 당국에 “철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑고, 아울러 건전한 디지털 문화가 자리매김하도록 교육방안도 강구해달라”고 했다.

교육부는 분야별 6개 팀으로 구성된 가칭 ‘학교 딥페이크 대응 긴급 전담조직(TF)’을 구성해 ‘사안 종료 시’까지 운영한다고 밝혔다.

또 교육부는 피해 학생과 교사들에 대한 심리 상담과 치료를 지원하고 법률 지원과 보호 방안 마련에도 나선다. 현재 딥페이크 성범죄 피해 학생은 학교 내 위(Wee)클래스와 교육지원청 위센터를 통해 상담을 받을 수 있다. 교사는 교권침해 직통번호 ‘1395’를 통해 피해를 신고하면 되고, 원스톱 상담 지원을 받을 수 있다. 교육부는 딥페이크 사안 신고 접수를 보다 원활히 받기 위해 홈페이지를 통해 운영하던 기존 ‘교육분야 성희롱·성폭력 신고센터’도 개편한다.

방송통신심의위원회는 28일 국회에서 열린 과학기술방송통신위원회(과방위) 전체회의에서 텔레그램 기반 딥페이크 음란물 제작과 유포 사건이 확산되자 그룹채팅방 등의 불법 촬영물에 대해 삭제 및 유통방지 의무를 부여하는 방법을 법률적으로 검토를 하겠다는 계획을 내놨다.

김태규 직무대행은 텔레그램 딥페이크 음란물 확산 사태로 인한 n차 피해 방지 대책으로 “딥페이크 영상물 피해자 신상정보도 긴급 심의 대상에 포함시키는 내용, AI생성물 표시제 도입, AI 서비스 이용자 보호 법규 마련, 민간 협업을 통한 자율규제 강화, AI 피해 신고 창구인 온라인 365센터를 잘 활용하는 방법을 강구하고 있다”라고 말했다.

여가부는 과학기술정보통신부와 함께 딥페이크 기반 성범죄 관련 법·제도적, 기술적 개선방안 도출을 위한 연구를 진행 중이다. 연구 결과를 바탕으로 성폭력처벌법 개정 등 개선 사항을 관계부처와 협의해 지속적으로 조치해나갈 계획이다.

신영숙 여가부 차관은 “프로필사진 한 장으로 누구나 디지털 성범죄 피해자가 될 수 있다는 사실이 국민들을 불안케 하고 있다”며 “디성센터를 중심으로 상담, 삭제지원, 유포 여부 모니터링부터 정신적·심리적 회복지원까지 딥페이크 성범죄 피해자를 신속하게 지원하겠다”고 말했다.

27일 더불어민주당 소속 국회 여성가족위원회·과학기술방송통신위원회·법제사법위원회·행정안전위원회 위원들은 국회 소통관에서 기자회견을 열고 관련 입법 개정에 속도를 내겠다고 밝혔다.

민주당은 ”딥페이크를 악용한 영상물은 쏟아지지만 계정 삭제와 같은 플랫폼 대응이나 법적 규제는 늦어도 너무 늦다“며 정부여당의 안일한 대처를 비판하면서 ”과방위, 법사위, 여가위, 행안위 등 여러 상임위가 함께 풀어나가야 하며, 위 상임위에서 현안 질의와 법안심사를 통해 전체적인 대책을 마련하도록 하겠다“고 말했다.
 

※ 학생이나 보호자는 SNS, 단체 채팅방에서 딥페이크 의심 성범죄물이나 게시글을 발견하면 112(경찰)·117(학교폭력 신고)로 신고할 수 있다.
재학 중인 학교의 학교전담경찰관(SPO)나 여성긴급전화(1366), 디성센터(02-735-8994) 등에서 피해 상담도 가능하다.