"네 얼굴로 만든 음란물이야"…딥페이크 못 쫓아가는 처벌법

한국여성인권진흥원의 '2023 디지털 성범죄 피해자 지원 보고서'에 따르면, 상담 지원한 디지털 성범죄 피해자 중 합성·편집 등 불법 합성물에 의한 피해는 2023년 423건이었다. 2022년(212건)보다 2배가량 증가한 수치다. 중앙포토

올해 초 10대 여성 A씨에게 소셜네트워크서비스(SNS)로 한 통의 쪽지가 날아왔다. “네 사진으로 나체 사진을 만들었으니 와서 구경하라”는 내용이었다. 쪽지를 보낸 익명 계정의 게시판에는 A씨가 SNS에 올렸던 사진 속 얼굴과 음란물 사진을 교묘히 합성한 딥페이크물이 여러 장 올라와 있었다. 익명 발신인은 A씨에게 돈을 주지 않으면 지인들에게 사진을 유포할 것처럼 협박했다. A씨는 결국 경찰에 수사 의뢰했다.

주로 유명인을 대상으로 했던 딥페이크물 성범죄 피해가 일반인으로까지 확산하고 있다. 최근 서울대 졸업생이 대학 동문을 상대로 불법 합성물을 제작·유포했던 사건처럼 SNS 프로필 사진 등을 이용한 합성 범죄가 만연하다. 한국여성인권진흥원이 지난달 발간한 ‘2023 디지털 성범죄 피해자 지원 보고서’에 따르면, 지난해 합성·편집 등 불법 합성물에 의한 피해 상담 건수는 423건이었다. 2022년(212건)보다 2배가량 증가한 수치다.

전 연인이 불법 합성물로 SNS 계정 생성

가해자 중 일부는 전 연인을 포함해 가까운 지인이다. 20대 여성 B씨도 최근 한 SNS 계정으로부터 친구 신청을 받았다. 계정 프로필을 자세히 보니 본인 얼굴에 나체가 합성된 사진이었다. 알고 보니 범인은 전 남자친구로 드러났다. B씨는 한국여성의전화에 피해 사실을 접수했다. 한국여성의전화 관계자는 “이별을 통보한 연인에게 앙심을 품고 괴롭히려는 의도였던 것으로 추정된다”고 말했다.

참여자가 400명이 넘는 '지인 능욕' 텔레그램 방에서 아는 사람을 상대로 딥페이크 불법 합성물 제작을 요청하는 사람들. 사진 텔레그램 캡처

합성 기술이 발달하고 생성형 인공지능(AI)이 등장하면서 불법 딥페이크물을 보다 손쉽게 제작할 수 있게 됐다. 31일 구글이나 텔레그램, X(옛 트위터) 등 SNS에 ‘지인 능욕’ 등 불법 합성물 관련 키워드로 검색해보니 제작·유포해주겠는 계정을 쉽게 찾을 수 있었다. 400여 명이 활동하는 한 텔레그램 방에선 여성의 사진과 이름, 학력, 주소 등을 공유하며 “합성해주실 분”을 찾는 이도 있었다. 대화방 참여자들은 우수한 화질로 합성해준다는 무료 제작 앱 등을 공유했다.

경찰청에 따르면, 딥페이크 범죄 관련 사건은 2021년 74건에서 지난해 93건으로 늘었다. 하지만 실제 피해 사례는 더 많을 것이라고 전문가들은 지적한다. 웹하드나 온라인 커뮤니티 등 접근성이 높은 공간과 달리 수사하기 힘든 개인 간 SNS 대화방을 통해 범죄가 주로 일어나기 때문이다.

학력과 주소 등 구체적인 개인 신상 정보를 올리며 해당 여성의 불법 합성물을 공유하는 방도 있었다. 사진 텔레그램 대화방 캡처

불법 합성물 시청·소지해도 처벌 법률 부재

성폭력처벌법 제14조의2에 따르면 허위 영상물을 제작·반포하면 5년 이하의 징역 또는 5000만원 이하의 벌금을 물린다. 하지만 영상물이 유통되는 SNS 등은 해외에 서버를 둬 범죄가 발생해도 수사가 쉽지 않다. 또 수사 기관에서 유포할 목적이 있었다는 점을 입증하지 못하면 적발돼도 처벌이 어렵다. 허위 합성물 제작·반포 혐의 처벌 수위가 불법 촬영이나 불법 촬영물 유포 등의 법정형(7년 이하의 징역 또는 5000만원 이하의 벌금)보다 낮은 것도 문제로 꼽힌다. 또 불법 합성물을 소지·시청한 자를 처벌하는 법률은 없다.

해외에서는 딥페이크 합성물 규제가 속속 도입되고 있다. 조 바이든 미국 대통령은 지난해 10월 “AI가 생성한 합성 콘텐트를 식별하고 진위 확인 및 출처 파악을 위해 워터마킹 등을 사용할 것을 규정한다”는 내용의 첫 AI 규제 행정명령을 발표했다. 유럽연합(EU)은 생성·조작된 이미지 등 진짜처럼 보이는 콘텐트를 식별할 수 있는 표시를 하도록 온라인 플랫폼 사업자에게 요구하고 있다.

젠더법연구회 회장을 지낸 이숙연 특허법원 고법판사는 “(불법 합성물) 사전 예방을 위한 기술적 조치뿐 아니라 온라인 서비스 공급자에게 책임을 묻거나 불법 영상물을 삭제할 수 있는 장치 등 사후 대책을 마련해야 한다”며 “피해자 지원 과정에서 든 비용을 가해자에게 모두 물게 하는 등 경제적 불이익을 주는 방안을 포함해 입법적 보완이 필요하다”고 밝혔다.

허민숙 국회 입법조사처 조사관(여성학 박사)은 “딥페이크 성범죄물이 온라인 공간에서 지속적으로 재생산·확산되며 피해자들의 피해 복구가 거의 불가능한 상황”이라며 “양형 기준을 높이고 상습적인 시청·소지 행위자에 대해서도 처벌을 하도록 하는 근거조항 도입이 필요하다“고 말했다. 그러면서 “정부 차원의 컨트롤타워를 세워 포털사이트 등 온라인 플랫폼 사업자와 협상을 통한 원포인트 사후 처리 지원책을 마련해야 한다”고 강조했다.