90초면 아동∙청소년 성착취물 잡는다…서울시, AI 감시 기술 개발

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 아동ㆍ청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발했다고 22일 밝혔다.

서울시는 이 기술을 통해 아동ㆍ청소년 성착취물을 24시간 자동 추적ㆍ감시할 수 있다고 한다. 이 기술은 서울연구원이 지난해 3월 연구개발에 착수, 최근 프로그램 개발을 완료했다. 서울시 싱크탱크인 서울연구원은 시가 수행하는 불법 영상물 24시간 감시ㆍ삭제를 위한 전반적인 기술을 지원하고 있다.

오세훈 서울시장(왼쪽)이 '아동ㆍ청소년 디지털 성범죄 AI 감시 시스템'을 시연해보고 있다. 사진 서울시

서울시 측은 “아동ㆍ청소년은 디지털 성범죄 피해를 부모 등에 신고하지 못할 때가 많아 피해 영상물이 재유포되곤 한다"라며 "이번 기술 개발로 아동ㆍ청소년 성착취물을 빠르게 찾아내고 삭제할 수 있을 것으로 기대된다”고 밝혔다. 실제 서울 디지털 성범죄 안심지원센터에 따르면 아동ㆍ청소년 피해자 스스로 디지털 성범죄 피해 사실을 신고한 경우는 전체의 7.8%(12명)에 그친다.

이번에 개발한 ‘아동ㆍ청소년 디지털 성범죄 AI 감시 시스템’은 AI 딥러닝 기반 안면 인식 기술로 성인과 구분이 어려운 아동ㆍ청소년의 성별과 나이를 판별해 낼 수 있다. 특히 얼굴이 나오지 않더라도 영상물에 등장하는 책·교복·인형 등 주변 사물과 이미지 속 텍스트, 청소년이 주로 사용하는 언어를 분석해 피해 영상물 여부를 판별한다. 아동ㆍ청소년 관련 성착취물은 관련 법에 따라 당사자나 부모 신고가 없어도 삭제할 수 있다.

AI 감시 속도, 수작업의 80배

새 시스템은 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않는다고 한다. 이는 기존에 수작업으로 피해 영상물을 찾아낼 때(2시간)보다 검출 속도가 80배가량 빨라진 것이다. 정확도 역시 300% 이상 향상됐다. 감시 시스템 도입으로 올해부터는 지난해(15만6837건)의 2배가량인 30만4700건까지 모니터링이 가능해질 것으로 기대한다. 또 AI 학습 데이터가 축적될수록 시스템 정확도와 속도는 더 향상될 것이라고 한다.

아동ㆍ청소년 디지털 성범죄 AI 감시 시스템으로 찾아낸 피해 영상물 예시. 사진 서울시

시는 또 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국·러시아·베트남 등으로 확산하고 있다는 점을 고려해 검색 영역을 이들 국가로 확장했다.

한편 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사ㆍ법률지원, 삭제지원, 심리치료ㆍ의료 지원까지 원스톱 지원하고 있다. 센터는 최근 2년간 935명의 피해자를 지원했다. 누적 지원 건수는 3만576건에 이른다. 디지털 성범죄 피해를 본 아동ㆍ청소년, 시민 등은 센터 상담 전용 직통번호(☎ 815-0382·영상빨리)‘나 홈페이지로 문의하면 된다.