AI가 24시간 디지털성범죄 감시…불법 영상물 스스로 삭제

서울 디지털성범죄 센터 개관 1주년…AI 딥러닝 기술 도입

오세훈 서울시장이 29일 오후 동작구 서울 디지털성범죄 안심지원센터에서 열린 1주년 기념 현장간담회에서 인사말을 하고 있다. /정재훈 기자 hoon79@

인공지능(AI)이 24시간 디지털성범죄 자동 추적·감시하고 불법 영상물을 스스로 삭제하는 시스템이 서울시에 구축된다.

서울시는 29일 오후 서울 디지털성범죄 안심지원센터 개관 1주년 기념식을 개최했다. 이날 기념식엔 오세훈 서울시장을 비롯해 이수정 경기대 범죄심리학과 교수 이희정 안심지원센터 센터장, 학부모 이경옥씨, 이경주 안심서포터즈 대표 등이 참석했다.

오 시장은 이날 기념식에서 "디지털성범죄로부터 시민들을 보호하기 위한 지원을 강화하겠다"고 강조했다. 오 시장은 "서울시가 N번방 사건을 계기로 디지털성범죄를 막겠다 했던 일이 여기까지 왔다. 1년동안 기대 이상의 성과를 얻은 것 같아 진심을 다해 뛰어주신 전문가, 센터직원, 경찰관 여러분께 감사드린다"며 "많은 사람이 협업했기에 나온 결과다. 아이들에게 '너 잘못이 아니야, 누군가는 겪을 수 있는 일'이라는 것을 인식시킬 교육이 필요하다. 이는 서울시를 비롯해 정부가 해야할 일이다. 심혈을 기울이겠다"고 말했다.

서울 디지털성범죄 안심지원센터는 지난 1년간 402명의 피해자를 지원하고 피해영상물 3003건을 삭제했다. 또 경찰과의 협력을 통해 924건의 수사를 지원했으며 574건의 법률소송과 507건의 심리치료를 지원했다.

센터는 AI 딥러닝 기술을 도입해 디지털성범죄 오디오, 비디오, 텍스트 정보를 종합적으로 분석해서 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아낸다. 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선되고 정확도도 200% 이상 향상된다.

오세훈 서울시장이 29일 오후 동작구 서울 디지털성범죄 안심지원센터에서 열린 1주년 기념 현장간담회에서 발언하고 있다. /정재훈 기자 hoon79@

또 24시간 실시간 모니터링을 진행하고 피해자와 관련된 각종 SNS 상의 피해 영상물을 자동으로 검출해 영상물을 빠르게 삭제하고 재유포를 막는다. AI가 영상물을 찾아내기 때문에 24시간 모니터링이 가능하고 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄일 수 있다.

이와 함께 시는 아동·청소년 피해 예방에 주력할 계획이다. 시는 아동·청소년에 대한 디지털성범죄 예방을 위해서 친숙한 메타버스 공간에서 이뤄지는 교육 콘텐츠를 IT 기업과 협업해 개발하고, 청소년 스스로 디지털 환경을 안전하게 만드는 서포터즈 활동도 추진한다. 가해 청소년에 대한 전문가 상담을 통해 재발방지에도 나선다.

오 시장은 "다함께 힘을 합쳐 열심히 뛰어 안전하고 건전한 문화가 자리매김하는 서울시가 됐으면 좋겠다"며 "센터를 통해 피해자가 안심할 수 있고, 피해가 더이상 확산되지 않도록 공고한 체계를 구축하도록 노력하겠다"고 말했다.