매일안전신문 - “디지털성범죄 피해영상물 유포 걱정 끝~”...AI 기반 기술로 자동검색에서 삭제까지 가능해진다

▲ 서울시는 내년 중 AI 기술을 ‘서울 디지털성범죄 안심지원센터’에 도입해 1년 365일 24시간 가동하는 시스템을 갖출 방침이다. /연합뉴스

[매일안전신문=신윤희 기자]#. 지난해 한강교량에 설치한 인공지능(AI) 기반의 CCTV.  투신상황을 탐지하는 기술이 적용됐다. 단순히 주변을 촬영하는 데 그치지 않는다.  AI 기반 선별관제기술은 딥러닝 영상분석을 통해 투신 시도자의 패턴을 학습하면서 위험상황을 탐지한다. 이를 통해 특정 영상만을 ‘선별’해 관제요원이 보는 모니터에 보여준다. AI 기반의 선별관제를 이용하면 투신 전후 상황에 신속한 대응이 가능하다. 모니터링 공백이 최소화하는 장점이 있다.

 이같은 AI 기반 기술을 활용해 디지털성범죄 피해영상물을 자동검색해 삭제까지 하는 기술이 전국 지자체 최초로 서울에서 개발됐다.

 서울시는 내년 중 AI 기술을 ‘서울 디지털성범죄 안심지원센터’에 도입해 1년 365일 24시간 가동하는 시스템을 갖출 방침이다.

 디지털 성범죄 영상물은 한번 유포되면 걷잡을 수 없을 정도의 속도로 여러 사이트로 확산하면서 피해자에게 제2,3의 고통을 준다. 영상물을 지우려고 해도 워낙 광범위하게 퍼지기 때문에 속수무책일 수밖에 없다. 피해자 고통이 장기간 지속될 수 밖에 없다.

 7일 서울시에 따르면 서울기술연구원과 서울시 양성평등정책담당관은 날로 지능화하는 디지털 성범죄에 선제대응하기 위해 AI 융합기술을 활용해 성범죄 피해 영상물 식별 및 삭제지원 기술 도입을 지자체 최초로 추진할 계획이다.

 디지털 성범죄 피해를 지원하는 ‘서울 디지털성범죄 안심지원센터’에서는 ‘불법 촬영물 추적시스템’의 안면인식 기술을 활용해 재유포를 차단하고 삭제하는 지원을 하고 있으나 빠르게 확산하는 피해영상물을 감시하고 대응하기에는 역부족이다.

 이번에 개발된 AI기술은 성범죄 피해영상을 자동으로 정확하게 찾아내 삭제요청까지 원스톱으로 지원할 수 있다. 

 디지털 성범죄 추적 AI기술은 비디오, 오디오, 텍스트 데이터 등 분석기술이 융합돼 있어 피해자 영상 속 얼굴 매칭뿐만 아니라 움직임 패턴이나 오디오 주파수, 대화 내용까지 복합적으로 분석한다. 사이버 공간에서 불법영상 추적의 정확도가 크게 높아질 것으로 기대된다.

 서울기술연구원은 기존 안면매칭 기법만을 이용해 정확도가 떨어지는 한계를 개선하기 위해 AI 기반의 융합분석기술 개발에 머신러닝과 딥러닝 기술을 적용한 비디오, 오디오, 텍스트 데이터의 융합적인 분석기술을 적용함으로써 검색 정확도를 최고 수준으로 높이기로 했다.

 영상을 삭제하더라도 시간이 지나면 다시 확산되는 특성을 고려해 AI 기반의 디지털 성범죄 유해사이트 자동 검색 기능도 개발할 예정이다.

 서울시는 지난 3월 ‘서울 디지털성범죄 안심지원센터’를 열어 상담부터 피해영상 삭제, 심리치료 등을 지원중인데, AI기술이 추가 도입될 경우 피해 영상물의 재확산을 막고 보다 빠른 삭제지원이 가능할 것으로 보인다. 피해 영상물 삭제지원 인력의 과도한 영상 노출로 인한 업무 스트레스도 줄어들 것으로 기대된다.

 서울기술연구원은 AI기술을 내년 상반기 ‘서울 디지털성범죄 안심지원센터’의 피해 영상 추적 시스템으로 운용할 예정이다.

 임성은 서울기술연구원장은 “날로 진화하는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이며 “AI 삭제지원시스템 개발을 성공적으로 마무리하고 24시간 가동, 디지털 성범죄 없는 ‘안심 서울’을 만들도록 노력할 것”이라고 말했다.

 

[저작권자ⓒ 매일안전신문. 무단전재-재배포 금지]