매일안전신문 - 온라인 웹하드 상 불법 촬영물, AI로 찾아내 유포 막는다

인공지능(AI)이 온라인 웹하드를 통해 퍼지는 디지털 성범죄 영상물 유포를 막는다.

과학기술정보통신부와 여성가족부는 ‘웹하드 불법 촬영물 삭제 지원 시스템’을 개발해 22일부터 실제 업무에 시험적으로 활용하기 시작했다고 밝혔다.

23일 과기정통부와 여가부에 따르면 그동안 디지털 성범죄 피해자가 신고한 불법 촬영물이 웹하드 사이트에 게시되어 있는지를 확인하려면 ‘디지털 성범죄 피해자 지원센터’ 삭제지원 인력이 수작업으로 피해 촬영물에서 검색용 이미지를 추출, 각 사이트를 검색해야만 했다. 동영상 유포는 매우 빠르게 이뤄지기 때문에 조기 대응이 중요한데 수작업으로 사이트를 검색하다보니 신속한 지원에 한계가 있었다.

이런 문제를 개선하기 위해 과기정통부, 여가부, 지원센터, 한국전자통신연구원(ETRI)은 올해 초부터 협의체를 구성하고 AI 기술을 활용한 삭제 지원 시스템 개발을 추진해 왔다. ETRI가 설계개발한 삭제 지원 시스템은 지원센터에서 기능 검증을 거쳐 전날부터 실제 업무에 시험적으로 활용되고 있다.

이 삭제 지원 시스템은 AI 기술을 활용해 피해자가 신고한 불법 촬영물에서 이미지를 추출해 웹하드 사이트에서 피해 촬영물과 유사한 영상물을 자동으로 선별·수집한다.

지원센터 인력은 삭제 지원 시스템을 통해 수집된 피해 촬영물과 유사한 영상물의 이미지, 유사도, 제목, 주소(URL) 등 정보를 검토해 확인하고, 피해 촬영물 유포 사례가 있을 경우 해당 웹하드 사이트에 삭제 요청을 하게 된다.

현재 삭제 지원 시스템을 통해 검색할 수 있는 국내 웹하드 사이트는 10개로 제한돼 있으나 올 하반기 35개 웹하드 사이트로 확대될 방침이다.

[저작권자ⓒ 매일안전신문. 무단전재-재배포 금지]