매일안전신문 - 정부, AI로 딥페이크 성범죄 영상물 탐지·차단한다

▲ 김민재 행정안전부 차관이 25일 오후 서울 종로구 정부서울청사에서 열린 ‘딥페이크 성범죄 대응 기술협력을 위한 행정안전부·성평등가족부·방송미디어통신위원회 업무협약식’에서 인사말을 하고 있다.[행안부 제공]

[매일안전신문=이상훈 기자]

정부가 딥페이크 성범죄 영상물을 AI로 탐지·분석하고 삭제·차단 절차와 피해자 지원까지 연계하는 공동 대응체계를 가동한다.

방송미디어통신위원회와 행정안전부, 성평등가족부는 25일 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결했다.

이번 협약은 생성형 인공지능 기술 발전으로 딥페이크 성범죄가 지능화되고, 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다. 정부는 피해영상물의 탐지와 분석, 삭제와 차단, 피해자 보호로 이어지는 대응 절차에 AI 기반 기술을 본격 활용한다는 방침이다.

딥페이크 성범죄는 기존 디지털 성범죄 대응체계와 함께 다뤄져야 하는 영역이다. 허위영상물의 제작·유포, 온라인상 재유포, 피해자 신상 노출 등으로 2차 피해가 이어질 수 있어 초기 탐지와 유통 차단의 신속성이 중요하다. 이에 따라 정부는 기술 분석, 플랫폼 협력, 피해자 보호 절차를 관계기관 간 협업 구조로 묶어 대응하기로 했다.

협약에 따라 세 기관은 AI 딥페이크 탐지·분석모델 공유와 활용, 피해영상물 탐지·삭제·차단 절차 연계, 2차 피해 방지를 위한 정보보호와 보안조치 등에 협력한다.

행정안전부는 국립과학수사연구원과 협업해 개발한 AI 딥페이크 탐지·분석모델을 관계기관과 공유한다. 이 모델은 피해영상물이나 의심 콘텐츠가 접수됐을 때 1차 탐지·분석에 활용된다. 정부는 분석 결과를 삭제·차단 절차와 피해자 지원 절차에 연계해 대응 속도와 정확성을 높일 계획이다.

방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고, 플랫폼 사업자와의 삭제·차단 협력체계를 강화한다. 재유포되거나 변형된 콘텐츠에 대응하기 위한 관계기관 간 정보 공유도 확대한다.

성평등가족부는 기존에 활용하던 민간 딥페이크 탐지모델과 이번 AI 탐지·분석모델을 함께 활용한다. 이를 통해 피해영상물과 의심 콘텐츠를 보다 세밀하게 분석하고 삭제 절차를 진행한다. 피해영상물 처리와 보안 관련 업무기준도 마련해 피해자 보호와 2차 피해 방지에 활용한다.

정부는 협약 이후 AI 딥페이크 탐지·분석모델을 현장에 적용하면서 활용도를 높이고, 공동대응 성과를 지속적으로 점검할 계획이다. 피해영상물 처리 과정에서는 개인정보와 피해자 인권 보호를 우선 고려하고, 불필요한 복제와 공유, 보관을 제한하는 등 보안관리 기준을 강화한다.

고민수 방송미디어통신위원회 상임위원은 딥페이크 성범죄물의 신속한 삭제·차단과 재유포 방지를 위해 관계기관과 협력하겠다고 밝혔다.

정구창 성평등가족부 차관은 이번 협약을 계기로 탐지부터 삭제, 수사·의료·치유회복 지원까지 이어지는 피해자 지원체계를 강화하겠다고 말했다.

윤호중 행정안전부 장관은 딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동대응이 중요하다고 밝혔다. 이어 AI 딥페이크 탐지·분석모델을 관계기관과 공유하고, 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다고 말했다.

[저작권자ⓒ 매일안전신문. 무단전재-재배포 금지]