AI, 디지털 성범죄 피해 예방에 활용… 피해자 지원 기대

ETRI 연구진 유해사이트 검색 AI 시스템 개발
이달 시험적용 후 연말께 현장적용 가능할 듯

연구진이 개발한 유해사이트 자동수집 시스템이 웹페이지를 검색, 분석하고 있다. ETRI 제공

국내 연구진이 인공지능(AI)을 활용해 불법 촬영으로 인한 디지털 성범죄와 2차 가해 피해 확산을 예방할 수 있는 기술을 개발했다. AI가 인터넷 사이트를 자동으로 검색해 웹 페이지의 음란성 여부를 판단할 수 있어 피해자 지원에 빠르게 대응할 수 있을 것으로 기대된다.

9일 한국전자통신연구원(이하 ETRI)에 따르면 미디어지능화연구실 연구진은 지난 2019년 웹하드 대상 불법 촬영물 삭제 지원 시스템을 개발한 데 이어 검색 대상을 인터넷 사이트까지 확대하는 기술 개발에 성공했다. 이번 기술은 이달 내 한국여성인권진흥원의 디지털 성범죄 피해자 지원센터 지원업무에 바로 시험 적용된다.

여성가족부와 과학기술정보통신부의 협약과 요청으로 개발이 진행된 이번 기술은 피해자와 관련된 키워드를 검색한 뒤 유해성이 있는 자료를 분류한다. 이 결과는 디지털 성범죄 피해자 지원센터에 전달돼 사이트 차단과 수사 단계 등으로 진행된다.

앞서 연구진은 지난 6월부터 두 달가량 AI가 제대로 동작하는지 시험 기간을 가졌다. 그 결과 피해영상물의 검색 키워드와 썸네일 이미지·URL(주소) 등을 활용해 총 1만 8945건의 웹사이트를 자동 수집했으며 이중 2631개를 걸러냈다.



이남경 ETRI 미디어지능화연구실장은 "두 달간 기능이 제대로 동작하는지, 필터링은 어느 정도인지 테스트를 거쳤다"며 "이번 달엔 피해자 지원 업무에 적용해 보고 본격적인 현장 적용은 연말 정도로 내다보고 있다"고 전했다.

이번 기술의 핵심은 영상물의 유해성을 분석·검출하는 AI 기술로, AI가 특정 키워드로 웹페이지를 검색하고 분석해 유해성을 찾아낸다. 연구진이 개발한 AI 엔진은 프레임당 100만 회가량의 세부판단을 근거로 영상 간 유사도를 비교해 정교한 게 특징이다.

이번 성과는 AI를 적용한 유해 웹사이트 자동수집 시스템 개발에 AI 엔진을 내장시켜 기술을 고도화한 결과다.

연구진은 이밖에도 불법 촬영물 유통을 막기 위해 'n번방 방지법' 후속 조치인 내용 기반 영상검출 기반 개발에도 참여하고 있다. 임효인 기자