AI의 빛과 그림자…기술의 편리함이 낳은 함정

생성형 AI 확산 이후 딥페이크 영상 급증
목소리까지 복제하는 딥보이스, 현실 범죄로 번져
경찰 “딥페이크 첩보 수집 강화해 강력 대응할 것”

2023~2025년 8월까지 딥페이크 성범죄영상물 시정요구 현황(자료제공=방송통신위원회)

생성형 AI는 일상에 편리함을 주는 동시에, 딥페이크를 이용한 성착취물과 딥보이스 보이스피싱 등 신종 범죄를 급증시키며 사회에 큰 충격과 중대한 위협으로 떠오르고 있다.지도와 번역기, OTT 추천 알고리즘 등은 우리의 삶 속 깊숙이 스며들었다. 최근에는 AI를 활용해 사진을 애니메이션처럼 변환하는 서비스가 유행하는 등 젊은 세대의 유행을 이끌었다. 하지만 이면에는 범죄 악용이라는 그림자가 존재한다.

국내에서 두드러진 AI 범죄는 연예인·청소년·일반인 사진을 합성해 성착취물을 제작·유포하는 딥페이크와 특정인의 목소리를 복사해 보이스피싱에 이용하는 딥보이스다.

방송통신위원회 딥페이크 성범죄영상물 시정요구 현황에 따르면 생성형 AI가 민간에서 본격적으로 활용되기 시작한 2023년 시정요구 건수는 7187건이었으나, 2024년에는 2만 3107건으로 1년 만에 3배 이상 증가했다. 올해 8월까지는 1만 5808건에 달하며 문제의 심각성을 보여주고 있다.

피의자 규모도 급증했다. 지난 9월 15일 강경국 조국혁신당 의원이 경찰청에서 제출받은 '연도별 성 관련 범죄유형별 피의자 연령 현황' 자료에 따르면 딥페이크 범죄 피의자는 2023년 91명에서 2024년 548명으로 급증했으며, 2025년 8월까지는 556명으로 전년 수준을 넘어섰다.

대전에서도 올해 딥페이크 범죄에 가담한 이들이 무더기로 검거돼 지역사회에 충격을 줬다. 경찰은 2024년 8월부터 2025년 3월까지 특별단속을 벌여, 텔레그램에서 '겹지방'을 운영한 10대 A군을 포함해 214명을 검거했다. 겹지방은 연예인과 지인, 학교 동창의 얼굴 사진을 AI 합성 기술로 편집해 음란물을 제작·유포하는 공간으로 확인됐다. 참여 인원은 1만5000여 명에 달했으며, 유포된 영상은 3만 6000건이 넘는 것으로 조사됐다.

충격적인 점은 검거자 214명 가운데 10대가 145명(67.8%)으로 가장 높은 비중을 차지한 것이다.

딥보이스 범죄도 현실화되고 있다. 2024년 부산에서는 60대 여성이 딸 이름으로 저장된 번호로 걸려온 전화를 받고 2000만 원을 보이스피싱 조직에 전달하려 했다. 전화 속 목소리는 딸의 목소리를 그대로 흉내 낸 AI 딥보이스였으며, 피해자는 "엄마, 큰 일 났어. 친구 보증을 섰는데 친구가 연락을 받지 않아 잡혀 왔어"라는 내용에 속아 돈을 인출했다. 다행히 은행 직원의 연락을 받고 경찰이 현장에서 수거책을 검거하며 피해를 막았다.

경찰과 정부는 진화하는 AI 범죄에 대응하기 위한 대책을 마련하고 있다. 정부는 지난 9월 28일 범정부 보이스피싱 대응 태스크포스를 열고, 범죄 전화번호를 10분 내 차단하고 범죄자 처벌을 강화하는 등 보이스피싱 근절 종합대책을 발표했다.

경찰은 학교전담경찰관(SPO)을 통해 학생들에게 디지털 성범죄 예방 교육을 실시하고, 딥페이크 범죄에 대한 집중 단속을 지속할 예정이다.

경찰 관계자는 "딥페이크 성착취물 첩보 수집과 모니터링을 강화해 날로 늘어나는 범죄에 강력히 대응할 것"이라고 말했다.
이승찬 수습기자 dde0615@