건양대 사이버보안공학과 교수

얼마 전 지인에게 가족을 사칭한 보이스피싱 전화가 걸려왔다는 이야기를 듣게 되었다. 그런데 남편의 목소리와 너무 똑같아 자칫 속을 뻔했었다고 하였다. 필자는 혹시 인공지능을 이용하여 피해자의 음성을 합성한 지능 범죄가 우리 사회에서 발생한 것이 아닌가 하는 우려가 생겼다. 왜냐하면 이미 인공지능 분야에서 딥페이크 기술의 발달로 인해 Youtube 등에서 대통령, 아나운서의 목소리 등을 인공지능으로 합성한 영상을 쉽게 찾아볼 수 있다. 그리고 이미 2019년 영국에서 보이스피싱에 인공지능을 악용하여 피해자의 계좌에서 2억5천만 원을 갈취한 사건이 발생하였기 때문이다.

주변을 살펴보면 인공지능 기술이 우리 삶에 꽤 깊숙이 파고든 것을 실감할 수 있다. 기업에서 신입사원 선발 시 인공지능을 이용한 면접관을 적용한 기업이 430여 개에 해당하며, 적지 않은 의료기관에서 의료 인공지능 서비스를 도입하였고, 모든 금융기관에서 인공지능 챗봇이 보편화 되었으며, 페이스북에서 친구 태깅하는 얼굴 인식 기능과 인공지능 자율주행 자동차 등을 우리 주변에서 쉽게 접할 수 있다.

이러한 인공지능의 빠른 발전 배경에는 딥러닝 등 혁신적인 알고리즘의 등장, 컴퓨팅 성능의 향상과 데이터의 증가 등을 꼽을 수 있으며 관련 전문가들은 인공지능 기술이 인간의 지적 능력을 뛰어넘는 시점 즉, '싱귤래리티'가 2020~2040년에 도래할 것으로 예측한다.

싱귤래리티(특이점)는 인공지능 기술의 급진적인 발전 속도로 인해 인간의 지적 능력의 총합을 넘어서는 시점을 말한다.

앞서 언급한 바와 같이 인공지능 전반에 비약적인 발전을 견인한 딥러닝은 시각지능, 언어지능 등에 특화된 학습 알고리즘이 지속해서 개발되고 있으며 특히 음성인식과 음성합성 부분에 있어서 매우 빠른 발전을 보인다.

언어 인식의 지능을 갖게 된 인공지능은 사람의 목소리를 이해하고 생성하며 악센트뿐만 아니라 문장 단위에서의 억양까지 매우 정교한 수준으로 구현되고 있다.

이와 관련하여 국내외에서는 구글(Google), 네이버 등이 연예인, 아나운서의 목소리를 인공지능으로 합성하여 유료서비스로 제공하고 있으며 일부 기업에서는 딥러닝 기술을 활용하여 수 시간의 녹음 데이터와 단기간의 학습만으로도 자신 또는 특정인의 목소리로 합성하여 제공하는 '커스텀 보이스(Custom Voice)'를 비즈니스 모델로 제공하고 있다.

인공지능은 미래사회의 필수 불가결한 기술임에는 분명하다. 이러한 측면에서 우리 정부도 2019년 발표한 인공지능 국가전략에 인공지능을 통해 경제적으로 455조 원의 효과를 창출시켜 우리 경제가 새로운 도약을 하겠다는 비전을 제시하고 있다. 그러나 스티븐 호킹, 일런 머스크, 빌게이츠, 스튜어트 러셀 등의 정보기술 선구자들이 공통으로 이야기하는 부분이 인공지능의 잠재적 위험이 기후변화와 핵무기와 같이 인류에 매우 위협적이라고 주장을 한다는 점을 간과해서는 안 된다.

2018년 12월 국민 1000명과 IT 전문가 400명을 대상으로 실시한 설문결과에서도, 미래사회에 관심이 가장 큰 분야 중 하나로 인공지능 분야를 꼽고 있으나, 일반국민 51.4%와 전문가 46.8%가 인공지능의 기술 발전에 대한 우려가 있다는 점에서 인공지능의 오남용에 대한 대책도 분명히 마련되어야 할 것이다.

사람들은 통화를 할때 목소리로 상대방을 인지한다. 지금까지 목소리만 들으면 상대가 정말 맞는지를 별도로 확인할 필요가 없었지만 앞으로 남편이, 아내가 전화를 해도 별도로 상대방을 확인해야 하는 신뢰비용이 늘어나는 사회를 살지도 모르다는 걱정과 함께 앞으로 인공지능을 이용한 음성합성에 대한 사회전반의 고민이 필요한 시기인 것 같다.

중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지