[사이언스칼럼] 나를 복제한 AI: 로맨스 스캠을 넘어, '진짜 나'를 훔치는 시대

진승헌 한국전자통신연구원(ETRI) 인공지능데이터보안연구실 책임연구원

진승헌 한국전자통신연구원(ETRI) 인공지능데이터보안연구실 책임연구원

최근 한 배우를 사칭한 로맨스 스캠 사건이 발생했다. 피해자는 평소 좋아하던 배우와 연인처럼 대화하며 돈을 송금했지만, 범인이 사용한 사진은 AI가 생성한 가짜 이미지였고 신분증 역시 정교하게 위조된 것이었다. 피해자가 사랑에 빠지고 신뢰했던 것은 단순한 사기꾼이 아닌, '데이터'로 빚어진 완벽한 가짜 인간이었다. 이 사건은 더 이상 누구의 신원도 외형만으로 쉽게 믿기 어려운 시대가 되었음을 보여준다. AI 기술은 이미 인간의 얼굴, 목소리까지 정교하게 모방하는 수준을 넘어섰다. 현재까지는 지문, 얼굴 등과 같은 생체정보가 신원을 증명하는 데 사용되었지만, 이제 AI는 나의 얼굴을 복제하고, 내가 자주 쓰는 표현과 말투를 학습해 나처럼 말하는 목소리까지 만들어낸다. 겉으로 보이는 신원(Visual Identity)만으로는 '진짜 나'를 확인할 수 없는 시대로 접어든 것이다. 실제 해외 기업에서는 CFO의 얼굴과 목소리를 딥페이크로 조작해 화상회의를 열고, 회계담당자로부터 2,500만 달러를 송금받은 사건도 있었다. AI는 더 이상 단순한 공격 도구가 아니다. 개개인의 문체, 심리, 선호까지 학습해 그 사람과 구분하기 어려운 맞춤형 공격을 수행하는 지능형 위협 행위자로 진화하고 있다.

그렇다면 AI 시대에 우리는 어떻게 '진짜 나'를 증명할 수 있을까? 해답은 단일 기술이 아니라 다층적 신원 검증 체계를 구축하는 것이다. 첫째, 맥락 기반 인증(Contextual Authentication)이 중요해진다. 평소 사용하지 않던 기기나 낯선 장소, 갑작스런 입력 패턴 변화 등 맥락의 불일치를 감지해 위험 여부를 판단하는 방식이다. AI가 얼굴과 목소리는 모방해도, 일상의 습관과 환경까지 재현하기는 쉽지 않다. 둘째, 행동적 바이오메트릭스(Behavioral Biometrics)가 새로운 인증 요소로 주목받는다. 스마트폰을 쥐는 압력, 타이핑 리듬처럼 무의식적인 행동 패턴은 개인마다 다르며 쉽게 복제되지 않는다. 정적 생체정보와 달리, 몸이 기억하는 습관적 패턴은 AI가 흉내 내기 어렵다. 셋째, 관계 기반 진정성(Relationship-based Authenticity)이다. 이는 지식 기반 인증의 심화 형태로, 가족만 아는 말버릇이나 공유된 농담 등 경험 속에서만 존재하는 '인간적 맥락'은 AI가 복제하기 어렵다는 점을 활용한다. 넷째, 기술적 대안으로는 암호학적 신원(Cryptographic Identity)이 있다. 얼굴과 음성 복제는 쉬워도, 개인키(Private Key)로 신원을 증명하는 암호학적 방식은 위조가 어렵다. 이를 구현하는 핵심 기술이 탈중앙 식별자(DID)와 자기주권 신원(SSI)이다. 이를 일상에서 구현하는 디지털 지갑(Digital Wallet)은 검증 가능한 자격증명(VC)을 안전하게 보관하고, 필요한 정보만 선택 제출해 개인정보 노출을 최소화한다. 이는 강력하고 프라이버시 친화적인 인증 방식이다. 마지막으로, 위조 탐지를 위한 AI 기반 검증이다. 눈동자 움직임, 음성과 입모양의 미세한 불일치 등 사람이 감지하기 어려운 이상 신호를 AI가 분석해 진위를 판별하는 'AI 대 AI' 검증 체계가 도입되고 있다. 결국 AI 시대의 디지털 신원은 신뢰(Trust), 자율(Autonomy), 책임(Responsibility)이라는 세 축 위에서 재설계돼야 한다. 맥락 및 행동 기반 인증은 신뢰를 구축하며, DID와 디지털 지갑은 개인에게 데이터에 대한 자율을 확보하게 한다. 그리고 이 모든 체계는 인간과 AI의 역할을 명확히 구분해 책임을 분리하는 데 기여해야 한다.

우리는 이미 '보이는 신원'의 시대를 지나 '검증 가능한 신원'을 요구하는 시대로 들어섰다. AI가 인간을 정교하게 복제하는 지금, '진짜 나'를 증명하는 문제는 인증 기술만의 문제가 아니라 디지털 사회 전체의 신뢰 기반을 다시 세우는 과제다. AI 시대의 진짜 경쟁력은 신원을 둘러싼 신뢰 체계를 얼마나 탄탄하게 구축하느냐에 달려 있다. 진승헌 한국전자통신연구원(ETRI) 인공지능데이터보안연구실 책임연구원