[세상읽기] 생성형 AI의 환각

뉴스디지털부 우창희 부국장

대한민국은 AI세상에 빠져있다. 회사 업무를 처리할 때도, 논문을 쓰거나 리포트를 작성할 때는 물론 일상생활 곳곳에서 AI와 함께하고 있다. 휴대전화가 가장 대표적인 예다. 아이폰이 인공지능 개인비서 시리(Siri)를 서비스한 이후 몇 년이 흘러 삼성전자가 갤럭시 휴대전화에 AI를 탑재하면서 인공지능 시대가 열렸다. 삼성의 혁신은 경이롭다. 스마트폰 외에도 TV, 가전제품에 이르기까지 AI라이프를 제공한다. 세계에서 디지털 거부감이 가장 적은 나라여서일까. 빠른 것을 좋아하는 국민성도 크게 작용했을 것으로 생각한다.

디지털의 발달은 기술을 벗어나 인간과 같이 판단하고, 행동하거나 생각할 수 있는 인공지능을 고도화하기 위해 끊임없는 연구를 거듭하고 있다. 그 결과물이 생성형 인공지능 또는 생성형 AI다. 우리가 느끼지 못하는 사이 실생활에서 사용되고 있다. 의료, 마케팅, 패션, 게임, 예술 등 다양한 산업 부문에 걸쳐 응용된다.

국내 대표 포털사이트인 네이버는 지난해 8월 대형 언어 모델(LLM)을 활용해 만든 한국형 대화형 인공지능 'HyperCLOVA X' 서비스를 시작했다. 대형언어 모델을 구축하기 위해 방대한 양의 학습데이터를 활용했다. 네이버가 서비스하는 블로그, 카페, 뉴스, 쇼핑 댓글, 지식인 데이터가 사용됐는데 이중 블로그가 가장 많은 48.7%, 뉴스가 13.1%였다.

네이버 클로버X는 오픈AI 챗GPT보다 한국의 문화와 맥락을 가장 잘 이해하는 생성형 AI로 AI 생태계와의 연결성 및 확장성을 기반으로 새로운 사용자 경험과 비즈니스 기회를 만들어 준다고 홍보한다. 그래서 검색해 봤다. 검색어는 '중도일보 연혁은?'. 결과는 실망이었다. 1965년 9월 18일 창간되었다는 글로 시작되었는데 처음부터 잘못된 정보다. 중도일보는 1951년 8월 24일 창간호를 발간했다. 검색어를 조금씩 바꿔서 넣으면 나오는 정보도 달라졌다. 일부의 내용은 일치하기도 했다. 그럴싸한 글의 전개와 내용을 보면 필자가 물어본 말에 AI가 정답을 알려주는 것 같아 보인다. 하지만 이것은 AI가 제공하는 일종의 '환각 현상'이다. 중도일보에 몸담고 있는 필자는 오류라는 것을 알지만 다른 사용자들은 신뢰할 수 있는 정보로 인식할 여지가 크다. 정보의 바다인 인터넷 세상에서 일일이 검색하고 정보를 취득하던 번거로움을 AI가 단 몇 초 만에 결과처럼 알려주기에 사용자는 편리함을 느낄 것이다. 그 정보가 오류가 있을 수 있다는 것을 모른 채. 네이버는 환각 현상을 방지하기 위한 작업을 몇 차례 진행했지만 여전히 엉뚱한 대답을 내놓거나 존재하지 않는 것에 대해 언급하는 모습을 보이고 있다. 이 같은 현상은 네이버뿐 아니라 오픈AI인 챗GPT도 마찬가지다.



올해 초부터 중도일보가 챗GPT를 활용한 기사작성 도우미를 개발 중이다. 기술력이 뛰어난 외부업체와 함께 공동작업을 이어가고 있다. 처음에는 생성형 AI의 우수성과 결과물에 신세계를 경험한 것처럼 놀람의 연속이었다, 하지만 개발을 지속할수록 '환각 현상'의 늪에 빠졌다, 그럴싸한 글의 전개를 읽다 보면 수긍이 될 만큼 맞는 말을 늘어놓는다. AI가 자연스러운 답변 생성에 최적화된 만큼 잘못된 정보도 그럴 듯하게 포장을 잘 해서 보여준다, 개발에 오랜 시간이 걸리던 이유가 이것 때문이었다, '환각 현상'을 제거하기 위해.

오픈AI 챗GPT가 인공지능 학습을 위해 슈퍼컴퓨터 플랫폼에서 사용한 데이터를 알 수는 없으나 네이버가 클로버X를 학습시킨 데이터 공개내용을 보면 환각 현상이 발생하는 이유를 조금은 짐작해 볼 수 있다. 정보성과 신뢰성, 시대적 흐름 등을 담고 있는 언론기사(약 70개 매체의 10년 데이터)가 전체 학습에서 차지하는 비중이 13.1%뿐이다. 일반 사용자들이 온라인에 업로드한 블로그, 카페, 소셜댓글, 지식인 등의 데이터가 약 87% 달한다. AI학습 단계에서부터 답변의 정확성을 담보하기 어려운 구조지 않았나 싶다. 생성형 인공지능이 고도화되기 위해서는 뉴스 비중을 신뢰할 만큼 높이고, AI가 정상 구동할 수 있도록 지속적인 학습이 필요해 보인다.
우창희 기자 jdnews00@