[세상읽기] 생성형 AI의 환각

  • 오피니언
  • 세상읽기

[세상읽기] 생성형 AI의 환각

  • 승인 2024-09-18 17:00
  • 신문게재 2024-09-19 18면
  • 우창희 기자우창희 기자
2024042301001828500072041
뉴스디지털부 우창희 부국장
대한민국은 AI세상에 빠져있다. 회사 업무를 처리할 때도, 논문을 쓰거나 리포트를 작성할 때는 물론 일상생활 곳곳에서 AI와 함께하고 있다. 휴대전화가 가장 대표적인 예다. 아이폰이 인공지능 개인비서 시리(Siri)를 서비스한 이후 몇 년이 흘러 삼성전자가 갤럭시 휴대전화에 AI를 탑재하면서 인공지능 시대가 열렸다. 삼성의 혁신은 경이롭다. 스마트폰 외에도 TV, 가전제품에 이르기까지 AI라이프를 제공한다. 세계에서 디지털 거부감이 가장 적은 나라여서일까. 빠른 것을 좋아하는 국민성도 크게 작용했을 것으로 생각한다.

디지털의 발달은 기술을 벗어나 인간과 같이 판단하고, 행동하거나 생각할 수 있는 인공지능을 고도화하기 위해 끊임없는 연구를 거듭하고 있다. 그 결과물이 생성형 인공지능 또는 생성형 AI다. 우리가 느끼지 못하는 사이 실생활에서 사용되고 있다. 의료, 마케팅, 패션, 게임, 예술 등 다양한 산업 부문에 걸쳐 응용된다.

국내 대표 포털사이트인 네이버는 지난해 8월 대형 언어 모델(LLM)을 활용해 만든 한국형 대화형 인공지능 'HyperCLOVA X' 서비스를 시작했다. 대형언어 모델을 구축하기 위해 방대한 양의 학습데이터를 활용했다. 네이버가 서비스하는 블로그, 카페, 뉴스, 쇼핑 댓글, 지식인 데이터가 사용됐는데 이중 블로그가 가장 많은 48.7%, 뉴스가 13.1%였다.

네이버 클로버X는 오픈AI 챗GPT보다 한국의 문화와 맥락을 가장 잘 이해하는 생성형 AI로 AI 생태계와의 연결성 및 확장성을 기반으로 새로운 사용자 경험과 비즈니스 기회를 만들어 준다고 홍보한다. 그래서 검색해 봤다. 검색어는 '중도일보 연혁은?'. 결과는 실망이었다. 1965년 9월 18일 창간되었다는 글로 시작되었는데 처음부터 잘못된 정보다. 중도일보는 1951년 8월 24일 창간호를 발간했다. 검색어를 조금씩 바꿔서 넣으면 나오는 정보도 달라졌다. 일부의 내용은 일치하기도 했다. 그럴싸한 글의 전개와 내용을 보면 필자가 물어본 말에 AI가 정답을 알려주는 것 같아 보인다. 하지만 이것은 AI가 제공하는 일종의 '환각 현상'이다. 중도일보에 몸담고 있는 필자는 오류라는 것을 알지만 다른 사용자들은 신뢰할 수 있는 정보로 인식할 여지가 크다. 정보의 바다인 인터넷 세상에서 일일이 검색하고 정보를 취득하던 번거로움을 AI가 단 몇 초 만에 결과처럼 알려주기에 사용자는 편리함을 느낄 것이다. 그 정보가 오류가 있을 수 있다는 것을 모른 채. 네이버는 환각 현상을 방지하기 위한 작업을 몇 차례 진행했지만 여전히 엉뚱한 대답을 내놓거나 존재하지 않는 것에 대해 언급하는 모습을 보이고 있다. 이 같은 현상은 네이버뿐 아니라 오픈AI인 챗GPT도 마찬가지다.

올해 초부터 중도일보가 챗GPT를 활용한 기사작성 도우미를 개발 중이다. 기술력이 뛰어난 외부업체와 함께 공동작업을 이어가고 있다. 처음에는 생성형 AI의 우수성과 결과물에 신세계를 경험한 것처럼 놀람의 연속이었다, 하지만 개발을 지속할수록 '환각 현상'의 늪에 빠졌다, 그럴싸한 글의 전개를 읽다 보면 수긍이 될 만큼 맞는 말을 늘어놓는다. AI가 자연스러운 답변 생성에 최적화된 만큼 잘못된 정보도 그럴 듯하게 포장을 잘 해서 보여준다, 개발에 오랜 시간이 걸리던 이유가 이것 때문이었다, '환각 현상'을 제거하기 위해.

오픈AI 챗GPT가 인공지능 학습을 위해 슈퍼컴퓨터 플랫폼에서 사용한 데이터를 알 수는 없으나 네이버가 클로버X를 학습시킨 데이터 공개내용을 보면 환각 현상이 발생하는 이유를 조금은 짐작해 볼 수 있다. 정보성과 신뢰성, 시대적 흐름 등을 담고 있는 언론기사(약 70개 매체의 10년 데이터)가 전체 학습에서 차지하는 비중이 13.1%뿐이다. 일반 사용자들이 온라인에 업로드한 블로그, 카페, 소셜댓글, 지식인 등의 데이터가 약 87% 달한다. AI학습 단계에서부터 답변의 정확성을 담보하기 어려운 구조지 않았나 싶다. 생성형 인공지능이 고도화되기 위해서는 뉴스 비중을 신뢰할 만큼 높이고, AI가 정상 구동할 수 있도록 지속적인 학습이 필요해 보인다.
우창희 기자 jdnews00@

중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지

기자의 다른기사 보기

랭킹뉴스

  1. 행정기관 이전 소식에, 세종 부동산 시장 '들썩'
  2. 재초환 부담 현실화되나… 대전 재건축 영향 '촉각'
  3. 아산시, 65세 이상 어르신 '효도우대권 바우처 카드' 도입
  4. 대전 둔산11구역, 주민대표단 구성 승인 신청… 2차 도전 시동
  5. '재초환 폐지 요구' 전국확산… 정부, 제도 손질 나설까
  1. 원도심 오고 7년 만에 다시 유성으로?… 대전TP 이전 논란 예고
  2. 윤은기 백소회 회장, 한국PR인의 날에 ‘이달의 문장상’ 수상
  3. 대전 수소트램 30년간 1조 7429억 소요…재정 부담 우려
  4. [편집국에서] 집은 남아도는데 집값은 계속 오른다
  5. 양승조, 취임 초부터 개혁 드라이브 "새로운 100년 도약"

헤드라인 뉴스


한 총리 "AI부정행위시 입학도 취소… 10년간 수능 응시 제한"

한 총리 "AI부정행위시 입학도 취소… 10년간 수능 응시 제한"

한성숙 국무총리는 19일 치러지는 '2027학년도 대학수학능력시험(수능)'과 관련 인공지능(AI) 등을 악용한 부정행위를 원천 차단하기 위해 시험장 내 모든 전자기기의 반입을 엄격히 금지한다고 밝혔다. 한 총리는 17일 정부서울청사에서 수능 부정행위 방지를 위한 대국민 담화를 통해 "부정행위 응시자격 제한 기간도 현행 1년에서 10년으로 확대하겠다"며 처벌 수위를 대폭 강화할 방침을 밝혔다. 한 총리는 "부정행위를 통해 새롭게 입학한 수험생은 관련 법에 따라 입학을 취소하고, 현재 대학에 학적을 두고 있는 재수생은 재학 중인 대학에..

원도심 오고 7년 만에 다시 유성으로?… 대전TP 이전 논란 예고
원도심 오고 7년 만에 다시 유성으로?… 대전TP 이전 논란 예고

대전테크노파크(TP)가 중구 선화동 D스테이션에 있는 본부를 유성구로 재이전하는 논의에 돌입하면서 논란이 불거질 전망이다. 이재명 정부 제2차 공공기관 지방 이전에 대비해 입주 공간을 확보하려는 취지지만, 원도심 활성화의 마중물로 옮겨온 기관을 다시 신도심으로 이전하는 것이 적절하냐는 비판이 예상된다. 17일 대전시와 대전테크노파크 등에 따르면 공공기관 유치에 대비한 D스테이션 공간 활용 방안과 함께 대전TP 본부 이전이 논의되고 있다. 이전 후보지로는 유성구 탑립동의 대전TP 보유 시설 등이 거론되는 것으로 알려졌다. 구체적인 이..

지역이 발굴하고 금융이 뒷받침… 5극3특 핵심 기업에 3년간 4.5조 지원
지역이 발굴하고 금융이 뒷받침… 5극3특 핵심 기업에 3년간 4.5조 지원

정부가 5극3특 지역의 핵심 중소·중견기업에 3년간 4조 5000억 원 규모의 보증부 대출을 공급한다. 지역에서 성장 가능성이 높은 기업을 발굴하면 금융권이 저리 자금으로 뒷받침하는 방식으로, 지역 기업의 투자와 고용 확대를 유도해 경제 성장 발판을 마련한다는 구상이다. 지방시대위원회와 금융위원회는 제6차 생산적 금융 대전환 회의에서 '5극3특 지역 핵심 중소·중견기업 보증부 대출 사업' 공모사업을 진행한다고 17일 밝혔다. 이번 사업은 은행권 특별출연과 신용보증기금·기술보증기금의 협약보증, 지방자치단체의 이차보전을 결합한 금융지원..

실시간 뉴스

지난 기획시리즈

  • 정치

  • 경제

  • 사회

  • 문화

  • 오피니언

  • 사람들

  • 기획연재

포토뉴스

  • 수능 시험장 모든 전자기기 ‘반입 금지’ 수능 시험장 모든 전자기기 ‘반입 금지’

  • 떠나는 가을 떠나는 가을

  • 2027학년도 대학수학능력시험 문답지 배부 2027학년도 대학수학능력시험 문답지 배부

  • 글로벌 AI허브 유치를 위한 업무협약 글로벌 AI허브 유치를 위한 업무협약