[세상읽기] 생성형 AI의 환각

  • 오피니언
  • 세상읽기

[세상읽기] 생성형 AI의 환각

  • 승인 2024-09-18 17:00
  • 신문게재 2024-09-19 18면
  • 우창희 기자우창희 기자
2024042301001828500072041
뉴스디지털부 우창희 부국장
대한민국은 AI세상에 빠져있다. 회사 업무를 처리할 때도, 논문을 쓰거나 리포트를 작성할 때는 물론 일상생활 곳곳에서 AI와 함께하고 있다. 휴대전화가 가장 대표적인 예다. 아이폰이 인공지능 개인비서 시리(Siri)를 서비스한 이후 몇 년이 흘러 삼성전자가 갤럭시 휴대전화에 AI를 탑재하면서 인공지능 시대가 열렸다. 삼성의 혁신은 경이롭다. 스마트폰 외에도 TV, 가전제품에 이르기까지 AI라이프를 제공한다. 세계에서 디지털 거부감이 가장 적은 나라여서일까. 빠른 것을 좋아하는 국민성도 크게 작용했을 것으로 생각한다.

디지털의 발달은 기술을 벗어나 인간과 같이 판단하고, 행동하거나 생각할 수 있는 인공지능을 고도화하기 위해 끊임없는 연구를 거듭하고 있다. 그 결과물이 생성형 인공지능 또는 생성형 AI다. 우리가 느끼지 못하는 사이 실생활에서 사용되고 있다. 의료, 마케팅, 패션, 게임, 예술 등 다양한 산업 부문에 걸쳐 응용된다.

국내 대표 포털사이트인 네이버는 지난해 8월 대형 언어 모델(LLM)을 활용해 만든 한국형 대화형 인공지능 'HyperCLOVA X' 서비스를 시작했다. 대형언어 모델을 구축하기 위해 방대한 양의 학습데이터를 활용했다. 네이버가 서비스하는 블로그, 카페, 뉴스, 쇼핑 댓글, 지식인 데이터가 사용됐는데 이중 블로그가 가장 많은 48.7%, 뉴스가 13.1%였다.

네이버 클로버X는 오픈AI 챗GPT보다 한국의 문화와 맥락을 가장 잘 이해하는 생성형 AI로 AI 생태계와의 연결성 및 확장성을 기반으로 새로운 사용자 경험과 비즈니스 기회를 만들어 준다고 홍보한다. 그래서 검색해 봤다. 검색어는 '중도일보 연혁은?'. 결과는 실망이었다. 1965년 9월 18일 창간되었다는 글로 시작되었는데 처음부터 잘못된 정보다. 중도일보는 1951년 8월 24일 창간호를 발간했다. 검색어를 조금씩 바꿔서 넣으면 나오는 정보도 달라졌다. 일부의 내용은 일치하기도 했다. 그럴싸한 글의 전개와 내용을 보면 필자가 물어본 말에 AI가 정답을 알려주는 것 같아 보인다. 하지만 이것은 AI가 제공하는 일종의 '환각 현상'이다. 중도일보에 몸담고 있는 필자는 오류라는 것을 알지만 다른 사용자들은 신뢰할 수 있는 정보로 인식할 여지가 크다. 정보의 바다인 인터넷 세상에서 일일이 검색하고 정보를 취득하던 번거로움을 AI가 단 몇 초 만에 결과처럼 알려주기에 사용자는 편리함을 느낄 것이다. 그 정보가 오류가 있을 수 있다는 것을 모른 채. 네이버는 환각 현상을 방지하기 위한 작업을 몇 차례 진행했지만 여전히 엉뚱한 대답을 내놓거나 존재하지 않는 것에 대해 언급하는 모습을 보이고 있다. 이 같은 현상은 네이버뿐 아니라 오픈AI인 챗GPT도 마찬가지다.

올해 초부터 중도일보가 챗GPT를 활용한 기사작성 도우미를 개발 중이다. 기술력이 뛰어난 외부업체와 함께 공동작업을 이어가고 있다. 처음에는 생성형 AI의 우수성과 결과물에 신세계를 경험한 것처럼 놀람의 연속이었다, 하지만 개발을 지속할수록 '환각 현상'의 늪에 빠졌다, 그럴싸한 글의 전개를 읽다 보면 수긍이 될 만큼 맞는 말을 늘어놓는다. AI가 자연스러운 답변 생성에 최적화된 만큼 잘못된 정보도 그럴 듯하게 포장을 잘 해서 보여준다, 개발에 오랜 시간이 걸리던 이유가 이것 때문이었다, '환각 현상'을 제거하기 위해.

오픈AI 챗GPT가 인공지능 학습을 위해 슈퍼컴퓨터 플랫폼에서 사용한 데이터를 알 수는 없으나 네이버가 클로버X를 학습시킨 데이터 공개내용을 보면 환각 현상이 발생하는 이유를 조금은 짐작해 볼 수 있다. 정보성과 신뢰성, 시대적 흐름 등을 담고 있는 언론기사(약 70개 매체의 10년 데이터)가 전체 학습에서 차지하는 비중이 13.1%뿐이다. 일반 사용자들이 온라인에 업로드한 블로그, 카페, 소셜댓글, 지식인 등의 데이터가 약 87% 달한다. AI학습 단계에서부터 답변의 정확성을 담보하기 어려운 구조지 않았나 싶다. 생성형 인공지능이 고도화되기 위해서는 뉴스 비중을 신뢰할 만큼 높이고, AI가 정상 구동할 수 있도록 지속적인 학습이 필요해 보인다.
우창희 기자 jdnews00@

중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지

기자의 다른기사 보기

랭킹뉴스

  1. 대전 둔산11구역, 주민대표단 구성 승인 신청… 2차 도전 시동
  2. 공주 나태주풀꽃문학관 방문객 9만 명 돌파…연말 10만 명 눈앞
  3. 원도심 오고 7년 만에 다시 유성으로?… 대전TP 이전 논란 예고
  4. 포항 연일 달전저수지 둘레길 개통… 준공기념 걷기대회
  5. 아산시, "도고온천 옛 명성 되살린다"
  1. 핵융합연, 한국형 혁신핵융합로 초전도자석 기술개발 산·학·연 머리 맞대
  2. 최광선 충남도의원, 충남 예산-인천공항 직행노선 신설 결실
  3. 중앙부처 세종 이전 계획, 행정수도법 지연에 예산 확보도 난관
  4. 대전경찰, 시험 부정행위 전담팀 구성…장비 판매·수법 공유도 단속
  5. [사설] 행정수도법 지연은 중앙행정기관 이전에도 ‘독’

헤드라인 뉴스


N수생·사탐런에 AI 부정행위까지…수능 변수 `첩첩`

N수생·사탐런에 AI 부정행위까지…수능 변수 '첩첩'

N수생 증가와 AI 스마트안경 등 첨단기기를 활용한 부정행위 우려까지 더해지면서 올해 수능의 주요 변수로 작용할 것으로 보인다. 18일 교육부와 한국교육과정평가원 등에 따르면 올해 수능 지원자는 총 55만1864명으로 지난해보다 2310명 감소했다. 그러나 졸업생과 검정고시 등 비재학생은 19만6473명으로 전년 대비 1만4196명 증가했다. 이처럼 재학생 감소에도 졸업생과 검정고시 출신 지원자가 늘면서 N수생 유입이 두드러졌다. 실제 종로학원은 올해 반수생 규모를 9만9542명으로 역대 최대 규모로 추산했다. 대학에 입학하고도 의..

당·정 "대전 자운대에 국군사관학교 본교와 대학원 설립"
당·정 "대전 자운대에 국군사관학교 본교와 대학원 설립"

집권당과 정부가 국방부 직할기관으로 국군사관학교 본교와 과학기술·전략 등 석·박사교육을 위한 대학원을 대전 유성구 자운대에 설립하고, 육군사관학교는 충청권으로 이전하기로 했다. 다만 경남 창원에 있는 해군사관학교와 충북 청주에 있는 공군사관학교는 그대로 둔다. 더불어민주당과 정부는 18일 오전 국회에서 당정협의회를 열고, 1·4학년은 통합 교육, 2·3학년은 각 군 주도로 교육하는 '1+2+1' 체제를 담은 국군사관학교 창설 기본계획 수정안을 발표했다. 정부는 애초 육·해·공군 사관학교를 통합한 4년제 국군사관학교를 대전 자운대에..

충청권 수험생 5만4976명 수능…수능 한파·도로 결빙도 주의
충청권 수험생 5만4976명 수능…수능 한파·도로 결빙도 주의

2027학년도 대학수학능력시험(수능)이 11월 19일 전국에서 일제히 치러진다. 재학생은 줄었지만 졸업생과 검정고시 출신 지원자가 늘면서 N수생 유입이 두드러진 가운데 충청권에서는 5만4976명이 시험에 응시한다. 18일 충청권 각 시·도교육청에 따르면 이번 수능의 충청권 응시생은 대전 1만5744명, 세종 6314명, 충남 1만9225명, 충북 1만3693명 등 모두 5만4976명으로 집계됐다. 올해는 재학생 수가 감소한 반면 졸업생과 검정고시 출신 지원자는 증가했다. 특히 올해 대학에 입학한 뒤 다시 수능에 도전하는 이른바 반수..

실시간 뉴스

지난 기획시리즈

  • 정치

  • 경제

  • 사회

  • 문화

  • 오피니언

  • 사람들

  • 기획연재

포토뉴스

  • 시험장 복도에 놓인 가방들 시험장 복도에 놓인 가방들

  • 수거되는 전자기기 수거되는 전자기기

  • 수능 시험장 위치와 유의사항 확인하는 수험생 수능 시험장 위치와 유의사항 확인하는 수험생

  • 수험생 무임수송 안내 수험생 무임수송 안내