[사이언스칼럼] 초거대 AI 시대, 국가 슈퍼컴퓨팅 능력 이대로 안된다

황순욱 한국과학기술정보연구원(KISTI) 책임연구원

황순욱 한국과학기술정보연구원(KISTI) 책임연구원

2020년 5월 오픈AI에서 3000억 개의 데이터 셋과 1750억 개의 매개변수를 가진 'GPT-3' 발표를 계기로 초거대 AI 시대의 막이 열렸다. 초거대 AI는 뇌에서 뉴론 간 정보 전달을 담당하는 시냅스 역할을 하는 매개변수의 수가 수 천억 개다. 최근 '조' 단위의 언어 모델이 속속 등장하고 있다. 현재 구글, 화웨이, 마이크로소프트(MS) 등 글로벌 빅테크 기업들의 초거대 AI 모델 개발 경쟁이 치열하다.

초거대 AI는 인간 수준의 언어 능력을 구사함으로 검색, 쳇봇, 콜센터 서비스 등 향후 이를 활용한 서비스가 무궁무진할 것으로 예상된다. 국내에서도 2021년 5월 네이버에서 매개변수 2040억 개의 한국어 언어 모델인 '하이퍼클로버'를 발표한 이후 카카오, SKT, LG 등이 초거대 AI 개발 경쟁에 본격적으로 뛰어들었다.

초거대 AI 연구·개발에 있어 슈퍼컴퓨터는 필수 도구다. 지난 1월 말에 메타(전 페이스북)도 새로운 모델 개발을 위해 세계에서 가장 빠른 AI 슈퍼컴퓨터(RSC)를 개발 중이라고 발표했다. 국내에는 아직 AI 슈퍼컴퓨터가 없다. 국내 AI 연구자들에게 초거대 AI 모델 원천 연구·개발은 꿈같은 얘기다. 대부분은 GPT-3와 같이 사전에 학습된 초거대 모델을 기반으로 한글 데이터 셋을 훈련시키는 전이학습을 통해 초거대 AI 연구 및 서비스를 개발하고 있다.

초거대 AI시대를 맞아 국가 슈퍼컴퓨팅 정책을 전면 개편해야 할 시점이다. 1988년에 슈퍼컴퓨터 1호기를 처음으로 구축한 이래 지난 30년 동안 국가 슈퍼컴퓨팅 정책에 있어 달라진 것이 별로 없다. 우선, 예산을 살펴보자. 1988년 슈퍼컴퓨터 1호기 가격이 2400만 달러였다. 2018년 슈퍼컴퓨터 5호기 가격이 4900만 달러이다. 1989년에는 정부 예산은 19.2조 원, 2022년은 607.7조 원이다. 30여 년간 정부 예산은 30배 이상 늘었는데 슈퍼컴퓨터 예산은 고작 두 배만 늘어난 것이다. AI 경제시대에 국가 디지털인프라 혁신의 일환으로 국가 슈퍼컴퓨팅 인프라에 대한 과감한 투자가 절실하다.

슈퍼컴퓨터 구축 방식도 그대로이다. 국가 센터인 KISTI(한국과학기술정보연구원)에서 5~7년마다 국가 차원의 슈퍼컴퓨터를 한 대씩 구축해 오고 있다. AI 황금기에 따라 컴퓨팅 패러다임에 대전환이 일어나고 있다. x86 CPU 중심 컴퓨팅 시대에서 GPU, TPU와 같은 가속기 중심 시대로 빠르게 바뀌고 있다. 매년 AI 성능 가속을 위한 새로운 가속 칩들이 쏟아져 나오고 있다. 새로운 AI 가속 칩들을 활용해서 성능과 전력 소모 면에서 효율적인 국가 슈퍼컴퓨터를 신속하게 구축하는 방식으로 전환해야 한다. 지금처럼 5~7년마다 국가 슈퍼컴퓨터 구축 방식으론 조만간 컴퓨팅 후진국으로 전락할 수밖에 없다.

국가 슈퍼컴퓨팅 구축 체제를 정비하자. 매 1~2년 단위로 중·대 규모의 슈퍼컴퓨터와 5년 단위로 국가 플래그십 슈퍼컴퓨터 구축 방식으로 전환해야 한다. 이를 위해 슈퍼컴퓨팅 센터의 수를 4~5개로 늘리고 매년 번갈아 가면서 각 센터의 특성에 맞는 새로운 가속 칩 기반의 슈퍼컴퓨터를 구축하게 하면 된다. 각 센터는 선의의 경쟁 속에서 센터 목표에 맞는 시스템을 자율적으로 구축하고 맞춤형 서비스를 제공해야 한다. 공정한 평가를 통해 주어진 시스템으로 좋은 성과를 내는 센터에게는 더 큰 시스템을 구축할 기회가 주어지도록 제도화하자.

미국·EU·일본은 지난 수십 년 동안 국가 차원에서 많은 수의 슈퍼컴퓨팅 센터를 운영해오고 있다. 미국은 에너지부 산하 국립연구소들에서 국가 플래그십 슈퍼컴퓨터와 많은 대학에서 중·대규모 슈퍼컴퓨터를 운영하고 있다. 일본만 해도 10여개의 슈퍼컴퓨팅 센터를 운영하고 있다. EU도 최근 동·북유럽 쪽으로 슈퍼컴퓨팅 센터를 확충하고 있다. 우리도 하루빨리 국가 슈퍼컴퓨팅 확충 및 대중화에 나서 초거대 AI 시대에 대비해야 한다. 특히, AI에 관심있는 중·고등학생, 대학생, 대학원생이라면 누구라도 슈퍼컴퓨터에 접근할 수 있게 하자. 황순욱 한국과학기술정보연구원(KISTI) 책임연구원