[창간75-Re:people] KAIST 김정호 교수 "AI가 이끌 경제성장…대전, 인프라 주권 확보해야”

AI 학습과 추론 뒷받침 'HBM의 아버지'
경제성장과 발전역시 AI에서 창출 전망
AI·반도체 등 첨단전략산업 유치활동 미약
"AI데이터센터와 첨단산업에 지역이 주도적 역할을"

중도일보 창간 75주년을 맞아 8월 18일 인터뷰에 응한 김정호 KAIST 전기및전자공학부 교수가 AI·반도체를 비롯한 미래산업의 변화와 지역의 대응 방향에 대해 설명하고 있다. KIAST 김정호 교수는 하루 6장의 메모를 작성하며 생각을 정리하고 깊게 다듬는다.  (사진=이성희 기자)

무더위가 한창인 8월의 이른 아침. 대전 유성구 한국과학기술원(KAIST) 테라랩(TERA Lab) 연구실을 찾았다. '고대역폭메모리(HBM)의 아버지'로 불리는 김정호(65) KAIST 전기및전자공학부 교수의 연구실 책상은 자신의 구상을 기록한 메모가 손이 가장 잘 닿는 곳에 있었다. 탁상달력에는 손으로 적은 매일의 계획이 빈틈없이 채워져 학생 지도와 연구를 향한 30년째 이어가는 강행군을 짐작할 수 있었다. 중도일보는 창간 75주년을 맞아 김 교수를 만나 AI와 메모리 반도체가 가져올 변화와 대한민국과 대전의 대응 전략을 물었다. <편집자 주>

▲메모리 반도체에 가슴설렌 유학생

1994년 미국 유학을 마치고 귀국을 앞둔 32살 한 청년은 데이터 저장하는 메모리 반도체에 자꾸 마음이 설렜다. 데이터를 먼 거리에서도 주고받을 수 있는 인터넷이 보급되고 있는데 인터넷이 세계에서 두루 사용된다면 성능을 좌우할 핵심 기술은 메모리에서 나올 것으로 확신에 가까운 믿음이 들었기 때문이다. 그중 데이터 기억을 담당하는 메모리는 지금까지 평면으로 나란히 붙이는 2차원적인 설계뿐인데, 용량과 속도가 향상되려면 결국 메모리를 쌓아서 3차원 설계로 발전할 수밖에 없다는 당시의 통찰은 그를 30년 외길 메모리 연구로 이끌었다. 국내 반도체 제조사에서 1년 재직하고 1996년 KAIST 전기및전자공학부 교수로 자리를 옮겨 학생을 가르치는 동시에 연구를 시작한 이래 오늘까지 30년간 마음 변하지 않고 '메모리와 반도체'에 매진했다. 그 사이 세계는 인터넷 활용을 넘어 인간의 지능처럼 학습하고 추리해 논리적으로 문제를 다루는 인공지능(AI) 시대에 접어들었다. AI는 기억을 대규모로 저장하면서 빠르게 연산을 처리하는 기술이 필요했고, 30대 청년이 오랜 연구 끝에 구현한 적층형 고대역폭메모리(HBM)가 SK하이닉스를 통해 2013년 처음으로 상용화되면서 AI에게 날개가 되는 핵심 기술이 됐다.

김정호 KAIST 전기및전자공학부 교수는 "알고보니 저희 테라랩 연구실이 수행한 적층·실리콘관통전극(TSV)·접지기술이 AMD·엔비디아가 원한 메모리 반도체의 핵심기술이었다"라며 "종래의 메모리 소자인 D램을 아파트처럼 쌓았을 때 단층 건물에서는 발생하지 않을 수돗물의 수압이나 균일한 난방처럼 적층형 구조의 난제를 해결하는 방법론을 저희가 제시했던 것"이라고 설명했다.

그는 앞으로 길게는 30년 동안 메모리의 성능이나 수요가 1000배는 증가할 것으로 내다보면서, 세계 경제의 주도권은 인공지능에서 만들어질 것으로 전망했다.

김 교수는 "알파고(AlphaGo)처럼 판별형 AI가 등장하고 글도 써주고 그림도 그려주는 생성형 AI가 최근에 등장했는데 앞으로는 더욱 고도화된 에이젠틱AI(Agentic AI)와 로봇 몸을 갖게되는 피지컬AI(physical AI)로 이어질 것인데 AI시대는 메모리에 달려있다"라며 "지금 인터넷 없이는 업무를 수행하기 어려운 것처럼, 미래의 경제 패권은 핵무기도 아니고 식량도 아니며 석유를 벗어나 AI에서 나올 것이라는 게 저의 판단했다"고 설명했다.

▲AI가 이끌 세계경제, 기회는 왔다

그는 메모리 반도체 세계 시장에서 삼성전자와 SK하이닉스가 1·2위를 달리고 있으나 기술적 큰 발전이 계속 이뤄져야 추격과 견제를 돌파할 수 있다고 당부했다.

김 교수는 "한국이 반도체 공급망의 주도권을 계속 확보하려면 메모리 안에 GPU를 넣는 패키지 기술이 필요하고 높은 냉각효율과 충분한 전력 확보가 중요한데 소부장(소재·부품·장비) 업체가 뒷받침돼야 한다"라고 설명했다.

중국에서 반도체 산업이 발달해 3년 뒤 HBM3 수준의 메모리를 자체 생산하면 중국 내수시장에 한국 업체의 입지가 좁아질 수 있고 미국 애플이 자사의 컴퓨터에 중국 메모리를 탑재하는 때도 중국의 추격은 가팔라질 것으로 전망했다. 이외에도 삼성과 SK하이닉스가 미국에 공장을 짓는 것이나 장래에 테슬라가 메모리까지 직접 생산하겠다고 뛰어들 때 한국의 메모리 강국 지위가 위태로워질 수 있다고 분석했다.

김 교수는 "우리가 메모리 중심으로 AI 주권 국가로 나아가는 데 누군가 도움을 주리라 기대해서는 안 되고 기술개발과 미래에 대한 비전 그리고 우수한 과학기술 인재를 양성하는 방법밖에 없다"라며 "지금 기회가 왔으며, 이 기회를 살려 우리가 세계를 선도할 것인가 그렇지 못할 것이냐는 전적으로 정부와 국민적 선택에 달려 있다"고 강조했다.

▲AI·반도체 전략산업 대전 씨앗부터

그는 1996년 KAIST에 부임하면서 대전에 정착해 대청호 주변과 계룡산을 자주 걸으며 가족과 함께 지내는 대전시민이다. 그는 국민성장펀드 기금운용심의위원회 위원 겸 반도체 분과위원장을 맡아 전국 지자체의 투자유치와 AI시대 준비 정책을 속속히 파악하는 위치에 있다. 그는 대전이 AI와 반도체 시대를 맞이할 준비와 유치활동에 활발하지 않아 정체되는 도시가 되는 것은 아닌지 진단했다. 이재명 정부는 지난해 국민성장펀드를 출범해 반도체·인공지능(AI)·바이오 등 첨단 전략산업에 향후 5년간 150조원을 공급하는 정책금융 수단이다. 수도권뿐 아니라 지방에 있는 기업 중에 첨단 전략산업에 발전 가능성을 심의해 투자가 이뤄지나 대전은 바이오 분야의 기업 외에는 반도체와 AI분야에서 기업의 국민성장펀드 투자는 이뤄지지 않고 있다.

김 교수는 "대전은 태생적으로 대덕연구개발특구에 많은 연구기관이 있다 보니 시장경제보다 기초 연구와 원천 기술 개발에 집중해왔는데, 지금은 기업을 통해 수익을 창출하고 그게 지역사회에 재투자되지 않으면 지역사회 발전은 정체된다"라며 "제가 거듭 말씀드리지만, 앞으로 산업의 대부분 성장은 AI와 반도체 그리고 전력 분야에서 이뤄질텐데 대전은 이들 첨단 전략산업에서 소외될 위험이 있다"라고 분석했다.

이어 "정책 연구기관이 집중된 대전에 핵심 인프라인 AI데이터센터를 조성해 연구활동을 지원하고 기업유치에 활용하자는 것 제 의견"이라며 "첨단 전략산업을 육성하려는 국가 프로젝트에서도 대전이 분명한 역할을 맡을 수 있도록 역량을 결집해야 할 것으로 누가 주기를 기다려서는 안 된다"고 당부했다.

이날 만남은 오전 8시에 테라랩에서 시작해 두 시간을 꽉 채워서야 마무리 수순으로 들어갔다. 김 교수는 메모를 적은 노트 하나 펼치고 있을 뿐 답변서 없이 응답은 즉석에서 이뤄졌다. 오랜 연구와 현장경험 그리고 기업과 교류를 통해 이미 정리된 AI와 반도체에 대한 미래 비전을 중도일보에 하나씩 풀어내는 것으로 여겨졌다.

▲AI인재는 수학과 철학에서

대화는 AI시대에 다시 학생으로 돌아간다면 공학자가 되기 위해 어떻게 공부할 것이냐 하는 교육 분야로 이어졌다.

김 교수는 "제가 다시 대학생이 되어 수업을 듣는 입장이 된다면 철학과 수학에 대한 공부를 집중할 거 같은데, 반도체와 메모리 그리고 HBM까지도 모두 수학 활동에서 이뤄지는 결과물"이라며 "수학문제를 객관식으로 제시해 예시 5개 중의 하나를 선택하는 정답풀이 교육은 앞으로 사라질 학습법으로 여겨진다"고 설명했다. 문제를 푸는 능력은 AI가 충분히 잘하고 있는 분야인데 청소년의 수업은 답을 골라내는 게 아니라 증명하는 방식으로 서술형으로 접근해야 한다는 게 그의 생각이었다.

김 교수는 "AI가 이미 수학을 잘하지만 그래도 학생들에게 수학능력을 키워줘야 하는데 수학적 사고에 철학적 판단이 뒷받침될 수 있어야 한다"라며 "삼각형 내각의 합은 왜 180도인지 아니면 1 더하기 1은 왜 2가 되는지 서술하고 증명하는 수업이 이뤄지길 바라고 있다"고 밝혔다.

오케스트라 지휘자에 비유해 100개 이상의 AI에이전트를 활용해 특정한 목적으로 기획하고 결과를 내게 될 텐데, 미래 AI 에이전트의 지휘자는 철학에 기반해 왜라는 질문에 답할 수 있고 어떻게 라는 질문에는 수학적인 논리력으로 문제를 풀어가는 능력이 필요하다고 부연했다.

그는 인터뷰를 마무리하며 생일을 맞은 중도일보에게 지역 현안에 깊은 관심과 동시에 국제적 변화에 대해서도 주시해 독자에게 새로운 아젠다를 끊임없이 제시하는 언론이 되어 달라고 당부했다.
대담=고미선 사회과학부장(부국장)·정리=임병안 기자

○…김정호 교수는 ▲대전 유성구 거주 ▲서울대 전기공학 학사·석사·University of Michigan 전기공학 박사 ▲1996년~현재 KAIST 전기및전자공학부 교수 ▲KAIST 연구 대상 ▲2018년~현재 KAIST·삼성전자 산학협력센터장 ▲국제전기전자공학자학회(IEEE) 석학회원(Fellow) ▲국민성장펀드 반도체분과위원장

중도일보 창간 75주년을 맞아 8월 18일 인터뷰에 응한 김정호 KAIST 전기및전자공학부 교수가 AI·반도체를 비롯한 미래산업의 변화와 지역의 대응 방향에 대해 설명하고 있다. (사진=이성희 기자)