[독자권익위원 칼럼] AI 반도체, 현장에서 답을 찾을 때다

이종진 진광에스엔씨 대표

이종진 진광에스엔씨 대표

최근 인공지능(AI) 경쟁은 눈에 보이지 않는 소프트웨어 싸움이 아니라, 눈에 보이는 인프라 싸움으로 바뀌고 있다. 대전·세종 일대에서도 공공기관과 기업들이 AI 도입을 서두르지만, 막상 현장에서는 "GPU가 부족하다", "전기요금이 너무 많이 든다", "서버 운영이 부담스럽다"는 이야기가 먼저 나온다. 기술보다 현실이 먼저 부딪히는 것이다.

대표적인 사례가 지자체 민원 상담 AI다. 일부 지방자치단체는 챗봇을 도입했지만, 이용자가 몰리면 응답이 느려지고 운영비가 급증하는 문제가 나타났다. 초기에는 성능 좋은 장비를 쓰는 것이 중요했지만, 시간이 갈수록 "얼마나 싸고 안정적으로 계속 돌릴 수 있는가"가 더 중요한 과제로 바뀌었다. 바로 이 지점에서 엔비디아(NVIDIA) GPU와 함께, 퓨리오사AI(FuriosaAI)와 리벨리온(Rebellions) 같은 NPU의 필요성이 제기된다. 고성능 GPU는 모델을 학습시키는 데 강하지만, 실제 서비스 단계에서는 전력 효율이 높은 NPU가 더 경제적인 선택이 될 수 있기 때문이다.

제조 현장에서도 비슷한 변화가 나타난다. 충청권의 한 스마트 팩토리에서는 불량 검출 AI를 도입했지만, 기존 GPU 기반 시스템은 전력소비와 발열 문제로 운영 부담이 컸다. 결국, 일부 공정에서는 경량화된 모델과 저전력 장비로 전환하면서 비용을 크게 줄였다는 사례가 있다. AI는 '도입'보다 '지속 운영'이 더 중요하다는 점을 보여주는 대표적인 장면이다.

문제는 이런 흐름 속에서도 우리는 여전히 외국산 GPU 의존 구조에서 벗어나지 못하고 있다는 점이다. 물론 엔비디아의 기술력은 당분간 따라가기 어렵다. 하지만 모든 영역을 외국산 GPU에 맡길 필요는 없다. 공공 AI, 교통 분석, 의료 영상, 스마트시티 관제처럼 장시간 안정적으로 돌아가야 하는 분야에서는 국산 NPU의 활용 여지가 충분하다. 퓨리오사AI와 리벨리온이 바로 그 틈을 노리고 있다.

결국 관건은 정부의 선택이다. 기술은 이미 시작됐지만, 시장이 열리지 않았기 때문이다. 예를 들어 대전시가 스마트 교통 체계나 공공 CCTV 분석 시스템을 구축할 때, 일정 비율을 국산 AI 반도체로 실증하도록 설계한다면 상황은 달라질 수 있다. 공공이 첫 고객이 되어주면 기업은 데이터를 쌓고, 기술을 개선하고, 민간 시장으로 확장할 수 있다. 지금 필요한 것은 '지원'이 아니라 '사용 기회'다.

교육 현장도 예외가 아니다. 현재 학교에서는 챗GPT 사용법 정도에 머무르는 경우가 많다. 그러나 실제 산업은 훨씬 복잡하다. 한 지역 특성화고에서 서버와 네트워크를 직접 구축하고 간단한 AI 모델을 돌려보는 실습을 도입했는데, 학생들의 진로 인식이 크게 바뀌었다는 사례가 있다. 단순히 AI를 쓰는 것과, AI가 돌아가는 구조를 이해하는 것은 전혀 다른 경험이기 때문이다.

앞으로는 'AI를 잘 쓰는 사람'보다 'AI를 굴릴 줄 아는 사람'이 필요하다. 데이터센터를 설계하고, 전력을 관리하고, 반도체 특성을 이해하고, 비용을 최적화하는 인력이 부족해질 가능성이 크다. 초·중·고 교육이 이 흐름을 반영하지 못한다면, 우리는 기술을 소비만 하는 국가에 머물 수밖에 없다.

AI 반도체 경쟁은 이미 시작됐다. 그러나 승부는 연구실이 아니라 현장에서 결정된다. GPU는 필요하고, NPU는 더 필요해질 것이다. 중요한 것은 무엇을 선택하느냐가 아니라, 어디에 어떻게 쓰느냐다. 지역에서부터 실증하고, 학교에서부터 준비할 때 비로소 한국의 길이 열린다. /이종진 진광에스엔씨 대표