[사이언스칼럼]구름 위에서 내 손안으로 내려온 AI

조재완 한국원자력연구원 선임연구원

조재완 한국원자력연구원 선임연구원

AI를 사용하고 싶지만 '이 자료를 올려도 될까?' 싶은 순간이 한 번쯤 있었을 것이다. 너무 개인적인 정보나 조직의 보안 자료는 함부로 AI에 올릴 수 없다. 필자가 일하는 기관처럼 보안이 엄격한 연구 현장에서는 요즘 무서운 속도로 발전하는 AI의 혜택을 온전히 누리기 어렵다.

최근 OpenAI가 내놓은 신모델 GPT-6 아스트라가 세간의 주목을 받고 있다. AI 연구자들이 꿈꾸는 목표 중 하나는 AGI(Artificial General Intelligence), 바로 범용 인공지능이다. 특정한 일에 한정되지 않고 폭넓은 과제를 인간처럼 수행하는 AI를 뜻한다. 엔비디아 CEO 젠슨 황은 이 모델을 두고 "AGI가 도래했다"고 주장했다. 하지만 아무리 영리한 AI라도, 정작 자료를 건넬 수 없다면 답답한 노릇이다.

GPT-6 아스트라는 AI가 학습한 결과를 수치로 저장해 놓은 값인 '가중치'를 공개하지 않는다. 일반 사용자가 내려받아 직접 실행하는 방식으로 제공되지 않고, 인터넷 클라우드 서비스에 접속해 이용해야 한다. 내 화면에서 대화하고 있지만 실제 답을 만드는 AI는 멀리 있는 셈이다. 마치 구름 위의 신비한 존재들처럼 말이다.

OpenAI와 Anthropic 같은 대표적인 AI 기업들은 주력 모델을 클라우드 서비스를 통해 제공한다. 반면 누구나 내려받아 쓸 수 있도록 공개하는 모델도 있다. 흔히 오픈소스 모델로 통칭하지만, 가중치만 공개하는 모델부터 학습 코드와 데이터 관련 정보까지 공개하는 모델까지 범위가 다양하다. 이들은 조건에 따라 내 기기에서 직접 가동할 수 있다는 점이 매력이다. 물론 기기 성능이 충분히 받쳐준다면 말이다.

흥미롭게도 딥시크, 키미, 알리바바의 쿠엔처럼 중국 기업들의 공개 모델이 눈에 띈다. 반면 자유와 개방을 상징하는 미국의 OpenAI와 Anthropic은 주력 모델의 문을 굳게 닫아둔다. 이름은 'Open'AI인데 정작 대표 모델은 열어볼 수 없다니 역설적이다.

딥시크를 비롯한 중국 AI를 쓰면 보안 문제가 생길 수 있다며 한동안 소동이 있었다. 실제로 2025년 국내 개인정보보호위원회는 딥시크 서비스의 개인정보 국외 이전 문제를 지적했다. 다만 중국 모델을 내려받아 쓰는 일과 중국 서버에 자료를 보내는 일은 다르다. 어느 나라 서비스든 클라우드 AI에 민감한 자료를 맡긴다면, 자료가 어디로 가고 어떻게 처리되는지 살펴야 한다.

그래서 주목하는 것이 바로 '로컬 AI'다. 공개 모델을 내려받아 내 장치에서 온전히 작동하도록 구성하면 인터넷 연결 없이도 쓸 수 있다. 문서를 읽고 답을 만드는 과정과 작업 기록까지 내부에 두면, 자료를 외부 서버로 보내지 않아도 된다. 비유하자면 자료가 AI를 찾아가는 대신, AI가 자료가 있는 방으로 들어오는 셈이다.

다만 덩치가 큰 모델은 일반 노트북이나 PC에서 로컬로 실행하기가 쉽지 않다. 규모가 있는 기관은 내부망 서버를, 작은 조직은 연구용 고성능 컴퓨터인 워크스테이션을 갖추는 사례가 늘어날 것이다. 자료를 내부에 두면서 AI의 도움도 받을 수 있기 때문이다.

또 하나 흥미로운 것은 소형 언어모델(SLM)이다. 큰 모델은 무거운 장비가 필요하지만, 소형 모델은 적절한 사양의 노트북이나 휴대전화에서도 돌아간다. 소형 모델이라고 모두 특수목적 모델은 아니다. 학습 자료와 장비를 갖추면 필요한 업무에 맞춰 추가로 학습시켜 쓸 수도 있다. 가령 회의록에서 누가 무슨 일을 언제까지 하기로 했는지 추려주는 작은 AI를 생각해 보자. 이 일을 잘 한다면 거창한 질문에 답하지 못해도 쓸모가 있다. 이처럼 작은 AI가 개인과 연구 현장에서 점차 익숙한 도구로 자리 잡을 것이다.

대형 AI가 앞서는 분야가 있는 한편, 이들이 긁어주지 못하는 곳을 긁어주는 작은 AI도 자라고 있다. 마치 대형 원전 곁에서 열 공급과 선박 추진 등 여러 용도의 소형모듈원자로(SMR)가 개발되는 그림이 겹쳐 보인다. 자료를 구름 위로 올리지 않아도 AI의 도움을 받을 수 있는 길, 내 책상과 손안으로 내려오는 작은 AI를 눈여겨보는 이유다. /조재완 한국원자력연구원 선임연구원(경제성분석실)