AI가 사람 대신 반도체 설계한다

김병섭 포스텍 연구팀 난제 풀어

포스텍 연구진. 왼쪽부터 김병섭 교수, 정순규(통합과정), 최원준(통합과정), 최준웅(박사과정), Anik Biswas(석사, 현 삼성전자).

포스텍 연구진이 사람의 감각과 경험에 의존해 오던 반도체 설계 난제를 AI(인공지능)로 해결했다.

연구는 자동화가 어려웠던 '아날로그 반도체 설계' 한계를 극복하며 반도체 회로 및 시스템 분야 국제 학술지인 'IEEE Transactions on Circuits and Systems(TCAS-I)'에 최근 게재됐다.

반도체는 스마트폰, 자동차, AI 서버 등 현대 사회를 움직이는 핵심 기술이지만, 이 가운데 사람의 손과 경험이 가장 많이 필요한 설계 영역은 자동화가 쉽지 않았다. 회로 성능과 안정성을 좌우하는 구조를 수많은 규칙에 맞춰 사람이 직접 배치해야 하기 때문이다. 이처럼 설계자의 감각과 노하우에 의존해 온 대표적인 분야가 바로 '아날로그 반도체 설계'다.

아날로그 반도체 설계는 자동화를 시도하기에 구조가 지나치게 복잡하고 설계 방식도 회로마다 크게 달라 AI 적용도 쉽지 않았다. 또 반도체 설계 데이터는 기업 핵심 자산으로 외부 공개가 제한돼 학습에 필요한 데이터도 극히 부족했다.

포스텍 전자전기공학과 김병섭 교수팀은 '파운데이션 모델' 개념에 주목했다. 이 모델은 대규모 데이터로 먼저 학습한 뒤 소량의 추가 학습만으로 다양한 작업을 수행할 수 있는 범용 AI 모델로, ChatGPT 기반 기술로도 알려져 있다. 연구팀은 이 개념을 아날로그 반도체 레이아웃 설계에 적용했다.

연구의 핵심은 사람이 정답을 알려주지 않아도 AI가 스스로 설계 규칙을 익히는 '자기지도학습' 방식이다. 연구팀은 아날로그 레이아웃을 작은 조각으로 나눈 뒤 일부를 가리고 이를 다시 예측하도록 학습시켰다. 퍼즐 일부를 보고 전체 그림을 맞히도록 훈련하는 방식이다. 연구팀은 이를 통해 단 6개의 실제 반도체 설계 데이터로 약 32만 개의 학습 데이터를 자동으로 생성하는 데 성공했다.

사전학습을 거친 AI는 아날로그 레이아웃에 공통으로 반복되는 구조와 패턴을 자연스럽게 익혔고 이후 적은 양의 추가 데이터만으로 회로 연결과 구조 형성에 필요한 '접점(contact)', '비아(via)', '더미 패턴', 'N-웰', '금속 배선' 등 다섯 가지 설계 작업을 수행했다. 실험 결과, AI가 생성한 레이아웃 96.6%가 설계 규칙과 회로 검증을 모두 통과했으며 기존 방식에 비해 8분의 1 수준의 데이터만으로도 동일한 성능을 달성했다.

연구는 작업마다 AI 모델을 새로 개발해야 했던 기존 방식에서 벗어나 하나의 파운데이션 모델을 기반으로 다양한 반도체 설계 작업을 확장할 수 있음을 보여준 성과다. 이는 설계 인력의 부담을 줄이고 개발 기간을 단축해 반도체 산업 전반의 생산성과 경쟁력을 높이는 데 기여할 것으로 기대된다.

연구를 이끈 김병섭 교수는 "연구는 데이터 부족으로 막혀 있던 아날로그 반도체 설계 자동화의 가능성을 실질적으로 확장한 성과"라고 연구의 의의를 전했다.

제1저자인 정순규 씨는 "산업 현장 적용을 목표로 연구를 이어갈 계획"이라고 말했다.

포스텍 전자전기공학과 김병섭 교수, 통합과정 정순규·최원준 씨, 박사과정 최준웅 씨, 어닉 비스와스(Anik Biswas) 석사(현 삼성전자) 연구팀이 수행한 연구는 과학기술정보통신부, 정보통신기획평가원, 한국연구재단, 한국산업기술진흥원, BK21 교육연구단의 지원을 받아 수행됐다.


포항=김규동 기자 korea808080@