고려대, 고성능·저전력 차세대 AI 칩 핵심 기술 개발

GIST 연구팀과 공동 연구, 멤리스터 3D 구조로 초고밀도 연산칩 개발

△ CMOS 공정 기반으로 모놀리식 집적된 1킬로비트(kbit) 1TS-1M 어레이의 제작 및 구조:

칩의 광학 현미경 이미지, 단면 SEM 이미지, 1TS-1M 셀의 구조 및 회로도, 그리고 VMM 연산 그림이 포함됨.

고려대학교(총장 김동원) KU-KIST융합대학원 겸 융합에너지공학과 왕건욱 교수 연구팀이 광주과학기술원(GIST) 이병근 교수 연구팀과 함께, 모놀리식 3D 방식으로 멤리스터를 집적해 고밀도·고성능 인메모리 컴퓨팅을 위한 새로운 기술 플랫폼을 제시했다.

*멤리스터: 메모리(memory)와 저항기(resistor)의 합성어로, 전류가 지나간 이력을 기억해 저항 상태를 유지할 수 있는 차세대 메모리 소자

*모놀리식 3D 집적 방식: 서로 다른 회로 소자를 수직으로 쌓는 방식

본 연구 결과는 나노·에너지 분야에서 영향력 있는 국제 학술지 ‘Nano Energy(IF=16.8)’ 온라인에 지난 4월 10일 게재됐다.

*논문명: Implementation of monolithic 3D integrated TiOx memristor-based neural network for high-performance in-memory computing

*DOI: 10.1016/j.nanoen.2025.110999

*URL: https://doi.org/10.1016/j.nanoen.2025.110999

인공지능 기술이 발전하면서 데이터 처리량이 급격히 늘고 있지만, 기존 방식의 컴퓨터 구조로는 속도 및 에너지 효율 저하 문제가 발생한다. 이에 따라 메모리 내에서 연산을 수행하는 ‘인메모리 컴퓨팅(in-memory computing)’이 주목 받았다.

특히, 메모리 기능과 연산 기능을 동시에 수행할 수 있는 멤리스터를 크로스바 어레이로 배열하면 병렬 연산이 가능하여 인공지능 신경망 연산에 적합한 기술로 기대를 모았다. 그러나 멤리스터를 대규모로 배열하면, 선택하지 않은 셀로 전류가 흘러 들어가는 오류가 발생한다.

*크로스바 어레이: 수직 방향의 전극과 수평 방향의 전극이 교차하는 지점마다 멤리스터를 배치해, 고밀도로 메모리나 연산 기능을 구현하는 배열 구조

연구팀은 이 문제를 해결하기 위해, 180 나노미터(nm) CMOS 공정으로 제작한 트랜지스터 기반 셀렉터(Transistor-based selector, 1TS) 위에 정보를 저장할 수 있는 산화티타늄(TiOx) 멤리스터(1M)를 수직으로 쌓는 ‘모놀리식 3D 집적 방식’을 적용했다. 이를 통해 1킬로비트(kbit) 용량의 구조를 구현했으며, 이 구조가 최대 1.14테라비트(Tbit) 수준의 초대형 인공지능 연산 시스템으로 확장 가능함을 확인했다.

*CMOS: 트랜지스터를 구성하는 반도체 공정 기술로, 스마트폰 등에서 쓰인다.

*트랜지스터 기반 셀렉터(Transistor-based selector, 1TS): 멤리스터 소자에 흐르는 전류를 선택적으로 제어하기 위한 구성 요소로, 일종의 ‘전기 스위치’ 역할을 한다. 

대규모 배열 구조에서도 원하지 않는 전류 경로를 효과적으로 차단하고, 멤리스터의 동작을 보다 정밀하게 제어할 수 있다.

또한, 이 구조(1TS-1M)는 기존 산화물 기반 멤리스터 구조보다 전력 소모가 획기적으로 낮은 것으로 나타났다. 특히, 인공 신경망의 핵심 연산인 벡터-행렬 곱셈(VMM) 수행 중 발생하는 불필요한 전력을 기존 약 0.5 마이크로와트(μW) 수준에서 70 펨토와트(fW) 수준으로 줄이며, 약 1,000만 배(10⁷배)의 전력 효율을 개선했다. *벡터-행렬 곱셈(VMM): 인공신경망에서 입력과 가중치를 곱해 출력 값을 계산하는 핵심 연산 방식

연구팀은 개발한 구조를 이미지 분류 인공지능 모델에 적용해 성능을 검증했다. CIFAR-10과 UTK face 데이터에 적용한 결과, 합성곱 신경망(CNN) 구조에서 높은 인식 정확도를 기록하며 우수한 학습 및 분류 성능을 입증했다.

*합성곱 신경망: 사람의 시각 처리 방식을 모방한 이미지 인식 인공지능 모델

공동 연구팀은 “이번 연구는 멤리스터 기반 인공 신경망 기술이 고밀도·고성능 AI 연산 시스템으로 실현될 수 있는 가능성을 보여준 것”이라며, “이는 에너지 효율이 높고 확장성이 뛰어나, 차세대 AI 반도체 플랫폼 개발로 이어질 수 있을 것”이라고 밝혔다.

본 연구는 과학기술정보통신부가 추진하는 한국연구재단 기초연구사업(기초연구실, 중견연구, 도전형), 나노·소재기술개발사업, 반도체디스플레이 국제공동연구, 신개념 PIM 기초기술 개발사업, 한국과학기술연구원(KIST) 융복합개방형연구의 지원을 받아 수행됐다.

[그림1]

△ [그림 1] 설명:  (왼쪽부터) 고려대 KU-KIST 융합대학원 겸 융합에너지공학과 왕건욱 교수(교신저자), 광주과학기술원 전기전자컴퓨터공학과 이병근 교수(교신저자), 고려대 KU-KIST 융합대학원 안연서 석사후 연구원(제1저자), 광주과학기술원 김도원 박사과정(제1저자)

[그림2]

△ [그림 2] 설명

CIFAR-10 이미지에 대한 패턴 분류 결과:

(위) CNN 구조를 통한 단계적 합성곱 및 풀링 계층에서의 특징 추출 과정

(아래) 합성곱 계층에서의 커널 가중치 분포 변화, epoch 수에 따른 인식 정확도, 200 epoch 이후의 실제 라벨과 예측 라벨 간 confusion matrix를 확인함.