플래시 메모리 하나로 AI 연산 모드 바꾼다…효율·정밀도 선택
하나의 플래시 메모리가 작업에 따라 정밀한 계산 장치와 전력 소모가 적은 계산 장치로 역할을 바꾸는 AI 반도체 기술이 개발됐다. 메모리 소자 자체를 다시 설계하지 않고 읽기 조건과 주변 회로의 동작만 조절해 정확도, 에너지 효율, 잡음 내성을 선택할 수 있다는 점이 핵심이다.
한양대학교 신소재공학부 김형진 교수 연구팀은 서울과학기술대학교 김태현 교수, 조지아공과대학교 Shimeng Yu 교수와의 공동연구를 통해 플래시 메모리 기반의 모드 전환형 인메모리 컴퓨팅 기술을 구현했다. 인메모리 컴퓨팅은 저장된 데이터를 프로세서로 계속 옮기지 않고 메모리 안에서 직접 계산하는 방식이다. AI가 처리하는 데이터가 많아질수록 데이터 이동에 드는 시간과 에너지가 커지는 기존 컴퓨터 구조의 한계를 줄이기 위한 기술이다.
연구팀은 직접 제작한 48×24 크기, 총 1,152셀의 AND형 전하트랩 플래시 어레이에 두 연산 방식을 구현했다. AND형 플래시는 독립된 워드라인을 가진 셀들이 공통 소스·드레인 라인에 병렬로 연결되는 구조다. 여러 셀의 출력을 한꺼번에 더할 수 있어 AI 계산의 기본인 벡터-행렬 곱에 적합하다. 소자는 CMOS 호환 공정의 TiN·Al2O3·Si3N4·SiO2·poly-Si 적층 구조로 제작됐다.
여덟 전류 상태와 두 전하 상태를 선택
첫 번째인 트랜지스터 모드는 1~8마이크로암페어 범위에서 여덟 개 전류 상태를 사용한다. 여러 단계로 저장한 값을 전류로 읽기 때문에 정밀도와 처리량을 높일 수 있지만 소자 편차와 외부 잡음, 아날로그 신호를 디지털 값으로 바꾸는 ADC의 전력 부담에 더 민감하다. 무작위로 고른 소자 100개의 평균 절대 오차는 약 0.1마이크로암페어였다.
두 번째인 커패시터 모드는 약 0.5피코패럿과 2.0피코패럿의 두 전하 상태만 구분한다. 표현 단계는 적지만 정적 전력이 거의 없고 소자 특성 변화와 잡음에 강하다. 연구팀은 소스 라인을 접지하거나 전기적으로 띄우고 읽기 회로를 바꾸는 방법으로 두 모드를 전환했다. 분석 결과 에너지 효율은 1T-1RRAM 구조와 비교해 저전력 모드에서 약 3.22배, 고정밀 모드에서 약 2.2배 향상됐다.
어레이의 아날로그 벡터-행렬 곱에서 측정한 전류 합산 결과는 산술적으로 계산한 합과 R²=0.999의 높은 상관관계를 보였다. Fashion-MNIST 이미지 분류용 VGG 계열 신경망의 마지막 24×10 완전연결층을 실제 어레이에 옮겨 시험 이미지 500개를 추론한 결과, 트랜지스터 모드는 94.19%, 커패시터 모드는 93.08%의 정확도를 기록했다. 메모리 소자가 실제 AI 추론 계산을 수행할 수 있음을 보여준 결과다.
내구성은 프로그램·소거를 10만 회 반복할 때까지 확인됐다. 85℃에서 10⁴초 동안 측정한 유지 특성을 바탕으로 외삽한 분석에서는 여덟 상태가 10년까지 구분될 것으로 나타났다. 이는 10년간 직접 측정한 결과가 아니라 고온 단기 측정에서 장기 특성을 추정한 값이다.
두 모드는 쓰기 방식과 쓰기 에너지가 같아 장점이 학습된 가중치를 반복해 읽는 AI 추론에서 주로 나타난다. 커패시터 모드를 실제 칩에 적용하려면 별도의 전하·정전용량 판독 회로와 기준 소자, 소스라인 절연 스위치가 필요할 수 있어 최종 면적과 효율은 주변 회로 설계에 따라 달라진다.
논문은 2026년 7월 21일 온라인 공개됐으며 국제학술지 Advanced Science 10월호에 수록됐다. 논문 제목은 ‘A Unified Flash Memory Platform for Mode-Adaptive and Robust AI Computation’이다. 연구팀은 정확도와 에너지 효율, 안정성을 함께 고려하는 AI 반도체 기술로 발전시킬 계획이라고 밝혔다.
자료: 한양대학교, 서울과학기술대학교, 조지아공과대학교, Wiley-VCH(Advanced Science)