프라임마스·마이크론, 랙 하나에 160TB CXL 메모리 구현
서버 한 대에 메모리를 계속 추가하는 대신, 랙 전체에 160TB 규모의 거대한 메모리 창고를 만들고 최대 16개 서버가 필요한 만큼 나눠 쓰는 시스템이 등장했다. 국내 팹리스 프라임마스의 컴퓨트 익스프레스 링크(CXL) 메모리 기술을 마이크론과 리퀴드가 결합한 ‘아바코’다.
CXL은 중앙처리장치(CPU), 그래픽처리장치(GPU), 메모리 등을 고속으로 연결하는 인터페이스다. 각 서버에 고정된 로컬 메모리의 용량을 넘어 외부 메모리를 확장하고, 여러 서버가 하나의 메모리 풀을 공유하도록 돕는다. 필요한 서버에 메모리를 할당했다가 작업이 끝나면 돌려받는 방식이어서, 서버마다 최대 용량의 메모리를 따로 갖추는 구조와 차이가 있다.
리퀴드가 공개한 아바코 최대 구성은 메모리 섀시 4개에 프라임마스 CXL 애드인카드(AIC) 40장과 마이크론 RDIMM 160개를 탑재한다. AIC 한 장의 용량은 4TB로, 랙 한 대에서 최대 160TB를 제공한다. 최대 16개 서버 노드가 이 메모리 자원을 할당받거나 반납할 수 있다. 마이크론이 시스템을 설계·통합하고, 리퀴드는 CXL·PCIe 패브릭과 섀시, 자원관리 소프트웨어를 제공한다. 퍼시픽 노스웨스트 국립연구소(PNNL)는 첫 구축기관이다.
CXL 2.0부터는 하나의 연결을 여러 장치로 나누는 스위치 기반 팬아웃과 메모리 풀링이 표준화됐다. 아바코도 리퀴드의 CXL 2.0 스위칭 패브릭을 사용한다. 프라임마스는 이 구조에 필요한 CXL 메모리 솔루션을 공급한다. 단일 서버의 메모리를 늘리는 AIC, 랙 단위 메모리 묶음인 JBOM, 외부 CXL 스위치 없이 여러 호스트가 메모리를 공유하는 SLiM으로 제품군을 구성했다.
마이크론 연구실에서는 프라임마스 AIC 10장으로 40TB 시험 구성을 만들었다. 이 구성은 읽기 대역폭 250GB/s와 지연시간 434ns를 기록했다. 대역폭은 1초 동안 옮길 수 있는 데이터의 양이고, 지연시간은 요청한 데이터가 전달되기 시작할 때까지 걸리는 시간이다.
대표 워크로드 시험에서 그래프 분석 시간은 약 8시간에서 15분으로 줄어 최대 30배 향상됐다. 일부 키·값 캐시(KV 캐시) 기반 AI 추론에서는 초당 생성 토큰 수가 최대 7배, 단일 서버 분석 캐시는 처리량이 3.9배로 늘었다고 회사는 밝혔다. KV 캐시는 생성형 AI가 앞서 처리한 문맥 정보를 임시로 보관하는 공간이다. 다만 이 수치는 마이크론 연구실 시험 결과이며, PNNL에 구축되는 아바코의 현장 검증 결과는 아직 공개되지 않았다.
아바코에 앞서 PNNL과 마이크론은 2025년 8월 15TB급 시스템 ‘크레타’를 가동했다. 크레타는 미국 에너지부 과학국 산하 첨단과학컴퓨팅연구 프로그램이 후원하는 AMAIS의 시험대로 활용됐으며, 계산화학 코드 엑사켐을 CXL 메모리에서 구동하는 작업이 먼저 진행됐다. 미국 에너지부의 2022년 특허권 포기 문서도 인공지능 과학 연구를 위한 메모리 아키펠라고 선행 과제와 마이크론·PNNL의 니어메모리 및 대규모 데이터 분석 협력을 확인한다.
프라임마스는 CXL 메모리 컨트롤러 플랫폼 ‘팔콘’을 바탕으로 메모리 카드와 풀링 시스템을 구축하고, FPGA 기반 컴퓨트 칩렛 ‘카멜레온’을 결합해 니어메모리 컴퓨팅으로 확장할 계획이다. 니어메모리 컴퓨팅은 데이터를 연산장치로 반복해서 옮기는 부담을 줄이기 위해 메모리 가까이에서 일부 계산을 처리하는 방식이다. 박일 프라임마스 대표는 특정 GPU나 가속기에 종속되지 않고 AI 연산을 지원하는 데이터 인프라를 제공하는 것이 목표라고 밝혔다.
자료: 프라임마스, 마이크론, 리퀴드, 퍼시픽 노스웨스트 국립연구소, 미국 에너지부, 컴퓨트 익스프레스 링크 컨소시엄