엔비디아, 자체 설계 서버 CPU '베라' 공개…"AI 팩토리에서 GPU 놀리는 시간을 없앤다"
AI 데이터센터에서 가장 비싼 부품은 GPU다. 그런데 그 값비싼 GPU가 정작 일하지 못하고 옆에서 데이터가 도착하기만 기다리는 시간이 적지 않다. 엔비디아가 이번에 공개한 서버용 중앙처리장치(CPU) '베라(Vera)'는 바로 이 '노는 시간'을 겨냥한 칩이다. 계산의 주역인 GPU가 아니라, 그 GPU에 데이터를 제때 밀어 넣는 '조연'을 직접 설계해 서버 전체의 활용률을 끌어올리겠다는 전략이다.
AI타임스에 따르면 엔비디아는 21일(현지시간) 미국 캘리포니아 본사에서 간담회를 열고 베라 CPU의 세부 사양을 공개했다. 한나 쿠탕 엔비디아 제품 마케팅 담당은 "GPU는 AI 팩토리에서 가장 비싼 자산"이라며 "베라는 GPU가 데이터를 기다리는 시간을 최소화해 활용률을 극대화하도록 설계됐다"고 말했다. AI 팩토리는 AI 모델을 대규모로 학습·추론하는 데이터센터를 공장에 빗댄 표현이다.
x86에 맞선 자체 설계 코어 '올림푸스'
베라의 핵심은 엔비디아가 직접 설계한 '올림푸스(Olympus)' 코어다. 그동안 서버 CPU 시장은 인텔과 AMD가 쓰는 x86 계열이 사실상 표준이었는데, 엔비디아는 이를 쓰지 않고 자체 코어를 얹은 칩을 내놨다. 회사는 베라가 x86 기반 CPU 대비 AI 에이전트 작업에서 최대 50% 높은 성능을 내며, 데이터 분석에 널리 쓰이는 파이썬 실행 속도는 AMD의 '튜린' 프로세서보다 최대 1.8배 빠르다고 밝혔다. AI 에이전트는 사람 대신 여러 단계의 작업을 스스로 판단해 처리하는 AI를 말한다.
메모리 구성도 눈에 띈다. 베라는 LPDDR5X 기반의 새로운 메모리 규격(SOCAMM2)을 써서 칩 하나당 최대 1.5TB의 메모리를 붙일 수 있다. 스마트폰 저장용량이 보통 256GB 안팎인 점을 감안하면, 칩 한 개가 스마트폰 여섯 대분에 가까운 메모리를 직접 다루는 셈이다. 소비 전력은 250~450W 수준이다. 대용량 메모리를 CPU 가까이 두면 GPU가 처리할 데이터를 미리 넉넉히 쌓아둘 수 있어, 데이터를 기다리느라 생기는 병목을 줄이는 데 유리하다.
GPU 72개와 한 몸으로…랙 전체가 하나의 컴퓨터
베라는 단독으로 쓰이기보다 엔비디아의 차세대 GPU '루빈(Rubin)'과 짝을 이뤄 서버 랙 단위로 묶인다. '베라 루빈 NVL72' 랙은 루빈 GPU 72개와 베라 CPU 36개를 한 캐비닛에 담아, 랙 전체를 사실상 하나의 거대한 컴퓨터처럼 작동시킨다. 칩들을 잇는 고속 연결망(NVLink)의 대역폭은 GPU 한 개당 초당 3.6TB, 랙 전체로는 초당 260TB에 이른다. 다만 이 성능의 대가로 랙 하나가 200kW를 넘는 전력을 소비해, 데이터센터의 전력·냉각 부담은 여전히 풀어야 할 과제로 남는다.
엔비디아는 베라가 시제품 단계를 넘어 이미 양산에 들어갔다는 점을 강조했다. 회사는 베라가 지난 6월부터 출하되고 있으며, 오픈AI와 앤트로픽, 스페이스X 등이 공급 대상이라고 밝혔다. 세부 사양 공개보다 '실제 고객에게 나가고 있다'는 사실을 앞세운 셈이다.
2000억 달러 CPU 시장, 인텔·AMD와 정면충돌
엔비디아가 GPU를 넘어 CPU까지 직접 설계하고 나선 배경에는 시장 판도의 변화가 있다. 여러 단계를 스스로 수행하는 AI 에이전트가 확산하면서, GPU에 데이터를 공급하고 작업 흐름을 관리하는 CPU의 역할이 다시 중요해졌기 때문이다. 엔비디아는 데이터센터 CPU 시장 규모가 2000억 달러에 이를 것으로 내다봤다.
이 시장은 그동안 인텔이 약 66.8%, AMD가 약 33%를 나눠 가진 사실상 양강 구도였다. 여기에 GPU 시장을 장악한 엔비디아가 자체 CPU로 뛰어들면서, AI 서버의 '두뇌'를 둘러싼 경쟁 구도가 흔들리게 됐다. 관건은 x86 생태계에 맞춰 쌓여 온 방대한 소프트웨어 자산과의 호환성을 엔비디아가 얼마나 매끄럽게 흡수하느냐다. 성능 수치가 실제 고객 환경에서 재현될지, 그리고 초고밀도 랙의 전력 문제를 감당할 데이터센터가 얼마나 준비돼 있을지가 확산 속도를 가를 전망이다.
참고 자료
· 엔비디아, 에이전트 맞춤형 '베라 CPU' 세부 정보 공개..."6월부터 출하 중" — AI타임스 (2026.07.22)