설치 부담 낮춘 엔비디아 ‘베라 루빈’…전력·냉각은 과제

AI 서버의 성능만큼 골칫거리였던 설치 부담이 엔비디아의 차세대 플랫폼 ‘베라 루빈(Vera Rubin)’에서는 한결 줄어들 것이라는 초기 평가가 나왔다. 대규모 인공지능 인프라를 구축하는 클라우드 사업자들이 앞선 ‘그레이스 블랙웰(Grace Blackwell)’보다 쉽게 설치하고 운영할 수 있을 것으로 기대하고 있다.

여러 클라우드 서비스 제공업체의 초기 테스트에 따르면 베라 루빈 랙은 기계 구조와 냉각 설계가 다듬어져 대규모 설치도 이전보다 수월할 것으로 예상됐다. 랙은 여러 서버 장비를 한데 넣는 대형 수납장 형태의 시스템이다. 한 클라우드 기업 임원은 관련 설계가 이미 3세대 제품 수준에 이르렀다고 평가했다.

그레이스 블랙웰은 지난해 출시 당시 새로운 GPU와 CPU, 네트워크, 냉각 시스템을 한꺼번에 적용했다. 주요 고객은 설치와 안정화에 어려움을 겪었고, AI 데이터센터 가동과 수익 창출 시점도 늦어졌다. 반면 공급이 시작된 베라 루빈 초기 제품은 GPU 72개와 CPU 36개를 한 랙에 넣었으며, 전체 구조는 그레이스 블랙웰과 거의 같다. 완전히 새로 짜기보다 기존 플랫폼을 발전시킨 방식이다.

소프트웨어도 기존 그레이스 블랙웰용 제품을 대부분 그대로 쓸 수 있도록 설계됐다. 클라우드 업체들은 많은 서버를 묶은 대규모 클러스터의 소프트웨어를 최적화하는 데 수개월이면 충분할 것으로 보고 있다. 앤드루 벨 엔비디아 하드웨어 부문 수석 부사장은 모든 것을 바꾼 블랙웰과 달리 베라 루빈은 제조와 구축이 훨씬 쉽고 생산성도 높아졌다고 설명했다.

엔비디아는 AI가 정보를 처리하는 기본 단위인 ‘토큰’을 초당 처리할 때의 전력 효율이 그레이스 블랙웰보다 약 10배 높다고 밝혔다. 서버 가격은 초기 블랙웰 시스템보다 두 배 이상 높지만, 전력 효율과 운영비 측면에서는 경쟁력이 있다는 평가가 나온다.

과제도 남아 있다. 베라 루빈 랙은 부품 130만개로 구성돼 초기 블랙웰의 120만개보다 복잡하다. 새로운 네트워크 스위치와 칩 연결 기술까지 적용돼 대규모 시스템 장애의 원인을 찾는 작업은 여전히 쉽지 않을 것으로 예상된다. 랙당 전력 소비는 블랙웰보다 75% 늘고 발열도 높다. 냉각 장치의 전력 효율은 개선됐지만 설치는 더 복잡해졌으며, 일부 전문가는 열 설계 문제로 초기 생산이 약 두 달 지연됐다고 분석했다.

기존 데이터센터를 고치기보다 엔비디아 권장 설계에 맞춰 새 시설을 짓는 편이 효율적이라는 분석도 나왔다. 이에 따라 케이블, 전력 설비, 관리 소프트웨어를 포함한 투자가 함께 진행되고 있다. 내년 출시 예정인 ‘베라 루빈 울트라’는 GPU를 최대 576개 연결하고 기존보다 약 3배 많은 전력을 요구한다. 서버 트레이를 세로로 배치하는 새 랙 구조도 적용돼 일부 클라우드 업체는 구축 난관이 다시 커질 가능성을 신중하게 보고 있다.

자료: 엔비디아