아크릴, GPU베이스로 GPU 활용률 90% 이상 입증

값비싼 GPU를 많이 확보하는 데서 나아가, 여러 장을 놀리지 않고 효율적으로 운영하는 기술이 AI 경쟁력의 새로운 과제로 떠오르고 있다. 아크릴은 독자 개발한 GPU 클러스터 최적화 소프트웨어 ‘GPU베이스(GPUBASE)’로 대규모 AI 인프라 시장을 공략한다고 밝혔다. GPU 클러스터는 여러 GPU를 한데 묶어 하나의 큰 연산 자원처럼 사용하는 시스템이다.

아크릴은 해외 주요 클라우드 기업들과 500~1000장의 GPU를 한꺼번에 구동하는 조건에서 확장성과 안정성을 시험했다. GPU를 잘게 나눠 여러 작업이 공유하도록 하고, 필요한 작업에 차례를 배정하는 스케줄링 기술을 적용한 결과 GPU 활용률이 90% 이상으로 높아졌다. 전체 작업 완료 시간은 최대 34%, 작업 큐 대기시간은 최대 93% 줄었다.

비용 절감 가능성도 제시했다. 해외 논문과 상용 사례를 종합하면 H100 GPU 512장 기준 네트워크 TCO, 즉 구매부터 운영까지 드는 총비용을 인피니밴드 방식보다 48% 낮춰 220만달러, 약 32억원을 절감할 수 있다는 설명이다. GPU 활용도를 평균 55%에서 85%로 높이면 구매 비용을 약 35% 줄여 400만달러, 약 57억원을 절약할 수 있다고 덧붙였다.

시험에서는 애저, AWS, 구글 클라우드 플랫폼마다 GPU 고속통신 방식과 관리형 쿠버네티스 설정이 다르다는 점도 확인했다. 쿠버네티스는 여러 서버의 작업과 자원을 자동으로 배치·관리하는 체계다. GPU베이스는 각 클라우드의 통신 환경과 연동했으며, 네트워크 드라이버와 권한, 장애 특성까지 처리하는 멀티클라우드 지원을 검증했다.

핵심 기술은 네 가지다. 다중경로 전송은 데이터를 여러 네트워크 길로 동시에 보내 특정 장비 의존도를 낮춘다. PeRF는 중요한 트래픽이 들어올 때 먼저 지나가도록 순서를 조정한다. GPU 동적 할당은 작업 크기에 맞춰 GPU를 즉시 배정하며, 멀티벤더 GPU 통합 관리는 엔비디아·AMD GPU와 국산 NPU 등 서로 다른 가속기를 하나의 자원 묶음처럼 다룬다. 아크릴은 이를 네트워크와 러스터 기반 병렬 저장장치까지 연동하는 AI 인프라 운영 플랫폼으로 발전시키고 있다.

사업화도 진행 중이다. 아크릴은 한컴과 33억원 규모의 고급형 GPU베이스 공급계약을 체결했다. H200 NVL GPU 서버, 직접액냉 랙, 고속 네트워크를 갖춘 모듈형 데이터센터와 GPU베이스를 함께 공급해 올해 3분기 중 완료할 예정이다. 이 운영 역량은 국내 5대 상급병원과 추진하는 AI 전자의무기록 중심 의료 플랫폼 ‘나디아 AX’ 사업에도 활용될 전망이다.

자료: 아크릴