GPU 2만개의 진짜 질문은 ‘누가 병목을 지배하는가’다

문샷 AI가 알리바바 GPU 2만개를 활용해 ‘키미 K3’를 개발했다는 소식에서 필자의 눈을 붙든 것은 새 모델의 이름이 아니라 그 뒤에 놓인 거대한 계산 자원이다. 이제 생성형 AI 경쟁은 참신한 알고리즘만으로 승부하는 경주가 아니다. 누가 대규모 연산 기반에 접근하고, 그 병목을 통제하며, 이를 얼마나 효율적으로 지능으로 바꾸느냐를 겨루는 산업전이 됐다고 본다.

모델보다 먼저 보이는 기반 권력

GPU는 수많은 계산을 동시에 처리하는 AI용 핵심 가속 장치다. 그러나 2만개라는 숫자가 곧 모델의 우수성을 보증하지는 않는다. 대형 AI를 학습하려면 GPU뿐 아니라 장치들을 빠르게 연결하는 통신망, 데이터를 공급하는 저장장치, 전력과 냉각 설비, 오류를 줄이는 학습 소프트웨어가 함께 움직여야 한다. GPU가 많아도 연결과 운영이 비효율적이면 값비싼 장비가 서로를 기다리는 시간이 늘어난다.

그럼에도 이 숫자는 중요한 현실을 보여준다. 최첨단급 모델을 만들려는 스타트업은 거대 플랫폼이나 클라우드 사업자의 자본·장비·운영 능력과 결합하지 않고서는 경쟁하기 어려워지고 있다. 자원이 집중되면 개발 속도는 빨라질 수 있다. 반면 장비 사용 조건과 비용, 서비스 유통 경로까지 기반 제공자가 쥐게 되면 모델 기업의 기술적 독립성과 협상력은 약해질 수 있다. AI 생태계의 다양성이 겉보기보다 취약해지는 지점이다.

한국이 세야 할 것은 장비가 아니라 성과다

우리도 국가 AI 경쟁력을 말할 때 GPU 확보 대수를 앞세우기 쉽다. 하지만 구매 실적만으로는 부족하다. 같은 자원으로 얼마나 짧게 학습했는지, 전력과 비용을 얼마나 줄였는지, 실제 서비스에서 답을 생성하는 추론 비용은 얼마인지까지 공개하고 평가해야 한다. 안전성 검증과 데이터 관리 책임 또한 성능 발표 뒤로 밀려서는 안 된다.

공공 AI 인프라 역시 장비 창고가 아니라 공동 연구 기반으로 설계해야 한다. 대학과 작은 기업이 예측 가능한 기준으로 자원을 배정받고, 학습 결과를 재현하며, 실패 경험도 축적할 수 있어야 한다. 국산 가속기 육성도 칩 한 종류의 개발에 머물지 말고 통신·냉각·컴파일러·운영 소프트웨어까지 묶는 생태계 전략으로 이어져야 한다.

키미 K3의 성패는 앞으로 실제 성능과 활용에서 판가름 날 것이다. 다만 지금 분명한 것은 AI 주도권이 모델 화면 안에서만 결정되지 않는다는 사실이다. 필자는 GPU 2만개를 부러워하기 전에 누가 그 자원에 접근하고, 누가 규칙을 정하며, 사회가 어떤 성과를 돌려받는지 물어야 한다고 본다. 그 질문에 답할 수 있을 때 비로소 계산 자원은 숫자가 아니라 경쟁력이 된다.