문샷 AI, 차세대 ‘키미 K4’ 개발 착수…블랙웰 추가 확보 추진

미국의 고성능 AI 반도체 수출 규제가 이어지는 가운데 중국 문샷 AI가 기존 모델보다 더 큰 ‘키미 K4’를 개발하고 엔비디아 블랙웰 칩을 추가로 확보하는 방안을 추진하는 것으로 전해졌다.

복수의 소식통에 따르면 문샷 AI는 초거대 오픈소스 AI 모델 ‘키미 K3’의 뒤를 이을 K4 개발 계획을 논의하고 있다. K4는 2조8000억개의 매개변수를 갖춘 K3보다 훨씬 큰 규모로 구상됐다. 매개변수는 AI가 학습 과정에서 조정하는 값으로, 모델의 지식과 계산 구조를 이루는 요소다. 모델이 커질수록 학습에 더 많은 고성능 반도체와 컴퓨팅 자원이 필요하다.

문샷 AI는 K4 개발을 위해 엔비디아의 최신 AI 가속기인 블랙웰을 더 확보하려는 것으로 알려졌다. 미국은 2022년부터 국가안보를 이유로 블랙웰을 비롯한 고성능 AI 반도체의 중국 수출을 금지하고 있다. 다만 일부 해외 데이터센터에서는 중국 기업이 엔비디아 GPU를 사용할 가능성이 있다.

마이클 크라치오스 미국 백악관 과학기술정책실 실장은 문샷 AI가 태국 데이터센터에서 K3를 학습했다고 주장했다. 반면 관계자들은 학습의 상당 부분이 중국에서도 이뤄졌다고 전했다. 중국의 데이터 국외 이전 규제로 대규모 사전학습에 필요한 방대한 데이터를 해외로 옮기기 어려웠다는 설명이다. 사전학습은 AI가 서비스를 시작하기 전에 많은 자료를 읽으며 기본 능력을 갖추는 과정이다.

문샷 AI는 K3 학습 당시 최소 두 곳 이상의 중국 클라우드 사업자로부터 블랙웰 GPU를 확보한 것으로 전해졌다. 단일 업체가 충분한 수량을 공급하지 못하자 여러 GPU 서버를 연결했고, 서로 다른 데이터센터 사이의 통신을 빠르게 하기 위해 네트워크 구조도 개선한 것으로 알려졌다.

K3 서비스에는 중국 판매가 허용된 엔비디아 H20 GPU가 대량으로 사용됐다. 문샷 AI는 클라우드 사업자들에게 최소 64개의 서버용 GPU를 연결하도록 권장했다. 그러나 출시 뒤 컴퓨팅 자원이 빠르게 소진되면서 48시간 만에 신규 구독 접수를 중단했고, 자원을 추가 확보한 뒤 서비스를 재개하겠다고 밝혔다.

중국에서는 추론, 즉 학습을 마친 AI가 이용자의 질문에 답을 만드는 단계에 국산 반도체 채택이 확대되고 있다. 하지만 초거대 모델 학습에서는 안정성과 고속 네트워킹 문제로 엔비디아 GPU 의존도가 여전히 큰 것으로 전해졌다. 미국 상무부 산업안보국은 문샷 AI를 비롯한 중국 기업들의 첨단 AI 칩 사용 여부를 공식 조사하고 있는 것으로 알려졌다.

자료: 문샷 AI