오픈 웨이트 선언 불참한 앤트로픽 “개방형 모델 금지 주장 아니다”

미국 주요 인공지능 기업 가운데 유일하게 오픈 웨이트 지지 선언에 참여하지 않은 앤트로픽이 개방형 모델을 금지하려는 것이 아니라 국가안보 위험에 초점을 맞춘 결정이라고 해명했다. 오픈 웨이트는 AI가 학습하며 만든 가중치, 즉 답을 만들어내는 데 쓰이는 핵심 수치들을 공개하는 방식을 뜻한다.

엔비디아와 메타, 마이크로소프트 등 20여개 기업은 지난 24일 ‘오픈 웨이트와 미국의 AI 리더십’ 공동 성명에 서명하고 개방형 가중치 모델의 중요성을 강조했다. 주말에는 오픈AI와 구글, 스페이스X 등도 합류했다. 27일 현재 주요 AI 기업 중 앤트로픽만 참여하지 않으면서 개방형 AI를 반대하거나 자체 사업을 보호하려는 것 아니냐는 비판이 나왔다.

다리오 아모데이 앤트로픽 최고경영자는 27일 공식 블로그에서 개방형 가중치 모델을 전면 금지하자는 입장을 취한 적이 없고 앞으로도 그럴 계획이 없다고 밝혔다. 위험한 능력을 갖추지 않은 개방형 모델은 기업과 개발자, 연구자에게 큰 가치를 제공하는 공공재이며, 미국 기업의 개방형 모델 사용을 금지하는 보호주의 정책으로는 국가안보 문제를 해결할 수 없다는 설명이다.

아모데이 CEO가 지목한 위험은 권위주의 국가가 미국보다 강력한 AI를 개발해 군사적 우위를 확보하거나 대규모 감시 체계를 구축하는 상황이다. 고성능 AI가 사이버 공격이나 생물학적 공격에 악용될 가능성도 함께 제시했다.

“개방형 모델과 대규모 증류는 별개”

앤트로픽은 대응책으로 중국에 대한 첨단 AI 반도체와 반도체 제조장비 수출 통제 강화, 산업 규모의 불법 모델 증류 단속, 개방형과 폐쇄형을 구분하지 않는 고성능 AI 모델의 의무적 안전성 평가를 제안했다. 모델 증류는 처음부터 모델을 학습하는 것보다 훨씬 적은 연산 자원으로 성능을 끌어올리는 방법이다. 아모데이 CEO는 중국이 미국과의 AI 기술 격차를 빠르게 좁히는 수단으로 이를 활용할 수 있다고 우려했다.

다만 문제의 대상은 개방형 모델이 아니라 권위주의 국가가 지원하는 대규모 증류 작업이라고 선을 그었다. 개방형 모델을 일괄적으로 금지하는 방식은 올바른 해법이 아니라는 주장이다.

앤트로픽은 공동 성명이 제시한 AI 경제 확대와 경쟁 촉진, 이용자 통제권 강화에는 대체로 동의했다. 그러나 개방형 모델이 반드시 보안을 강화하고 공격보다 방어 측에 더 큰 이익을 준다는 주장에는 동의하기 어렵다며, 이런 판단은 충분한 안전성 평가로 검증해야 한다고 밝혔다.

자료: 앤트로픽