[기획] 700억 매개변수로 키워도 원자 배치를 놓쳤다…재료 AI의 ‘기하학적 맹점’

레고 블록의 색과 개수를 모두 안다고 해서 완성된 다리의 강도를 알 수 있을까. 같은 부품을 써도 어느 블록을 어디에 끼웠는지에 따라 다리와 탑의 성질은 달라진다. 결정도 마찬가지다. 어떤 원소가 몇 개 있는지를 나타내는 조성뿐 아니라 원자 사이의 거리와 방향, 반복되는 배열이 물성을 좌우한다. 그런데 결정구조를 텍스트로 바꿔 언어모델에 제시한 연구에서, 시험한 모델들은 ‘부품 목록’은 잘 활용했지만 ‘조립 지도’에 담긴 추가 정보를 물성 예측에 효율적이고 일관되게 연결하지 못했다.

연구진은 Llama-2의 규모를 70억·130억·700억 매개변수로 키웠다. 별도의 BERT 실험에서는 표현별 사전학습 자료를 결정구조 3만·10만·30만·200만 개로 늘렸다. 700억 매개변수 모델을 200만 구조로 사전학습한 하나의 실험이 아니라, 모델 크기와 데이터 양을 따로 확대한 두 실험이다. 그럼에도 원자 좌표를 추가했을 때의 이점은 물성과 표현 전반에서 안정적으로 나타나지 않았다. 여기서 ‘좌표를 읽지 못했다’는 말은 숫자 문자를 파싱하지 못했다는 뜻이 아니다. 좌표가 제공하는 공간 정보를 물성 예측에 효과적으로 활용하지 못했다는 의미다.

원소와 좌표를 갈라 시험한 ‘CC-Cliff’

실제 재료에서는 조성과 구조가 강하게 얽혀 있다. 특정 원소 조합이 특정 구조와 함께 자주 나타난다면 모델은 원자 간 거리를 제대로 계산하지 않고도 조성의 상관관계만으로 그럴듯한 답을 낼 수 있다. 연구진은 이 교란을 걷어내기 위해 물성을 결정하는 신호를 원소의 종류·개수와 3차원 좌표·거리로 분리한 합성 데이터를 만들었다.

목표값은 α라는 비율을 이용해 범주 항과 좌표 항을 섞었다. α가 0이면 좌표와 거리만, 1이면 원소 종류와 개수만 목표값을 결정한다. 범주 항에는 UFF 원소 파라미터를, 좌표 항에는 이웃 사이 거리의 Lennard–Jones형 쌍대 상호작용을 사용했다. Lennard–Jones형 상호작용은 원자 사이 거리에 따라 끌림과 밀어냄을 단순화해 나타내는 계산이다. 실제 전자구조나 다체 상호작용, 장거리 정전기, 온도와 결함을 모두 재현한 물리모델은 아니며, 두 정보의 기여를 통제해 비교하기 위한 장치였다.

주된 변화 시험은 α가 0·0.2·0.4·0.6·0.8·1.0인 여섯 조건으로 진행했고, 좌표와 범주의 차이를 계산할 때는 α=0.5의 손실을 별도 기준으로 삼았다. 서로 다른 좌표·범주 구성을 지닌 6개 합성 데이터셋 모두에서 좌표 의존도가 클수록 손실이 커졌다. 연구진은 이를 ‘Coordinate–Category Cliff’, 즉 좌표와 범주 사이의 성능 절벽인 CC-Cliff라고 이름 붙였다.

단순한 unigram·bigram TF-IDF 특징과 XGBoost를 결합한 기준모델도 Transformer와 비슷한 CC-Cliff 변화를 보였다. unigram과 bigram은 문자 또는 토큰 하나와 두 개가 얼마나 자주 나타나는지를 세는 방식이다. 이 결과는 모델이 복잡한 공간 법칙보다 반복되는 문자열 패턴에 기대었을 가능성을 뒷받침했다. 다만 두 종류 모델의 내부 작동 방식이 완전히 같다는 증명은 아니다. attention 분석에서도 원소 기호는 상대적으로 높은 가중치를 받았지만 숫자 토큰에 전문화된 head, 즉 특정 정보에 집중하는 계산 갈래는 뚜렷하지 않았다. 이 역시 보조 증거일 뿐 내부 인과관계를 확정하지는 않는다.

CIF에 좌표를 더 담아도 예측이 더 좋아지지 않았다

연구진은 합성시험에 이어 실제 재료의 전단탄성률, 체적탄성률, 페로브스카이트 형성에너지 등 세 물성을 예측했다. 전단탄성률은 재료가 옆으로 비틀리거나 미끄러지는 변형에 얼마나 버티는지, 체적탄성률은 사방에서 압력을 받을 때 부피 변화에 얼마나 저항하는지를 나타낸다. 형성에너지는 특정 구조가 만들어질 때의 에너지 관계를 보여주는 값이다.

결정구조는 MatText가 제공하는 9가지 텍스트 표현으로 바꿨다. 조성 중심 표현은 Composition, Atom Sequence, Atom Sequence++였고, 국소환경 중심 표현은 SLICES와 Local-Env였다. 3차원 기하 중심 표현은 Crystal-Text-LLM, CIF P1, 대칭화 CIF, Z-matrix였다. 여기에 결정구조를 자연어로 설명하는 Robocrystallographer를 별도 입력으로 더해 전체 10개 입력을 비교했다.

결과는 정보량이 많아 보이는 표현이 반드시 더 좋은 예측으로 이어지지 않는다는 점을 보여줬다. 좌표를 직접 담지 않은 SLICES는 세 물성 모두에서 전체 좌표를 담은 CIF P1보다 나았다. 원자 주변 환경을 가공한 Local-Env도 전단탄성률과 체적탄성률에서 좌표 기반 표현과 비슷하거나 더 나은 성능을 보였다. ‘더 적은 정보가 더 나을 수 있다’는 논문 제목은 바로 이 역설을 가리킨다.

왜 이런 절벽이 생길까. 문장에서 가까이 놓인 단어와 실제 공간에서 가까운 원자는 같은 개념이 아니다. CIF 파일에서 멀리 떨어져 기록된 두 원자가 반복되는 결정 공간에서는 바로 이웃일 수 있다. 결정은 셀 경계를 넘어 주기적으로 이어지고, 구조 전체를 돌리거나 옮기거나 원자의 기록 순서를 바꿔도 같은 물리적 구조일 수 있다. 일반 텍스트 Transformer에는 이런 주기성·회전·병진·원자 순열에 대한 불변성이 구조적으로 보장되지 않는다.

조합의 크기도 문제다. 한 변이 20 Å인 셀을 0.1 Å 눈금으로 나누면 원자 하나가 놓일 후보는 약 800만 곳이다. 1 Å은 10⁻¹⁰m, 즉 0.1nm이므로 20 Å은 2nm이고 0.1 Å은 10⁻¹¹m다. 저자 계산에 따르면 ‘원자+위치’ 어휘는 10억 개를 넘으며, 두 원자의 위치쌍을 두 토큰 묶음처럼 다루면 가능한 공간은 조성만 쓸 때보다 약 6.4×10¹³배 커진다. 이는 실제로 필요한 학습자료 수를 측정한 결과가 아니라, 좌표를 문자열 패턴으로 익힐 때 맞닥뜨리는 조합 폭발을 설명한 이론적 예시다.

규모의 효과는 있었지만 기하학적 약점은 남았다

BERT 기반 실험은 9개 표현과 4개 데이터 규모를 조합해 36개 사전학습 모델을 만들었고, 전체 학습 작업은 2,000회를 넘었다. 평가는 5겹 교차검증으로 진행했다. 그러나 연구진이 조사한 표현과 목표에서 3만 개를 기준으로 한 데이터 확대의 RMSE 변화는 대체로 20% 미만이었다. RMSE는 예측값이 정답에서 얼마나 벗어났는지를 큰 오차에 더 무게를 두어 나타내는 지표로, 낮을수록 좋다.

그렇다고 규모 확대가 언제나 무효였던 것은 아니다. 전단탄성률과 체적탄성률에서는 변화가 작았지만, 형성에너지는 데이터 확대 때 Robocrystallographer에서 약 20%, 모델 확대 때 일부 기하 표현에서 최대 약 50%의 오차 감소가 나타났다. 다만 개선은 표현 전반에 일관되지 않았고 절대 성능도 기하학적 그래프 신경망보다 낮았다. 숫자의 크기와 소수 자릿수 순서를 보존하는 별도 tokenizer도 시험했지만 표현·물성·데이터 규모 전반을 관통하는 개선은 없었다.

공개된 MatBench의 6개 물성 결과를 다시 분류한 비교에서는 CoGN·SchNet·DimeNet 같은 기하학적 그래프 신경망이 선택된 언어·조성 기반 모델보다 낮은 오차를 보였다. 연구진은 이 시각적 분리를 ‘GNN–LM wall’이라고 불렀다. 그래프 신경망은 원자를 점으로, 원자 사이 관계를 선으로 표현해 주변 구조를 계산하는 모델이다. 그러나 이 비교는 모든 모델을 같은 조건에서 새로 훈련한 실험이 아니다. 모든 GNN이 모든 언어모델보다 언제나 우월하다는 법칙으로 확대해석할 수 없다.

LLM을 버리라는 결론이 아니라 역할을 나누라는 신호

이번 연구가 모든 Transformer의 3차원 학습 가능성을 부정한 것은 아니다. 시험 범위는 BERT encoder와 Llama-2 decoder 계열, 실제 물성 3종과 제한된 벤치마크였다. 700억 매개변수 실험도 좌표 자료로 모델을 처음부터 사전학습하거나 모든 파라미터를 조정한 것이 아니라, 기존 Llama-2를 LoRA와 4비트 NF4 양자화로 미세조정했다. 좌표를 연속 벡터로 직접 넣는 멀티모달 모델이나 회전과 이동을 구조적으로 다루는 SE(3)·E(3)-등변 Transformer, 기하학적 좌표 임베딩을 갖춘 최신 모델은 시험하지 않았다.

입력 길이의 영향도 남은 질문이다. 조성 중심 표현은 최대 32토큰, 여러 긴 표현은 512토큰, CIF P1과 대칭화 CIF는 1,024토큰으로 제한됐다. 큰 결정에서 정보가 잘리거나 압축된 영향과 순수한 기하 추론의 약점을 완전히 분리하기 어렵다. 최신 연구여서 조사 시점까지 독립 재현이나 공식적인 재현 실패도 확인되지 않았다.

따라서 현실적인 방향은 LLM과 기하학 특화 모델의 경쟁보다 역할 분담에 가깝다. LLM은 문헌과 조성 정보를 읽고 자연어 질의를 해석하며, 거리·방향·주기성에 민감한 계산은 그래프 신경망, 등변 신경망, 원자간 퍼텐셜이 맡는 결합형 시스템이다. KAIST의 ChatMOF도 이런 구조를 보여준다. LLM은 MOF 검색·물성 예측·구조 생성 요청을 해석하는 중앙 조정자이고, 실제 계산은 데이터베이스와 별도의 예측기·생성기가 수행한다. 보고된 과제 성공률은 검색 96.9%, 예측 95.7%, 생성 87.5%였지만 이는 좌표 이해 정확도가 아니라 계획 수립과 전문 도구 호출을 포함한 질의 완료율이다.

결정 데이터를 문장으로 바꾸는 순간 정보가 사라지는 것만이 문제는 아니다. 정보가 남아 있어도 모델의 구조가 그것을 물리적으로 올바르게 다루지 못할 수 있다. 이번 연구는 재료 AI를 크게 만드는 일과 공간을 이해하도록 설계하는 일이 서로 다른 과제임을 보여줬다. 원소의 주소록을 읽는 능력과 원자의 지도를 계산하는 능력을 구분하는 것, 그 구분이 앞으로의 재료 AI 시스템을 설계할 출발점이다.

자료: 프리드리히 실러 예나대학교·Helmholtz AI·Intel Labs·Springer Nature·국제결정학연합·KAIST·과학기술정보통신부