단계 쪼개지 않고 단백질 설계…애플 AI '심플디자인' 공개

애플 연구진이 단백질의 아미노산 서열과 3차원 구조를 한 모델에서 동시에 만들어내는 인공지능(AI)을 내놨다. 기존 단백질 설계 모델이 여러 단계로 나눠 학습하던 과정을 한 단계로 줄인 것이 핵심이다.

애플 머신러닝 리서치가 소개한 논문 ‘심플디자인: 단백질 서열·구조 공동 설계를 위한 결합 모델(SimpleDesign: A Joint Model for Protein Sequence and Structure Codesign)’은 9월 3일 논문 사전공개 사이트 아카이브(arXiv)에 올라왔다. 애플 소속 연구자 7명이 저자로 참여했고, 국제 학술지 TMLR(Transactions on Machine Learning Research)에 게재됐다.

둘로 쪼갰던 학습을 한 번에

단백질의 기능은 아미노산 서열과 3차원 구조가 맞물려 결정된다. 기존의 다중 모드 설계 모델은 먼저 오토인코더(데이터를 압축했다가 되살리는 신경망)로 서열과 구조를 잠재 표현(원본을 압축한 내부 표현)으로 바꿔 학습하고, 그 잠재 공간에서 생성 모델을 다시 학습하는 2단계 방식을 주로 썼다.

연구진은 이런 다단계 학습이 반드시 필요하지는 않다고 보고, 원래 데이터 공간에서 곧바로 학습하는 방식을 택했다. 서열에는 이산 교차 엔트로피(정답 글자를 맞히도록 하는 학습 목표), 구조에는 회귀(연속된 수치를 맞히도록 하는 학습 목표)를 적용해 하나의 목표로 처음부터 끝까지 한 번에 학습한다. 서열과 구조의 성질이 다른 점은 ‘혼합 트랜스포머’ 구조로 다뤘다. 두 정보를 각각 따로 처리하면서도 전체에 걸친 자기 주의(입력의 어느 부분에 주목할지 모델이 스스로 정하는 계산)는 공유하는 방식이다.

학습에는 알파폴드 데이터베이스의 예측 구조를 모은 AFESM 자료 180만7333개와 스위스프롯 정제 자료 44만2511개를 합쳐 220만개가 넘는 서열·구조 쌍을 썼다. 학습 과정에서 데이터를 서로 다른 강도로 훼손시켜, 한 모델이 서열을 알 때 구조를 복원하는 일, 구조가 주어졌을 때 서열을 만드는 일, 양쪽을 함께 설계하는 일을 모두 처리하도록 했다.

경쟁 모델과 대등, 생체 검증은 남아

연구진은 공동 설계와 서열·구조 단독 생성 벤치마크에서 경쟁 모델들과 대등한 성적을 냈다고 밝혔다. 다만 만들어낸 구조가 얼마나 일관되게 접히는지를 재는 지표에서는 기하 구조에 특화된 생성 모델들이 아직 경쟁력을 갖고 있다고 논문에 함께 적었다. 생성한 단백질이 실제 생체에서 접히고 기능하는지 확인하는 실험 검증은 이번 연구에 포함되지 않았다.

자료: 애플 머신러닝 리서치