[기획] AI가 단백질을 설계한다…알파폴드 이후 신약의 시대

병원에서 맞는 항체 치료제, 숨을 쉴 때 산소를 나르는 헤모글로빈, 음식을 분해하는 소화효소에는 공통점이 있다. 모두 단백질이라는 점이다. 근육까지 포함하면 우리 몸은 사실상 약 2만 종의 ‘단백질 기계’로 움직인다. 이 기계의 성능을 정하는 것은 재료 목록만이 아니다. 아미노산이 실처럼 이어진 사슬이 어떤 3차원 모양으로 접히느냐에 따라 기능이 완전히 달라진다. 조금만 잘못 접혀도 알츠하이머병의 아밀로이드 단백질 오접힘처럼 질병으로 이어질 수 있다.

아미노산 서열만 보고 완성된 입체 구조를 맞히는 일은 ‘설명서 없이 레고 부품 목록만 보고 완성품 모양을 알아내는 것’만큼 어려웠다. 반세기 넘게 생물학의 난제로 남았던 이 문제를 인공지능(AI)이 사실상 풀었다. 그리고 연구의 전선은 한 걸음 더 나아갔다. 질병 표적이라는 자물쇠의 모양을 알아내는 데서 끝나지 않고, 거기에 맞는 치료용 단백질이라는 열쇠를 자연에 없던 형태로 처음부터 설계하는 단계다.

출발점은 오래됐다. 1962년 존 켄드루와 막스 페루츠가 X선 결정학으로 단백질 구조를 처음 규명해 노벨화학상을 받았다. 1972년 크리스티안 안핀센은 아미노산 서열이 폴리펩티드 사슬의 접힘 방식을 결정한다는 원리를 발견해 같은 상을 받았다. 서열을 알면 구조도 계산할 수 있어야 한다는 뜻이었지만, 실제 계산은 풀리지 않았다. 1994년 예측 능력을 겨루는 국제대회 CASP가 시작된 이유다.

전환점은 구글 딥마인드의 알파폴드였다. 2018년 CASP13에서 초기 모델이 약 60% 정확도로 두각을 나타냈고, 2020년 CASP14에서는 알파폴드2가 실험적 방법에 맞먹는 수준으로 압도적 우승을 차지했다. 단백질 백본, 즉 전체 형태를 떠받치는 주사슬의 오차 중앙값은 0.96Å RMSD였다. RMSD는 예측 구조와 실제 구조의 원자 위치가 평균적으로 얼마나 어긋났는지 나타내는 척도다. 다음으로 좋은 모델의 오차는 2.8Å였다. 1Å(옹스트롬)은 0.1나노미터, 원자 하나의 지름 정도다. 단백질 모형을 축구장만 하게 키우면 예측 오차가 손가락 한 마디 정도라는 감각이다. CASP 주최 측은 이를 두고 50년 단백질 접힘 문제가 풀렸다고 인정했다.

성과는 2024년 노벨화학상으로 이어졌다. 절반은 계산 단백질 설계를 개척한 워싱턴대 데이비드 베이커 교수에게, 나머지 절반은 알파폴드2를 개발한 구글 딥마인드의 데미스 하사비스와 존 점퍼에게 돌아갔다. 베이커 교수는 자신이 “거인들의 어깨 위에 서 있었다”며 앞선 과학자들의 공로를 인정했고, 알파폴드가 “AI가 가질 수 있는 힘을 우리에게 각인시켰다”고 말했다.

2억 개 구조를 열고, 분자 사이 만남까지 본다

변화의 폭은 숫자로 드러난다. 전 세계 실험실이 X선 결정학과 냉동전자현미경으로 60여 년간 규명한 단백질 구조는 약 19만 개였다. 2021년 7월 처음 공개된 알파폴드 데이터베이스에는 21개 모델생물의 구조 36만 개가 담겼고, 지금은 100만 종 이상 생물에서 예측한 약 2억 개 구조가 공개돼 있다. 2024년 10월 기준 190개국 200만 명 이상이 알파폴드2를 썼다.

사람 몸의 약 2만 종 단백질 가운데 실험적으로 구조가 밝혀진 비율은 알파폴드 이전 약 17%에 그쳤다. 이제 인체 단백질 전체 목록(프로테옴)의 약 98%에 예측 구조가 있고, 절반 이상은 신뢰도가 높거나 매우 높다. 2024년 5월 공개된 알파폴드3는 단백질 한 분자의 모양을 넘어 단백질과 DNA·RNA·약물 분자가 어떻게 맞물리는지까지 예측한다. 기존 방법보다 정확도가 최소 50% 향상됐고 일부 중요한 상호작용에서는 두 배에 이르렀다. 수개월 걸리던 신약 후보물질과 표적 단백질의 결합 계산을 몇 시간 안에 수행하고, 항체와 항원이 만나는 방식의 예측도 개선했다.

구조 예측이 자물쇠 사진을 정밀하게 읽는 일이라면, 단백질 설계는 그 자물쇠에 맞는 열쇠를 새로 만드는 일이다. 베이커 교수는 1990년대부터 계산 소프트웨어 로제타를 개발했다. 2003년 그의 연구팀은 원하는 3차원 구조를 먼저 그린 뒤 그것을 만들 아미노산 서열을 역산해 93개 아미노산으로 이뤄진 ‘Top7’을 합성했다. X선 결정학 검증도 통과했다. 자연이 38억 년 진화로 만든 설계도 목록 밖에서 사람이 외형을 정하고, 건축물의 골조처럼 이를 지탱할 서열을 거꾸로 계산한 첫 사례였다.

2023년 7월 발표된 RFdiffusion은 확산모델, 즉 이미지 생성 AI와 같은 원리로 새로운 단백질 구조를 생성한다. 최대 600개 아미노산 길이의 단백질과 특정 표적에 붙는 결합 단백질을 처음부터 설계할 수 있다. 약물저항성 폐암 환자의 종양 신생항원을 입력한 사례에서는 36시간 만에 항체 후보 12개를 만들었고, 이 가운데 3개가 오가노이드(인체 장기의 특징을 본뜬 장기유사체) 모델에서 의미 있는 종양 살상 효과를 보였다. 임상 결과가 아니라 후보를 빠르게 만들고 실험으로 좁혀간 사례다. 2025~2026년 공개된 RFdiffusion2와 RFdiffusion3는 원자 단위 모델링으로 DNA·단백질·저분자와 상호작용하는 단백질까지 설계 범위를 넓혔고, 효소 설계 성능은 자연 효소에 근접하는 수준으로 발전했다.

응용은 백신과 신약으로 이어지고 있다. 알파폴드는 코로나19 바이러스 단백질 구조 규명과 치료제 후보 발굴, 신규 백신 설계에 기여했다. 워싱턴대 닐 킹 교수팀은 바이러스 스파이크 단백질의 수용체결합부위 60개를 한 표면에 배열한 자가조립 단백질 나노입자 백신을 설계했다. 생쥐 실험에서는 기존 스파이크 단백질 백신보다 다섯 배 적은 용량으로도 중화항체가 열 배 높게 유도됐다. 스탠퍼드대·토론토대·인실리코 메디슨 연구진은 알파폴드로 간세포암 표적을 고르고, 예측 구조를 바탕으로 신규 저분자 화합물을 설계·합성해 생물학적으로 검증했다.

한국의 설계 경쟁, 빠른 후보 뒤에는 긴 검증이 남는다

국내에서도 예측을 설계와 센서로 연결하는 연구가 나왔다. KAIST 생명과학과 이규리 교수팀은 베이커 교수와 함께 코티솔을 포함한 여섯 종류의 화합물을 각각 선택적으로 인식하는 인공 결합 단백질을 처음부터 설계하고 실험으로 검증했다. 다양한 결합 포켓, 즉 작은 분자가 들어맞는 단백질 속 공간과 딥러닝·분자 도킹을 결합한 방식이다. 코티솔 인식 단백질에는 화학유도 이합체 구조와 루시퍼레이즈를 연결했다. 루시퍼레이즈는 반딧불이가 빛을 낼 때 쓰는 효소로, 코티솔이 붙으면 빛나는 바이오센서가 됐다. 연구 결과는 2026년 3월 28일 국제학술지 네이처 커뮤니케이션스에 실렸다. 이 교수는 “이번 연구는 AI를 활용해 특정 화합물을 정밀하게 인식하는 단백질 설계 가능성을 실험적으로 입증한 사례”라고 밝혔다.

산업계에서는 한미약품이 제한된 실험 데이터로 단백질 서열과 약리 활성의 관계를 분석하는 자체 플랫폼 HARP-pSAR를 공개했다. AI가 새 서열의 활성을 예측하고 후보 설계 방향을 제안해 실험 횟수와 개발 기간을 줄이는 방식이다. 이 플랫폼으로 지방은 선택적으로 줄이고 근육량은 늘리는 것을 목표로 한 비만 신약 후보 HM17321을 도출했으며, 현재 미국에서 임상시험이 진행 중이다. 회사는 이를 “세계 최초 근육 증가 비만 신약”으로 소개했다.

빠른 계산이 곧바로 약을 뜻하지는 않는다. 알파폴드 계열은 안정적인 결정질 구조 예측에 강하지만, 계속 움직이거나 일정한 모양이 없는 ‘본질적으로 무질서한 영역’에서는 정확도가 떨어진다는 연구도 있다. 컴퓨터가 만든 단백질이 세포 안에서 의도대로 안전하게 작동하는지는 임상시험을 포함한 긴 검증을 거쳐야 한다. AI가 수개월~수년 걸리던 구조 확인을 몇 시간~며칠로 줄이고 후보의 출발점을 넓힌 것은 분명하지만, 승인과 상용화를 자동으로 보장하지는 않는다. 알파폴드 이후 신약의 시대를 가르는 기준은 얼마나 많이 설계했느냐보다, 그 설계를 얼마나 엄밀하게 현실에서 증명하느냐가 될 것이다.

로제타폴드의 1저자, 서울에서 다음 판을 준비한다

노벨상 무대에 오른 이 혁명에는 한국인 주역이 있다. 백민경 서울대 생명과학부 교수는 2019년부터 2022년까지 베이커 교수 연구실에서 박사후연구원으로 일하며, 알파폴드2와 같은 시기에 공개된 또 하나의 구조 예측 AI ‘로제타폴드’ 개발 논문의 1저자를 맡았다. 이 성과는 알파폴드와 함께 사이언스가 꼽은 2021년 ‘올해의 연구’에 올랐다. 귀국 후 백 교수는 단백질을 넘어 생체분자 전반의 구조·상호작용 예측으로 연구를 넓히고 있으며, LG AI연구원과 차세대 구조 예측 AI 공동 개발에도 나섰다.

데이터 쪽에서는 정부가 판을 깔았다. 보건복지부와 과학기술정보통신부는 2024년 7월부터 2028년 말까지 348억 원을 들여 연합학습 기반 신약개발 프로젝트 ‘K-멜로디(K-MELLODDY)’를 진행 중이다. 연합학습은 제약사·병원이 민감한 데이터를 한곳에 모으는 대신 각자 서버에서 학습한 결과만 공유하는 방식으로, 약물의 흡수·분포·대사·배설·독성(ADMET)을 예측하는 공동 AI 모델을 만드는 것이 목표다.

‘연매출 1조 신약 2개’ — 정부 계획이 세운 과녁

정부의 목표는 이미 숫자로 제시돼 있다. 보건복지부 등 관계부처가 2023년 3월 확정한 제3차 제약바이오산업 육성·지원 종합계획(2023~2027)은 AI·빅데이터 활용 신약개발을 집중 지원 대상으로 못 박고, 2027년까지 연매출 1조 원 이상 ‘블록버스터급’ 신약 2개 창출, 글로벌 50대 제약사 3곳 배출, 의약품 수출 두 배(81억→160억 달러) 달성을 내걸었다.

계획은 돈줄과 사람도 함께 짚었다. 1조 원 규모의 K-바이오백신 펀드 조성, 임상·규제과학과 IT-생명공학 융복합 전문인력 양성이 대표 과제다. AI로 빨라진 후보 설계를 허가와 시장까지 끌고 갈 체력은 결국 데이터·자본·인력에서 나온다는 것이 이들 정부 문서의 공통 진단이다.

자료: EMBL, 라스커재단, 구글 딥마인드, 이소모픽 랩스, 워싱턴대 단백질설계연구소, KAIST, 한미약품, 스탠퍼드대, 토론토대·보건복지부·과학기술정보통신부·서울대학교·LG AI연구원