위암 진단 순서 본뜬 AI ‘AUGUST’…19개 계층형 과제 처리

감염 여부를 먼저 살피고 병변의 종류와 암의 세부 특성을 차례로 좁혀 가는 병리 진단 순서를 인공지능에 적용한 연구 결과가 나왔다. 고려대학교 전기전자공학부 곽진태 교수 연구팀은 19개 계층형 과제를 단계적으로 처리하는 위 질환 진단 AI 모델 ‘AUGUST’를 개발했다고 밝혔다.

AUGUST는 ‘Adaptive Unified Gastric diagnosis Using Sequential Tasks’의 약자다. 하나의 조직 영상만 보고 위암인지 아닌지를 곧바로 답하는 단일 분류 모델이 아니다. 헬리코박터 파일로리 감염 여부를 살핀 뒤 염증·양성종양·이형성·암을 구분하고, 이어 세부 아형과 등급을 판단하도록 진단 과정을 연결했다.

디지털 병리 AI는 글과 조직 영상처럼 형태가 다른 정보를 함께 이해하는 다중모달 파운데이션 모델로 발전해 왔다. 다중모달은 서로 다른 종류의 데이터를 함께 다룬다는 뜻이고, 파운데이션 모델은 여러 과제에 활용할 수 있도록 폭넓게 학습한 기반 모델을 말한다. 그러나 기존 방식은 앞선 판단을 다음 세부 진단에 반영하는 병리의사의 순차적 추론 과정을 구현하는 데 한계가 있었다.

연구진은 2014년부터 2023년까지 가톨릭대학교 의정부성모병원에서 확보한 조직 영상 6,913장과 질의응답 2만7,069쌍으로 AUGUST를 학습했다. 내부 시험에는 5,166장을 사용했고, 외부 3개 데이터셋에서는 1만993장을 평가했다. 학습과 평가에 포함된 전체 규모는 조직 영상 2만3,072장, 질의응답 7만9,924쌍이었다.

완전자동 평가에서 AUGUST의 데이터셋·과제 전체 평균 F1은 0.722였다. F1은 정답으로 잡아낸 비율과 모델이 내놓은 답의 정확성을 함께 반영하며 1에 가까울수록 성능이 높은 지표다. 비교군 가운데 가장 높은 다중 인스턴스 학습 모델은 0.614, 비전언어모델은 0.508, 파운데이션 모델은 0.132를 기록했다.

내부와 외부 데이터셋별 F1은 각각 0.780, 0.780, 0.703, 0.625였다. 각 데이터셋에서 최상위 대안 모델과 비교한 차이는 모두 p값 0.0001 미만이었다. 이는 연구에서 관측된 성능 차이를 우연한 결과로 보기 어렵다는 통계적 결과다.

상위 단계 판단을 정답으로 교정한 모의 인간개입 평가에서는 평균 F1이 0.021 높아졌다. 다만 AUGUST도 전체 예측의 30.20%에서 상위 단계 교정이 필요했다. 계층형 구조는 여러 진단을 하나의 경로로 연결하지만, 앞 단계 판단이 이후 세부 분류에 이어지는 구조라는 점도 수치로 확인됐다.

국가암정보센터의 2023년 암등록통계에 따르면 국내 위암 신규 환자는 2만8,943명으로 전체 암의 10.0%를 차지해 발생 순위 5위였다. 남성 신규 환자는 1만9,295명으로 남성 암 가운데 3위였다. 위 조직을 더 세밀하게 분류하는 기술의 의미를 살펴봐야 하는 배경이다.

앞서 한국과학기술원과 충남대학교 연구진은 2023년 위 조직을 5개 하위 유형으로 분류하는 다중척도 비전 트랜스포머를 발표했다. 여러 기관 자료를 이용한 시험에서 클래스 평균 민감도 0.85 이상을 보고했다. 민감도는 실제 해당 유형인 조직을 모델이 놓치지 않고 찾아낸 비율이다. AUGUST는 이 같은 개별 분류 과제를 감염 여부부터 암의 아형과 등급까지 이어지는 계층적 질의응답 경로로 묶었다는 점에서 차이가 있다.

미국 식품의약국은 디지털 병리 기기의 임상 도입을 위한 핵심 과제로 표준화된 시험법, 병리의사의 기준 주석, 결과의 재현성, 기관이 달라져도 성능을 유지하는 일반화 검증을 제시하고 있다. AUGUST가 외부 3개 데이터셋에서 받은 평가는 기관별 자료 차이를 살피는 근거를 제공하며, 상위 단계 교정 결과는 순차 추론 과정에서 어떤 판단을 점검해야 하는지도 함께 보여준다.

자료: 고려대학교 전기전자공학부, 가톨릭대학교 의정부성모병원, npj Digital Medicine·Springer Nature, 국가암정보센터·국립암센터, 한국과학기술원(KAIST), 미국 식품의약국(FDA)