의료 AI의 설명, 반복 학습에도 같아야 믿을 수 있다

의료 인공지능(AI)이 뇌 MRI에서 질환 가능성뿐 아니라 판단 근거까지 보여주더라도, 그 설명이 반복해서 일관되게 나타나는지 검증해야 믿을 수 있다는 연구 결과가 나왔다.

고려대 인공지능학과 크리스티안 왈라븐 교수 연구팀은 고려대 안암병원 영상의학과 유성혜·김보규·박아림 교수팀과 함께 의료 AI의 설명을 평가하는 여러 지표를 비교했다고 24일 밝혔다.

연구 결과, AI를 반복적으로 학습해도 설명이 얼마나 일관되게 유지되는지를 따지는 ‘강건성(Robustness)’이 임상 근거와 가장 안정적으로 부합했다. 강건성은 학습 조건이 달라져도 AI가 판단 근거로 비슷한 뇌 부위를 계속 짚는지를 살피는 기준이다.

그럴듯한 설명과 믿을 만한 설명은 달라

딥러닝 AI는 수많은 계산 단계를 거쳐 결과를 내놓기 때문에 사람이 전체 과정을 하나씩 따라가기 어렵다. AI가 이상 소견을 제시해도 의료진이 판단 이유를 명확히 파악하기 어려운 현상을 내부를 볼 수 없는 상자에 빗대 ‘블랙박스’ 문제라고 부른다.

이를 보완하는 기술이 설명가능 인공지능(XAI)이다. AI가 중요하게 본 뇌 영역을 지도처럼 색으로 표시해 의료진이 판단 근거를 눈으로 확인하도록 돕는다.

하지만 같은 구조의 AI를 다시 학습했을 때 전혀 다른 뇌 부위를 가리킨다면, 처음의 설명이 특정 학습 과정에서 우연히 만들어졌을 가능성이 있다. 설명이 단순하고 이해하기 쉬운지만 보는 것으로는 임상적으로 의미 있는 부위를 제대로 짚었는지 충분히 확인하기 어렵다는 것이다.

자료: 고려대학교