조직 이미지와 유전자 발현 함께 분석…GIST, 조직 영역 구분하는 AI 'ST-ConMa' 개발

겉으로 보이는 모습은 똑같아도, 우리 몸의 조직은 속에서 작동하는 유전자가 위치마다 다르다. 광주과학기술원(GIST·총장 임기철) AI학과 이현주 교수 연구팀이 조직의 생김새를 담은 이미지와 유전자 활동 정보를 함께 분석해, 눈으로 보는 것만으로는 알기 어려운 조직 내부의 미세한 영역별 차이를 찾아내는 인공지능(AI) 프레임워크 '에스티 콘마(ST-ConMa)'를 개발했다고 밝혔다. 조직 사진만으로는 똑같아 보이는 부위라도, 유전자 정보를 더하면 서로 다른 특성을 지닌 영역으로 구분해낼 수 있다는 것이다.

사람의 장기와 신체 조직은 같은 장기 안에서도 위치에 따라 세포 종류와 '유전자 발현', 즉 어떤 유전자가 얼마나 활발하게 작동하는지가 달라진다. 이런 차이는 조직을 찍은 사진만 봐서는 알기 어렵고, 각 위치에서 유전자가 얼마나 활동하는지를 측정한 정보까지 함께 들여다봐야 비로소 드러난다. 조직 이미지는 세포의 생김새와 배열 같은 구조적 특징을 보여주지만, 그 안에서 실제로 어떤 유전적 활동이 벌어지고 있는지는 알려주지 않는다. 반대로 유전자 발현 정보만으로는 그 활동이 조직의 어느 구조적 위치에서 일어나는지를 직관적으로 파악하기 어렵다. 두 정보가 서로를 보완해야 비로소 조직의 전체 상을 온전히 이해할 수 있는 셈이다.

기존의 분석 방법들은 이런 두 종류의 정보를 각각 따로 학습한 뒤, 두 결과가 얼마나 맞아떨어지는지를 사후에 비교하는 방식에 머물러 있었다. 이미지 분석 모델과 유전자 발현 분석 모델을 독립적으로 돌리고 나서 두 출력을 끼워 맞추는 식이다 보니, 이미지와 유전자 정보 사이에 숨어 있는 세밀한 상호관계까지 처음부터 함께 학습하는 데는 한계가 있었다는 것이 이번 연구의 출발점이다. ST-ConMa는 이런 한계를 넘어서기 위해, 조직의 형태와 유전자 활동의 관계를 대규모 데이터로 처음부터 동시에 학습하도록 설계됐다. 이미지만 보고 유전자 활동을 추정하거나, 반대로 유전자 정보만으로 조직의 구조적 특징을 짐작하던 기존 접근과 달리, 두 정보를 하나의 틀 안에서 함께 다루는 방식을 택한 것이다. 이렇게 하면 모델이 이미지의 특정 패턴과 유전자 발현의 특정 양상이 함께 나타나는 관계 자체를 학습할 수 있어, 둘을 따로 보던 때보다 더 정교한 판단이 가능해진다.

연구팀은 약 98만 1천 개에 이르는 '조직 이미지-유전자 정보 쌍'을 ST-ConMa에 학습시켰다. 이는 조직 이미지와 유전자 발현 정보를 짝지은 대규모 데이터로, 모델이 다양한 조직 상황을 폭넓게 익히는 바탕이 됐다. 그 결과 유전자 발현을 얼마나 정확하게 예측하는지를 보여주는 12개 평가 지표 가운데 10개에서 기존 비교 모델들을 앞서는 최고 성능을 기록했으며, 기존 모델 대비 성능이 12.9% 향상된 것으로 나타났다. 여러 평가 지표에서 고르게 기존 모델을 앞섰다는 점은, 이 프레임워크가 특정 조직이나 특정 조건에만 맞춰진 것이 아니라 비교적 폭넓은 상황에 적용될 수 있다는 가능성을 보여준다.

구조가 복잡해 영역 구분이 까다로운 뇌 조직에서도, 겉모습만으로 구분하던 기존 모델보다 영역 구분 정확도가 높아진 것으로 확인됐다. 뇌처럼 세포 구성이 복잡하고 영역 간 경계가 불분명한 조직은 사진만으로 구획을 나누기가 특히 어려운데, 유전자 활동 정보를 함께 활용함으로써 이런 까다로운 조직에서도 더 세밀한 경계 구분이 가능해졌다는 뜻이다. 조직 사진에서는 드러나지 않는 미세한 경계를, 유전자 활동 정보를 더해 더 정밀하게 나눌 수 있다는 의미이기도 하다.

이번 연구는 이현주 교수가 지도하고 염태림 석박사통합과정생이 제1저자로 참여했다. 연구 결과는 국제학술지 브리핑스 인 바이오인포매틱스(Briefings in Bioinformatics)에 2026년 9월 28일 온라인 게재됐다. 연구는 과학기술정보통신부와 한국연구재단의 중견연구자지원사업, 과학기술정보통신부와 정보통신기획평가원의 AI 최고급 신진연구자 지원사업의 지원을 받아 수행됐다.

자료: 광주과학기술원(GIST)