[기획] 0.65초 뒤 소행성이 온다…뇌 깊은 ‘장벽핵’은 불확실할 때 달라졌다

자료사진은 장벽핵의 위치를 보여주는 인체 뇌 표본이며, 이번 연구 참가자의 뇌를 촬영한 사진은 아니다.

화면 속 우주선을 위로 옮길까, 아래로 내릴까. 소행성이 나타난 뒤 충돌하거나 피했다는 결과가 나오기까지 걸리는 시간은 평균 0.65초, 범위는 0.48~0.9초였다. 눈앞의 위험을 확인한 다음 반사적으로 움직이기에는 짧았다. 참가자들은 앞서 어느 쪽에 통로가 열렸는지 기억하고, 다음 안전구역을 예상해 우주선을 미리 옮겨야 했다. 이들이 결정을 내리는 동안 연구진은 뇌 깊숙이 숨은 장벽핵의 세포 하나하나가 내는 전기신호를 들여다봤다.

2026년 10월 6일 발표된 연구는 인간 장벽핵(claustrum·클라우스트럼) 단일뉴런의 발화가 불확실성과 예측오류에 따라 어떻게 달라지는지 조사했다. 불확실성이 ‘비가 올지 판단하기 어려운 상태’라면, 예측오류는 ‘비가 오지 않을 것으로 확신했는데 폭우가 내렸을 때 예상과 현실 사이에 생기는 차이’에 가깝다. 연구진이 확인한 것은 이 두 값과 일부 뉴런의 활동이 함께 변했다는 사실이다. 장벽핵이 두 값을 직접 계산하거나 참가자의 행동을 지휘했다는 뜻은 아니다.

보고 피하는 게임이 아니라, 과거로 다음을 짐작하는 과제

게임 화면 위와 아래에는 두 개의 안전구역이 있었다. 각 구역에 통로가 생길 확률은 90% 또는 10%였고, 어느 쪽이 유리한지는 20~80회 시행마다 바뀌었다. 적어도 한쪽에는 통로가 있었지만 참가자는 현재 화면만 보고 답을 찾을 수 없었다. 이전 시행들의 결과에서 확률을 학습해야 했다. 능동회피 화면은 평균 1.1초, 범위 0.8~1.3초 동안 이어졌다.

연구진은 같은 과제를 수행한 환자 27명의 5,757회 시행을 비교해 행동모형을 골랐다. 선택은 ‘비대칭 누출 베타-고착성 모형’에 적합했다. 쉽게 말해 최근까지 쌓인 성공과 실패의 흔적을 이용해 위와 아래 중 어디가 안전할지 추정하되, 이전에 선택한 쪽을 다시 택하려는 경향까지 반영한 수학적 설명이다. 모형에 쓰인 베타분포의 평균은 참가자가 주관적으로 예상한 안전확률로, 분산은 그 예상이 얼마나 흔들리는지를 나타내는 불확실성으로 사용했다. 실제 결과와 예상 안전확률의 차이는 절댓값으로 계산해 예측오류로 삼았다.

따라서 연구에서 말하는 불확실성과 예측오류는 참가자가 직접 보고한 감정이 아니다. 행동을 가장 잘 설명하도록 선택한 모형에서 역산한 잠재변수, 즉 눈으로 바로 볼 수 없어 선택 기록으로 추정한 값이다. 뇌가 실제로 똑같은 알고리즘을 사용한다고 확인한 것도 아니다.

머리카락보다 가는 선으로 약 1㎜ 영역의 세포를 듣다

참가자는 약물로 조절되지 않는 뇌전증 환자 7명으로, 여성 5명과 남성 2명, 연령은 18~61세였다. 모두 발작이 시작되는 지점을 찾기 위한 임상적 두개내 전극 검사를 받고 있었다. 건강한 사람에게 연구 목적으로 전극을 새로 삽입한 실험이 아니며, 전극 위치 역시 연구진의 질문이 아니라 각 환자의 치료상 필요에 따라 정해졌다.

연구진은 임상용 깊이전극 끝에 달린 지름 40μm, 즉 0.04㎜의 미세선으로 단일뉴런 신호를 기록했다. 사람 머리카락을 약 70~100μm로 보면 절반 안팎의 굵기다. 한 묶음에는 미세선 8개가 있었고 전극 끝에서 4㎜ 돌출됐다. 수술 전 자기공명영상과 수술 후 고해상도 컴퓨터단층촬영 영상을 맞춰 위치를 확인했다.

장벽핵은 섬엽과 조가비핵 사이의 백질에 묻힌 얇고 길쭉한 회백질 구조다. 논문 영상에서는 약 1㎜ 두께로 표시될 만큼 좁지만, 이를 장벽핵 전체의 고정 두께로 볼 수는 없다. 연구진은 9회 기록 세션에서 장벽핵 뉴런 110개, 등쪽 전대상피질 뉴런 80개, 기저외측 편도체 뉴런 75개를 분석했다. 다만 장벽핵 자료는 환자 7명 전원이 아니라 4명에게 삽입된 미세선 6개 묶음에서 나왔다. 뉴런 110개는 사람 110명의 자료가 아니다.

장벽핵과 전대상피질에서는 뉴런의 약 70%가 과제와 관련된 변화를 보였고, 편도체에서는 약 30%였다. 장벽핵은 특히 성공적으로 피했을 때보다 충돌했을 때 한쪽으로 기울었다. 과제 반응 뉴런 78개 가운데 51개가 충돌을, 27개가 회피를 선호했다. 반면 전대상피질의 결과 반응 뉴런 56개는 충돌 선호 28개, 회피 선호 27개, 차이 없음 1개로 거의 균형을 이뤘다.

‘뉴런 네 개 중 하나’라는 숫자를 그대로 믿기 어려운 이유

불확실성과 예측오류가 각각 낮은 시행 30%와 높은 시행 30%를 비교하자, 환자 4명에게서 기록한 장벽핵 뉴런 110개 중 31개인 28.2%가 높은 불확실성에서 발화를 늘렸다. 25개인 22.7%는 큰 절대 예측오류에서 발화가 증가했다. 겉으로 보면 뉴런 네 개 중 하나꼴로 두 신호를 포착한 듯하다.

그러나 두 종류가 서로 분리된 ‘계산기’처럼 발견된 것은 아니다. 불확실성 반응 뉴런 31개 중 23개가 예측오류에도 반응했고, 예측오류 반응 뉴런 25개 중 19개가 불확실성에도 반응했다. 두 잠재변수 자체도 강하게 함께 움직였다. 같은 세포가 둘 중 어느 하나를 독립적으로 나타냈는지, 공통된 다른 신호에 반응했는지는 가려내지 못했다.

우주선 위치, 안전구역, 충돌 여부 같은 외부 변수를 더 엄격하게 통제한 조건부상호정보량 분석에서는 숫자가 작아졌다. 이 분석은 다른 조건이 같을 때도 뉴런 활동에 해당 변수의 정보가 남아 있는지를 묻는다. 활동 구간에서 불확실성 관련 뉴런은 10개인 9.1%(P=0.049), 예측오류 관련 뉴런은 7개인 6.4%(P=0.312)였다. 특히 예측오류 관련 뉴런의 집단 비율은 우연히 기대되는 수준을 통계적으로 유의하게 넘지 못했다. 단순 비교에서 나온 28.2%와 22.7%만으로 강한 결론을 내릴 수 없는 이유다.

숨은 구조의 역할을 넓혀 봤지만, 인과관계는 다음 과제

이번 연구의 의미는 작고 깊어서 뇌영상만으로 분리해 살피기 어려운 인간 장벽핵에서 단일세포 활동을 기록하고, 그 변화가 고차원적인 회피학습 변수와 연관될 가능성을 포착했다는 데 있다. 장벽핵을 감각정보를 전달하는 단순 중계소로만 설명하기 어려울 수 있다는 근거도 보탰다. 다만 ‘예상 밖 위험에 민감한 상황실 후보’라는 비유는 가능해도, 실제 지휘소라고 부를 증거는 없다.

장벽핵을 의식을 켜고 끄는 ‘스위치’로 보는 과거 가설도 이번 결과와 구분해야 한다. 환자 1명의 장벽핵과 섬엽 경계를 자극한 2014년 사례는 후속 환자 5명 연구에서 재현되지 않았다. 한쪽 장벽핵이 손상되거나 제거된 뒤 장기적인 인지·감각운동 결손이 뚜렷하지 않았던 사례도 있다. 이번 연구가 측정한 것은 의식 자체가 아니라 불확실한 회피학습 중 뉴런 활동이다.

표본은 환자 7명이며 핵심 장벽핵 기록은 4명뿐이다. 약물저항성 뇌전증, 항발작약, 입원환경이 행동과 신경활동에 미친 영향도 배제할 수 없다. 장벽핵이 얇고 섬엽과 가까워 영상 정합과 전문가 확인을 거쳤더라도 살아 있는 사람에게서 전극 끝을 조직학적으로 확인한 것은 아니다. 영역마다 기록에 참여한 환자와 표집 위치도 달라 장벽핵·전대상피질·편도체의 차이를 곧바로 기능 차이라고 단정할 수 없다.

무엇보다 이 연구는 관찰 기록이다. 장벽핵이 불확실성을 만들어냈는지, 다른 뇌영역의 신호를 전달받았는지, 충돌의 두드러짐이나 주의·운동조정에 반응했는지는 구분하지 못했다. 저자들이 제안한 전대상피질에서 장벽핵을 거쳐 피질로 이어지는 신호 흐름도 아직 추정 모델이다. 같은 사람의 여러 뇌영역을 동시에 기록하고 표적을 정밀하게 자극하는 후속 연구가 필요하다. 이번 결과가 연 치료의 문이 아니라, 인간 장벽핵이 불확실한 상황에 관여하는 방식을 묻기 시작한 좁고 신중한 출발점인 이유다.

자료: Yale University, Yale School of Medicine, 미국 National Institutes of Health, 서울대학교병원, 연세대학교 의과대학 뇌전증연구소, 건강보험심사평가원, 국민건강보험공단