[기획] 원자 한 층 카고메 물질서 ‘평탄띠 전자 상태 밀도 220배 초과’ 구현

전자들이 달릴 길에 벽을 세우지 않았는데도 제자리 근처에 머물게 할 수 있을까. 삼각형과 육각형이 맞물린 바구니 무늬 안에서는 가능하다. 여러 경로를 따라 움직이는 전자파가 서로 지워지면 전자가 멀리 퍼지기 어려워지기 때문이다. 한국 연구진이 중심이 된 국제 공동연구팀은 이런 ‘카고메 격자’를 품은 물질을 원자 한 층까지 얇게 만든 뒤, 전자의 에너지가 거의 변하지 않는 준평탄띠를 직접 관측했다. 같은 면적에 평탄띠 전자가 들어갈 수 있는 상태의 수는 논문이 비교한 모아레 인공 평탄띠보다 220배 넘게 많았다.

연구팀은 여기에 전압으로 작동하는 조절 손잡이도 더했다. 게이트 전압을 가해 화학퍼텐셜과 띠의 상대 위치를 바꾸고, 준평탄띠가 페르미 준위에 닿게 했다. 페르미 준위는 전자들이 채운 에너지 상태와 비어 있는 상태의 경계를 나타내는 기준선으로, ‘전자 바다의 수면’에 비유할 수 있다. 평탄띠가 이 수면과 만난다는 것은 띠가 일부만 채워진 영역의 물리를 살펴볼 길이 열렸다는 의미다.

경사 없는 운동장에서는 전자끼리의 힘이 커진다

카고메는 삼각형과 육각형이 이어진 일본의 바구니 무늬에서 온 이름이다. 이 구조에서 전자파가 여러 경로를 돌다가 서로 상쇄되면 전자의 이동성이 줄고, 운동량이 달라져도 에너지가 거의 변하지 않는 평탄띠가 나타날 수 있다. 경사가 거의 없는 운동장에서 공이 특정 방향으로 굴러가기 어려운 모습과 비슷하다.

전자들이 자유롭게 퍼질 때는 운동에너지가 물성을 좌우하지만, 평탄띠에서는 운동에너지의 영향이 작아져 전자끼리 밀고 당기는 상호작용이 상대적으로 중요해진다. 여러 전자가 각자 움직이기보다 집단적으로 행동하는 강상관 현상을 탐색할 수 있는 이유다. 다만 실제 띠는 수학적으로 완전히 평평하지 않다. 먼 이웃 사이의 전자 이동과 여러 오비탈, 층간 결합 때문에 유한한 폭이 남으므로 ‘준평탄띠’가 정확한 표현이다.

연구 대상은 알칼리금속 A, 전이금속 T, 칼코겐 X로 이뤄진 층상 물질군 A₂T₃X₄다. 대표 조성은 Cs₂Pd₃S₄와 Rb₂Pd₃S₄이며, 수송 실험에는 Rb₂Pd₃Se₄도 사용됐다. 연구진은 단층에서 페르미 준위 바로 아래에 주변 띠와 비교적 분리된 카고메 유래 준평탄띠를 확인했다. 에너지와 운동량이 선형 관계를 이루는 디랙띠도 함께 관측했다.

준평탄띠는 주로 전이금속의 dxy 오비탈에서 유래한 것으로 해석됐다. 오비탈은 원자 주위에서 전자가 존재할 가능성이 큰 공간적 모양을 뜻한다. 연구진은 D₂h 국소 결정장, 빛의 편광에 따라 달라지는 광전자 신호, 밀도범함수이론 계산을 근거로 이 해석을 제시했다.

머리카락 굵기의 10만분의 1을 측정하다

연구진은 벌크 결정에서 물질을 떼어 8층, 4층, 2층, 1층 시료를 만들었다. 층간 높이를 기준으로 한 단층의 높이 척도는 약 0.7나노미터다. 머리카락 굵기를 약 70마이크로미터로 잡으면 약 10만분의 1에 해당한다. 이어 나노집속 각분해광전자분광법(nano-ARPES)을 사용해 전자의 에너지와 운동량에 따른 띠 구조를 측정했다. 아주 작은 영역에 빛을 집중해 튀어나온 전자를 분석하고, 물질 속 전자들의 에너지 지도를 그리는 방법이다.

원자층 시료를 공기에서 지키는 일도 핵심 과제였다. 이중층 시료는 공기에 노출된 뒤 10~30분 만에 라만 신호가 변했으며, 노출된 박편에서는 카고메 전자띠 신호를 확인할 수 없었다. 연구진은 시료 위를 그래핀으로, 아래를 흑연으로 덮어 봉지했다. 흑연은 전극과 게이트 역할도 맡았다. 이 보호 구조에서는 관련 전자띠가 관측됐지만, 그래핀과 흑연의 디랙띠가 높은 운동량 영역에서 카고메 신호와 겹치고 광전자 신호가 약해지는 제약도 생겼다.

게이트 실험에서는 새로운 띠를 만든 것이 아니라 화학퍼텐셜과 기존 준평탄띠의 상대 위치를 조절했다. 이를 통해 준평탄띠가 페르미 준위와 만나도록 했고, 일부만 채워진 평탄띠 영역에 접근했다. 그러나 부분 점유가 곧바로 금속화를 뜻하지는 않는다. 수송 측정에서는 낮은 도핑 영역에 절연성 거동이 남았고, 충분한 도핑 뒤 금속성 거동이 나타났다. 연구진은 무질서와 불순물 퍼텐셜, 접촉 장벽이 낮은 도핑에서 영향을 줄 수 있다고 설명했다. 수송 실험은 2단자 소자로 이뤄져 접촉저항과 쇼트키 장벽의 영향도 받았다.

‘220배’가 말하는 것과 말하지 않는 것

이번 결과의 220배는 실제 주입한 전하량이나 전체 전도전자 수의 증가율이 아니다. 같은 면적 안에서 준평탄띠가 수용할 수 있는 전자 상태 수를 기존 모아레 기반 인공 평탄띠와 비교한 값이다. 전도도나 작동온도가 220배 높아졌다는 의미도 아니다.

차이는 무늬의 크기에서 비롯된다. 모아레 격자는 두 원자층을 어긋나게 겹쳐 수 나노미터 이상의 긴 주기 무늬를 만들지만, 이번 물질은 원자 격자 자체가 준평탄띠를 만든다. 이론 비교에 사용된 전자 국소화 길이는 약 0.62나노미터로, 모아레 MoTe₂의 약 5.2나노미터보다 약 8.4배 짧다. 0.62나노미터는 전자가 국소화되는 길이이지 단층의 물리적 두께가 아니다. 같은 땅에 전자 상태를 담는 자리를 더 촘촘하게 배치한 ‘전자 아파트’에 가까운 셈이다.

연구진은 짧은 길이 척도와 높은 상태 밀도가 더 큰 상호작용 에너지, 더 높은 온도에서 나타나는 강상관 현상을 탐색할 가능성을 제공한다고 해석했다. 그러나 가능성과 관측은 구분해야 한다. 실험에서 확인한 것은 단층 준평탄띠와 게이트 조절이다. 고온 분수 양자이상홀 상태나 분수 체른 절연체, 강자성, 초전도를 발견한 것은 아니다.

흥미로운 계산, 아직 이름 붙일 수 없는 절연상

계산에서는 분수 체른 상태의 가능성이 제시됐다. 체른띠는 전자의 파동함수가 위상수학적 성질을 지닌 에너지띠다. 연구진은 Cs₂Pd₃S₄와 Rb₂Pd₃S₄의 체른띠를 3분의 1 채운 N=21 유한계에서 정확대각화를 수행했고, 세 겹의 준축퇴 바닥상태와 자속 삽입에 따른 스펙트럼 흐름을 얻었다. 계산된 분수 체른 틈은 14~29밀리전자볼트 범위였다. 이는 제한된 크기의 이론 계산 결과이며 실제 전이온도나 수송 실험으로 확인된 위상상태가 아니다.

높은 상태 밀도만으로 원하는 상태가 자동으로 생기는 것도 아니다. 양자기하가 이상적인 최저 란다우 준위에 얼마나 가까운지를 나타내는 비이상성 지표는 값이 작을수록 유리한데, 평균값이 Cs₂Pd₃S₄에서 0.88, Rb₂Pd₃S₄에서 0.76이었다. 비교 대상인 비틀린 MoTe₂는 0.11이었다. 이번 카고메 물질이 이 지표에서는 더 이상적이지 않다는 뜻이다.

관측된 절연 상태의 정체도 아직 확정되지 않았다. 연구진은 이를 특정 상관상이나 위상상으로 판정할 수 없다고 밝혔다. 광학 또는 터널링 분광 같은 추가 측정이 필요하다. 유한계 계산 역시 실제 시료의 무질서와 기판, 접촉, 장거리 상호작용을 모두 재현하지는 못했다. 논문 공개 이틀 뒤인 2026년 10월 17일 기준 독립 재현도 확인되지 않았다.

이번 연구의 의미는 답을 이미 얻었다는 데 있지 않다. 원자 한 층의 고유 카고메 격자에서 고립된 준평탄띠를 관측하고, 게이트로 페르미 준위와 만나게 할 수 있는 실험 플랫폼을 마련했다는 데 있다. 다음 과제는 다른 연구진의 독립적인 재현, 절연상의 정체 규명, 실제 강상관·위상 상태의 관측이다. 논문은 2026년 10월 15일 온라인 게재됐다.

자료: 서울대학교·포항공과대학교·한국과학기술원·코넬대학교·기초과학연구원