[기획] 원자 결함이 남긴 5~6㎚ ‘양자 그림자’…엑시톤 응축 질서를 읽다
결정 표면의 원자 하나가 잘못된 자리에 들어가면 그 흔적은 어디까지 번질까. 기초과학연구원(IBS)과 POSTECH 연구진이 4.4K, 약 영하 268.8℃에서 Ta₂Pd₃Te₅를 원자 단위로 훑자 원자 규모 결함 주변에 약 5~6㎚에 걸친 전자상태가 나타났다. 이 물질의 b축 원자 배열 간격으로 환산하면 약 16칸에 이르는 거리다. 결함이 그만큼 커졌다는 뜻은 아니다. 특정 에너지에서 전자가 존재할 가능성을 나타내는 국소상태밀도(LDOS)가 넓게 퍼진 것으로, 이 기사에서는 엑시톤 응축 질서가 결함 때문에 흔들리면서 남긴 모습을 독자에게 설명하기 위한 비유로 ‘양자 그림자’라고 표현했다. ‘양자 그림자’는 논문에 쓰인 정식 물리학 용어가 아니다.
전하가 없는 응축체, 무엇으로 확인할까
엑시톤은 전자와 정공, 즉 전자가 빠진 자리를 입자처럼 나타낸 것이 한 쌍을 이룬 상태다. 많은 엑시톤이 집단적으로 같은 양자상태를 형성하면 엑시톤 응축체가 된다. 그러나 전자와 정공을 합친 엑시톤은 전체적으로 전하가 중성이다. 이 때문에 초전도체의 ‘전기저항 0’처럼 응축 여부를 단순하게 판별할 표지가 부족하다. 응축 질서가 실제 공간에서 결함과 어떻게 상호작용하는지를 직접 읽는 일도 쉽지 않았다.
연구 대상인 Ta₂Pd₃Te₅에서는 약 365K, 약 91.9℃에서 금속–절연체 전이가 나타나는 것으로 보고됐다. 같은 연구진은 2025년 이 물질의 바닥상태에서 엑시톤과 관련된 광전자방출 신호를 보고했으며, 이번에는 개별 결함 주변으로 시야를 좁혔다. 다만 높은 온도에서 나타나는 물질의 갭과 이번 결함상태 관측 조건은 구분해야 한다. 실제 원자 단위 측정은 극저온인 4.4K에서 이뤄졌으며, 상온에서 같은 상태를 관측하거나 제어한 결과는 아니다.
연구진이 주사터널링현미경과 분광법(STM·STS)으로 표면을 조사하자 특정 Ta 자리 계열의 결함 주변에서 가전자대와 전도대 가장자리로부터 갈라진 두 개의 갭 내부 상태가 포착됐다. 갭은 전자가 차지할 수 있는 상태가 줄어든 에너지 구간이다. 그 안에서 별도의 상태 두 개가 나타났다는 것은 결함과 주변 전자 질서의 상호작용이 새로운 결합상태를 만들었을 가능성을 뜻한다. 대표적인 LDOS 지도에서는 −35meV와 +40meV에서 점유·비점유 상태가 각각 나타났다. 다만 이 수치는 대표 측정 조건이며 모든 결함에서 동일하게 고정된 피크 에너지는 아니다.
1㎚ 미만 계산 결과와 5~6㎚ 관측 범위의 차이
밀도범함수이론(DFT), 즉 원자의 전자구조를 계산하는 방법으로 얻은 일반적인 단일입자 결함상태는 1㎚ 미만에 머물렀다. 반면 실험에서 갭 내부 LDOS는 약 5㎚, 일부 분석에서는 최대 약 6㎚까지 이어졌다. 연구진의 모형이 추정한 공간 범위도 약 6.5㎚였다. 여기서 1㎚ 미만은 결함의 실측 크기가 아니라 계산된 단일입자 상태의 범위이고, 5~6㎚는 실험에서 본 갭 내부 전자상태의 분포다. 같은 대상을 전후로 재어 결함이 커졌다고 해석해서는 안 된다.
이 넓은 상태가 엑시톤 갭과 연결됐다는 핵심 단서는 자연적으로 형성된 변형 띠에서 나왔다. 연구진은 폭 약 8㎚의 주름형 영역을 발견했다. 평균 국소 변형률 변화가 약 2.4%인 이곳에서는 약 100meV의 갭이 약 30meV 규모의 금속성 의사갭으로 바뀌었고, 같은 계열의 결함에서 보이던 갭 내부 상태도 나타나지 않았다. 연구진이 외부에서 변형을 가해 상태를 켰다 껐다 한 실험은 아니다. 이미 존재하던 주름을 이용해 엑시톤 갭이 무너진 영역과 유지된 영역을 비교한 것이다.
현미경 팁을 움직인 실험에서도 갭과 결함상태는 함께 변했다. 팁을 기준 위치보다 100pm 물린 지점에서 500pm 접근한 지점까지 총 0.6㎚ 움직이자 겉보기 갭은 약 140meV에서 60meV로 줄었다. 결함상태 역시 갭 가장자리를 따라 이동했고, 금속성 의사갭에서는 대체로 사라지거나 크게 약해졌다. 다만 이 과정에는 팁의 전기장뿐 아니라 터널링 전류와 국소 캐리어 축적 등이 함께 영향을 줄 수 있다. 어느 한 효과만으로 상태를 제어했다고 단정할 수 없는 이유다. α′형 결함에서는 양자접촉 영역에 들어간 뒤 상태가 다시 나타나는 예외도 관측됐으며, 그 원인은 규명되지 않았다.
초전도체 YSR 상태와 닮은 형식
연구진은 이번 결함상태를 초전도체의 유–시바–루시노프(YSR) 상태와 형식적으로 닮은 현상으로 설명했다. 초전도체에서는 자기 불순물의 스핀이 전자 두 개로 이뤄진 쿠퍼쌍을 교란해 갭 안에 국소 상태를 만든다. 이번 해석에서는 자기적 스핀–교환작용 대신 결함의 국소 전하–쿨롱작용이 전자–정공 쌍을 흔든다. 가장 유력한 결함 후보는 Ta 자리를 차지한 Pd 원자, 이른바 Pd-on-Ta 치환 결함이다. 잘못된 자리에 놓인 원자의 전하 분포가 엑시톤 결합을 교란해 나노미터 범위의 결합상태를 만든다는 설명이다.
하지만 결함의 화학종을 직접 원소 분석으로 확인한 것은 아니다. Pd-on-Ta 배정은 STM 영상과 DFT 모사의 일치도, 형성에너지를 근거로 한 간접 해석이다. Ta 공공이나 Ta–Pd 자리교환도 일부 영상 특징과 맞을 가능성이 남아 있다. 연구진의 초기 해석은 Ta 공공이었으나 심사 과정에서 여러 결함 후보를 다시 비교한 뒤 최종적으로 Pd-on-Ta를 가장 유력하게 제시했다.
YSR 유사체라는 설명 역시 유일하게 입증된 결론은 아니다. 공개 심사에서는 초전도 YSR 상태의 핵심 표지인 입자–정공 켤레쌍과 불순물 결합세기에 따른 연속적인 상태 변화가 충분히 확인되지 않았다는 지적이 나왔다. 일반적인 결함 결합상태나 국소적인 갭 억제로도 일부 현상을 설명할 수 있고, 양자스핀홀 결함상태 가능성도 배제되지 않았다. 따라서 현재 가장 강하게 말할 수 있는 결과는 ‘엑시톤 갭과 연동된 결함 결합상태’이며, 전하 쌍극자가 만든 YSR 유사 기작은 연구진이 제시한 유력한 해석이다.
개별 결함으로 양자 질서를 읽는 방법
실험에는 4.4K의 PtIr 팁 STM·STS와 80K의 각분해광전자분광법(ARPES)이 사용됐다. 이론 분석에는 DFT와 41×41 이차원 타이트바인딩 모형, 즉 전자가 격자 위에서 움직이는 방식을 단순화한 계산이 쓰였다. 단결정은 Ta·Pd·Te를 2.0대 4.5대 7.5 몰비로 섞어 950℃까지 10시간 가열하고 이틀 유지한 뒤, 시간당 0.5℃ 속도로 800℃까지 냉각해 합성했다.
관측의 범위에는 통계적 한계도 있다. 결함 비율은 한 개의 80×80㎚² 시야에서 갭 상태가 있는 Ta 자리 결함 16.9%, Pd 공공 77.8%, 기타·미식별 5.3%로 집계됐다. 독립 결정과 성장 배치, 전체 관측장 수, 결함별 오차범위가 명확히 제시되지 않아 물질 전체의 비율로 일반화할 수 없다. 본문 그림에 대응하는 데이터는 공개됐지만 전체 원시 STM 데이터와 분석 코드 저장소는 공개 목록에서 확인되지 않았다.
같은 물질에서 원자 결함이 엑시톤 쌍을 깨뜨려 갭 내부 상태를 만든다는 더 넓은 설명은 다른 연구팀의 2026년 7월 6일 출판 연구에서도 제시됐다. 해당 연구는 Te 공공을 원인으로 해석했다. 이번 연구의 사전 공개 원고가 더 빨랐지만 정식 출판은 2026년 9월 3일이어서 ‘엑시톤 결함상태의 세계 최초 발견’이라고 단정하기 어렵다. 두 결과의 차이에는 시료의 전자 도핑과 현미경 팁 조건이 영향을 줬을 가능성이 제시됐으나 정확한 원인은 아직 확정되지 않았다.
이번 연구의 의미는 당장 상온 양자소자나 무손실 정보전송을 구현한 데 있지 않다. 소자 성능과 소비전력, 수명, 스위칭 속도도 측정되지 않았다. 핵심은 개별 원자 결함 주위에서 엑시톤 응축 질서가 흔들리는 범위를 실공간으로 읽고, 갭의 변화와 결함상태의 움직임을 함께 추적하는 현미경적 방법을 제시했다는 데 있다. 이제 남은 질문은 이 상태의 정확한 결함 구조와 생성 기작을 독립적으로 재현하고, YSR 유사 해석을 다른 가능한 설명과 구별하는 것이다.
자료: 기초과학연구원(IBS)·POSTECH