[기획] IBM은 극저온 모듈을 잇고, 표준연은 '맥놀이'를 풀었다

우주에서 가장 깊고 어두운 곳보다 180배 차가운 '방 두 칸'이 하나로 이어졌다. IBM이 미국 뉴욕주 요크타운하이츠 연구소에서 대형 극저온 모듈 두 대를 연결해, 절대영도(영하 273.15도)에 불과 0.015도 차이까지 다가간 것이다. 같은 날 한국에서는 양자물질 속에서 수년째 해석을 가로막아 온 정체불명 신호의 수수께끼가 풀렸다.

지난 19일 나란히 공개된 두 발표는 층위가 전혀 다르다. 하나는 성인 키를 훌쩍 넘는 냉각 설비를 잇는 시스템 공학이고, 다른 하나는 나노선(나노미터 굵기의 가는 선) 속 전자를 다루는 물질 물리다. 그러나 겨누는 과녁은 같다. 계산 중 생기는 오류를 스스로 찾아 고치며 작동하는 '오류 내성' 양자컴퓨터다.

양자컴퓨터의 기본 정보 단위인 큐비트는 0과 1을 겹친 상태로 담아 계산을 병렬 처리하지만, 미세한 열과 잡음에도 그 상태가 쉽게 깨진다. 이 오류를 다스리는 일이 상용화의 최대 관문으로 꼽히는 이유다. 이번 두 발표는 그 관문이 거대 설비와 기초 물리 양쪽에서 동시에 열리고 있음을 보여준다.

5일 만에 우주보다 차가워진 방

IBM은 19일(현지시간) 극저온 모듈 두 대를 결합해 하나의 초저온 환경으로 냉각하는 데 성공했다고 밝혔다. 극저온 모듈은 양자칩을 담아 식히는 초대형 냉각 장치로, 이번에 연결한 두 대를 합치면 높이와 폭이 각각 2.4m(8피트)를 넘는다. 초기 시험에서 두 모듈은 5일 안에 액체헬륨 온도인 4켈빈(영하 269.15도)까지, 곧이어 15밀리켈빈(절대영도보다 0.015도 높은 온도) 아래까지 함께 식었다. IBM은 이를 심우주보다 180배 이상 차가운 온도라고 설명했다.

이렇게까지 얼려야 하는 이유는 IBM의 양자칩이 초전도(저항 없이 전류가 흐르는 상태) 회로로 만들어지기 때문이다. 초전도 큐비트는 열이 일으키는 미세한 떨림에도 양자 상태를 잃어, 우주보다 차가운 환경에서만 제 성능을 낸다.

냉각보다 어려운 숙제, '연결'

이번 발표의 핵심은 낮은 온도 자체가 아니라 확장성이다. 각 모듈의 진공 챔버(공기를 빼내 열 유입을 막는 통)는 현재 가장 널리 쓰이는 IBM 양자 시스템보다 최대 12배 넓은 배선 공간을 제공한다. 상자 모양 모듈을 일렬로 붙여 늘려 가면서 'L-커플러'라 부르는 연결 기술로 서로 다른 양자 프로세서를 직접 잇는다. 칩 여러 개가 정보를 주고받으며 한 대의 큰 양자컴퓨터처럼 움직이는 구조다.

IBM은 올해 안에 신형 프로세서 '나이트호크'를 이 모듈에 설치해 성능 시험을 넓히고, 2027년까지 프로세서 여러 개를 이어 1,000개 이상의 프로그래머블 큐비트(실제 연산에 직접 쓸 수 있는 큐비트)를 갖춘 시스템을 만든다는 로드맵을 재확인했다. 종착지는 2029년 공개를 예고한 '스탈링'이다. IBM이 세계 첫 오류 내성 양자컴퓨터로 목표하는 이 시스템에서는 모듈 한 대에 수천 개의 큐비트가 들어갈 전망이다.

제이 감베타 IBM리서치 총괄(IBM 펠로)은 "오류 내성 양자컴퓨터를 산업 현장으로 가져가는 일은 여러 근본적 진전에 달려 있다"며 "이번 극저온 모듈의 연결·가동 성공은 그 방향을 향한 도약"이라고 밝혔다.

'웅― 웅―' 울리던 유령 신호

같은 날 한국표준과학연구원(표준연)은 훨씬 작은 세계의 난제를 풀었다고 발표했다. 배명호 표준연 양자기술연구소 책임연구원팀이 최상준 광주과학기술원(GIST) 교수팀 등과 함께, 위상절연체 나노선에서 관측되던 불규칙한 '맥놀이' 신호의 발생 원리를 세계 처음으로 규명한 것이다. 위상절연체는 내부로는 전기가 통하지 않고 표면으로만 특수한 전자가 흐르는 양자물질로, 차세대 양자소자의 핵심 소재로 꼽힌다.

이 물질을 가는 선으로 만들어 자기장을 걸면 표면 전자의 파동이 간섭을 일으켜 전기 신호가 규칙적으로 오르내린다. 문제는 그 위에 얹혀 나타나던 맥놀이였다. 맥놀이는 진동수가 조금 다른 두 파동이 겹쳐 신호가 커졌다 작아졌다를 반복하는 현상으로, 미세하게 어긋난 소리굽쇠 두 개가 '웅― 웅―' 울리는 것과 같은 원리다. 이 정체불명 신호는 수년간 실험 데이터 해석을 흐려 온 골칫거리였다.

연구팀은 안티몬을 넣은 비스무트 셀레나이드 나노선에서 열전(온도 차이가 전기를 만드는) 현상을 측정하다 맥놀이를 포착했고, 공주대 송태건 교수팀의 머신러닝 분석으로 겹쳐 있던 진동 성분을 갈라냈다. 그 결과 표면의 위상 전자 상태와 그 바로 밑에 생긴 2차원 전자기체(얇은 층에 갇혀 움직이는 보통 전자들)가 서로 다른 넓이의 경로를 돌며 진동수가 살짝 다른 두 진동을 만들고, 이 둘이 겹쳐 맥놀이를 이룬다는 사실을 확인했다. 연구 결과는 국제학술지 '나노 레터스' 표지논문으로 실렸다.

배 책임연구원은 "전자가 위상 상태뿐 아니라 일반 전자 상태도 오가며 양자 간섭할 수 있음을 보여준 성과"라며 "원하는 위상 상태만 활용하려면 일반 전도 상태가 개입하지 않도록 도핑과 게이트를 정밀하게 제어하는 것이 중요하다"고 말했다.

층위는 달라도 과녁은 하나

오류 내성 양자컴퓨터는 큐비트 여러 개를 묶어 안정된 정보 단위를 만들고 계산 도중의 오류를 실시간으로 바로잡는 기계다. 여기엔 두 가지가 함께 필요하다. 오류 정정에 동원할 만큼 많은 큐비트를 한 시스템에 담아내는 공학, 그리고 오류의 뿌리인 잡음과 신호 혼선을 물질 수준에서 이해하는 물리다.

IBM의 실증이 앞의 것이라면 표준연의 규명은 뒤의 것이다. IBM은 지난해 오류 정정에 드는 물리적 자원을 크게 줄인 새 정정 코드와 함께 스탈링 계획을 공개한 뒤 핵심 부품 실증과 오류 해독 기술을 검증해 왔고, 이번에 냉각·배선·연결이라는 설비 관문을 넘었다. 표준연·GIST 연구진은 위상절연체에서 신호를 정확히 읽고 원하는 전자 상태만 골라 쓰기 위한 기준을 세웠다. 최상준 교수는 "실험과 이론, 첨단 데이터 분석 역량이 융합돼 오랜 난제를 단일한 물리적 원리로 풀어냈다"고 말했다.

20큐비트와 1,000큐비트 사이

이 경쟁에서 한국의 좌표는 어디일까. 하드웨어만 보면 격차가 뚜렷하다. 국내 연구진이 자체 구축한 최대 규모 시스템은 표준연이 성균관대·울산과학기술원(UNIST)과 함께 만들어 지난해 3월 클라우드로 시연한 20큐비트급 초전도 양자컴퓨터다. 연구진은 올해까지 이를 50큐비트급으로 키운다는 계획을 밝혀 왔다. IBM의 2027년 목표와 견주면 두 자릿수와 네 자릿수의 차이다.

정부 시간표도 뒤에 있다. 지난해 시작된 '양자과학기술 플래그십 프로젝트'는 2032년까지 8년간 6,454억원을 투입해 1,000큐비트급 초전도·중성원자 양자컴퓨터와 100km 양자인터넷, 양자센서를 개발한다. 1,000큐비트 도달 시점만 보면 IBM 로드맵과 5년 안팎의 시차가 있다. 정부가 2023년 6월 첫 국가 전략인 '대한민국 양자과학기술 전략'에서 스스로 진단한 국내 기술 수준은 최선도국 대비 62.5%였다. 전략은 2035년까지 이를 85%로 끌어올리기 위해 민관 합동 3조원 이상을 투자하고, 핵심인력을 384명에서 2,500명으로 늘린다는 목표를 담았다.

제도의 뼈대는 갖춰지고 있다. 2024년 11월 양자기술산업법이 시행됐고, 지난해 3월에는 국무총리를 위원장으로 하는 양자전략위원회가 출범했다. 2024년 11월 연세대가 127큐비트 'IBM 퀀텀 시스템 원'을 국내 처음 가동하면서 한국은 미국·캐나다·독일·일본에 이어 다섯 번째 설치국이 되기도 했다. 다만 이는 해외 장비 도입으로, 자체 기술 수준과는 구분해서 봐야 한다. 반대로 물질·소자 층위의 기초 연구는 이번 성과처럼 국제 학술지 표지를 차지하는 수준에 올라 있다. 격차의 지형이 층위마다 다른 셈이다.

'개수 경쟁' 밖에서 찾는 길

두 발표를 겹쳐 읽으면 국내 R&D를 향한 시사점이 나온다. 첫째, 오류 내성은 큐비트 개수만의 문제가 아니다. IBM이 이번에 내세운 것은 새 칩이 아니라 냉각 속도와 배선 공간, 모듈 연결이라는 설비 공학이었다. 1,000큐비트급을 목표로 삼은 플래그십 사업도 칩 개발과 함께 극저온 냉각·배선·제어 같은 주변 공학과 부품 생태계를 함께 키워야 한다는 뜻이다.

둘째, 표준연 성과는 하드웨어 추격과 별개로 '기준을 세우는' 연구가 한국이 앞설 수 있는 자리임을 보여줬다. 배 책임연구원이 강조한 도핑·게이트 정밀 제어 조건은 위상 기반 양자소자를 설계하려는 연구실들이 참조할 기준이 된다. 측정표준을 다루는 국가기관인 표준연의 강점과 맞닿는 지점이다. 셋째, 이번 규명은 실험(표준연)과 이론(GIST), 머신러닝 분석(공주대)이 한 팀으로 묶여 가능했다. 정부 전략이 약속한 핵심인력 2,500명도 개별 전공이 아니라 이런 팀 단위 역량으로 길러질 때 힘을 낸다는 얘기다.

물론 어느 쪽도 완성형은 아니다. 스탈링은 아직 '예고된' 시스템이고, 위상절연체 기반 소자는 후보 단계다. 그래도 방향은 분명해졌다. 오류 내성 양자컴퓨터로 가는 길은 지금, 거대한 냉장고와 나노선 속 전자 양 끝에서 동시에 닦이고 있다.

자료: IBM 뉴스룸, 한국표준과학연구원, 과학기술정보통신부