[기획] 양자컴퓨터가 처음으로 '검산 가능한' 승리를 거뒀다…'양자 메아리'의 정체

양자컴퓨터가 슈퍼컴퓨터를 몇 배 앞섰다는 발표는 6년 동안 여러 번 나왔다. 그리고 여러 번 무너졌다. 고전(古典) 컴퓨터 쪽에서 더 영리한 계산법이 나오면 격차는 깎여 나갔고, 어떤 주장은 열 달 만에 이론으로 뒤집혔다. 지난해 10월 구글이 내놓은 결과에서 달라진 것은 속도가 아니다. 이 계산은 다른 양자컴퓨터로 다시 재도 같은 값이 나온다.

구글 양자AI는 105큐비트 초전도 칩 '윌로(Willow)'에서 '양자 메아리(Quantum Echoes)'라 이름 붙인 알고리즘을 돌린 결과를 지난해 10월 22일 국제학술지 네이처에 실었다. 실험에 걸린 시간은 약 두 시간. 구글은 같은 작업을 고전 슈퍼컴퓨터로 흉내 내면 1만3000배의 시간이 든다고 밝혔다. 큐비트란 0과 1을 겹쳐 담는 양자컴퓨터의 계산 단위다.

검산되지 않는 승리는 오래 가지 못했다

왜 '검산'이 문제가 됐는지부터 봐야 한다. 구글은 2019년 10월 53큐비트 칩 시커모어(Sycamore)로 '양자 초월성'을 선언했다. 방법은 무작위 회로 샘플링이었다. 큐비트를 마구잡이로 뒤섞은 뒤 튀어나오는 비트열, 곧 0과 1의 나열이 어떤 분포를 이루는지 재는 방식이다.

문제는 그 결과가 사실상 한 번 쓰고 버리는 난수표였다는 데 있다. 구글 자신의 설명대로 같은 비트열은 두 번 다시 나오지 않는다. 그러니 이 기계가 정말 옳게 계산했는지를 직접 확인할 방법이 마땅치 않았고, 검증은 통계적 추정에 기댈 수밖에 없었다. 그사이 고전 알고리즘 연구자들은 더 나은 시뮬레이션을 들고 나와 격차를 깎았다.

가장 최근 사례가 구글 자신의 것이다. 구글이 2024년 12월 윌로로 내놓은 무작위 회로 샘플링 주장은 열 달 뒤인 지난해 10월 고전적으로 시뮬레이션할 수 있다는 이론 논문이 나오면서 사실상 봉쇄됐다. 검산되지 않는 승리는 오래 가지 못한다 — 이것이 이 분야의 급소였다.

뒤섞고, 한 칸 비틀고, 정확히 되감는다

양자 메아리는 이 급소를 정면으로 겨눈다. 알고리즘의 정식 이름은 '비시간순서 상관자(OTOC)'다. 이름은 낯설지만 루빅스 큐브에 대보면 선명해진다.

먼저 맞춰진 큐브를 정해진 순서로 마구 뒤섞는다. 양자계에서는 정보가 계 전체로 퍼져 뒤엉키는 과정이다. 그 상태에서 조각 하나만 살짝 더 비튼다. 연구자들은 이 미세한 교란을 '나비 연산자'라 부른다. 나비의 날갯짓이 폭풍을 부른다는 그 나비다. 그런 다음 처음의 뒤섞기를 정확히 역순으로 되감는다. 뒤섞기와 되감기가 서로 상쇄되면서, 오직 그 한 번의 비틀림이 계 전체에 남긴 파문만 도드라진다.

이 되감기를 '시간 역행'이라 부르는 설명이 많지만 구글은 선을 긋는다. 시간이 거꾸로 흐르는 것이 아니라 알파벳을 거꾸로 외우듯 연산 순서를 뒤집는 것일 뿐이다. 마지막에 돌아오는 메아리는 양자파가 서로 겹쳐 세지는 보강간섭으로 증폭되고, 그 덕에 평소라면 잡음에 묻힐 간섭까지 잡힌다. 이번에 잰 것은 그중에서도 '2차 OTOC'다.

구글은 윌로의 큐비트 105개 가운데 65개를 핵심 측정에 썼고, 되감기를 포함한 신호 진화는 103개에 걸쳐 돌렸다. 2차 OTOC의 데이터점 하나를 고전 컴퓨터로 뽑으려면 슈퍼컴퓨터 '프런티어'로 3.2년이 걸릴 것으로 추산됐다.

난수가 아니라 '물리량'을 쟀다

결정적 차이는 여기서 갈린다. 2019년 방식이 매번 달라지는 비트열을 뱉었다면, OTOC가 내놓는 값은 양자계의 기댓값이다. 조건이 같으면 어느 양자컴퓨터에서 재도 같은 답이 나오는 수치라는 뜻이다. 스콧 애런슨 미국 텍사스대 오스틴캠퍼스 컴퓨터과학과 교수는 이 점을 두고 "분포에서 뽑은 표본이 아니라 하나의 숫자이고, 따라서 원리적으로 효율적인 검증이 가능하다 — 고전 컴퓨터로 안 된다면 두 번째 양자컴퓨터로라도"라고 평했다.

구글은 이 성질을 실제 물리 실험에 대봤다. 미국 캘리포니아대 버클리캠퍼스 파인스 자기공명센터와 함께, 액정에 녹인 유기분자를 핵자기공명(NMR·물질이 자기장 속에서 내는 신호로 분자 구조를 읽는 기술)으로 재고 그 데이터를 양자 메아리로 해석했다. 15개 원자로 된 톨루엔에서는 수소 원자 사이의 평균 거리를, 28개 원자로 된 3',5'-디메틸바이페닐에서는 두 고리가 얼마나 비틀렸는지를 뽑아냈고, 값은 독립적인 분광 측정과 맞아떨어졌다. 기존 방법이 닿기 어려운 먼 원자 사이까지 재는 '분자 자'가 될 수 있다는 것이다.

다만 구글 스스로 단서를 달았다. 실제 계를 흉내 내는 일 자체가 복잡하고 지금 칩의 성능에도 한계가 있어, 이 첫 시연은 "아직 고전 컴퓨터를 넘어선 것이 아니다"라는 것이다. 검증된 것은 양자 메아리가 물리 실험과 들어맞는 답을 낸다는 사실이지, 실용 문제에서 슈퍼컴을 이겼다는 뜻이 아니다.

이번엔 아직 무너지지 않았다, 다만

발표 이후 열 달이 넘도록 이 결과를 고전 컴퓨터로 재현했다는 보고는 나오지 않았다. 지난 4월 공개된 한 프리프린트는 오히려 텐서 네트워크 계열의 유력한 고전 기법으로는 이 실험을 흉내 낼 수 없다고 논증했다. 구글의 이전 주장이 열 달 만에 봉쇄된 것과는 다른 국면이다.

그렇다고 논쟁이 끝난 것은 아니다. 올해 7월 나온 한 프리프린트(동료심사 전)는 양자 메아리를 그 시기 유일하게 재현되지도 봉쇄되지도 않은 시연으로 평가하면서도, 측정값이 오류 완화 과정의 재척도를 거친다는 점과 정확도 검증이 40큐비트 수준까지만 이뤄졌다는 점을 지적했다.

구글 논문과 같은 날 공개된 다른 전망 논문도 눈여겨볼 만하다. 옌스 아이제르트 베를린자유대 교수와 존 프레스킬 미국 캘리포니아공대 교수는 양자우위 일반을 다룬 논평에서 넘어야 할 문턱 넷을 짚었다. 오류 완화에서 능동적 오류 검출·정정으로, 초보적 오류 정정에서 확장 가능한 내결함성으로, 어림짐작식 알고리즘에서 검증 가능한 성숙한 알고리즘으로, 탐색적 시뮬레이터에서 믿을 만한 우위로. 이 논평이 양자 메아리를 직접 겨냥한 것은 아니지만, 짚은 셋째 문턱이 바로 이번 결과가 건드린 지점이다.

경쟁 진영도 같은 곳을 보고 있다. IBM은 지난해 11월 120큐비트 프로세서 '나이트호크'를 공개하며 올해 말까지 '검증된 양자우위'를 확인하겠다고 밝혔다. 반면 중국 과학기술대가 지난해 3월 105큐비트 '주충즈 3.0'으로 주장한 우위는 검산이 어려운 종전 방식이었다.

한국은 20큐비트에서 출발선에 섰다

한국의 좌표는 어디쯤일까. 한국표준과학연구원이 주도하고 한국과학기술정보연구원·성균관대·울산과학기술원 등이 참여한 컨소시엄은 지난해 3월 국내 처음으로 20큐비트 초전도 양자컴퓨터를 클라우드로 공개 시연했다. 한 큐비트짜리 연산의 정확도는 평균 99.93%였지만, 두 큐비트를 얽는 연산은 평균 93.85%에 그쳤다. 얽힘 연산의 정확도가 실력을 가르는 대목이다. 이 사업에는 2022년부터 490억 원이 투입됐고, 올해 목표는 50큐비트다.

도입으로 메운 부분도 있다. 연세대는 2024년 11월 국내 처음으로 127큐비트급 IBM 상용기를 들여왔다고 밝혔다. 정부는 양자과학기술 플래그십 프로젝트로 2029년까지 1,450억 원을 들여 100큐비트급 초전도 양자컴퓨터를 만들고, 2032년까지 중성원자 기반 1,000큐비트급과 초전도 기반 300큐비트급으로 넓힌다는 계획이다. 2024년 5월 밝힌 목표는 2035년까지 민관 합동 3조 원 이상 투자, 기술 수준을 선도국의 85%까지 끌어올리는 것이다. 2024년 한 해 투자액 1,285억 원은 2021년(466억 원)의 두 배를 넘겼다.

대비는 분명하다. 구글이 105큐비트에서 '다시 재도 같은 값'을 논문으로 증명하는 동안, 한국은 20큐비트를 클라우드에 올려 놓는 단계에 있다. 목표 수치는 큐비트 개수에 맞춰져 있고, 검증 방법론을 겨냥한 항목은 눈에 띄지 않는다.

속도 경쟁이 아니라 신뢰 경쟁이라면

이번 결과가 바꾼 규칙은 '더 빠른가'가 아니라 '다시 확인할 수 있는가'다. 암호 쪽은 이미 시계가 돌아가고 있다. 국가정보원과 과학기술정보통신부는 2023년 7월 양자내성암호 전환 마스터플랜을 내놓고 2035년까지 국내 암호체계를 전면 교체하는 3단계 일정을 제시했다. 미국 국립표준기술연구소(NIST)도 2024년 8월 양자내성암호 표준 세 건을 확정한 뒤, 양자컴퓨터에 취약한 기존 알고리즘을 2035년까지 표준에서 걷어내되 위험이 큰 시스템은 그보다 훨씬 앞당겨 전환하라고 권고했다. 한국과 미국의 시한이 나란히 2035년을 가리킨다.

아이제르트·프레스킬이 짚은 문턱 넷을 국내 계획에 겹쳐 보면 빈 곳이 보인다. 큐비트 수를 늘리는 일은 계획에 들어 있지만, 결과를 남이 다시 확인할 수 있게 만드는 검증 가능한 알고리즘 확보는 목표 문장으로 명시돼 있지 않다. 구글의 이번 성과가 실용의 문턱을 넘지 못했는데도 값어치를 인정받은 이유가 바로 그 항목이었다.

양자컴퓨팅은 '누가 더 센가'를 겨루던 국면을 지나 '무엇을 믿고 쓸 수 있는가'를 묻는 자리로 옮겨 가고 있다. 1만3000배라는 숫자보다, 그 숫자를 남이 다시 재볼 수 있게 만든 쪽이 이번 발표의 요점이다.

자료: 구글 양자AI, 네이처, 미국 캘리포니아대 버클리캠퍼스 파인스 자기공명센터, 한국표준과학연구원, 과학기술정보통신부, 국가정보원, 미국 국립표준기술연구소(NIST), IBM