[기획] 양자컴퓨터는 왜 자꾸 틀리나…‘오류정정’이라는 진짜 관문

촛불을 들고 강풍 속을 걷는다고 생각해보자. 불은 잠깐 살아 있지만 작은 흔들림에도 꺼질 수 있다. 양자컴퓨터의 계산도 이와 비슷하다. 계산 단위인 큐비트(qubit)는 일반 컴퓨터의 비트처럼 0이나 1 중 하나만 갖지 않고, 0과 1을 동시에 가지는 ‘중첩’ 상태를 이용한다. 문제는 미세한 진동이나 온도 변화, 전자기 잡음만 스쳐도 이 상태가 무너진다는 점이다.

이처럼 큐비트가 주변 환경과 상호작용해 양자 상태를 잃는 현상을 결어긋남(decoherence)이라고 한다. 물리 큐비트 하나가 상태를 유지하는 코히어런스 시간은 대체로 수십~100마이크로초에 불과하다. 1마이크로초는 100만분의 1초다. 그 짧은 시간 동안 연산과 측정을 마쳐야 하며, 게이트 조작의 부정확성·열잡음·측정 오류·큐비트 사이의 의도치 않은 간섭인 크로스토크까지 계산을 방해한다.

그래서 양자컴퓨터 경쟁의 질문이 달라지고 있다. ‘큐비트를 몇 개 만들었는가’에서 ‘그 큐비트가 내는 오류를 얼마나 잘 찾아 고치는가’로 무게중심이 이동했다. 오류정정이라는 관문을 넘지 못하면 큐비트를 늘리는 일은 계산 능력을 키우는 것이 아니라 고장 날 부품을 더하는 일이 될 수 있다.

믿기 어려운 목격자들을 묶어 하나의 답을 만든다

오류정정의 핵심은 여러 물리 큐비트를 하나의 논리 큐비트(logical qubit)로 묶는 것이다. 물리 큐비트 하나하나를 믿기 어려운 목격자라고 한다면, 논리 큐비트는 여러 진술을 교차검증해 합의한 결론에 가깝다. 초기 오류정정 코드 중에는 물리 큐비트 7개로 논리 큐비트 1개를 만드는 방식도 있었다.

여기에는 중요한 조건이 있다. 물리 큐비트 각각의 오류율이 ‘문턱(threshold)’이라고 부르는 기준선 아래에 있어야 한다. 문턱을 넘은 상태에서는 더 많은 물리 큐비트를 묶을수록 논리 오류율이 지수적으로 줄어든다. 반대로 기준선에 도달하지 못하면 부품을 추가할수록 오류도 함께 쌓인다. 큐비트 숫자 자체보다 ‘문턱 이하’가 중요한 이유다.

구글 윌로, 크게 묶을수록 오류가 줄었다

Google Quantum AI는 2024년 12월 105큐비트 초전도 양자칩 ‘윌로’를 공개했다. 윌로를 이용한 표면부호(surface code·물리 큐비트를 격자로 배치해 오류를 반복 점검하는 방식) 실험에서는 격자를 3×3에서 5×5, 7×7로 확대할수록 논리 오류율이 계속 낮아졌다. 코드 거리(distance·오류를 견디도록 구성한 격자의 규모)를 두 단계 늘릴 때마다 논리 오류율이 평균 2.14±0.02배 억제됐다.

101개 물리 큐비트로 구성한 가장 큰 distance-7 코드의 논리 오류율은 오류정정 사이클당 0.143%±0.003%였다. 이렇게 만든 논리 큐비트의 수명은 그 안에 포함된 물리 큐비트 가운데 가장 성능이 좋은 것보다도 2.4±0.3배 길었다. 여러 불안정한 부품을 묶었더니 가장 좋은 부품 하나보다 정보가 오래 살아남은 것이다. 코드를 키우면 오류가 줄어드는 ‘문턱 이하’ 동작을 처음 실증했다는 점에서 상징적 이정표가 됐다.

하드웨어 자체도 개선됐다. 이전 세대 칩 시커모어의 코히어런스 시간은 약 20마이크로초였지만 윌로는 약 100마이크로초로, 약 5배 늘었다. 윌로는 무작위 회로 샘플링(RCS·양자칩의 성능을 시험하기 위해 무작위 연산 결과를 뽑는 벤치마크) 계산을 5분 만에 마쳤다. Google Quantum AI는 같은 작업을 오늘날 가장 빠른 슈퍼컴퓨터로 계산하면 10²⁵년이 걸릴 것으로 추정했다.

그러나 이 숫자가 곧 실용 양자컴퓨터의 완성을 뜻하지는 않는다. 약 0.14%의 논리 오류율은 유의미한 양자 알고리즘에 필요하다고 여겨지는 100만분의 1, 즉 10⁻⁶ 수준보다 여전히 자릿수로 높다. 실험도 논리 큐비트에 정보를 보존하는 ‘양자 기억’을 검증한 것이며, 오류가 억제된 상태로 실제 논리 게이트 연산을 수행한 단계는 아니었다.

Google Quantum AI는 2025년 10월 윌로와 ‘퀀텀 에코즈’ 알고리즘으로 검증 가능한 양자 우위를 달성했다고 발표했다. 시스템에 신호를 넣고 시간역전 방식으로 되돌려 메아리를 관측했으며, 최고 성능급 슈퍼컴퓨터의 고전 알고리즘보다 약 1만3000배 빠르게 계산했다고 밝혔다. 다른 양자컴퓨터와 교차검증할 수 있는 자기화 같은 물리량을 계산했다는 점에서 분자와 자석 등 실제 물질 구조 연구로 이어질 가능성을 보여줬다.

IBM은 오류를 480나노초 안에 읽어낸다

IBM은 다른 축에서 결함허용(fault tolerance·오류가 생겨도 계산을 계속하는 능력)을 준비하고 있다. 2025년 11월 공개한 ‘나이트호크’는 120큐비트와 튜너블 커플러 218개를 탑재했다. 실험용 칩 ‘룬’에서는 다층 배선, 칩 위 장거리 연결인 c-커플러, 큐비트 리셋 기술을 시연했다.

특히 양자 저밀도 패리티 검사 부호(qLDPC·비교적 적은 물리 큐비트로 오류를 점검하려는 오류정정 부호)의 오류 정보를 480나노초 안에 실시간으로 해독했다고 밝혔다. 1나노초는 10억분의 1초다. 기존 방식보다 약 10배 빠르고 당초 목표보다 1년 앞선 결과이며, 이 빠른 디코딩을 일반 반도체 기반의 고전 컴퓨팅 하드웨어로도 정확하게 처리할 수 있음을 보였다는 점이 핵심이다. 제이 감베타 IBM 리서치 디렉터는 “IBM은 양자 소프트웨어·하드웨어·제조·오류정정을 한꺼번에 빠르게 발전시킬 수 있는 유일한 기업”이라고 말했다.

IBM은 2026년 말까지 실질적인 양자 이점을 달성하고, 2029년에는 뉴욕주 포킵시에 대규모 결함허용 양자컴퓨터 ‘스탈링’을 구축한다는 목표를 제시했다. 그 중간 단계에는 오류정정이 가능한 첫 모듈 ‘쿠커버라’가 놓여 있다. 300㎜ 웨이퍼 공정을 활용해 개발 속도를 2배 단축하고 물리적 집적도를 10배 높였다고도 밝혔다.

한국도 1000개보다 ‘오류정정 가능한 300개’를 택했다

한국의 정책 목표 역시 큐비트 수 경쟁에서 오류정정 중심으로 바뀌었다. 2025년 6월 본격 착수한 양자과학기술 플래그십 프로젝트는 8년 동안 총 6454억 원을 투자하는 국내 최초 국가 R&D 사업이다. 오류정정이 가능한 초전도 양자 프로세서 개발에 처음 도전한다.

정부는 애초 2032년까지 1000큐비트 초전도 양자컴퓨터를 목표로 했지만, 큐비트 수만 늘려서는 근본적인 오류 문제를 해결하기 어렵다는 판단에 따라 ‘오류정정이 가능한 300큐비트’로 조정했다. 중성원자 방식에서는 별도로 1000큐비트급 프로세서를 추진한다.

첫 단계는 2025년 10월부터 2029년 말까지 1450억 원을 투입해 오류정정 가능한 100큐비트급 초전도 QPU를 개발하는 것이다. 목표는 코히어런스 시간 50마이크로초, 단일 게이트 신뢰도 99.9% 이상이다. 한국표준과학연구원은 이미 20큐비트 시스템에서 양자 연산에 성공했고 50큐비트 시스템 2기를 구축했다. 한국과학기술정보연구원, 성균관대, 울산과학기술원 등도 주요 참여 연구기관으로 언급됐다.

앞으로의 판단 기준은 더 많은 큐비트가 아니다. 논리 오류율을 10⁻⁶ 수준까지 낮출 수 있는지, 정보 보존에서 확인한 오류 억제가 실제 연산에서도 재현되는지가 핵심이다. 강풍 속 촛불을 잠시 지키는 단계를 넘어, 그 불빛으로 끝까지 계산을 마칠 수 있어야 양자컴퓨터는 비로소 쓸모 있는 기계가 된다.

12억 달러, 10억 유로, 25억 파운드 — 국가 단위로 커진 판돈

오류정정 경쟁은 기업 실험실만의 싸움이 아니다. 미국은 2018년 국가양자이니셔티브법으로 5년간 12억 달러를 투입하는 국가 체계를 세웠고, 에너지부는 2025년 11월 산하 양자연구센터 5곳의 차세대 연구에 6억2,500만 달러 지원을 발표했다. EU는 2018년 시작한 10년·10억 유로 규모의 ‘퀀텀 플래그십’에 이어 2030년까지 약 6억 유로를 더 넣는 2단계에 착수했다. 영국은 2023년 국가양자전략에서 10년간 25억 파운드 투자를 약속했다. 영국 한 나라의 판돈이 한국이 2035년까지 계획한 민관 합동 3조 원을 웃돈다.

한국은 2023년 6월 ‘대한민국 양자과학기술 전략’에서 스스로를 추격자로 진단했다. 발표 당시 인용된 평가에서 한국의 양자 기술 수준은 최고 기술국의 62.5%였다. 2024년 11월에는 양자기술산업법이 시행됐고, 2025년 3월에는 국무총리가 위원장을 맡는 양자전략위원회가 출범해 부처별로 흩어져 있던 정책을 심의·의결하는 컨트롤타워가 됐다.

‘85%’가 요구하는 것 — 인력 2,500명과 기업 1,200개

전략이 내놓은 처방의 뼈대는 돈보다 사람과 생태계다. 정부는 2035년까지 기술 수준을 최고국 대비 85%로 끌어올리고, 양자 핵심인력 2,500명과 관련 종사인력 1만 명을 양성하며, 양자 기술을 공급하거나 활용하는 기업을 1,200개까지 늘려 세계 시장의 10%를 차지한다는 목표를 제시했다.

양자기술산업법은 그 이행 장치를 담았다. 양자 종합계획 수립, 연구센터·클러스터 지정, 전문교육기관 선정 등 연구개발부터 산업화까지 전 주기를 지원하는 근거다. 큐비트 개수에서 오류정정으로 승부처가 옮겨간 국면에서도, 전략과 법이 공통으로 짚는 병목은 결국 사람이다. 문턱 아래의 오류율을 실제 연산으로 증명할 연구자와 기업을 얼마나 길러내느냐가 3조 원 투자의 성패를 가른다.

자료: Google Quantum AI, IBM, 한국표준과학연구원(KRISS), 과학기술정보통신부·미국 에너지부·유럽연합 집행위원회·영국 과학혁신기술부·국가법령정보센터