매직 스테이트 컬티베이션: 양자 컴퓨터의 비싼 연산을 싸게 기르는 법

왜 필요했나: 매직 스테이트라는 병목

이 글은 AI가 아니라 양자 컴퓨팅의 핵심 기술을 다룬다. 양자 컴퓨터의 큐비트는 아주 작은 잡음에도 상태가 흐트러진다. 그래서 실용적인 양자 컴퓨터는 물리 큐비트 여러 개를 묶어 하나의 '논리 큐비트'를 만들고, 오류가 생기면 찾아 고치는 양자 오류 정정 코드 위에서 돌아가야 한다. 이런 방식을 내결함성 양자 컴퓨팅(FTQC, Fault-Tolerant Quantum Computing)이라 부른다. 큐비트를 바둑판처럼 놓는 표면 코드(surface code)와 컬러 코드(color code)가 대표적이다.

문제는 연산의 종류다. 양자 연산 가운데 클리퍼드(Clifford) 연산이라 불리는 부류는 오류 정정 코드 위에서 비교적 싸게 할 수 있다. 하지만 클리퍼드 연산만으로는 모든 계산을 표현할 수 없다. 어떤 계산이든 할 수 있는 범용 게이트 집합을 갖추려면 T 게이트 같은 비(非)클리퍼드 연산이 꼭 필요하다. 초전도 프로세서 실험 논문논문은 대부분의 오류 정정 구조에서 이 연산이 큰 자원 비용을 차지한다고 지적한다.

그래서 '매직 스테이트'라는 우회로를 쓴다. 비클리퍼드 연산을 직접 하지 않고, 그 연산의 효과를 담은 특별한 양자 상태를 미리 만들어 둔다. 그리고 클리퍼드 연산만으로 이 상태를 소비해 T 게이트를 구현한다. 그러면 매직 스테이트를 얼마나 깨끗하고 싸게 만드느냐가 관건이 된다. 전통적인 매직 스테이트 Distillation(증류)은 품질이 낮은 매직 스테이트 여러 개를 합쳐 더 깨끗한 하나를 뽑아낸다. 래티스 서저리 기반 컬티베이션 연구논문는 이 과정이 내결함성 양자 계산의 주요 병목이라고 짚는다.

컬티베이션은 이 비용을 줄이려고 나왔다. 게이징 기반 컬티베이션 연구논문는 컬티베이션의 성과를 이렇게 정리한다. 컬러 코드의 코드 거리 5(d=5)에서 약 10^-9 수준의 논리 오류율을 내면서, 공간·시간 비용(필요한 큐비트 수와 걸리는 시간을 곱한 양)은 Distillation보다 훨씬 적다.

핵심 아이디어: 작은 화분에서 길러 옮겨 심기

컬티베이션(cultivation)은 '재배'라는 뜻 그대로다. 모종을 작은 화분에서 기르면서 수시로 상태를 살피고, 시들 기미가 보이면 미련 없이 버린 뒤 새로 심는다. 끝까지 살아남은 튼튼한 모종만 넓은 밭으로 옮긴다. 작은 화분은 싸서 많이 버려도 부담이 적고, 밭에는 검증된 모종만 들어간다.

래티스 서저리 기반 컬티베이션 연구논문는 Distillation을 두 갈래로 나눈다. 하나는 논리 큐비트 여러 개를 엮어 합치는 전통적인 '논리 수준' 방식이다. 다른 하나는 물리 게이트로 직접 구현해 비용을 크게 줄이는 '물리 수준' 방식이다. 이 연구는 컬티베이션을 물리 수준의 최신 방식으로 소개한다. 큐비트가 상하좌우 이웃과만 연결된 정사각 격자 배치에서도 쓸 수 있고, 충실도 높은 매직 스테이트를 낸다는 것이다.

핵심은 '고치기'보다 '걸러 내기'다. 오류를 찾아 바로잡는 대신, 검사에서 조금이라도 이상한 신호가 나오면 그 시도를 통째로 버린다. 이를 사후 선택(postselection)이라 한다. 초전도 프로세서 실험논문에서도 시도의 8%만 남았다. 이는 실패가 아니라 설계의 일부다. 많이 버리는 대가로 남은 상태의 품질을 끌어올린다.

어떻게 작동하나: 준비·검사·키우기·탈출

세부 구성은 연구마다 다르므로 여기서는 공통 뼈대만 짚는다. 먼저 작은 컬러 코드(코드 거리 3, d=3 정도) 안에 아직 품질이 거친 매직 스테이트를 준비한다. 코드 거리(d)는 코드가 얼마나 많은 오류를 견딜 수 있는지 나타내는 값이다. 클수록 튼튼하지만 큐비트가 더 많이 든다.

다음은 검사다. 게이징 연구논문에 따르면 컬티베이션은 컬러 코드의 횡단(transversal) 클리퍼드 연산자를 측정한다. 횡단 연산이란 각 물리 큐비트에 같은 연산을 한꺼번에 거는 방식이다. 원하는 매직 스테이트라면 이 측정에서 정해진 값이 나와야 하므로, 다른 값이 나오면 오류가 섞였다고 보고 버린다. √T 컬티베이션 연구논문는 이런 검사를 '위상 킥백 검사(phase kickback check)'라고 부르며 다른 상태로 일반화했다. 검사를 반복하고, 코드를 더 큰 거리로 키워 다시 검사하면서 품질을 끌어올린다.

마지막은 탈출(escape)이다. 작은 코드에서 기른 상태를 실제 계산이 이뤄지는 큰 표면 코드로 옮긴다. 처음 제안된 방식은 이 단계에 '접목 코드(grafted code)'라는 복잡한 구조를 쓴다. 래티스 서저리 기반 연구논문는 접목 코드가 큰 공간·시간 비용을 부르고 구현을 어렵게 만든다고 지적한다. 실험논문은 표면 코드로 코드 전환(code-switching)을 했다. √T 연구논문는 코드 조각의 경계를 붙였다 떼며 연산하는 래티스 서저리로 탈출했다. Caliper 연구논문에 따르면 탈출 단계에서도 사후 선택이 이뤄진다. 모든 관문을 통과한 상태만 계산으로 넘어가 T 게이트에 소비되고, 중간에 탈락하면 처음부터 다시 시도한다.

발전 흐름: 실험 검증에서 실무 비용까지

'실제로 되는가'라는 질문에는 초전도 양자 프로세서 실험논문이 답했다. 이 제안의 가정은 큐비트 상태를 오래 지키는 메모리 실험과는 성격이 달라서 시험하기 어려웠다. 저자들은 표면 코드로의 코드 전환까지 포함해 컬티베이션을 구현했다. 만든 매직 스테이트의 충실도(원하는 상태와 얼마나 같은지)를 범위로 확인하는 내결함성 측정 방식도 따로 개발했다. 그 결과 오류를 40배 줄이고 충실도 0.9999(1)을 얻었으며, 시도의 8%가 남았다.

프로토콜을 더 싸고 크게 만드는 연구도 이어졌다. 래티스 서저리 기반 연구논문는 접목 코드를 없애 공간 비용을 줄였다. 또 코드 확장과 조기 탈락(early rejection)으로 평균 비용을 낮췄다. 컬러 코드 거리 3, 물리 오류 확률 10^-3 조건에서 원래 컬티베이션과 비슷한 약 3×10^-6의 논리 오류 확률을 내면서, 공간·시간 비용은 절반 정도로 줄였다. 게이징 연구논문는 다른 한계를 짚었다. 검사 회로의 깊이가 코드 거리에 비례해 늘어서 d>5에서는 비현실적이라는 것이다. 이 연구는 게이징(gauging)으로 깊이가 일정한 측정 회로를 만들었다. 대신 오류 정정 대신 사후 선택을 반복해 단순함을 얻고 확장성 일부를 내줬다. d=7 버전은 물리 오류율 0.05%에서 10^-12 수준의 논리 오류율에 닿았고, 컬티베이션 단계에 해당하는 지점 이후에도 시도의 1% 넘게 남겼다. √T 연구논문는 지금까지 연구가 T 상태에 집중됐다고 보고, 검사 방식을 더 높은 계층의 매직 스테이트로 넓혔다.

시뮬레이션도 중요한 갈래다. 클리퍼드 회로는 일반 컴퓨터로 효율적으로 시뮬레이션할 수 있지만, 비클리퍼드 연산이 섞이면 급격히 어려워진다. ZX 분해 시뮬레이션 연구논문는 d=5 컬티베이션 회로를 평균 약 8개의 클리퍼드 ZX 다이어그램(양자 회로를 그림으로 계산하는 표기) 합으로 나타냈다. 비교 대상 분해 방식에는 6,377,292개 항이 필요했으니 70만 배 넘게 줄인 셈이다. d=3 회로는 노트북에서 초당 약 400만 회를 시뮬레이션했다. S 게이트로 대신한 클리퍼드 대리 시뮬레이션보다 약 1.1배 느린 정도다.

최근에는 실무 비용을 따지는 연구가 나왔다. Caliper 연구논문는 기존 비용 추정의 가정을 문제 삼았다. 기존 추정은 탈출 단계의 사후 선택을 위해 출력 상태를 잡음 없이 측정할 수 있다고 가정했지만, 그런 측정은 매직 스테이트를 파괴하므로 실제 계산 중에는 할 수 없다. 이 연구는 상태를 망가뜨리지 않는 중간 측정 정보만 쓰는 사후 선택 방법을 만들었다. 런타임 연구 MagiCFirm논문은 논리 소프트웨어와 물리 제어 사이를 잇는 공개 런타임 층이 없다는 문제에 주목했다. 매직 스테이트가 준비됐는지 정하는 판단의 지연 시간도 문제로 봤다. 이 연구는 디코딩(오류 신호 해석)을 부분적으로 먼저 돌려 확신이 높은 시도를 일찍 내보내는 방식과 전용 하드웨어 경로를 함께 설계했다. 같은 논리 오류율에서 준비 시간을 최대 39.3% 줄였고, 대표 작업의 전체 실행 시간은 약 11% 줄 것으로 추정했다.

요즘 어디로 가고 있나

최근 연구의 관심은 '잘 되는가'에서 '정확히 얼마나, 실제 기계 안에서 어떻게'로 옮겨 가고 있다. 결함 거리 연구논문는 T 상태 컬티베이션의 논리 오류율이 S 상태 컬티베이션보다 상당히 높다는 최근 벤치마크 결과를 설명했다. 마지막 이중 검사 회로 뒤에 '훅 오류(hook error)'가 클리퍼드 형태의 오류로 번지기 때문이다. 그 결과 결함 거리(몇 개의 오류가 겹쳐야 놓치는 실패가 생기는지)가 d=3에서 2, d=5에서 3으로 떨어진다. 이 연구는 이런 오류를 잡는 플래그(flag) 큐비트를 설계해 탈출 전 논리 오류율을 Θ(p^3)에서 Θ(p^5)로 낮췄다. 물리 오류 10^-3에서 4.9배 개선이며, 통과 한 번에 필요한 시도는 1.36배 늘어난다.

시뮬레이션 쪽에서는 magna논문가 나왔다. Distillation, 컬티베이션, 코드 전환 같은 매직 스테이트 공장을 클리퍼드 회로만큼 싸게 시뮬레이션하는 것이 목표다. 이 도구는 통과율과 통과한 상태의 충실도를 텐서 네트워크로 표현하고, 양자 코드의 횡단 게이트와의 구조적 대응을 이용해 한꺼번에 줄인다. 디코더 출력에 따라 다음 동작이 바뀌는 피드포워드도 지원한다. 저자들은 컬러 코드와 RP² 표면 코드 모두에서 d=5 컬티베이션의 샘플링 시간이 지금까지 가장 빠르다고 밝혔다.

컴파일러도 컬티베이션을 고려하기 시작했다. FlowRouter논문는 기존 래티스 서저리 컴파일러가 매직 스테이트를 언제나 공짜로 쓸 수 있다고 가정했다는 점을 짚는다. 이 컴파일러는 놀고 있는 코드 조각마다 컬티베이션을 돌리고, 여러 단계 사후 선택 때문에 생기는 들쭉날쭉함을 지연 장치로 흡수한다. 매직 스테이트를 공짜로 가정한 조건에서도 기존 최고 정적 컴파일러보다 공간·시간 부피를 2.3배 줄이고, 컴파일은 10.8배 빨랐다. 정리하면 컬티베이션은 독립된 기법에서 시뮬레이터·런타임·컴파일러가 함께 다루는 시스템 구성 요소로 바뀌고 있다.

한계와 쟁점

첫째, 공급이 확률적이다. 실험논문에서는 시도의 8%만 남았고, 게이징 연구논문의 d=7 버전도 1% 남짓만 남긴다. 매직 스테이트가 언제 나올지 정해져 있지 않으니, 계산 전체가 그 공급을 기다리는 일이 생긴다. FlowRouter논문의 지연 장치나 MagiCFirm논문의 빠른 판단 경로는 바로 이 문제를 다룬다.

둘째, 비용 추정의 가정이 흔들린다. Caliper 연구논문는 실제로 쓸 수 있는 중간 측정만으로 사후 선택하면 결과가 경우에 따라 다르다고 밝혔다. 어떤 조건에서는 기존 추정의 효율을 되찾지만, 기존 연구가 보고한 비용 수준에서는 논리 오류율이 몇 자릿수 높아질 수 있다. 보고된 오류율을 다시 얻으려면 훨씬 큰 코드와 긴 탈출 단계가 필요했다. 논문 속 수치를 실제 기계의 성능으로 바로 옮겨 읽으면 안 되는 이유다.

셋째, 시뮬레이션의 대리 지표 문제다. T 상태 회로는 시뮬레이션이 어려워, ZX 분해 시뮬레이션 연구논문가 언급한 것처럼 S 게이트로 바꾼 클리퍼드 회로를 대리 지표로 써 왔다. 그런데 결함 거리 연구논문가 보였듯 T 상태는 S 상태보다 결함 거리가 낮아질 수 있다. 대리 지표만 보면 성능을 낙관하게 된다. 정확한 시뮬레이터가 계속 나오는 것도 이 때문이다.

넷째, 규모와 일반화의 문제다. 원래 방식은 검사 회로 깊이 때문에 d>5로 키우기 어렵다논문. 이를 피한 방식도 단순함을 얻는 대신 확장성을 일부 내준다. 실험 결과 역시 특정 초전도 장치에서 얻은 것이므로, 다른 하드웨어나 큰 계산에서도 같은 성능이 나온다고 볼 근거는 아직 없다.

더 공부하려면

처음이라면 초전도 프로세서 실험논문의 초록부터 읽기를 권한다. 무엇을 증명하려 했고 어떤 수치를 얻었는지 한눈에 들어온다. 이어 래티스 서저리 기반 컬티베이션 연구논문를 읽으면 물리 수준 Distillation이라는 위치, 접목 코드의 부담, 조기 탈락 같은 핵심 개념을 정리할 수 있다. 검사 회로 깊이가 왜 규모의 벽이 되는지는 게이징 연구논문가 잘 보여 준다.

쟁점을 알고 싶다면 Caliper 연구논문와 결함 거리 연구논문를 함께 읽는다. 앞의 연구는 비용 추정의 가정을, 뒤의 연구는 T 상태와 S 상태의 차이를 다룬다. 시뮬레이션에 관심이 있으면 ZX 분해 시뮬레이션 연구논문에서 시작해 magna논문로 넘어간다. 시스템 설계 관점은 MagiCFirm논문과 FlowRouter논문가 좋다. T 이외의 매직 스테이트로 넓히는 방향은 √T 컬티베이션 연구논문에서 볼 수 있다.