빛보다 빠른 정보는 왜 양자 얽힘 속에서도 침묵할까
한밤중 서울 연구실에서 관측 장비의 스위치를 올렸을 때, 지구 반대편 부에노스아이레스에 놓인 또 하나의 입자가 단 1초의 지체도 없이 반응한다는 이야기를 처음 들었을 때를 기억합니다. 거리가 아무리 멀어도, 심지어 안드로메다은하 저편에 떨어져 있어도 하나의 상태가 바뀌면 다른 하나가 즉시 결정된다는 신비로운 설명은 누구나 한 번쯤 들어보았을 것입니다. 과학 소설이나 영화는 이 기묘한 현상을 두고 우주선과 지구 본부가 광속의 장벽을 훌륭하게 뛰어넘어 실시간으로 대화를 나누는 초광속 통신의 치트키처럼 묘사하곤 했습니다. 아인슈타인마저 질색하며 유령 같은 원격 작용이라 불렀던 양자 얽힘을 우리는 오랫동안 빛보다 빠른 미래의 무선 통신망으로 오해해 왔습니다. 그러나 10년 넘게 양자물리학의 최전선을 취재하며 만난 이론물리학자들은 늘 묘한 미소를 지으며 같은 대답을 돌려주었습니다. 양자 얽힘은 광속의 한계를 산산조각 낸 것처럼 보이지만, 아이러니하게도 그 어떤 정보도 빛보다 빠르게 전달하지 못한다는 엄혹한 진실 말입니다. 겉보기에는 명백한 초광속 상호작용처럼 보이는 이 현상이 왜 통신이라는 영역에 들어서는 순간 침묵하고 마는지, 그 장막 뒤편의 정교한 물리학을 찬찬히 들여다보려 합니다.
아인슈타인이 끝내 받아들이지 못한 기묘한 쌍둥이
이야기는 1935년 학술지 피지컬 리뷰에 실린 하나의 도발적인 논문에서 출발합니다. 알베르트 아인슈타인은 동료 연구자인 보리스 포돌스키, 네이선 로젠과 함께 양자역학의 불완전성을 지적하는 논문을 발표했습니다. 훗날 저자들의 앞 글자를 따서 이른바 이피알 역설이라 불리게 된 이 논문은 하나의 원자에서 방출되어 서로 반대 방향으로 날아가는 두 입자의 특성에 주목했습니다. 양자역학의 표준 해석에 따르면, 관측하기 전까지 두 입자의 스핀 같은 물리량은 위쪽인지 아래쪽인지 정해지지 않은 채 확률적인 중첩 상태로 허공을 가릅니다. 그런데 한쪽 입자를 관측하여 위쪽 스핀으로 확인하는 바로 그 찰나, 아무리 멀리 떨어져 있어도 반대편 입자는 빛의 속도로는 닿을 수 없는 순간에 아래쪽 스핀으로 결정됩니다.
아인슈타인은 특수 상대성 이론을 통해 우주에서 그 어떤 물질이나 에너지, 심지어 정보조차 진공 속의 빛보다 빠르게 이동할 수 없다는 국소성의 원리를 확립한 장본인이었습니다. 하나의 사건이 다른 사건에 영향을 미치려면 반드시 빛의 속도 이하로 물리적 신호가 오가야 한다는 상식적인 물리학의 근간이 흔들리는 것을 그는 결코 용납할 수 없었습니다. 그는 두 입자가 처음 갈라질 때부터 이미 숨은 변수를 품고 있었을 뿐이지, 원격으로 즉각적인 영향을 주고받는 유령 같은 일은 일어날 수 없다고 확신했습니다. 마치 빨간 공과 파란 공을 각각 상자에 담아 하나는 서울에 두고 다른 하나는 파리로 보냈을 때, 서울의 상자를 열어 빨간 공을 확인하는 순간 파리의 상자에 든 공이 파란 공임을 알게 되는 것처럼 말입니다. 이것은 정보가 서울에서 파리로 날아간 것이 아니라, 원래부터 정해져 있던 사실이 드러났을 뿐이라는 합리적인 반박이었습니다.
실험실에서 확인된 섬뜩한 사실과 노벨상의 증명
아인슈타인의 이 그럴듯한 반박은 한동안 철학적인 논쟁의 늪에 머물러 있었습니다. 숨은 변수가 정말 존재하는지, 아니면 양자역학의 기괴한 비국소성이 진짜 자연의 본성인지를 실험적으로 판가름할 방법이 없었기 때문입니다. 그러나 1964년 북아일랜드의 물리학자 존 스튜어트 벨이 학술지 피직스에 기념비적인 논문을 발표하면서 상황은 급반전되었습니다. 벨은 만약 아인슈타인의 생각대로 입자들이 국소적인 숨은 변수를 공유하고 있다면, 두 입자의 측정값 사이의 상관관계가 특정한 수학적 부등식을 절대로 넘어설 수 없다는 점을 증명해 냈습니다. 이것이 바로 벨의 부등식입니다.
물리학자들은 이 부등식을 시험대에 올리기 위해 정밀한 광학 장비를 구축하기 시작했습니다. 1982년 프랑스 오르세 광학 연구소의 알랭 아스페 교수 연구팀은 광자 쌍을 이용해 벨의 부등식이 명백하게 깨진다는 사실을 실험으로 입증했습니다. 두 입자는 아인슈타인의 바람처럼 정해진 각본을 품고 날아간 것이 아니라, 하나의 입자를 측정하는 바로 그 순간 반대편 입자의 물리적 현실이 결정되고 있었습니다. 이후 여러 실험적 틈새를 보완하는 연구가 이어졌고, 2015년 네덜란드 델프트 공과대학교의 로날트 핸슨 연구팀은 학술지 네이처를 통해 측정 과정의 모든 허점을 차단한 무간극 벨 테스트에 마침내 성공했습니다.
두 입자가 1.3킬로미터 떨어져 있는 상태에서 진행된 이 실험은 아인슈타인이 그토록 부정했던 유령 같은 원격 작용이 시공간의 제약을 비웃듯 실제로 발생함을 완벽하게 확인해 주었습니다. 이 공로로 알랭 아스페, 존 클라우저, 안톤 차일링거 세 명의 물리학자는 2022년 노벨 물리학상을 공동 수상했습니다. 자연은 국소적 실재론을 따르지 않는다는 냉혹한 진리가 마침내 과학의 정설로 자리 잡은 것입니다. 바로 이 지점에서 많은 이들이 환호하며 질문을 던졌습니다. 두 입자 사이의 얽힘이 빛보다 빠르게, 심지어 동시적으로 일어난다면 인류는 왜 이를 이용해 초광속 통신망을 깔지 못하는 것일까요.
우주가 통신을 가로막는 기막힌 빗장
얽힘이 빛보다 빠르다는 사실이 증명되었음에도 불구하고, 이것이 초광속 통신으로 이어질 수 없는 이유는 통신이라는 행위의 본질과 양자역학의 근본적인 무작위성에 있습니다. 일상적인 통신이란 내가 원하는 특정한 메시지를 가공하여 상대방에게 전달하는 행위입니다. 즉 송신자가 신호의 형태를 능동적으로 제어할 수 있어야만 비로소 유의미한 정보가 성립합니다.
여기서 치명적인 반전이 발생합니다. 지구에 있는 철수가 안드로메다에 있는 영희에게 모스 부호처럼 0과 1의 디지털 신호를 보내고 싶다고 가정해 보겠습니다. 철수는 자신에게 배정된 얽힌 입자를 측정합니다. 측정하는 순간 영희의 입자 상태도 즉각 결정되는 것은 분명한 사실입니다. 그러나 문제는 철수 자신조차 자기 입자를 측정했을 때 위쪽 스핀이 나올지 아래쪽 스핀이 나올지 전혀 통제할 수 없다는 점입니다. 양자 측정의 결과는 우주에서 가장 순수한 형태의 확률에 의해 무작위로 결정됩니다.
철수가 영희에게 1이라는 신호를 보내기 위해 입자를 반드시 위쪽 스핀으로 만들고 싶어도, 그것을 강제할 수 있는 물리적 수단은 존재하지 않습니다. 철수가 입자를 관측하면 그저 동전을 던지듯 절반의 확률로 결과가 나타날 뿐입니다. 한편 안드로메다에 있는 영희 역시 자신의 입자를 측정합니다. 영희가 마주하는 결과 역시 완전한 난수의 나열일 뿐입니다. 영희의 입장에서 보면 눈앞의 입자가 스스로 무작위로 튀어 오른 것인지, 아니면 수억 광년 떨어진 철수가 방금 관측을 마쳤기 때문에 그렇게 튀어 오른 것인지 구분할 방법이 전혀 없습니다.
만약 철수가 억지로 입자의 상태를 위쪽으로 비틀어버리면 어떻게 될까요. 그 순간 두 입자 사이에 형성되어 있던 미묘한 양자 얽힘은 허무하게 깨져버립니다. 1982년 윌리엄 우터스와 보이체크 주렉이 피지컬 리뷰 레터스에 발표한 양자 무복제 정리는 알려지지 않은 임의의 양자 상태를 완벽하게 복제하는 것이 불가능함을 증명했습니다. 이와 궤를 같이하는 무신호 정리에 따르면, 얽힌 상태의 한쪽에서 국소적인 측정을 수행하더라도 반대편의 국소적 밀도 행렬에는 아무런 물리적 변화가 나타나지 않습니다. 즉 상관관계는 빛보다 빠르게 맺어지지만, 통신을 위한 신호는 단 한 글자도 빛의 속도를 넘어 이동하지 못합니다. 우주는 빛보다 빠른 연결을 허용하면서도, 동시에 그 연결을 통한 초광속 정보 교환에는 완벽한 빗장을 걸어 잠근 셈입니다.
광속의 한계 속에서 피어난 완벽한 보안의 세계
초광속 통신이 물리학적으로 불가능하다는 결론은 언뜻 실망스럽게 들릴 수 있습니다. 인류의 오랜 꿈이었던 성간 실시간 대화는 여전히 빛의 속도라는 물리적 제약에 갇혀 있기 때문입니다. 영희가 철수와 나눈 입자들의 얽힘 결과를 비교해 보고 완벽한 상관관계가 존재했음을 깨닫기 위해서는, 결국 철수가 기존의 전파나 광케이블 같은 재래식 통신 수단을 이용해 자신의 측정 결과 목록을 빛의 속도로 보내주어야만 합니다. 결국 두 관측자 사이의 의미 있는 데이터 합의는 언제나 빛의 속도 이하로만 완성됩니다.
하지만 이 좌절의 지점에서 현대 물리학은 완전히 새로운 지평을 열어젖혔습니다. 정보를 빛보다 빠르게 보낼 수는 없지만, 정보의 보안성을 물리 법칙의 수준에서 완벽하게 보장하는 기술이 바로 이 얽힘의 메커니즘에서 탄생했기 때문입니다. 대표적인 사례가 1993년 찰스 베넷을 비롯한 물리학자들이 고안한 양자 원격전송 프로토콜과 이를 응용한 양자 암호 키 분배 기술입니다.
양자 암호 통신에서 얽힌 입자 쌍은 송신자와 수신자가 도청이 불가능한 일회용 암호 열쇠를 나누어 갖는 수단으로 쓰입니다. 양자 얽힘의 상태는 누군가 중간에서 몰래 엿보는 즉시 파괴되는 극도의 민감성을 지닙니다. 제3자가 정보를 가로채기 위해 얽힌 광자를 측정하는 순간, 중첩 상태가 붕괴하면서 송신자와 수신자가 공유하는 상관관계의 일관성에 치명적인 오류가 발생합니다. 통신 당사자들은 통계적 오류율을 확인하는 것만으로 도청자의 존재를 찰나에 알아채고 해당 암호 키를 즉각 폐기할 수 있습니다.
수학적 난이도에 기반한 현대의 공인인증서나 군사 보안 체계는 슈퍼컴퓨터나 미래의 양자컴퓨터가 등장하면 언젠가 뚫릴 수 있는 시한부 안전망입니다. 반면 양자 얽힘을 활용한 보안은 계산 능력의 한계에 기대는 것이 아니라 우주의 불변하는 물리 법칙 자체에 기반합니다. 안톤 차일링거 연구팀이 2004년 오스트리아 빈의 다뉴브강 바닥에 깔린 광섬유를 통해 성공시켰던 실제 은행 송금 실험은 이러한 물리적 보안이 현실 세계에서 완벽하게 작동함을 보여준 상징적인 이정표였습니다.
우리는 양자 얽힘을 통해 빛보다 빠른 우주 인터넷을 얻지는 못했습니다. 그러나 자연이 설계한 이 기묘한 침묵 덕분에 그 어떤 천재적인 해커도, 그 어떤 초월적인 연산 장치도 가로챌 수 없는 절대적인 신뢰의 통신망을 손에 쥐게 되었습니다. 양자역학은 인간의 조급한 속도 욕망을 거부하는 대신, 우주에서 가장 안전한 연결이라는 훨씬 더 우아하고 값진 선물을 우리 문명에 건네준 것입니다.