[칼럼] 양자역학을 해석하길 포기하지 말아야 하는 이유 – 관계론적 해석

“누구도 제대로 이해하지 못하지만, 사용은 할 줄 아는 당혹스러운 학문.” 물리학자 머리 겔만(Murray Gel-Mann)이 양자역학을 두고 한 말이다. 중첩과 얽힘 등의 양자 현상은 거시세계에서 전혀 볼 수 없기 때문에 직관적으로 이해하기 힘들다. 하지만 슈뢰딩거 방정식과 행렬 역학을 비롯한 수학적 공식들은 양자 현상을 잘 예측해 낸다. 문제는 공식이 현실 세계의 양자와 무슨 연관이 있는지 잘 모르겠다는 점이다. 슈뢰딩거 방정식을 풀어서 얻을 수 있는 파동 함수가 양자하고 어떤 연관이 있는지 정확하게 설명할 수 있는 사람이 없다. 양자 세계를 수학으로 설명할 수는 있지만 언어로는 설명할 수 없는 상태가 현재 상황이다. 공식과 현상, 그리고 직관 사이의 끊긴 연결 고리를 이으려는 시도를 양자역학의 해석이라고 한다.

 

지금까지 많은 해석들이 있었지만, 모두 각자의 모순점과 한계점이 있었다. 물리학자 다수가 정석으로 인정하는 양자 해석인 코펜하겐 해석은, 파동 함수가 양자의 속성을 '확률적’으로만 나타낸다고 해석한다. 그리고 파동 함수의 파동 자체가 실제로 존재하는지에 대해서는 묻지 말자고 단정지었다. 사실상, 코펜하겐 해석의 결론은 ‘입 다물고 계산이나 하자.’이다. 이해는 뒤로 젖혀 두고 공식 활용이나 잘하자는 뜻이다. 대다수가 양자 역학을 이해하길 포기할 때, 물리학계의 시인이라고 불리는 이론 물리학자 카를로 로벨리(Carlo Rovelli)는 기존 해석의 맹점을 비판하며 새로운 해석인 ‘관계론적 해석’(Relational interpretation)을 제안한다. 본 칼럼은 양자역학의 관계론적 해석을 소개하면서 이 해석이 암시하는 과학 철학적 의미를 고찰한다.

 

관계론적 해석에 따르면 관찰은 세상이 자신의 내부에서 자신을 스스로를 비추는 현상이다. <그림 = 김신지 기자>

 

‘해석 전쟁’ 속 카를로 로벨리의 제안, ‘관계론적 해석’

 

양자역학에서 이해하기 힘든 부분 중 하나는 측정에 의한 중첩 상태의 붕괴이다. 슈뢰딩거의 고양이실험은 양자 중첩 상태를 고양이의 삶과 죽음이라는 거시 세계의 중첩 상태로 가져옴으로써 중첩 현상의 기묘함을 단적으로 보여준다.

 

실험 설계를 요약하면 이렇다. 열기 전에는 아무도 관찰할 수 없는 밀폐된 상자 안에서 실험이 진행된다. 라듐이 붕괴하면 방사선을 감지하는 가이거 계수기가 작동하고, 이로 인해 청산가리가 깨지며 고양이는 중독으로 사망한다. 라듐이 한 시간 내에 붕괴할 확률은 50%다. 양자론에 따르면, 한 시간이 지났을 때 라듐은 측정되기 이전에는 붕괴함과 붕괴 안 함이 각각 절반의 확률로 중첩된 상태다. 즉 붕괴한 상태이면서 붕괴하지 않았다는 뜻이다. 따라서 고양이 또한 상자를 열어 확인하기 전까지는 살아있으면서 죽어있는 상태다. 일단 이 부분부터 이상하다. 어떻게 살아있으면서 죽어있단 말인가? 그리고 상자를 열어 고양이를 관찰하게 된다면, 그 순간에 고양이의 생사가 결정된다. 이것도 말이 안 된다. 과학자가 측정하건 말건, 그게 고양이랑 무슨 상관이란 말인가?

 

양자역학을 이해하기 위해 지금까지 ▲결맞음 이론 ▲숨은 변수 이론 ▲파일럿 파동 이론 ▲다세계 해석 ▲앙상블 해석 등 다양한 양자 해석이 제시되었다. 많은 지지를 받는 해석은 있지만, 아직 명백한 승자는 없다. 여러 해석이 각축을 벌이고 있는 이 상황을 김상욱 교수는 ‘해석 전쟁’이라고 표현했다. 위 해석 중 다세계 해석과 앙상블 해석, 그리고 관계론적 해석을 비교해 보자.

 

다세계 해석은 한 우주에서 중첩 상태가 있음을 부정한다. 대신 여러 개의 우주가 있음을 긍정한다. 절반의 확률로 고양이가 살아있고 절반의 확률로 죽어있음은 무수한 평행 우주 중에서 절반은 고양이가 살아있고 나머지 절반은 죽어있음을 의미한다고 해석한다. 파동함수는 평행한 우주 전체를 묘사한다는 의미다. 다세계 해석은 인기가 많기는 하지만, 우리가 관측할 수 있는 우주는 하나의 우주뿐인 데 관측 자체가 불가능한 또 다른 우주를 가정한다는 점에서 무용하다고 지적받았다.

 

양자 해석 중에서 제일 소극적인 해석인 앙상블 해석 또한 중첩 상태와 관측에 의한 파동함수의 붕괴를 부정한다. 앙상블 해석은 슈뢰딩거 방정식으로 계산할 수 있는 확률을 수학적으로만 해석할 수 있다고 설명한다. 슈뢰딩거의 고양이 실험을 여러 번 반복할 때, 절반의 시행에서 고양이가 살고 나머지 절반에서는 고양이가 죽을 것임을 파동함수가 알려준다는 해석이다. 결국 고양이가 죽을 확률과 살 확률이 각각 절반이라고 기술하는 정도로만 양자역학을 활용하자는 뜻이다. 반박의 여지가 없긴 하지만, 그래도 뭔가 아쉽게 느껴진다. 코펜하겐 해석과 같이, 양자역학을 추상적으로 이해하기를 철학자의 소임으로 돌렸기 때문이다.

 

관계론적 해석은 중첩 상태를 부정한다. 왜냐하면 관측 없이는 ‘살아있는’ 고양이 혹은 ‘죽어있는’ 고양이가 존재하지 않는다고 설명하기 때문이다. 이게 대체 무슨 말인가. 관계론적 해석의 핵심을 요약하면 이렇다. ‘대상 A의 속성이 대상 B에 대해서 실재한다고 해도, 그것이 꼭 대상 C에 대해서도 실재하는 것은 아니다. 대상의 속성은 상호작용하는 두 대상 사이 관계에만 존재한다. 고유한 속성을 가진 자립적인 실체는 없다.’ 그러니까, 고양이의 삶과 죽음이라는 속성이 고양이에게는 사실일 수 있어도 뚜껑을 열지 않은 과학자에게는 사실이 아닐 수 있다는 뜻이다. 과학자가 고양이를 관찰할 때야 비로소 과학자에게 있어 고양이에게 삶과 죽음이라는 속성이 존재한다.

 

『나 없이는 존재하지 않는 세상』으로 알려진 카를로 로벨리의 관계론적 해석 <그림 = 김신지 기자>

 

관찰자 없이는 대상의 속성이 존재하지 않는다는 점에서 관계론적 해석은 유아론과 동일해 보일 수 있다. 특히 카를로 로벨리의 저서 『HELGOLAND』의 제목이 한국어판에서 『나 없이는 존재하지 않는 세상』으로 변형되어서 오해를 가중한다. 유아론은 자신을 제외한 우주의 모든 존재는 관찰자의 인식 속에만 존재한다는 주관적 관념론이다. 그러나 한 개인을 타자의 유일한 관찰자라고 상정하는 유아론과 다르게, 관계론적 해석은 관찰되는 것과 관찰하는 것의 구분을 없애고 모든 두 대상 사이의 상호작용을 관찰이라고 취급한다.

 

상대성 이론에서 이미 절대적인 정지 좌표계가 없으며, 공간, 시간, 그리고 질량이 모두 상대적임으로 밝혀졌다. 관계론적 해석은 이것을 확장하여 전자의 위치, 스핀 등 모든 존재의 속성이 존재 자체가 내재하는 것이 아니라 다른 대상과의 상호작용 혹은 상관관계 속에만 있다고 주장한다. 다시 말해, 관찰은 세상이 자신의 내부에서 자신을 스스로 비추는 현상이다. 슈뢰딩거 방정식의 해는 두 대상이 서로에게 어떻게 나타나는지를 기술하며, 관계론적 해석이 그리는 세계는 확정된 속성을 가진 대상들의 집합이 아니라 관계의 그물망이다.

 

 

현상 넘어 존재를 상정하는 과학자들, 인간들

 

관계론적 해석은 한 번에 와닿지 않을 정도로 급진적인 자연관에 기반한다. 따라서 필자는 플라톤이 생각한 비유인 ‘동굴의 우화’와 인지 심리학의 예시를 끌어 써서 설명을 보충하려고 한다.

 

플라톤의 동굴의 우화 <그림 = 김신지 기자>

 

동굴의 우화에서, 인간은 탈출할 수 없는 동굴에 갇힌 존재로 묘사된다. 인간의 눈앞에는 동굴 밖 세상의 물체와 빛에서 비롯된 그림자가 동굴 벽에 펼쳐진다. 직접 볼 수 있는 것은 그림자뿐이지만, 인간은 그림자의 근원인 동굴 밖의 물체를 이성을 이용해 상상할 수 있다. 예를 들어 그림자가 정사각형에서 육각형의 모양으로 점점 변하는 규칙성을 발견한다면, 동굴 밖에 정육면체가 있음을 꿰뚫어 볼 수 있을 것이다. 플라톤은 동굴의 우화에서 동굴 밖을 이데아계, 동굴 내부를 현상계, 동굴 밖을 상상할 수 있는 지성을 이성으로 비유했다. 우리가 현상계에서 감각으로 경험할 수 있는 건 불완전한 이데아의 복제품뿐이지만, 이성을 사용하면 현상 넘어 이데아를 볼 수 있다는 이데아론이 플라톤의 주된 사상이다. 예를 들어 세상에 있는 고양이들은 크기도, 모양도, 생김새도 모두 다르지만, 고양이라는 개념의 궁극체인 고양이 이데아를 생각할 수 있다는 식이다.

 

플라톤은 현상계의 감각에 안주하지 않고 끝없이 이데아를 추구하는 자를 철학자라고 불렀다. 자연과학이 자연철학의 맥을 이어왔듯, 플라톤이 보기에는 자연과학자도 엄연히 철학자일 것이다. 과학자들도 관찰과 실험을 통해 현상의 이데아를 찾으려 노력하기 때문이다. 과학자가 보는 이데아는 가설, 이론, 법칙, 원리라고 불린다. 특히 물리학자의 경우, 물리 개념과 법칙의 사영이 자연 현상이라고 간주한다. 뉴턴이 떨어지는 지상의 사과와 떨어지지 않는 천상의 달이라는, 겉보기에 별개인 두 현상을 보고 중력을 추론했듯이 말이다. 힘이나 에너지 같은 물리적 개념이 자연을 너무나 잘 설명하기 때문에 그것이 실존한다는 착각에 빠질 수 있지만, 물리적 개념 자체를 직접 본 사람은 아무도 없다. 모든 이론과 개념은 과학자들이 상상하고 그 존재에 대해 과학자 전반이 동의하는 이데아다.

 

감각의 빈틈을 채우는 인지 과정 <그림 = 김신지 기자>

 

감각 넘어 이데아를 가정하는 행위가 과학 같은 이성적인 행위에서만 발생하는 것은 아니다. 감각의 차원으로 치부되는 생물학적 인지 과정에서도 일어난다. 영화의 프레임은 24프레임으로, 0.0417초마다 한 번씩 정지된 화면이 바뀌면서 움직이는 것처럼 보이는 상을 만든다. 동일한 문체가 짧은 시간 간격 뒤에 다른 위치에 보이면 자연스럽게 물체가 움직인다고 느낀다. 개별 이미지에서 규칙성을 추출하여 물체와 운동이라는 이데아가 가정되었다.

 

뇌는 보이지 존재하지 않는 물체를 만들어 내기도 한다. 위 이미지의 오른쪽에 있는 도형은 ‘카니자의 삼각형’이다. 실제로 있는 것은 점대칭으로 배치된 세 개의 팩맨 모양 도형이지만, 마치 세 개의 검은 동그라미 위에 정삼각형이 올라간 것처럼 보이지 않는가? 공간의 규칙성을 찾아내어 더 단순한 도형의 조합으로 이미지를 해석하는 처리가 무의식적으로 이루어졌다. 이렇듯 뇌는 관념으로 비어있는 시간을 메우고 비어있는 공간을 채운다. 어쩌면 개별 감각 경험으로부터 이데아를 찾으려는 경향은 인간의 속성일지도 모른다.

 

과학의 또 다른 사명, 자연의 일부로 자연을 보는 눈

 

감각 너머에 개별적인 실체가 있다는 직관은 우리에게 너무 당연한 것으로 여겨져 왔다. 인지 과정에서 개별 실체의 존재가 자동으로 가정되었으므로, 이 가정이 틀렸다고 생각한 사람은 거의 없었다. 이러한 직관의 함정에 빠져 다른 양자 해석들이 실패하였다고 카를로 로벨리는 비판한다. 그의 말에 따르면 개별 실체의 존재는 고정관념인 ‘사물 자체의 형이상학’이다. 그리고 실패로 돌아간 다세계 해석은 우리가 보고 있는 것을 넘어서 또 다른 실재를 덧붙여 이 세계를 ‘채우려’ 했다. 누구도 의심하지 않았던 직관을 부정함으로써 새로운 관점을 제시했다는 점은 관계론적 해석이 가진 가장 큰 의미라고 여겨진다.

 

관계론적 해석이 가진 또 다른 중요한 의미는 인간의 의식과 관찰 ‘행위’ 간의 결합을 끊어내고, 관찰한다는 '현상'을 자연 전체에서 일어나는 현상으로 되돌렸다는 것이다. 과학자들은 종종 우주를 관찰하는 주체와 관찰되는 자연 현상을 별개의 것으로 구분해 왔다. 마치 그림자를 관찰하는 동굴 속 인간처럼 우주를 '밖에서' 관찰하는 것과 같이 말이다. 만약 의식 현상이 우주에서 일어나는 것이라면, 우리의 의식도 마땅히 동굴 벽의 그림자에 속해야 한다. 관계론적 해석은 관찰의 의미를 확장, 우주 내 모든 두 실체 간의 상호작용으로 정의함으로써, 과학을 인간중심주의에서 벗어나게 하였다.

 

‘존재’라는 형이상학을 ‘관계’라는 또 다른 형이상학으로 변환했을 뿐인 뜬구름 잡는 이론이라고 관계론적 해석을 비판할 수도 있다. 어느 정도 타당하다고 본다. 하지만 만약 이것보다 더 좋은 해석이 나온다고 하여도, 관계론적 해석은 양자역학을 이해하길 포기하지 않았다는 점에서 여전히 큰 의미를 가진다. ‘입 다물고 계산하자’라는 신조처럼, 과연 과학자들은 자연 현상을 잘 예측하는 것에 만족해도 되는 걸까? 인문학만으로 볼 수 없는 범위까지 세계관을 확장하는 것 또한 과학의 사명이지 않을까. 다윈의 진화론이 종의 우열은 없음을 보였듯이, 우리의 모든 역사가 창백한 푸른 점의 껍질에서 일어났음을 깨달았듯이, 과학이 이룬 자연에 대한 발견은 자신에게 골몰하던 인류가 고개를 들고 자연의 일부로서 자신을 되돌아보게 하였다. 양자역학을 해석하는 시도들 또한 기존의 것보다 더 넓고 겸허한 세계관을 인류에게 안겨주리라고 기대한다.

 

김신지 기자 sjneuroneurony@dgist.ac.kr