완벽한 대칭, 완벽하지 않은 대칭

대칭자연의패턴속으로떠나는여행 카테고리 과학 > 교양과학 > 교양수학/수학이야기 지은이 마커스 드 사토이 (승산, 2011년) 상세보기

영화 <바흐 이전의 침묵>에는 바흐의 음악을 연주하는 (말그대로 사람없이 혼자 연주하는) 자동피아노가 나온다. 그 자동피아노는 긴 두루마리에 일련의 천공(穿孔)을 가진 악보로 연주되는데, 바흐의 음악도 음악이지만, 그 악보의 아름다움에 감탄하였다. 흰종이에 구멍이 뚫려 있을 뿐인데, 그 구멍들의 놀라운 대칭적인 배열이란. 이 책 <대칭>을 보면서 그것이 우연이 아님을 알았다. 바흐의 음악에서 수학적인 대칭은 어떻게 활용되는가. 이 책 <대칭>은 그 대칭의 세계를 수학적인 이야기를 중심으로 차분히 들려준다.

우리가 수학을 어려워하는 이유는 수학의 세계는 일종의 단계로 이루어져 있기 때문이다. 대체로 집합과 명제로부터 시작하는 고등학교 수학 과정은 그렇게 짜여진 필연적인 이유가 있다. 수학에서는 전 단계를 모르고서는 다음의 단계로 넘어갈 수가 없다. 예를 들어 인수분해를 이해하지 못하면, 그 다음의 이차방정식으로 나아갈 수 없다. 점핑은 거의 허용되지 않는다(아주 일부의 천재에게는 허용된다). 갑자기 책의 중간을 펴서 그것을 이해하기란 거의 불가능에 가깝다. 그러므로 수학의 세계에서는 당연히 낙오자들이 생긴다. 많은 학생들이 (그렇게 해서는 안되는 것을 알지만) 어느 순간 수학의 끈을 놓아버린다. 수학은 일종의 마라톤 랠리와 같다. 가장 기본적이고 정석적인 인내심을 요구한다. 수학은 지름길을 보여주지도 않고, 중간에 자동차를 타고 다음의 코스로 이동하는 것을 허락하지도 않는다. 마지막 완주의 환호를 느끼기 위해서는 어떻게든 뛰는 수밖에 없다.

이 책의 논의를 보면서도 그런 인상을 받았다. 처음 가장 기본적인 회전 대칭과 반사 대칭에 대한 이야기에서 시작해서, 알람브라 궁전의 17개의 서로 다른 대칭을 거쳐, 고차방정식의 해들과 그 속에 담겨진 대칭들, 거의 관계가 없어 보이는 대수들과 기하와의 환상적인 연결을 지나, 마침내 가장 근본적인 대칭의 언어인 군(group)으로 대칭을 말하고, 그 대칭의 지도에 셀 수도 없는 큰 대칭을 가진 몬스터 대칭을 그려넣기까지의 여정은 일종의 작은 마라톤 게임을 닮았다. 그러나 오해는 마시라. 이 마라톤은 별로 학생들에게 신경을 쓰지 않는 수학 선생님의 인솔 하에 몇 명이 낙오되어도 상관없이, 그저 앞만 보고 나아가는 그런 서바이벌 마라톤 게임은 아니다. 저자 마커스 드 사토이는 때로 잠깐 앉아서 휴식을 할 것을 권하기도 하고, 뛰는 것에 집중하기 보다는, 주위의 풍경에 집중하게 하면서 독자들을 마지막 도착점까지 끝까지 데리고 간다. 아니, 아예 뛰고 싶지 않은 독자는 뛰지 않아도 된다. 중간중간 뛰어야만 하는 부분들을 건너 뛰고도, 즉 천천히 걸으면서 주위 풍경만 둘러보아도 볼 것은 아주 많다. 그 속에는 그간 힘든 여정에 기꺼이 뛰어들어, 자신의 모든 것을 다 바친 수학자들의 드라마가 있고, 수학적 논의보다 기차시간표에 열광하고, 술의 도수에서도 소수를 찾는 유머가 있고, 바흐의 음악이 있고, 에셔의 그림이 있다. 밑의 인용문이 암시하는 것처럼, 이 책에서 몇 가지 부분을 이해하지 못한다 해도, 다른 부분이 뒤얽혀 있기 때문에, 이 책 전체의 재미를 무너뜨리지 못한다.

현재로서는 설사 그 논문에 어떤 오류나 결함이 남아 있더라도 그리 치명적이지는 않으리라는 생각이 일반적이다. 스미스는 '증명의 신뢰성은, 증명의 많은 부분들이 극도로 병렬적으로 연결되어 있다는 점에서 나온다. 추리 소설 같은 것에서 논리적 결함이 나오면 작품의 전체 구조가 완전히 망가지는 일과는 다른 문제다.'라고 믿는 사람이었다. 다시 말해서, 이 증명은 수많은 실들로 뒤얽혀 있기 때문에 그중 하나를 뽑아낸다 해서 전체를 무너뜨리지 못한다. (p. 433)

인용한 문장에서 말하는 그 논문이란, '아틀라스'라고 불리는 대칭군들을 기록한 거대한 지도가 이제 완결된 것임을 말하는 논문을 말한다. 수학자들은 오랜 세월 동안 이 지도에 새로운 대칭군들을 추가하기 위하여 애썼다. 그리고 새로운 대칭군이 발견되면, 거기에 자신의 이름을 붙이고, 지도에 기록하였다. 그렇다. 이것은 발명이 아니라, 발견이다. 이는 마치 새로운 별을 발견하는 것과 닮았다. 사람들은 새로운 별을 발견하고는 거기에 자신의 이름을 붙이고, 거대한 별의 지도에 그것을 추가하였다. 별은 거기에 이미 있었다. 그리고 마찬가지로 대칭군도 거기에 이미 있었다. 수학자들이 새로운 아이디어와 지루한 계산들로 그것을 끄집어내기 전까지 그저 묻혀 있었을 따름이다. 그리고 수학자들은 그 지도에 이제 새롭게 더 추가할 대칭군이 없음을 밝히려 한다. 그러나 이 책 <대칭>의 마지막 한 장까지 이 논의는 완결되지 않는다. 그럴 가능성은 거의 없지만, 언제 어디서 새로운 군이 추가될 가능성은 남아 있다. 더 추가될 수 없음을 증명한 논문에 오류가 들어있는지도 모른다. 가능성은 남아 있다. 어느 순간 우주의 반대편에서 외계인이 날아올 가능성이 남아 있는 것처럼 말이다.

그러므로 개인적으로 이 책에 가장 인상을 받은 순간은, 대칭을 둘러싼 전체적인 논의보다도, 수학을 대하는 저자의 태도이다. 대칭군을 분류하는 것이 이제 거의 끝났음을, 그 분류의 지도(아틀라스)에 더 이상 기록할 것이 남아있지 않다는 것을 전제로 하면서도, 일말의 가능성을 남겨놓는 앞의 태도도 그러하지만, 저자 마커스 드 사토이의 자신의 연구를 대하는 태도도 그렇다. 대칭의 한 부분을 파고드는 저자의 연구는 아직 해결되지 않은 난점이 있다. 저자는 그것을 해결하기 위해 여러가지 노력을 하지만, 그는 그 난점을 인정하고, 그대로 그 연구를 발표하려 한다. 저자가 말했듯이 모든 수학자들은 자신이 퍼즐의 마지막 조각을 놓는 사람이기를 바란다. 그러나 그 영광은 아주 극소수의 수학자들에게만 주어진다. 이 책에서 보여지는 갈루아와 아벨 등의 많은 수학자들의 드라마에서 말해지듯이, 한 사람의 연구자는 자신의 연구가 일종의 완결을 이루기를 꿈꾸지만, 그것은 완결로 가는 하나의 여정일 뿐이다. 아니, 어떤 의미에서는 하나의 새로운 시작에 가깝다. 완벽함이란 불가능하다. 어떤 증명은, 그 증명 자체로는 완벽할 수 있어도, 수학이라는 거대한 지도의 아주 일부분일 뿐이다. 그 완벽한 모습을 드러내는 것은 아직 현재 진행형이다. 

그러므로 여기에 어떤 흥미로운 점이 있다. 이 책 <대칭>은 완벽한 대칭을 이루는 것들을 이야기하면서도 그 곳에는 완벽하지 않은, 아니 결코 완벽해질 수 없는 것들이 숨어 있다. 이것은 무엇을 말하는 것일까. 이 책에 나오는 이야기를 조금 인용하자면, 페르시아의 직공은 완벽한 대칭 문양을 가진 직물을 만들면서도 한 부분을 무너뜨려 그것이 완벽해지지 않도록 했다. 일본의 건축가들은 대칭된 건물을 축조하면서도, 한 곳은 미완성의 상태로 남겨두었다. 완벽함으로 신의 노여움을 사고 싶지 않았기 때문이다. 완전한 대칭은 도리어 공포의 대상이 된다. 바이러스는 완전한 대칭의 모양을 가진다. 그것이 에너지를 최소화시켜 바이러스를 안정적으로 만들기 때문이다. 나는 개인적으로 이 부분을 읽으며, 영화 <올드보이>를 생각했다. 꼭 그것 때문만은 아니지만, 오대수가 갇혀 있던 방의 벽지에는 대칭적인 문양들이 수놓아져 있었고, 비밀이 밝혀지는 마법의 상자에도 대칭적인 문양이 있었다. 그것은 사람을 미치게 한다. 인간은 완벽한 대칭을 꿈꾸지만, 완벽한 대칭은 도리어 사람을 불안하고, 무섭게 만든다. 대칭의 요소를 담으면서도, 일종의 창의적 변형을 남겨두었던 바흐의 음악은 아름답지만, 완벽한 대칭을 가진 쇤베르크의 무조음악은 듣기에 거북한 면이 있다. 그래서 영화 <블랙스완>에서 완벽한 공연을 만들기 위해 니나(나탈리 포트만)는 변형과 결여를 실행한다.

그래서 아마도, 완벽한 대칭을 이야기하는 것처럼 보이는 이 책 <대칭>은 완벽함을 끝내 이야기하지 않고, 일종의 미스테리를 남겨둔 채로 이야기를 끝맺음한 것은 아닐까. 이 책은 1장에서 12장이라는 12면체의 구조로 목차가 이루어져 있지만, 1월에서 12월로 이야기를 끌고 가는 것이 아니라, 8월에서 시작하여, 다음해 7월에 끝난다. 그러므로 그것은 (한해로서) 완결되지 않고, 다음의 8월 이후의 이야기를 남겨놓고 있다. 물론 농담이다.