과학의 언어, 수(數)

과학의 언어 수 카테고리 과학 지은이 토비아스 단치히 (지식의숲, 2007년) 상세보기

번역된 책이 두권 있었는데, 첫문장을 읽어보고 이 책을 골랐다. '인간' 대신 '사람', '수 세기' 대신 '셈'이라고 번역해놓은 이 책의 첫문장이 맘에 들었다. 책을 고를 때 번역자의 이름을 전보다 점점 더 확인하게 된다. 영화를 볼때 감독의 이름을 확인하듯이 말이다. 딴 얘기지만 몇몇 책에서 번역자에 대한 '배신감'을 느낀 적이 있어서 기피하는 번역자 X리스트가 있기도 하다. 

몇권의 수학교양서를 읽어보았지만 갈증이 가시질 않았다. 너무 깊은 내용은 이해하기 난망할테고, 그렇다고 수학의 역사를 겉할기로 훑는 책이나 수학자 위인전은 성에 차지 않았다. 나같은 일반 대중을 위한 교양서이지만, 읽으면서 책을 덮고 한번쯤 깊이 있는 생각을 할 수 있는 책은 없을까 싶었다. 이 책은 1930년대 첫 출간되어 1950년대에 개정판이 나온 고전이다. (근데 한국판 번역은 2007년...항상 그런식이다.) 그런 까닭에 현대 수학과 거리가 있다고 생각할지 모르겠으나 1930년대의 생생한 수학적 지형을 보여준다는 점에서는 흥미롭다. (이 책에서 페르마의 마지막정리는 아직도 해결되지 않은 난제이다!)

아인슈타인의 격찬보다 머리말에 있는 "이 책을 이해하는 데는 고등학교에서 배운 수학이면 충분하다. 그러나 수학 지식을 요구하지는 않지만 이 책은 흔치 않은 능력, 바로 아이디어를 흡수하고 그것을 평가할 수 있는 능력을 요구한다"라는 말이 맘에 들었다. 물론 바로 뒤에 "이 책은 체질적으로 식을 이해하는 데 어려움을 겪는 사람을 위해 쓴 책은 아니다"라고 겁을 주고 있긴 하지만 말이다. 그래서일까 개정판에 추가된 부록 부분은 읽어내기가 힘들었다. 저자는 이 부분은 건너뛰어도 이해에는 무리가 없다고 했지만, 처음엔 오기를 좀 부려봤는데 아니다 싶어 포기했다. 

책은 12장으로 구성되어있다. 수 개념의 탄생부터 시작한다. 이후 자리표기법, 진법에 대한 얘기, 영(zero)을 다루는데 여기까지는 역사적인 서술이 대부분이라 차분히 이해하는데 무리가 없다. 문제는 그 이후이다. 이 때부터 정수론의 여러테마들, 피타고라스의 정리, 러셀과 힐베르트, 오일러, 데카르트, 페르마, 칸토어, 데데킨드, 제논의 역설, 산술과 연속성, 무한과 극한, 집합론, 불변의 법칙등 산술의 중요한 테마들이 빠짐없이 튀어나오는데, 한줄 한줄 읽어내는게 힘겨운 부분들도 많다. 당연하게도 이런 수학적 성과를 저자의 설명만으로 이해하기는 나의 지적수준으로는 무리였다. 그렇다 해도 고등학교때 정석책을 앞에두고 느끼는 부담감과는 비할 바가 아니었다. 무엇보다 (종종 훑어 건너뛰어도) 이 책은 재미있었다.

이 책의 미덕은 (역자가 촌평하듯이) 수학이 신과 같은 논리적 완벽성을 가지고 설계된 구조물이 아니라는 것을 지적한다는 점에 있다. 즉, 수의 체계, 자연수, 정수, 유리수, 무리수, 허수(복소수), 초월수등은 우리가 생각하듯이 논박불가능한 완벽성을 기초로 연역적으로 구성된 구조체는 아니라는 것이다. 수의 역사를 거시적으로 조망할 때 인간은 해결불가능한 문제를 수학 내적으로 포섭하기 위해 수 개념을 확장하였고, 인간의 직관과 수 개념을 일치하기 위해 부단히 노력해왔다. 그런 과정을 겪어야 했던 수학은 다른 학문처럼 우연적이고 우발적인 것인 결과물이 되기도 했다. 수학이 자연과 동떨어진 논리적 구조체, 그 자체로 완벽한 것은 아닌 것이다. 

대표적으로 무리수라는 수 개념이 그렇다. 밑변과 높이가 1인 직각정삼각형의 빗변의 길이를 수로 대응하기에는 기존의 유리수 체계로는 불가능했다. 이를 산술하기 위해 즉, 빗변이라는 연속체를 서술하기 위해 무리수 체계가 필요했다. 요약하면 무리수는 인간의 직관 영역을 산술이라는 영역으로 대응하려하다 보니 새로운 수영역으로 '별수 없이' 확장한 결과라는 것이다. 저자는 이를 '피타고라스 정리의 통약불가능한 빗변'이라고 말하고, 이를 "수로 자연을 설명하려는 시도는 무리수의 존재로 인해 실패하게 된다"(P134) 라고 말한다. 

허수(복소수)의 존재역시 무리수와 같은 길을 걸었다. 처음에는 '존재할 수 없는' 수였던 허수는 그 수학적 이용가능성으로 인해 수학내로 편입되었고, 현대 수학의 발전에 큰 영향을 끼치게 된다. 그래서 "허구란 적절히 해석되기를 기다리는 하나의 형상" (P254)이며 "복소수라는 허구가 지니는 장점은 오로지 우리가 그 허구를 익숙하게 잘 알고 있다는 점뿐" (P300) 이라고 말할 수 있는 것이다. 저자가 보여주는 수학의 이런 '보다 인간적인' 모습이 놀라웠다.

이 쯤에서 다음과 같이 질문해볼 수 있다. (다소 장황하지만 가장 흥미로웠던 부분이라 정리하고 넘어간다.) 그렇다면 무엇이 수학적 증명을 구성하는가. 수학적으로 존재한다는 말은 무슨 의미인가. 직관주의자와 형식주의자의 대립도 이러한 자연과 그 자연을 해석하려는 과학과의 불일치에 대한 근원적인 물음에서 나온 것이 아닐까 싶다. 왜냐하면 "우리의 직관은 연속체를 끊어지지않고 이어져있는 것, 분할할수 없는 것, 부분들로 잘라낼 경우 바로 연속이라는 속성자체가 파괴되기 때문에 부분으로 분해할수 없는 것으로 파악" (P173)하고 "무제한 분할이 가능한 연속체, 그래서 극미한 양을 얻어낼 수 있는 연속체는 존재하지 않는다는 결과가 최종적으로 얻어졌" (P290)기 때문이다. 

이를 해결하려한 수많은 천재적인 수학자의 노력들은 눈물겹기까지 하다. (칸토어와 데데킨트 같은 수학자) 이를 해결하기 위한 노력이 '무한'에 대한 집요함으로 나타난다. 그래서 결국 무한 개념을 통해 "세계가 시간의 흐름과 더불어 연속적으로 변해간다는 개념과, 띄엄띄엄한 대상을 셈하면서 생겨난 수 개념, 이 둘사이의 간극을" (P302) 메우려 한다. 이를 통해 수를 무한 과정을 거쳐 궁극적으로 얻어진 존재로 간주하게 된다. 수학이 자체적인 언어로 완벽한 것이 아니라 이러한 철학적 직관이 녹아있는 실체라는 것을 깊이 새긴다.

결국 책을 덮으며 이런 생각을 했다. 수학도 결국은 인간과 자연을 설명하려는 도구이며, 그러한 역사적 실재가 수의 역사라는 것. 피 한방울 나올것 같지 않은 엄밀성 안에 흐르는 긴 자연과 직관의 역사가 어렴풋이 만져졌다. 이런 기분이라면 수학을 보다 가벼운 마음으로 진지하게 공부할 수도 있지 않았을까 싶었다. 그저 왜 그러한가에 대한 질문없이 외우고 푸는 방법만을 배웠던 학창시절이 조금은 야속했다고 할까. 가장 '왜'라는 질문을 했었어야 할것 같은 수학시간에 한번도 제대로 '왜인지'를 묻거나 답해주지 않았다는 것은 정말 비극이다. 

아직도 때때로 고등학교 수학시험지를 앞에놓고 한문제도 풀지 못해 끙끙대는 악몽을 꾸는 주제에 너무 오버질인 듯해서 여기까지 써야겠다. :)