시작하며
수학은 인간의 직관에 영향을 미칩니다. 확률 이론은 17세기에야 시작되었지만 지금 사람들은 ‘37%의 비 올 확률’을 읽고 이해하는 데 무리가 없습니다. 오늘날 인간이 가진 상상력에 차이가 있다면, 그것은 수학적인 이해력 차이 때문일 것입니다.
1강. 수학은 무엇인가
갈릴레오는 말했습니다. “우리가 우주를 이해하기 위해서는 우주에 관해 쓰여 있는 언어를 배우고 친숙해져야 하는데, 그 언어는 수학적인 언어다.” 수학은 특정한 종류의 논리나 사고가 아니라, 우리의 일상과 우주를 이해하는 상식에 다름 아닙니다.
2강. 역사를 바꾼 3가지 수학적 발견
페르마와 데카르트의 좌표계, 아인슈타인의 상대성 이론 등 위대한 발견들을 살펴보다 보면 수학적 사고가 왜 필요한지 느낄 수 있습니다. 지금 우리가 무엇을 모르는지 정확하게 질문을 던지고, 앞으로 어떤 질문을 원하는지를 찾아가는 것입니다.
3강. 확률론의 선과 악
하이드파크에서 10명이 살해되었다. 이 일은 큰일일까요, 아닐까요? 한 사람이라도 죽으면 안 되겠지만, 수만 명을 죽음으로 몰 수도 있었던 테러를 막는 과정에서 10명이 희생되었다면? 이런 윤리적인 판단 속에도 수학의 확률이 작동하고 있습니다.
4강. 답이 없어도 좋다
대표자를 뽑는 가장 좋은 방법은 뭘까요? 수많은 선출 방법을 살펴보면, 방법마다 완전히 다른 결과가 나올 수 있음을 알 수 있습니다. 그러면 이 방법들은 다 틀린 걸까요? 완벽하지 못하다고 해서 포기하기보다는 제한적인 조건에서 이해하는 것이 수학적으로 중요합니다.
5강. 답이 있을 때, 찾을 수 있는가
19세기 청혼 문화를 알고 있지요? 남녀가 청혼, 약혼, 파혼, 결혼이라는 단계를 거치면서 짝을 찾는 겁니다. 만약 남녀 각각 100명이 짝을 지을 때 안정적인 답이 있을까요? ‘좋아하는 마음은 복잡해도 답은 항상 있습니다.’ 답이 있다는 걸 수학은 도대체 어떻게 증명할까요.
6강. 우주의 실체, 모양과 위상과 계산
우주가 휘어져 있다고 합시다. 이를 말로 표현할 수는 있어도 정확하게 알기는 어렵습니다. 내면 기하라는 개념이 없이는 우주가 휘어졌다는 주장을 하기 불가능합니다. 상상할 수 없는 것을 상상하는 것은 어떻게 가능하게 될까요.
마치며
수학은 정답을 찾는 일이 아니라, 인간이 답을 찾아가는 과정입니다. 우리는 답을 맞히려고 하지 틀리려고 하지 않습니다. 그런데 틀리기 싫어하면 어떤 질문이 가진 오류도, 어떤 방법이 가진 한계도 발견하기 어렵습니다.
특강. 숫자 없이 수학을 이해하기
수학이라고 하면 숫자가 제일 먼저 떠오릅니다. 엄밀히 말해 숫자와 수는 다릅니다. 수는 수체계를 이루는 여러 원소 중 하나입니다. 우리는 숫자를 전혀 사용하지 않고도 연산을 할 수 있습니다.
1강
수학은 무엇인가
수학은 무엇인가요?
막상 그렇게 질문하니 잘 모르겠습니다. 세상을 이해하기 위한 질서나 체계를 만드는 학문인가요?
이렇게 물으면 답하기 어렵죠. ‘X란 무엇이냐?’라는 형식의 질문은 항상 어렵습니다. 수학이 질서나 체계와 관련이 높아 보이긴 합니다. 그러나 수학만 그런 건 아닙니다. 모든 학문이 질서와 체계를 규명하려고 합니다.
수학이라는 말 뒤에는 항상 ‘문제’라는 말이 붙어 옵니다. 그래서 보통 사람들은 수학을 답을 찾는 과정이라고 생각하는 듯합니다. 문제가 있고, 답이 있고, 수학은 그 답을 논리적으로 풀어내는 과정이라고요.
질문이 있고 답이 있는 건 웬만한 학문이 다 그렇습니다. 물리학을 봅시다. 가령 원자는 어떻게 형성되는가? 전자기장은 어떻게 진화하는가? 우주는 어떻게 팽창하는가? 이런 게 다 질문입니다. 이 문제를 풀기 위해서 일종의 방법론을 가지고 답을 찾아나갑니다. 경제학도 그렇습니다. 경제적 평형은 어떻게 이루어지는가? 경제를 안정시키려면 정부 자금을 어느 정도 투입해야 되는가? 이런 것들이 모두 질문이고, 거기에 대한 답을 찾기 위한 과정이 있습니다. 정치학에도 질문이 있죠. 가장 중심적인 질문은 이런 거겠죠? 안정적인 사회는 어떻게 이룰 수 있는가? 어떤 정치 체제가 사회 발전을 가져오는가? 이런 굵직한 질문들이 있고, 이 굵직한 질문들을 염두에 두고 또 훨씬 작은 질문들이 있습니다.
제가 하고 싶은 말은 이겁니다. 앞에서 ‘수학을 논리적인 풀이 과정’이라고 이야기했는데, 어쩌면 그게 수학에 대한 편견일 수 있다는 것입니다.
철학자들, 특히 버트런드 러셀Bertrand Russell 학파의 전통을 이어받은 학자들 가운데 ‘수학은 논리학이다’라는 관점을 굉장히 강하게 표명하는 사람들이 있습니다. 그런데 수학이 논리학이라는 관점은 두 가지 측면에서 완전히 틀렸습니다.
첫째, ‘수학은 논리학만은 아니다’라는 사실입니다. 논리라는 건 어떤 실체로부터 나오는 것입니다. 논리만으로 실체를 만들 순 없습니다. 순전히 논리적인 개념으로부터 수학을 만들어간다는 생각은 그릇된 관점입니다. 논리적이지 않은 수학도 있거든요.
수학을 논리로 정리하기 전까지 많은 단계가 있습니다. 굉장히 많은 사례, 구체적인 사례를 정리하는 과정에서 논리가 필요한 것이지, 처음부터 논리에서 수학을 만들어가는 게 아니라는 반론을 할 수 있죠.
두 번째 측면은 무엇인가요?
둘째, 수학만이 논리를 사용하는 학문은 아니라는 겁니다. 물론 수학에서는 당연히 논리를 많이 씁니다. 그런데 수학에서 논리를 사용하는 것은 다른 어떤 학문들에서 논리를 쓰는 것과 별 차이가 없습니다. 생각해볼까요? 논리를 사용하지 않는 학문이 있나요? 없습니다. 사실 학문까지 안 가더라도 우리는 보통 ‘이게 맞다, 틀리다’, ‘어떤 주장이 합당하다, 아니다’, ‘A로부터 B가 따른다’ 이런 판단을 내리지요. 일상생활에서 사용하는 사고와 언어를 보면, 그것이 아주 명료한 명제는 아니더라도 암시적으로 논리를 내포하고 있습니다.
만약 인간에게 이런 사고가 없다면, 무언가를 가리키거나 소통하는 것 자체가 불가능합니다. 그런데 러셀을 비롯한 철학자들은 수학적인 논리를 이러한 일상적인 논리와 다른 종류의 것으로 착각한 것입니다.
그러나 수학에서의 논리는 일상 언어가 갖고 있는 논리와 달리 매우 엄밀하지 않습니까. 그런 엄밀함이 차이는 아닐까요?
수학에서 논리를 전개할 때 보통의 경우보다 더 엄밀하게 전개하는 건 사실입니다. 그렇지만 일상생활에도 더 좋은 논리와 더 나쁜 논리가 확실히 있죠. 물론 좋은 논리를 점점 정화시켜가는 과정이 보통의 경우보다 수학에서 더 많습니다. 그렇지만 그게 정성적으로 볼 때 전혀 다른 논리는 아닙니다. 제가 대학에서 가르치는 수학 전공생들도 ‘어떤 종류의 그릇된 개념’을 고쳐줘야 하는 경우가 굉장히 많습니다.
수학이 복잡한 증명이나 어려운 논리라고 하는 개념인가요?
비슷합니다. 가령 수학적인 증명이 무엇이냐고 물어보면, 그것이 무슨 특별한 사고라고 생각하는 학생들이 많습니다. 수학적인 증명을 하려면 어떤 특별한 기술을 배워야 한다고 여깁니다. 증명은 그냥 명료하게 설명하는 것입니다. 학생들에게 이를 설득하는 데 시간이 많이 걸립니다. 물론 논리를 더 잘하고 못하고의 차이는 있겠지만요.
그런데 수학적 논리가 정성적으로 ‘올바른 사고’와 다를 바 없다는 착상은 수학자들 사이에서도 싫어하는 사람들이 꽤 있습니다. 수학의 확실성에 대한 집착 때문이지요. 수학적 증명은 한 번 해놓으면 영원불멸할 것으로 여기는 겁니다. 그야말로 환상입니다. 수학적 전통과 언어가 다른 학문에 비해 상대적으로 명료한 논리를 전개할 수 있는 여건을 마련해놓은 건 사실입니다. 하지만 인간이 하는 작업이 완벽하고 영원불멸하기를 기대하는 것 자체가 무리 아닐까요?
하지만 우리가 ‘수학적’이라고 표현할 때 떠오르는 구체적인 과정이 있습니다. 가장 대표적으로 ‘수학은 수를 계산하는 것’이라고 하는 생각입니다. 이 때문에 수학은 ‘수’를 사용한 특별한 사고와 과정처럼 여겨집니다.
제 느낌으로는 수학적 사고란 구체적인 예를 통해서 궁극적으로는 전체적인 틀이 형성되어가는 겁니다. 특정한 틀을 정해놓고 공부를 하는 것이 아니라, 똑같은 질문에도 답을 찾아나가는 과정은 꽤 여러 가지가 될 수 있습니다.
말한 대로, 질문을 찾아가는 과정 중에서 수학적 과정이라는 건 뭔가 있는 것 같습니다. 자꾸 보다 보면 이런저런 과정 사이에 어떤 공통점이 보이고, 그러면서 어떤 분야가 형성되는 것 같기도 하고. 그러고 나면 어떤 때는 질문에 부딪혔을 때 ‘그럼 이런 수학적 방법론으로 해보자’ 하는 관점을 가질 수도 있죠. 학문의 분야란 연역적으로 형성되는데, 그중에서도 수학은 상당히 오래된 분야입니다. 그래서 수학적 방법론을 적용해보자는 아이디어는 수학 그 자체를 떠나 수많은 학문 분야로 번져나갔습니다. 심지어 문학 연구를 할 때도 수학적 방법론을 사용하기도 합니다.
여러 의미가 있겠지만, 많은 사람이 공통으로 합의하는 수학에 대한 정의는 있을 것 같습니다.
위키피디아를 찾아볼까요. 수학에 대한 설명이 이렇게 나오네요.
수학數學은 양, 구조, 공간, 변화 등의 개념을 다루는 학문이다. 현대 수학은 형식 논리를 이용해서 공리로 구성된 추상적 구조를 연구하는 학문으로 여겨지기도 한다. 수학은 그 구조와 발전 과정에서는 자연과학에 속하는 물리학을 비롯한 다른 학문들과 깊은 연관을 맺고 있다. 하지만, 어느 과학의 분야들과는 달리, 자연계에서 관측되지 않는 개념들에 대해서까지 이론을 일반화 및 추상화시킬 수 있다는 차이가 있다. 수학자들은 그러한 개념들에 대해서 추측하고, 적절하게 선택된 정의와 공리로부터의 엄밀한 연역을 통해서 추측들의 진위를 파악한다.
전체적으로 나쁘지 않은 설명입니다만, 딱 한 가지 꼬집어서 어느 부분이 잘못됐는지 아시겠어요?
‘자연계에서 관측하지 않은 개념들까지 다룬다’라는 부분인가요?
그렇습니다. 수학뿐 아니라 어떤 현상을 공부할 때는 ‘이론’이 만들어지기 마련입니다. 그리고 학문의 이론적인 영역에서는 직접 관측이 되지 않는 구조를 많이 생각하게 되지요.
예를 들자면 물리학에서 다루는 소립자 중에 쿼크는 거의 순수 수학적으로밖에 이해하기 어려운 입자입니다. 입자물리가 ‘대칭성’을 많이 이용한다는 이야기는 들어보셨을 겁니다. 그런데 대칭성은 세상에 있는 건가요, 아니면 인간이 상상하는 건가요? 여기에 대해서는 철학자들의 의견도 꽤 갈리는 것 같습니다. 일반적으로 자연계에 어떤 개체가 ‘있다’는 것이 무슨 뜻인지 학문을 깊이 할수록 단언하기 어려워집니다. 순진한 관점에서는 눈으로 보고 손으로 만질 수 있는 것이 ‘세상에 있는 것’이라고 말하겠지만 학문적 이론에서 다루는 개념 중에 그런 것은 많지 않습니다. 자, ‘전자’는 볼 수 있나요, 만질 수 있나요? ‘경제적 평형’은 실제로 세상에 있는 건가요? 그 역시 수학적이고 추상적인 개념임에도 경제학 논문의 대다수가 평형을 찾는 문제를 다루고, 평형의 성질을 이해하는 것이 사회적으로 중요하다고 생각합니다. 또, ‘문학’이라는 것은 무엇이지요? 더 크게는 ‘문화’라는 것은 실재하나요? 아니면 사람들이 만든 상상의 개체인가요? 모두 상당히 추상적인 면이 강합니다.
간혹 과학자가 수학자인지, 수학자가 과학자인지 헷갈릴 때가 있습니다. 선생님만 해도 수학자인데, 양자역학 등에 대한 이야기를 자주 하시잖아요. 둘의 차이는 무엇인가요?
현대적인 의미의 과학 중에 수학이 가장 오래되었다고 보는 것이 좋을 것 같습니다. 섬세한 과학적 사고의 시작은 원주율의 계산법, 각종 기하학적 구조들의 상호관계, 수체계의 정밀한 성질 등을 발견하면서부터 가능하지 않았을까요? 고대의 아르키메데스 같은 학자는 물의 부력을 계산하는 물리학적 탐구나 전쟁에서 사용할 만한 기계를 발명하는 데 이런 종류의 수학을 적용하기도 했지요. 아마도 바빌로니아 문명과 이집트 문명에서도 수학의 응용이 상당히 활발했던 것 같습니다. 그러다가 르네상스 시대에 과학이 체계화되면서 여러 과학의 기초를 수학적으로 쌓아야 할 것 같다는 생각도 생깁니다.
(본문 중 일부)