버트런드 러셀에게 바칩니다
1
머 리 말
1931년에 독일의 수학과 물리학을 위한 월간 학술지에 「『수학 원리』 및 그와 연관된 체계들 속에서 형식적으로 결정될 수 없는 명제에 관하여」("Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme")라는 가까이하기 어려운 제목의 비교적 짧은 논문이 실렸다. 필자는 괴델Kurt Gödel(1906-1978)이었다. 괴델은 논문 발표 당시에 빈 대학에서 연구하고 있던 25살의 젊은 수학자였는데, 1938년 이후로는 프린스턴 고등 과학 연구소의 종신 연구원으로 활동하였다. 그 논문의 출현은 논리학과 수학의 역사에서 획기적인 사건이었다. 1952년에 하버드 대학은 괴델에게 명예 박사 학위를 수여할 때에 학위기에서 괴델의 논문은 현대 논리학을 발전시킨 가장 중요한 업적들 가운데 하나라고 칭찬하였다.
하지만 괴델의 논문이 처음 발표되었을 당시 대부분의 수학자들은 논문의 제목도 내용도 이해할 수 없었다. 괴델이 논문 제목에서 언급하고 있는 『수학 원리』(Principia Mathematica)는 화이트헤드A. N. Whitehead(1861-1947)와 러셀B. Russell(1872-1970)이 수학적 논리학(數學的 論理學, mathematical logic)과 수학의 토대(數學의 土臺, foundation of mathematics)에 관하여 공동으로 집필한 기념비적인 세 권의 체계적 저작이다. 『수학 원리』는 수학자들이 대부분의 수학 분야에서 성공적인 연구를 하기 위해서 반드시 미리 알아야 할 내용을 다룬 저작은 아니었다. 게다가 괴델의 논문은 비교적 소수의 학자 외에는 결코 관심을 갖지 않는 일련의 문제를 다루었다. 그 논문이 증명에 도달하려고 전개한 추론은 발표 당시에는 너무나 기발한 추론이어서 논리학과 수학의 고도로 전문화된 분야에 정통한 학자들만 그 논증을 따라갈 수 있었다. 그럼에도 불구하고 괴델이 확립한 결론들은 그 결론들이 지닌 광범위한 철학적 의미로 인해서 이제는 혁명적 업적이라고 널리 인정받고 있다. 이 책의 목적은 괴델이 발견한 내용의 요지와 괴델의 증명의 일반적 특징을 비전문가가 이해하기 쉽게 설명하는 것이다.
괴델의 유명한 논문은 수학의 토대에 관한 핵심 문제를 공격하였다. 따라서 수학의 토대에 관한 핵심 문제가 발생하게 된 배경 상황을 예비적으로 간략하게 설명하는 것이 도움이 될 것 같다. 초등기하학(初等 幾何學, elementary geometry)을 배운 사람이라면 누구나 연역 추론(演繹 推論, deductive reasoning)을 연습하는 방식으로 이 과목을 배웠다는 사실을 틀림없이 기억할 것이다. 다시 말해서 “경험 과학”(經驗 科學, experimental science)은 법칙들이 관찰과 일치하기 때문에 지식으로 인정받지만 초등기하학은 그렇지 않다. 어떤 명제가 명확한 논리적 증명(論理的 證明, logical proof)의 결론으로 확립될 수 있다는 이 생각은 고대 그리스 사람들에게서 유래한다. 고대 그리스 사람들은 공리적 방법(公理的 方法, axiomatic method)으로 알려져 있는 방법을 발견했는데, 이 방법을 사용하여 기하학을 체계적 형태로 발전시켰다. 공리적 방법은 어떤 명제들을 증명하지 않은 채 공리(公理, axiom)나 공준(公準, postulate)(예컨대 “두 점을 통과하는 직선은 하나만 그을 수 있다.”와 같은 명제)으로 인정한 다음, 그 공리들로부터 모든 다른 명제를 그 체계의 정리(定理, theorem)로 연역하는 방법이다. 공리는 그 체계의 “토대”의 역할을 하고, 정리는 그 토대 위에 세워진 “상부 구조”로서 오직 논리학의 추리 규칙들만의 도움을 받아 공리로부터 만들어진다. (고대 그리스 사람들은 공준과 공리를 구별하였으나, 오늘날에는 구별하지 않고 보통 공리라고 부른다. ― 옮긴이).
공리적 방법에 의한 기하학의 발전은 어느 시대에나 사상가들에게 강력한 인상을 주었다. 왜냐하면 비교적 적은 수효의 공리로부터 헤아릴 수 없이 많은 명제가 연역될 수 있기 때문이다. 그뿐 아니라 만일 기하학의 공리의 진리성(眞理性, truth)이 어떤 방식으로 확정될 수 있다면―그리고 실제로 대략 2천 년 동안 거의 모든 학자가 기하학의 공리는 공간에 관한 진리라고 의심 없이 믿어왔기 때문에―모든 정리가 공간에 관한 진리라는 것과 상호 간에 정합성(整合性, consistency) ―무모순성―을 유지한다는 것도 자동으로 보장되기 때문이다. 이런 이유로 공리 체계 형태의 기하학은 오랜 세월 동안 위대한 사상가들에게 학문적 지식의 최상의 모범으로 간주되었다. 그러므로 기하학 이외의 다른 분야의 학문도 튼튼한 공리적 토대 위에 세워질 수 있는지 어떤지 알고 싶어했던 것은 자연스러운 일이었다. 그러나 고대 그리스 시대에 아르키메데스(Archimedes, B.C.287-212)가 물리학의 어떤 분야에 공리적 토대를 마련한 적이 있었지만, 근대에 이르기까지 기하학은 대부분의 학자가 확실한 공리적 토대를 갖추었다고 인정한 유일한 수학 분야였다.
그러나 지난 두 세기 동안에 공리적 방법은 더욱 강력하고 더욱 엄격한 방법으로 발전되었다. 그래서 누구에게나 친숙한 “기수”(基數, cardinal (or whole) number)의 속성에 관한 연구를 비롯하여* 수학의 전통적인 분야는 물론이고 여러 새로운 분야에서 그 분야에 적합하다고 여겨지는 일련의 공리가 마련되었다. 따라서 수학의 각 분야마다 그 어떤 탐구 영역에 관한 무수히 많은 옳은 명제 전체를 체계적으로 연역하기에 충분한 공리가 마련될 수 있을 것이라고 추정하는 여론이 암암리에 형성되었다.
괴델의 논문은 이 가정이 이루어질 수 없다는 것을 증명하였다. 괴델은 공리적 방법이 본래부터 어떤 한계를 갖고 있으며, 그 한계 때문에 음이 아닌 정수의 속성조차도 완벽하게 공리 체계화될 가능성이 전혀 없다는 놀랍고도 우울한 결론을 수학자들에게 제시하였다. 게다가 괴델은 예컨대 수론을 비롯한 수많은 연역 체계 내부의 논리적 정합성(論理的 整合性, logical concistency)이 원래의 연역 체계 밖에 있는 다른 추론 원리를 가정하지 않고서는 확립될 수 없는데, 이 추가되는 다른 추론 원리도 매우 복잡해서 처음에 내적 정합성(內的 整合性, internal concistency)이 문제되었던 연역 체계의 정합성만큼이나 의심스럽다는 사실을 증명하였다. 이런 괴델의 결론에 비추어보면, 수학에서 중요한 역할을 하는 많은 분야가 완벽한 연역 체계에 도달할 수 없게 되고, 또한 수학에서 가치 있는 많은 분야가 내적 모순(內的 矛盾, internal contradition)으로부터 완전히 자유로울 수 있으리라는 보장은 어디에도 없다
그러므로 괴델의 연구 결과는 종래의 선입견이 깊이 뿌리를 박고 있던 토대를 허물어버렸고, 수학의 토대에 대한 연구를 통해 항상 신선한 자양분을 얻을 것이라는 고대부터 내려오던 희망을 부숴버렸다. 그렇지만 괴델의 논문이 전적으로 부정적인 내용만 갖고 있는 것은 아니다. 괴델의 논문은 근본 성격과 생산성에서 데카르트R. Descartes(1596-1650)가 기하학에 도입한 대수학적 방법과 비교될 만한 새로운 분석 기법을 수학의 기초 문제 연구에 도입하였다. 그 분석 기법은 논리학 연구와 수학 연구에 도움이 될 새로운 문제들을 암시하기도 하고 제시하기도 하였다. 그 분석 기법은 널리 주장되고 있던 수학에 관한 철학(philosophy of mathematics)과 지식에 관한 철학(philosophy of knowledge)을 전면적으로 다시 평가하도록 자극하였고, 재검토 작업은 지금도 진행 중이다.
괴델이 역사적 신기원을 세운 그 논문에서 전개한 증명의 자세한 내용은 너무 어려워서 상당한 수준의 수학적 훈련을 쌓지 않은 사람은 이해하기 어렵다. 그러나 괴델의 논증의 기본 구조와 결론의 핵심은 수학과 논리학을 약간만이라도 알고 있는 독자라면 누구나 이해할 수 있다. 하지만 독자가 괴델의 논증을 제대로 이해하기 위해서는 수학과 “현대 형식 논리학”(modern formal logic)의 역사에서 괴델의 논증과 관련 있는 발전 과정을 간략하게 살펴보는 것이 도움이 될 것으로 생각된다. 그래서 앞으로 네 장에 걸쳐 이러한 역사적 개관을 해보고자 한다.
(머리말 전문)
--------
저자 소개
어니스트 네이글 Ernest Nagel
컬럼비다 대학교 철학과 존 듀이 석좌교수를 지냈다.
제임스 뉴먼 James R. Newman
『수학의 세계』 편집자였으며 『과학이란 무엇인가?』의 저자이다.
더글러스 호프스태터 Douglas R. Hofstadter
인디애나 대학교 예술과학대학 컴퓨터과학과 인지과학 교수로 재직 중이며 퓰리처상을 받은 『괴델·에셔·바흐』의 저자이다.
--------
역자 소개
곽강제
전북대학교 명예교수이다. 전북대학교 철학과에서 배우고 연구하고 가르쳤다. 옮긴 책으로 『철학의 의미』『논리학』『철학적 사고에의 초대』『철학적 분석 입문』『서양의 지혜』『나는 이렇게 철학을 하였다』『분석 철학』『언어 철학』『콰인과 분석 철학』『자연 과학 철학』『논리와 철학』이 있다.
고중숙
순천대학교 사범대학 화학교육과에 재직 중이다. 레이저분광학이라는 전공분야가 수학·물리·화학이 교차되는 영역이어서 그 연계성을 바탕으로 이 분야들에 대한 여러 책들을 펴냈다. 저서로 『수학 바로 보기』『아인슈타인 시간여행을 떠나다』『수리와 논술』『과학과 논술』『고중숙의 사이언스 크로키』『내 머리로 이해하는 E=mc²』『물질의 모습이 세 가지래요(두산동아 원리과학25)』『중학 수학 바로보기』 등이 있고, 옮긴 책으로 『아인슈타인의 우주』『불완전성』『소수의 음악』『갈릴레오의 진실』『스트레인지 뷰티』『미지수, 상상의 역사』 등이 있다.
--------
★저작권법에 의해 한국 내에서 보호를 받는 저작물이므로 무단전재와 복제를 금합니다.