우리는 수학이라는 존재에 너무 익숙해져버린 것은 아닐까?
그로 인해 자칫하면 수학 그 자체의 성립과
의의를 등한시하는 것은 아닐까?
― 시모무라 토라타로
어릴 때부터 수학을 좋아했다. 아이들이 노는 곳에는 출입금지 표시가 많다. 바다도 부표를 넘어서서는 헤엄칠 수 없고 공원도 울타리를 넘어가서는 안 된다. ‘더 이상 갈 수 없음’이 정해진 공간에서 노는 것은 언제나 그리고 어쩐지 갑갑했다.
반면에 수학은 넓다. 어디까지나 계속 이어져서 ‘막다른 곳’도 ‘출입금지 구역’도 없다. 아무도 가본 적이 없는 곳까지 실컷 갈 수 있는 자유가 있다.
그럼에도 수학은 그저 막연하게 넓은 것이 아니라 하나하나의 숫자가 확실하게 있다.
빨간색 물감과 파란색 물감을 섞으면 매번 다른 보라색이 되고, 맑은 날 아침에 마시는 오렌지 주스의 당도도 매번 조금씩 다르게 느껴지지만 7에 8을 더하면 언제나 15고, 15는 14와 16 바로 옆에 있는데도 역시 7 더하기 8은 변함없이 15라서, 이런 숫자의 명쾌하고 치밀한 자유를 좋아했다.
사람이 숫자를 세게 된 것은 언제부터였을까?
‘여기에 두 가지 물건이 있습니다.’ 누군가가 이렇게 말했다고 치자. 이때 어디에 도대체 어떤 물건이 있는지는 모르지만 거기에 차이가 있다는 것, 적어도 이 말을 한 사람이 거기서 하나의 차이를 보았다는 것은 알 수 있다.
막 태어난 아기는 엄마와 우주가 문자 그대로 일체라서 그 세계에 ‘차이’는 없다. 아기에게는 엄마도 자기 자신이고 모유도 그 안에서 나오는 것으로 인지된다고 하니까 말이다. 모든 차이가 생기기 이전의 단적인 존재의 충만 속을 아기는 온몸으로 돌아다니며 손과 입으로 탐색한다. 이렇게 닿는 엄마의 유방과 자신의 피부 감촉을 경험하다가 어느 날 문득 엄마가 ‘내’가 아니라는 것을 자각한다. 존재의 바다에 차이의 균열이 생기면서 이윽고 ‘나’와 ‘세계’가 생긴다.
수학에는 먼저 1이 있고 그다음에 2가 이어지지만 인간의 일생이 시작될 때는 2와 1이 동시에 도래한다. 사람은 이윽고 세계를 향해서 말을 하게 된다. 낮과 밤을 구별하고 기쁜 것과 슬픈 것을 분리하고 여기와 저기를 나누어 부를 수 있게 된다.
말은 또 말을 낳고 차이가 또한 새로운 차이를 낳는다. 이렇게 해서 세계의 분절화는 멈출 줄 모르고 진행된다.
어느 때부터 사람은 숫자를 셈하게 되었다.
1, 2, 3, 4, 5, 6, 7….
숫자는 무한의 차이에 이름을 부여한다.
인공물로서 ‘수’
신체가 경험하는 세계는 연속적이고 애매하다. 피부가 느끼는 따뜻함과 차가움, 귀로 듣는 음의 고저와 강약, 온몸으로 느끼는 기쁨과 슬픔…. 어느 것이고 다 그렇다. 이 순간부터는 차갑다든지, 지금 기쁨에서 슬픔으로 바뀌었다든지 하는 확실한 경계가 있는 것이 아니라 약한 쪽에서 강한 쪽으로, 또는 작은 것에서 큰 것으로 세계는 서서히 그리고 거침없이 변해간다.
언뜻 흩어져 있는 것처럼 보이는 ‘개수個數’에 대한 인식도 예외는 아니다. 1억 3천만 명이라거나 111개의 성냥개비라고 말하는 것은 우리가 수를 사용할 수 있으니까 그런 것이지, 수를 매개하지 않는 수량의 경험은 훨씬 그리고 줄곧 막연하다. 111개의 성냥개비나 120개의 성냥개비는 언뜻 보기에는 거의 똑같아서 둘 다 50개의 성냥개비와 비교하면 많고 200개보다는 작은, 즉 겨우 그 만큼이라는 인식을 할 수 있는 정도다. 우리가 개수의 차이를 엄밀하게 파악할 수 있는 것은 수의 도움을 빌리기에 가능한 것이지, 태어날 때부터 인간에게 그런 능력이 갖추어져 있어서 그런 것은 아니다.
‘수’는 인간의 인지능력을 보완하고 연장하기 위해서 만들어진 도구다이하 수의 도구로서의 측면을 강조할 때는 ‘수’라고 표기한다. ‘자연수natural number’라는 말이 있지만 이것은 이미 어딘가에 ‘자연으로’ 수가 존재하고 있다는 것을 의미하지 않는다. ‘자연’이라 부르는 것은 이미 도구라는 것을 의식하지 못할 만큼 그것이 고도로 신체화되어 있기 때문이다.
‘수’로 무장하지 않은 인간은 ‘몇까지’라면 개수의 차이를 정확히 파악할 수 있을까?
시험 삼아 다음 그림을 봐주기 바란다그림 1: 조르주 이프라의 책 〈숫자의 역사〉에 나오는 그림을 참고로 작성했다. 이 그림 가운데서 슬쩍 보기만 해서 금방 개수를 알 수 있는 것은 어느 정도일까? 한 마리의 개, 두 마리의 새, 세 개의 피라미드는 별 어려움 없이 파악할 수 있을 것이다. 나무 네 그루도 그다지 어렵지 않을지 모른다. 그러나 개수가 증가함에 따라 조금씩 위태로워진다. 언뜻 보는 것만으로는 판단이 서지 않아 실제로 세어보지 않으면 자신감을 갖지 못하게 된다.
인간은 적은 수량의 물건이라면 개수를 곧바로 파악하는 능력을 가지고 있다. 빨간 것을 빨갛다고 알 수 있는 것과 마찬가지로 두 개의 물건은 두 개라는 것을 금방 안다. 심리학의 세계에서 ‘subitization’이라 불리는 이 능력의 배경에 있는 메커니즘은 아직 완전히 해명되지 않고 있지만 최근의 인지신경과학 연구에 따르면 세 개 이하의 물건 개수를 파악할 때는 그 이상의 개수를 파악할 때와는 다른 고유한 메커니즘이 작동하고 있는 듯하다.
인간은 여하한 방법으로 세 개 이하의 물건은 세지 않아도 그 개수를 정확하게 인식할 수 있다. 그런데 네 개 정도를 경계로 이 능력은 사라진다. 보는 것만으로는 개수를 파악하기가 어려워져서 그것을 셀 수밖에 없게 된다.
이러한 인지적 한계를 보완하기 위해서 사람은 다양한 궁리를 거듭해왔다. 가령 신체를 사용하는 방법이 있다.
양떼가 있다. 양들을 보기만 해서는 몇 마리인지 모르니까 양이 한 마리 지나갈 때마다 손가락을 하나씩 구부린다. 즉, 신체의 도움을 빌려서 양의 수를 파악한다.
그런데 안타깝게도 손가락은 양손을 합쳐야 열 개밖에 안 된다. 발가락까지 사용한다고 해도 스무 개다. 그래서 요리조리 궁리를 해서 한정된 신체로 조금이라도 많은 수를 다루려고 한다.
예를 들면 오스트레일리아의 요크 곶과 파푸아뉴기니 사이에 있는 토러스 해협 제도의 원주민은 양손뿐만 아니라 팔꿈치와 어깨, 가슴과 발목, 무릎, 허리 등 전신을 사용해서 33까지 세는 방법을 가지고 있었다그림 2: 조르주 이프라의 책 〈수학의 역사The Universal History of Numbers〉를 참고해서 번역·작성했다. 중세 유럽에서는 두 손가락을 사용해서 9999까지 세는 방법이 있었다그림 3. 그러나 신체 부위는 그 수가 한정되어 있으니까 어쨌든 한계가 생긴다.
신체를 사용하는 대신에 나무와 뼈에 칼자국을 새겨서 숫자를 세거나 기록하는 방법도 있다. 기원전 이만 년 전후의 것이라 전해지는 콩고민주공화국의 이상고Ishango 유적에서는 일정한 규칙에 맞춰서 반복적으로 칼자국을 새긴 골편이 발견되었다. 물건의 힘을 빌려서 숫자를 세려고 한 먼 선조의 흔적이다.
기원전 삼천 년쯤 되면 수메르인의 손에 의해 세계 최초의 문자가 발명된다. 가장 오래된 점토판에는 수메르의 그림문자와 함께 수를 나타내기 위한 기호가 있다. 초기 문자는 이윽고 표의문자와 표음문자로 바뀌어가지만 수를 나타내는 기호는 그것을 위한 전용 기호로 남았다. 이렇게 해서 ‘숫자’가 탄생한 것이다.
숫자의 디자인은 문명마다 다양한데 나무와 뼈에 자국을 내거나 점토 덩어리를 나열하는 연장선상에서 1을 표시하는 기호를 두 개 또는 세 개 늘어놓아서 2와 3을 표시하는 것이 기본이다그림 4: 여러 문명의 숫자 표기. 고대 인도문자, 손으로 쓴 아라비아문자의 표기에 대해서는 조르주 이프라의 〈수학의 역사〉를 참조. 그렇다면 4와 5도 같은 기호를 네 개 또는 다섯 개 나열하면 되느냐 하면 그렇지는 않다. 인간의 인지능력에는 한계가 있어서 같은 기호가 네 개, 다섯 개 나열되어 있으면 정확하게 파악하는 것 자체가 꽤 힘들어지기 때문이다. 이래서는 도구로 쓰기에 효율이 떨어진다.
그래서 대부분의 문명은 4 또는 5를 경계로 독자적인 기호를 만들어내게 되었다. 예를 들어 한자의 경우에는 一, 二, 三 다음이 ‘四’가 된다. 로마숫자도 Ⅰ, Ⅱ, Ⅲ 다음이 ‘Ⅳ’가 된다. 아라비아숫자도 원래 인도로부터 전해온 기수법으로 2, 3까지는 한자의 二, 三과 비슷한 형태를 초서체로 쓴 것인데 ‘4’부터는 역시 새로운 형태가 된다. 숫자는 동서고금을 막론하고 인간의 인지적 한계를 고려해서 궁리에 궁리를 거듭한 끝에 설계되어왔다.
이리하여 신체의 각 부위와 작은 돌 같은 물건, 나아가 외부 미디어에 등록된 기호 등을 사용함으로써 흩어져 있는 수량을 파악하는 인간의 능력은 조금씩 확장되어간다.
수량의 파악뿐만이 아니다. 신체와 사물을 잘 사용하면 수량을 목적에 맞춰서 조작하는 것다시 말해 ‘계산’하는 것도 가능하다. 누구나 어릴 때 손가락을 사용해서 덧셈과 뺄셈을 했던 시기가 있을 것이다. 아니면 주판을 써서 손가락만으로는 할 수 없는 계산을 재빠르게 할 수 있었던 사람도 있을 것이다.
고대 그리스와 로마에도 산반散盤, abacus이라 불리는 계산용 도구가 있었다. 대리석 석판에 똑바로 그어진 몇 개의 선 위와 선 사이에 작은 돌을 놓고 계산하는 방식으로 된 것이다. 영어의 ‘calculation계산’은 라틴어 ‘calculus작은 돌’에서 나왔는데 이것도 이 시대의 습관에서 유래한 것이다.
그런데 사물을 사용해서 하는 계산의 약점은 과정이 사라져버린다는 데 있다. 예컨대 돌을 다시 나열하면 원래의 위치 관계가 사라진다. 그래서 숫자를 사용해서 계산 과정과 결과를 기록하게 된다. 사물을 사용한 계산과 숫자를 사용한 기록이라는 도구의 역할 분담이 확립되는 것이다.
실제로 고대의 숫자는 계산을 하는 도구로는 사용하기 어렵다. 예를 들어 로마숫자로 계산하는 것을 상상해보기 바란다. 36은 ‘ⅩⅩⅩⅥ’ 73은 ‘LⅩⅩⅢ’, 이 표기를 사용해서 어떻게 계산하면 곱셈 결과 ‘MMDCⅩⅩⅦ2628’을 구할 수 있는가? 시험 삼아 한번 해보면 이것이 얼마나 복잡한 작업인지 알 수 있을 것이다. 로마숫자만이 아니다. 고대 숫자는 모두 애당초 계산을 위해서 설계되지 않았다.
계산을 사물에서 해방시켜 ‘계산용 숫자’를 발명한 것은 인도인이다. 7세기 인도에서는 지금은 전 세계에 정착해 있는 ‘인도-아라비아식’ 0 기호를 포함하는 자릿수 기수법을 일찌감치 도입했다고 알려져 있다. 이것은 결코 자연의 선물이 아니라 정신이 아득해질 만큼 되풀이한 시행착오의 역사를 통해서 서서히 형태가 갖추어진 인공물이다.
(본문 중 일부)
★ 저작권법에 의해 한국 내에서 보호를 받는 저작물이므로 무단전재와 복제를 금합니다.