생일 같은 날 케이크를 한 조각 잘라내고 나서 누구나 한번쯤은 남은 케이크의 변의 길이의 합이 궁금했던 적이 있을 것이다. 또 한적한 길거리에서 길을 걷다가 멀리서 걸어오는 사람을 보면 내가 걷는 속도와 상대방의 속도를 비교하고는 나와 상대방이 이 길의 어느 지점에서 만나게 될지 궁금해본 적이 있을 것이다. 아니라고? 그런 괴상하고 쓸데없는 문제에 신경 쓰는 사람이 누가 있겠냐고? 당연한 말이다. 이런 문제는 현실의 물건들과 사람들을 담고 있지만 사실 현실과는 별 상관이 없는 문제들이다. 하지만 초등학교, 중고등학교의 수학 교과서를 보면 이런 이상한 문제들을 쉽게 만날 수 있다. 아니 이렇게 현실의 사물들이 등장하는 문제 중에서 그럴듯하다고 생각할 만한 문제를 찾기가 오히려 더 힘들다. 그럼에도 불구하고 단순히 숫자와 변수와 다각형과 방정식으로 이루어진 문제들은 너무 건조하고 학생들이 공감을 못한다고 생각해서인지 몰라도 수학 교과서에는 현실의 상황을 반영하려 시도하는 문제들이 끊임없이 등장한다.

물론 다른 과목들이라고 해서 학교에서 가르치는 구체적인 내용들이 현실과 관련이 있고 특별히 실생활에 도움이 된다는 얘기는 아니다. 갑신정변이 언제 왜 일어났는지 모른다고 해서 특별히 사는 데 문제가 되는 것은 아니다. 국사에 워낙 약한 탓에 어린 학생한테서 놀림을 당한 적도 있지만 그게 그렇게 큰 문제일까? 이런, 그런 건 문제가 될 수 있는 게 맞는 것 같기도 하다. 이런 면에서 보면 학교 교육은 무식한 티를 내지 않기 위해서 필요한 것일지도 모른다. 같은 반에 꼬시고 싶은 여학생이 있는데 그 앞에서 갑신정변과 갑오정변이 뭐가 다른 것인지도 몰라서 해멘다면 그 사람의 번식 기회의 확률은 크게 줄어들 것이다. 물론 헤맨다와 해멘다를 구별 못하고 써도 마찬가지이다.

이런 면으로 생각하면 학교 교육의 필요는 진화가 이루어지는 과정과 유사한 면이 있는 것 같기도 한다. 진화에 대한 많은 얘기들 중에서 나에게 가장 그럴듯한 것은 성선택에 대한 얘기인데, 간단히 얘기해서 진화를 구동하는 근본적인 엔진은 여자친구에게 잘 보이려는 욕구라는 것이다. 사실 진화에 있어서 최고의 승자는 자손을 많이 낳는 사람이다. 암만 잘먹고 잘살아도 자식이 없다면 그 사람은(정확하게 말하면, 그런 성향으로 발현되는 유전자는) 진화의 면에서는 완벽한 패배자일 수밖에는 없다. 지식도 마찬가지인데, 사실 인간의 지적 능력은 단순히 생존에 도움을 주는 수준을 크게 넘어선다. 사람들은 지성이 중요하다는 사실을 워낙 당연한 사실로 받아들이지만 생물학적인 생존의 문제를 보면 지성이 얼마나 가치가 있는 것인지는 의문이다. 오히려 자원의 소비를 늘려서 생존을 더 힘들게 만든다고 생각할 수도 있다. 이런 면에서 지성은 공작의 날개나 사자의 갈기 같은 것에 불과할지도 모른다. 자식 없이 오래오래 잘 사는 것보다는 젊어 죽더라도 애를 많이 남게 하는 유전자가 있다면 그 유전자가 그 종의 진화에 큰 역할을 하게 될 것이다. 물론 이는 모든 것을 심하게 단순화시킨 것이다. 그런 유전자가 있을 리는 없다. 어쨌든 사람의 지성이 이렇게 쓸데없이 비대해진 이유도 다 이성의 호감을 끌기 위한 것이라는 얘기다. 이런 얘기가 그럴듯하다고 하긴 했지만 현재를 설명하려는 모든 진화론적 주장과 마찬가지로 특별히 논리적 근거가 있는 것은 아니다. 결국은 현재의 상황에 맞도록 끼워 맞춘 ‘그럴 듯한’ 얘기에 불과하니까. 진화의 기본 메카니즘이야 반박할 것이 없지만 그것을 이용해서 구체적인 진화과정을 얘기하고 현재의 상황을 설명하려는 것은 대부분 헛된 노력으로 보인다. 어차피 현재가 진화의 결과이고 결과가 정해진 상황에서 원인을 끼워 맞춰야하기 때문에, 또 그 원인과 결과 간의 관계가 워낙 복잡하고 그 관계에 대한 증거는 대부분 지질학적 역사 속으로 사라져버렸기 때문에 과거를 바탕으로 현재를 설명하려는 진화론적 노력은 한계를 가질 수밖에 없다.

어쨌든 학교 교육도 이런 성선택과 같은 측면이 있는 것 같긴 하다. 결국 누가 다른 사람보다 점수를 더 잘 맞느냐를 따지기 위한 것이지 그 학습 내용은 별로 중요하지 않은 것이고 그렇기 때문에 학교에서 배우는 내용이 현실에 얼마나 도움이 되고 실생활과 관련이 있는지 없는지를 따지는 것 자체가 의미가 없을 수도 있다. 실제로 기본적인 한글 이해 능력과 덧셈 뺄셈 능력 이외에 추가로 배우는 것들 중에서 실질적으로 도움이 되는 것은 별로 없다. (내가 지금 IT 쪽에서 일하는데 이 경우 나눗셈까지는 아니라도 곱셈은 가끔 사용하는 것 같다.)

하지만 이런 사실들을 감안하더라도 학교 수학 교과서의 문제들은 너무 현실과 관련이 없어 보인다. 정말 노력하면 좀 더 그럴듯한 문제를 낼 수 있긴 있는 걸까 하는 생각도 드는데 옛날에 학생들 몇몇 가르칠 때를 떠올려보면 그렇게 쉽지는 않은 일 같다. 이런 어려움은 출제자의 능력 부족이 아니라 근본적으로 수학과 현실의 사이에는 극복할 수 없는 괴리가 있기 때문이 아닌가 하는 생각이 든다.

그림에서 점은 잘 보이게 하기 위해 x자로 표시했다. 사실 수학적인 점과 우리가 생각하는 점은 완전히 똑같은 것은 아니다. 오히려 전혀 관계가 없다고 생각하는 것이 더 맞을 수도 있는데 아무튼 개념만 나타낼 수 있다면 어떤 형태로 표시하던 크게 상관은 없다.

유클리드 기하학에서 직선은 영원히 뻗어나가는 선을 말한다.

공리의 목록에서 다섯 번째 공리는 다소 뜬금없다는 생각이 든다. 그 길이부터가 다른 공리들과 크게 차이가 나는데 그 내용을 봐도 특별히 복잡하지는 않지만 다른 공리들에 비해서는 다소 복잡하고 과연 공리로 볼 수 있을지 의심스럽기까지 하다. (물론 내가 실제로 이에 대해 의아해했다는 것은 아니다. 그냥 공리라고 하니까 공리인줄 알뿐이지 그런 의심을 가질 정도로 통찰력이 있는 것은 아니니까.) 이 다섯 번째 공리에 의심을 갖고 이 공리를 공리체계에서 제거할 수 있지 않을까 하는 생각을 하다가 유클리드 공리체계가 수립된 지 2000여년이 지나 비유클리드 기하학이 탄생했고 이는 수학 역사상 가장 중요한 사건 중의 하나로 남게 된다. (덤으로 아인슈타인의 일반상대성 이론의 기반이 되는 터무니없는 능력까지 발휘해서 수학자가 아닌 사람들도 비유클리드 기하학이라는 이름을 듣게 된다)

하지만 유클리드 기하학을 벗어나지 않고 유클리드의 공리를 그대로 받아들인다 해도 그 공리 체계에 대해서 확실한 감을 갖기는 쉽지 않다. 유클리드 기하학의 모든 정리를 이 공리들만 가지고 증명할 수 있다고 하는데 그게 정말인지 알기 힘들고 증명을 본다고 해도 이게 정말 공리만 이용한 것인지 확신할 수 있는 것은 아니다. 예를 들어 다음 정리의 증명을 보자.

이 정리는 상식적으로 봤을 때 당연한 정리다. 초등학생이라도 자와 컴퍼스만 있으면 쉽게 이런 삼각형을 그릴 수 있다. 그러나 그것은 수학정인 증명과는 아무 관계가 없다. 문제는 공리만 이용해서 이 사실을 증명할 수 있냐 하는 것이다. 이 정리에 대한 수학적 증명은 대충 요약하면 다음과 같은 것이 될 것이다.

어떤 점을 중심으로 해서 반지름이 6인 원을 그린다 (공리 3을 이용했다) 다음에 원 위에 한 점을 찍고 이 원의 중심에서 그 점을 잇는 선분을 그린다. (공리 1을 이용했다) 이 원의 중심과 같은 중심을 갖는 반지름이 3인 원을 그린다. (공리 3) 다음에 아까 원 위에 찍은 점을 중심으로 하는 반지름이 5인 원을 그린다 (공리 3) 반지름 3인 원과 반지름 5인 원이 만나는 점과 첫 번째 원의 중심, 그리고 원 위에 찍은 한 점(A라고 불렀던)을 이으면 원하는 삼각형이 된다. (점끼리 잇는 선분은 공리 1을 이용하면 얻을 수 있다)

대충 그림으로 그리면 다음과 같아진다.

이 정도면 제대로 된 증명처럼 보인다. 하지만 과연 그럴까? 그냥 상식적으로 당연하다고 생각하고 공리를 무시하고 넘어간 단계는 없을까? 마지막에 삼각형을 만드는 단계를 보자. 반지름이 3인 원과 반지름이 5인 원이 만나는 점이 삼각형의 꼭짓점이 되는데 문제는 공리 체계의 어디에도 이 두 원이 만나야 한다는 얘기는 없다. 상식적으로는 당연한 얘기지만 공리 체계에 들어 있지 않은 내용이기 때문에 사용할 수 없는 것이다. 이 두 원이 만난다는 사실을 원둘레의 연속성과 관계가 있고 이는 공리 체계에 들어 있지 않은 내용이기 때문에 그에 대한 공리가 추가적으로 필요하다. 하지만 앞의 증명을 읽으면서 이런 사실을 간파할 수 있는 사람은 그다지 많지 않다.

앞에서 든 예는 공리 체계를 굉장히 기본적이고 단순화한 것임에도 불구하고 직관적으로 받아들이기가 쉽지 않다. 하물며 좀 더 복잡한 체계를 다룰 때에는 이런 문제는 더욱 심각해진다. 내 생각에 훈련을 하지 않은 사람이 공리 체계를 제대로 이해하는 것은 불가능할 것 같다. 수학은 백프로 정확함을 추구하는데 이런 수학적 정확함이 어느 정도 수준인지에 대해서는 많은 사람들이 제대로 이해하지 못하고 있는 것 같다. 수학적 논리나 정확함이란 일상생활에서 ‘논리적’이라고 말하는 것과는 전혀 다른 수준의 정교함을 요한다. 일상생활에서 논리적이라는 말은 그냥 일상적인 생각의 틀에 어느 정도 부합한다거나 상식과 크게 벗어나지 않는다는 얘기지 수학에서의 논리처럼 정교한 수준의 얘기는 아니다. 이런 괴리는 수학을 현실과 연결시키는 데에 있어서 엄청난 장애물이 된다.

그렇기 때문에 일상생활이나 혹은 수학을 제외한 다른 학문에서 수학적 논리를 기대하는 것은 무리이다. 어떤 주장의 정당성은 어느 정도 합리적인 수준에서 서로의 합의를 통해서 도출할 수밖에 없다. 이러이러한 논리로 나의 주장이 백프로 옳을 수밖에 없다는 식의 자세는 절대로 정당화될 수 없다. 수학과는 달리 어떤 알고리즘이 있어서 참과 거짓을 나누어 줄 수 있는 것은 아니기 때문이다.

이런 얘기가 새삼스러운 것은 아니지만 굳이 여기서 다시 반복하는 것은 아직도 수학을 현실 속에 엉뚱하게 확장하는 사람들이 꽤 있기 때문이다. 심지어는 철학자들 중에서도 수학을 이용해서 논지를 전개하는 사람들이 있는데 많은 경우 마치 수에 대한 고대의 신비주의가 반복되는 듯한 느낌을 준다. 또한 자기주장을 펼 때 숫자를 이용하는 경우가 많은데 사실 숫자를 통해서 주장을 공고히 하는 것은 실제로는 극히 고도의 능력과 주의를 요하는 일이다. 그럼에도 불구하고 광고나 정치를 봐도 엉뚱하거나 왜곡된 숫자로 내용을 치장하려고 하는 경우가 꽤 있는데, 오히려 숫자를 주된 근거로 얘기하는 사람들은 더 의심스러운 눈초리로 봐야 할 지경이 되버린 것 같기도 하다.

이런 생각을 다른 분야에까지 확장해보면 전반적인 학문과 현실의 관계에 대해 꽤 부정적인 시각을 갖게 될 수도 있다. 이런 주장을 펴는 것은 그다지 인기도 없고 무시당하기 일쑤인데 사람들은 학문의 필요성에 대해 굳은 믿음을 갖고 있기 때문이지 않은가 한다. 많은 사람들이 진화론과 심리학이 사람을 설명하고 철학이 실제 현실에서의 가치 기준을 제공해주고 문학 이론이 소설을 설명해준다고 믿는다. 지금은 부족한 면이 있더라도 학문의 수준이 앞으로 더 깊어지면 삶과 자연에 대한 지혜를 더 얻을 수 있다고 믿는다. 학문이란 것도 보통 처음에는 현실적인 필요성에서 시작된 것이기 때문에 기본적인 내용은 현실과 밀접한 관계가 있고 현실의 이해에 많은 도움을 준다. 그러나 학문의 틀이 잡히고 그 깊이가 깊어지게 되면 현실과의 거리는 점점 멀어지는 경우가 많다. (여기서 내가 말하는 현실이란 보통 말하는 먹고 사는 문제나 취업/승진에 도움이 되는 문제 같은 것을 말하는 것은 아니고 우리가 사는 여기, 즉 세계 전체와 사람의 모든 면에서 이해 가능한 전반적인 면을 말한다) 예비군이 존재하는 이유가 교관들 일자리를 위해서라는 이야기가 있는데 물론 이것은 잘못된 생각이고 학문에 대해 그런 생각을 갖는 것은 지나치게 냉소적인 자세이다. 하지만 학문이 발전하고 가치를 창출해 가는 데에 있어서 학문 내의 논리가 우선한다는 사실은 간과해서는 안 된다. 학문은 학문 자체로 가치를 갖지만 그것을 현실의 이해에 적용하는 것은 전혀 다른 문제일 수도 있는 것이다.

아무튼 오늘은 수학과 현실의 괴리에 대해서 아주 단순한 측면에서 고려를 해봤는데 생활에서의 논리의 적용의 한계와 인과 관계라는 개념의 문제점과 같은 좀 더 일반적인 내용에 대해서도 기회되는 대로 좀 더 살펴보기로 하자.