지난번 글에서는 형식 체계와 형식 체계의 의미에 대해서 간단히 알아봤다. 복습 삼아 정의를 한 번 더 돌이켜 본다면, 형식 체계는 '특정 기호열(혹은 기호의 조합, 혹은 문자열)들을 모아놓은 것'이다. 예를 들어 '여섯 자리 이하의 숫자의 모임'도 하나의 체계가 될 수 있다. 그렇다면 000234 (다른 숫자도 이렇게 여섯 자리로 맞추어 쓰면 이 모임의 모든 숫자를 여섯자리 숫자라고 볼 수 있게 된다)는 이 체계의 구성원이고 3458978은 일곱 자리이므로 이 체계의 구성원이 아니다. 그러나 234를 '이백삼십사'라는 숫자로 본다는 것은 벌써 해석이 부여된 것이다. 234는 철저히 '0, 0, 0, 2, 3, 4'라는 기호가 여섯 개 늘어선 기호열로 보아야 하며 위의 정의(여섯 자리 이하의 숫자의 모임이라는 정의)는 이미 2차적인 의미를 체계에 부여한 것이다. 이 체계에서 2차적인 의미를 제거하고 단순 기호열의 모임으로 보면 이 체계는 또 다른 의미를 가질 수 있다. 예를 들어, 000234는 숫자로 해석할 수 있을 뿐 아니라 컴퓨터에서 색깔을 나타내는 기호로도 해석될 수 있다. (이 때 보통 16진수를 쓰므로 A, B, C 같은 기호도 들어가지만 복잡해지므로 그런 기호는 생략하기로 하자). 보통 앞의 두 숫자가 빨강, 가운데 두 숫자가 녹색, 마지막 두 숫자가 파랑을 표시하므로 000234는 어두운 파랑색을 나타낼 것이다. (숫자가 00에 가까울수록 어둡고 99에 가까울수록 밝다. 빨강색은 990000, 녹색은 009900, 파란색은 000099이다. 그러면 보라색은 뭘까? 그렇다 빨강과 파랑을 합치면 되니까 보라색은 990099이다.) 따라서 이 '여섯 개의 숫자가 늘어선 기호열의 모임'이라는 체계는 최소한 두 가지 의미를 갖고 있다.

이 책에서는 정리라는 용어가 등장하는데, 어떤 기호열이 체계에 속한다면 그 기호열은 그 체계의 '정리'라고 부른다. 형식 체계에서 중요한 문제는 어떤 기호열이 그 체계에 속하느냐 마느냐의 여부이다. 이 때 세상의 온갖 기호들을 다 고려할 수는 없으므로 모양이라도 그 체계에 속할 가능성이 있는 기호열들 만을 고려하는 것이 좋은데 그런 기호열들을 '제대로 된 형태의 기호열'이라고 부른다. 예를 들어 한국어 문장이라는 체계를 얘기할 때 아랍어로 이루어진 문장들은 고려할 필요가 없을 것이다. 한글기호 (ㄱ, ㄴ, ㄷ, … ㅏ, ㅑ, ㅓ, ㅕ, … 등등)로 쓰여 있다고 다 한국어라는 체계에 들어가는 것은 아니지만 적어도 들어갈 가능성은 있는 것이다. 그러므로 이 때 '한글기호로 쓰인 문장들은 한국어 문장이라는 체계에 있어서는 '제대로 된 형태'를 갖추고 있다고 말할 수 있다. (다른 용어와 달리 '제대로 된 형태'라는 용어는 명확히 정의할 수 없는 용어이므로 그냥 상식적인 선에서 이해하면 된다)

다시 말하지만 형식 체계에서 중요한 문제는 어떤 기호열이 그 체계의 '정리'이냐 아니냐 하는 문제이다. 즉, 어떤 기호열이 그 체계에 속하느냐 아니냐의 문제이다. 이 때 만약 그 체계가 유한한 개수의 기호열들로 이루어진 체계라면 어떤 기호열이 그 체계의 정리이냐 아니냐 하는 문제는 아주 단순한 문제로 보인다. 그냥 그 체계의 모든 구성원들과 비교해 봐서 그 안에 같은 기호열이 있으면 그 체계의 정리이고 그 안에 없으면 정리가 아닌 것이다. 대학원생 몇 명에게 사료만 꾸준히 보충해 주며 며칠 밤새우게 하면 쉽게 해결할 수 있는 문제다. 만약 그 체계가 유한한 개수의 원소로 이루어져 있지 않다면? 그렇다면 문제는 말 그대로 '한없이' 복잡해진다. 그 복잡함의 차이는 정말 '근본적'이고 '질적'인 차이일 것이다. 어떻게 보면 이 차이가 이 책의 앞부분에서 다루고 있는 문제의 핵심이라고 볼 수 있다. 형식 체계에 속하는 정리들의 개수가 유한하다면 불완전성이고 뭐고 있을 수가 없다. 괴델의 증명에 있어서도 가장 중요한 단계는 이 차이가 극복될 수 없다는 사실을 이용하고 있다. 결국  저자는 이러한 차이로 인해 발현되는 형식 체계의 기대치 못한 놀라운 성질을 이야기하고 있는 것이다.

그렇다면 이 책에서 탐구하고 있는 인식의 본질이라는 문제의 유효성도 이러한 차이가 실제에 있어서 얼마나 근본적인 의미를 갖는지의 여부에 달려있다고 볼 수도 있을 것이다. 즉 유한과 무한의 차이가 단순히 수론 분석에 있어서의 문제를 다룰 뿐 아니라 실제에까지 확장될 수 있느냐의 여부가 이 책의 논지가 실제 인식의 분석 불가능한 면에 대한 논의로 확장될 수 있는지의 여부를 결정할 것이라는 말이다. 이는 실로 어려운 문제가 아닐 수 없고 내가 감히 범접할 수 없는 문제임에 틀림없다. 그러므로 해결할 수 없는 문제는 일단 무시하기로 하고 이 책에서 다루는 무한 그 자체에 대해서 먼저 생각해보기로 하자.

무한은 수학에서는 아주 명확하고 단순하게 정의할 수 있는 개념이다. 하지만 워낙 단순하고 추상적이기 때문에 거기에서 비전공자가 상식적으로 받아들일 수 있는 의미를 찾기는 어렵다. 따라서 여기에서는 기술적인 정의는 무시하고 최대한 쉽게 접근해 보자.

무한이라는 말을 들으면 보르헤스의 바벨의 도서관을 떠올리는 사람이 많을 것이다. 모든 가능성이 열려 있지만 그 가능성에 도달할 확률은 0이기 때문에 절망적인 도서관이다. 지적 추구에 대한 비유이자 환원론의 한계에 대한 고찰로도 읽을 수 있는 이 매력적인 단편은 나중에도 다루어지겠지만 여기서는 그 무한함에 대해서만 우선 생각해보도록 하자. 정확히 말해 바벨의 도서관은 우주를 채우고도 남을 정도로 큰 건물이긴 하지만 책의 길이가 정해져 있기 때문에 무한한 크기는 아니다. 하지만 책의 길이에 대한 제한을 없애면 쉽게 무한히 큰 건물을 상상해 볼 수 있다. 책도 복잡하니까 잊어버리고 이 도서관을 이루는 방들만 생각해 본다면 그 안에서 주위를 둘러봤을 때  사실 이 도서관이 다른 동네 도서관과 크게 다르게 보일 이유는 없다. 주변에 방의 개수가 좀 많다 뿐이지 한 지점에서는 다른 건물과 큰 차이를 볼 수 없을 것이다. 이 도서관의 또 하나 중요한 성질은 도서관 전체를 죽 둘러 볼 수 있는 계획을 짤 수 있다는 것이다. 규칙만 적당히 잘 정하면 포기하지 않는 이상 (1)도서관의 어느 방이든 언젠가는 (유한한 시간 내에) 들어가 볼 수 있다. (2)유한한 시간 내에 도서관의 모든 방을 들어가 보는 것은 불가능하긴 하지만 말이다. (1)과  (2)가 모순되는 말 아니냐고? 그렇지 않다. 계획을 제대로 짰다고 했을 때 (1)은 어떤 방이든  방을 하나  결정하고 나면 유한한 시간 안에 그 방에 도착할 수 있다는 말이다. 이 말은 (2)와 모순되지 않는다. 이상하다면 잘 생각해 보시길.

따라서 확장된 바벨의 도서관의 방의 개수는 무한히 많긴 하지만 그럭저럭 부딪혀 볼 만한 개수이다. 그렇다면 무한은 모두 이런 식으로 부딪혀 볼 만할까?

바벨의 도서관의 방의 개수를 '대수롭지 않은 무한'이라고 불러 보자. (정식 명칭은 셀 수 있는 무한이다. 하지만 평생을 걸려도 셀 수 없는 수를 셀 수 있다고 부르려니 좀 거슬린다) 대수로운 무한도 있으니까 당연히 이런 식의 정의를 하겠지? 그렇다. 무한에는 '대수롭지 않은 무한' (정식 용어는 셀 수 있는 무한)과는 다른 수준의 '범접할 수 없는 무한'(정식 용어는 셀 수 없는 무한)이 있다. 결론부터 말하자면 자연수의 개수는 대수롭지 않은 무한이고 0과 1 사이의 실수의 개수는 범접할 수 없는 무한이다. 자연수라 함은 1,2,3,.. 과 같이 개수를 나타낼 때 쓰는 수이다. 소수점이 필요없는 수들 말이다. 0과 1 사이의 실수는 영점 몇몇몇… 의 형태로 나타낼 수 있는 수들이다. (설명을 쉽게 하기 위해 0과 1 사이의 실수로 제한을 두기로 하자) 예를 들어 0.1234 도 0과 1 사이의 실수이다. 하지만 0.1234라고 쓰인 숫자가 있을 때 아랫자리수의 수들을 마저 쓰기가 귀찮아서 그만 쓴 건지 실제 딱 0.1234라고 떨어지는 숫자를 표현한 건지 판단하기는 애매하다. 원칙적으로 실수 하나를 지정하려면 소수점 이하의 모든 자리수를 지정해야 한다. 0.1234라는 수는 사실 0.1234000000…. 이라는 수의 줄인 표현으로 보는 것이 실수의 개수를 생각할 때 도움이 된다. 이런 식으로 보면 모든 수가 같은 형태이기 때문에 통일성도 보너스로 얻게 된다. 그런데 실제로  모든 자리수를 지정할 수 있는 수, 즉, 유한한 규칙으로 표현할 수 있는 수(예를 들면, 0.2345 같이 자리수가 유한한 수, 또는 0.369369369... 와 같이 간단한 규칙으로 자리수를 모두 지정할 수 있는 수)는 0과 1사이의 모든 실수 중에서 극히 일부에 불과하다. 확률적으로 말하자면 0과 1 사이의 실수 하나를 무작위로 뽑았을 때 그 수가 모든 자리수를 지정할 수 있는 수일 확률은 정확히 0 퍼센트이다. 근사치로 0 퍼센트가 아니라 정확히 0 퍼센트이다. 그러니까 정확히 정의할 수 있는 실수, 예를 들어 0.1234 또는 0.6666…. (6이 무한 반복되는 수, 분수로 쓰면 3분의 2이다)과 같은 수는 다 모아봤자 0과 1 사이의 실수 전체에 비하면 없는 것이나 마찬가지이다. 자연수의 개수는 무한히 많지만 어떤 자연수건 유한한 개수의 숫자로 표현할 수 있다. 반면 0과 1 사이의 실수는 숫자 하나를 정확히 정의하려면 무한의 시간이 걸린다. 정말 수준이 다르지 않은가? 실수의 무한함이란 정말 범접할 수 없는 수준이 아닐 수 없다.

범접할 수 없는 무한이라는 개수(개수라는 개념은 자연수라는 개념을 기본적으로 깔고 있기 때문에 범접할 수 없는 무한에 개수라는 말을 쓰기도 좀 머하지만 다른 적절한 표현이 생각나지 않으므로 그냥 개수라는 말로 표현하기로 하자)는 정말 상상하기조차 힘든 대상이다. 만약 바벨의 도서관에 범접할 수 없는 무한에 해당하는 개수의 방이 있다면 옆방이라는 개념조차 없을 것이다. 아무리 가까운  두 개의 방을 고른다 해도 그 두 방의 사이에는 무한히 많은 개수의 (그것도 범접할 수 없는 무한의) 방이 존재할 것이다. 따라서 어떤 하나의 방에서 주변의 모습이 어떻게 보일지는 상상하기도 힘들다. 그런 도서관은 전체를 돌아볼 수 있는 계획조차 세울 수 없다. 아무리 계획을 잘 세운다고 해도 유한한 시간에 돌아볼 수 있는 방의 비율은 0 퍼센트이다. (반면 서두에 등장한 도서관의 모든 방, 즉 대수롭지 않은 무한, 자연수의 개수에 해당하는 개수의 방을 가진 도서관의 모든 방은 유한한 시간 내에 도착할 수 있다. 계획을 잘 세운다면.) 대수롭지 않은 무한은 도달할 수 있는 가능성의 모임이고 범접할 수 없는 무한은 도달할 가능성이 없는 놈들의 모임이다.

이렇게까지 떠들었으니 그런가 하고 넘어가는 사람들이 많겠지만 이 경우는 한 번 좀 더 정확히 따져보기로 하자. 기술적인 내용은 다 생략하겠다고 했지만 이 경우는 아주 중요한데다가 끔찍하게 어려운 내용도 아니므로 짚어보고 가는 것이 좋겠다. 게다가 이 내용은 나중에 등장하는 괴델의 증명의 중요 단계와 개념적으로 매우 비슷하기 때문에 빼놓고 넘어가기에는 더욱 더 아쉬운 부분이 아닐 수 없다.

유한한 수의 두 모듬을 어떻게 비교하는지 먼저 생각해 보자. 만약 사과와 배가 다음과 같이 있다면

사과는 하나, 둘, 셋, 세 개 있고 배는 하나, 둘, 셋, 넷, 네 개 있고 3은 4보다 작으니까 배가 더 많다고 얘기할 수도 있겠다. 하지만 둘 이상의 수를 세야 하는 이런 엄청나게 복잡한 작업을 하지 않더라도 더 직관적으로 개수를 비교하는 방법이 있는데 바로 짝맞추기이다. 사과 하나 배 하나 이렇게 짝을 맞추다 보면 배가 하나 더 남기 때문에 배의 개수가 더 많다고 할 수 있는 것이다.

하지만 무한의 개수를 비교할 때에는 이런 논리가 좀 애매해지는데 왜 그런지는 다음 예를 통해서 설명하기로 하자.

자연수의 모임과 자연수 중에 짝수의 모임을 보자. 짝수는 모두 자연수이므로 당연히 자연수가 짝수보다 많다고 생각할 수도 있지만 꼭 그렇지는 않다. 짝수를 모두 대응하는 자연수에 바로 대응시키면 짝수는 모두 짝이 맞지만 자연수에는 짝이 맞지 않는 애들이 남게 되는데 바로 홀수라고 부르는 애들이다.

그러니까 자연수의 개수가 짝수의 개수보다 많다고 할 수 있을 것이다, 라고 생각하기 쉽지만 그렇지 않다. 짝을 맞추는 방법을 좀 바꾸어 보자. 자연수를 자기 두 배 되는 수와 짝을 맞추면 어떻게 될까?

이렇게 짝을 맞추면 왼쪽과 오른쪽에 짝을 못 찾는 것은 하나도 없다. 이렇게 짝이 딱딱 맞으니  자연수의 개수와 짝수의 개수는 같다고 볼 수 있을 것이다.

따라서 짝을 맞추었을 때 남는 것이 있다고 해서 꼭 남는 것이 있는 쪽이 수가 더 많다고 할 수는 없다. 짝을 잘못 맞추었기 때문에 그럴 가능성이 있기 때문이다. 하지만 어떻게 짝을 맞추어도 꼭 한쪽이 남는다면 어떨까? 그렇다면 남는 쪽의 개수가 더 많을 것이라는 의심을 가질 수 밖에 없다. 그래서 무한수의 경우에는 이렇게 '어떤 식으로 짝을 맞춰도' 남는 쪽이 있다면 그 쪽이 수가 더 많다고 본다.

정리하면, 무한 개수의 두 모듬이 있을 때

그러면 자연수의 개수와 실수의 개수를 비교하던 일로 돌아가 보자.  결국 여기에서 증명하고 싶은 것은 자연수의 개수가 0과 1 사이의 실수의 개수보다 적다는 것이다. 자연수의 개수가 0과 1 사이의 실수의 개수보다 많지는 않다는 것은 상식적으로 증명할 수 있다. (자연수가 하나 있을 때 그에 해당하는 실수를 하나 찾을 수 있다. 1234를 0.1234로 바꾸는 식이다. 이러면 모든 다른 자연수가 다른 실수에 대응된다. 따라서 논리적으로 생각해 보면 자연수의 개수가 0과 1 사이의 실수의 개수보다 많을 수는 없다. 하지만 개수가 같은 수는 있다. 앞에서 봤듯이 이런 대응 관계가 자연수의 개수보다 실수의 개수가 많다는 것을 꼭 증명하지는 않는다.) 자연수의 개수가 더 적다는 것을 보이기 위해서는 자연수와 실수를 '어떤 식으로 대응시켜도' 남는 실수가 있다는 걸 보이면 된다.

비슷한 논리를 유한개의 개수에 적용시켜보자. 다음과 같이 1부터 3까자의 숫자 세개로  이루어진 숫자열 세 개를 생각해 보자.

이 숫자열의 목록에 포함되지 않는 세개의 숫자로 이루어진 숫자열을 찾을 수 있을까? 물론 쉽게 찾을 수 있다. 대충 집어서 323 정도? 이 외에도 목록에 포함되지 않는 숫자열은 굉장히 많다. 1부터 3까지의 숫자 세개로 이루어진 숫자는 총 27개인데(3x3x3으로 계산할 수 있다) 그 중에 세 개만 나열했으므로 나머지 24개는 이 목록에 속하지 않는다. 하지만 어떤 과정을 거쳐서 그런 숫자열을 찾았는지 설명하긴 쉽지 않다. 너무 쉽고 당연한 과정이라서 그럴지도 모른다.

좀더 일반적인 형태를 생각해보자. a,b,c,d,e,f,g,h,i가 각각 1,2,3 중 하나의 숫자를 나타낸다고 하면 일반적인 세 개의 숫자열은 다음과 같이 나타낼 수 있다.

앞의 예는 a=1, b=2, c=3, d=2, e=3, f=1, g=2, h=1, i=2인 경우에 해당한다. 그렇다면 일반적인 형태의 목록에서 그 목록에 포함되지 않는 숫자열은 어떻게 찾을까? 단순하게 생각했을 때, 첫 번째 숫자열은 a로 시작하고 두 번째 숫자열은 d, 세 번째 숫자열은 g로 시작하므로 a,d,g 중 어느 것도 아닌 숫자로 시작하는 숫자로 시작하는 숫자열은 목록에 포함되지 않을 것이다. 앞의 예에서 3으로 시작하는 숫자열은 모두 목록에 포함되지 않는다. 하지만 다음 목록을 보면 어떨까?

앞의 방법으로는 맨 앞의 숫자를 고르기가 애매하다. 가능한 숫자 1,2,3은 이미 세 숫자열 중의 하나가 차지하고 있기 때문인데 두번째 자리와 세번째 자리 숫자도 사정은 마찬가지이다. 누구나 포함되지 않는 숫자열을 찾기는 쉽지만 (예를 들어 333 따위) 일관된 방식이라고 보기는 힘들기 때문에 일반적인 상황에 써먹을 수는 없다. 사실 일관된 방법이 있긴 한데, 바로 '대각선 신공'이라고 부르는 방법이다. 다음과 같은 일반적인 목록에서

대각선에 위치한 숫자 aei를 뽑아 그것을 a'e'i'으로 변경하는 것인데 a'은 a만 아니면 되고 e'은 e만 아니면 되고 i'은 i만 아니면 된다. 그래서 다음과 같은 문자열이 있다면

대각선의 숫자는 311이니까 각각을 다른 숫자로 바꾸면, 예를 들어 232로 바꾸면 이 숫자열은 신기하게도 목록에 속할 수 없다. (대충 생각하면 당연하지만 잘 생각해 보면 정말 신기하다)

자연수와 실수(이 글에서는 설명의 편의 상 실수는 0과 1사이의 실수만 생각하고 있다는 사실을 잊지 말자)를 비교할 때도 대각선 신공이 쓰인다. 자연수와 실수를 어떻게짝을 맞추든 실수가 항상 남는다는 것을 보이면 되는데 자연수와 실수를 짝을 맞춘다는 것은 다음과 같은 목록을 만드는 과정으로 볼 수 있다.

예를 들어 다음 목록 같은 것이다.

.

물론 생략점에 해당하는 모든 숫자가 다 정의되어야 하기 때문에 실제 목록을 종이 위에 쓰는 것은 불가능하다.

그렇다면 임의의 이런 목록이 있을 때 그 목록에 속하지 않는 실수를 찾을 수 있을까? 바로 대각선 신공을 쓰면 된다. 예를 든 목록에서 대각선에 해당하는 숫자들은 3,3,8,2 이니까 우리가 찾는 '목록에 속하지 않는 수'는 예를 들어 0.4493… 으로 시작할 것이다. (0.3382… 와 모든 자리수가 다르기만 하면 되기 때문에 이런 숫자는 쉽게 찾을 수 있다.) 그렇다. 어떤 목록이 있던 그러니까 어떻게 자연수와 실수를 짝을 짓던 항상 남는 실수가 있게 되어 있다. (상당히 많이 남는다.)

그렇다 무한에도 수준이 있는 것이다. 유한과 무한이 근본적으로 다르다는 것은 누구나 인지하고 있겠지만 무한에도 다른 수준의 무한이 있다는 사실은 익숙하지 않은 분들이 꽤 될 것이다. '대수롭지 않은' 자연수의 무한은 단계적으로 접근해 가면 극복할 수 있는 가능성이 있는 것들의 모임이라고 볼 수 있다. 이러한 단계적 접근은 컴퓨터가 일을 처리하는 방식과 비교할 수 있다. 컴퓨터는 주기적인 신호에 따라 단계적으로 밖에는 동작하지 못한다. 컴퓨터 성능을 나타내는 3기가 헤르츠니 하는 것이 그런 단계를 나타내는데 3기가 헤르츠라면 1초에 30억 번의 단계를 거친다는 말이다. 3기가헤르츠 컴퓨터란 (가장 단순한 수준에서 보면) 결국 1초에 30억 번 그 상태가 변하는 기계라고 볼 수 있는 것이다. 반면 '범접할 수 없는' 실수의 무한은 단계적인 논리로 접근할 수 없는 것들이 100 퍼센트 가득 차 있다고 볼 수 있다. 그런데 이렇게 '범접할 수 없는' 실수의 무한이 무한의 궁극일까? 그렇지 않다 실수의 무한보다 더 많은 개수의 '범접할 수 없는' 무한은 무한히 많다. 실수의 무한이 자연수의 무한보다 한 단계 높은 것이라면 실수의 무한보다 한 단계 높은 무한, 또 그 무한보다 한 단계 높은 무한도 존재하는 것이다. 이는 갈수록 상상하기가 어려워지기 때문에 일단 실수의 무한까지만 생각하는 게 정신 건강에 좋을 것 같다.

기술적인 문제를 다루다 보니 무한의 일면만  대략적으로 훑어보았는데도 글이 너무 길어졌다. ('마이크로소프트 엑셀 7일 완성'이라는 책이 '논리철학논고'보다 천 배 정도 두꺼운 건 다 그럴만한 이유가 있다.) 이 정도로  기술적인 내용은 나중에 괴델의 증명에서 비슷한 내용을 잠깐 다루는 것 말고는 (바라건대) 다시 등장하지 않을 것이다.

오늘은 자연수의 무한(별거 아닌 무한)과 실수의 무한(범접하기 어려운 무한)이 근본적으로 다르다는 것, 그 차이는 '대각선 신공'으로 증명할 수 있다는 사실을 알아봤다. 이렇게 어떤 두 가지 사물의 차이가 근본적인 것인지 아닌지, 같은 수준에서 다루어질 수 있는 것인지 아닌지를 따지는 문제는 여러 주제에서 다양한 형태로 나타난다. 부분과 전체, 구체적인 발현과 추상적인 관념, 환원론의 문제, 형식과 내용의 차이 등이 그런 주제일 것이다.  다음 글에서는 이 책에서 그런 수준, 혹은 레벨의 차이를 어떻게 다루고 있는지 알아보기로 하자.