모든 지식은 반드시 인식된 것이어야 한다. 그렇지 않을 경우 그것은 단순히 착각으로 전락할 것이기 때문이다. 산수는 콜럼버스가 서인도 제도를 발견한 것과 똑 같은 의미에서 발견되어야 하는 것이다. 또한 콜럼버스가 인디언들을 만들어내지 않은 것처럼, 우리도 또한 수number를 만들어내는 것이 아니다. …사고의 대상이 될 수 있는 것은 어떤 것이건 간에 존재를 갖는다. 그러한 존재는 그것이 사고의 대상이 됨으로써 비롯된 결과가 아니라 사고의 대상이 되기 위한 전제조건인 것이다. (Russell, “Is Position in Space and Time absolute or relative?”, Mind, X. 스티브 바커, 『수리철학』, 이종권 옮김, 118쪽, 재인용) 

프레게의 탁월한 문장력은 사실 철학자로서 엄청난 재능이었다. 특히 『산수의 기초』The Foundations of Arithematics(1884) 는 모든 시기에 걸쳐 독창적이고, 명쾌하고, 엄밀하고, 경제적이고, 위트가 있고, 미묘하고, 심오한 위대한 철학적 걸작 가운데 하나이다. 이런 성질들은 가장 위대한 철학자들의 저작에서도 좀처럼 결합되지 않는다. 그리고 철학적 문장가로서 프레게를 능가하는 사람은 플라톤과 데카르트뿐이다. 그들처럼 그리고 다른 모든 철학자들을 뛰어넘어 프레게는 처음 접할 때도 접근할 수 있으면서도, 매력적이고 생애 동안 반복해서 읽어도 얻을 것이 있는 글을 쓰는 재주를 지녔다. (안xh니 케니, 『프레게, 현대 분석철학의 창시자에 대한 소개』, 최원배 옮김, 298~299쪽)  

프레게의 관심은 산수가 공리화될 수 있는가 하는 생각에서부터 출발한다. 이는 7+5=12와 같은 산수식은 선천적 종합판단(명제)으로 본 칸트 생각에 의문을 던지는 것이다. 칸트에 따르면, 어떤 진리를 모든 경험과 독립하여 안다면 우리는 그 진리를 선천적으로a priori 안다. 그것을 경험을 통해 안다면 우리는 그것을 후천적으로a posteriori 안다. 반면에 분석과 종합의 구분은 칸트가 판단에 의해, 특히 주어-술어 판단에 의해 하는 구분이다. ‘A는 B이다’는 판단이 분석적인analytic 경우는 술어 B가 개념 A에 포함된 어떤 것으로서 주어 A에 속할 때이고, 그렇지 않다면 종합적synthetical이다. 

예를 들어, ① 모든 총각은 미혼 남자이다. ② 김훈은 『칼의 노래』 저자이다. 여기서 ①은 분석 판단이고 ②는 종합 판단이다. 칸트는 인간 지식의 확장을 설명하는 데 있어 선천적 종합 판단이 중요한 역할을 한다고 생각했다. 칸트는 각각의 산수 명제 역시 직관Anschaung에 의해 알려진다고 주장한다. 칸트는 7과 5를 더할 때 우리는 그에 상응하는, 가령 우리 손가락 5개의 직관에 도움을 받는다고 했다. 그러나 수학자였던 프레게의 생각은 달랐다. 그는 135664+37863과 같은 산수에서 우리는 135664개의 손가락에 대한 직관을 그리고 37863개의 손가락에 대한 직관을 가질 수 없다고 주장한다. 즉 그는 7+5=12와 같은 산수식은 선천적 분석 판단이라고 보았다. 이러한 프레게의 생각은 기하학이나 심리학 혹은 물리학보다 산수가 그 범위가 넓고 깊다고 본 데서 연유한다. 물리학과 심리학은 실제 인과 세계를 다루고 기하학은 직관 가능한 것의 세계를 다루며 산수는 사고의 세계의 다룬다. 또한 사고될 수 있는 산수는 셀 수countable 있어야 한다. 유클리드의 정리theorm가 공리axiom와 관련되어 있듯이, 산수의 진리는 논리학의 진리와 관련되어 있다. 산수는 논리학으로부터 이끌어낼 수 있다는 논리주의의 탄생. 이런 맥락에서 프레게에 있어서 산수의 진리는 선천적이면서 분석적이다. [엄밀하게 말하면, 『산수의 기초』 결론에서 프레게는 산수의 법칙은 선천적일 뿐만 아니라 분석적일 수 있음을 그럴 듯하게probable 보였다고 주장한다.] 

프레게의 이러한 생각은 『산수의 근본법칙』에서 더욱 강화된다. 책의 제목에서 ‘근본법칙’Grundgesetz이라 함은 [유클리드가 5개의 공준들postulates과 5개의 공리들axioms, 그리고 정의들definitions을 통해 모든 기하학적 원리를 증명하는 것처럼] 증명되지 않은 원초적 명제 혹은 공리들에 해당된다. [이 이후의 과정은 프레게 특유의 방식으로 매우 복잡한 논의 과정이 있지만 이 글에서는 넘어가기로 한다.] 그렇게 해서 프레게는 6개의 공리, 혹은 근본법칙을 도입한다. 이들 6개의 공리는 차례대로 원초적 기호를 도입하기 위한 것이었다. 먼저 조건언(I), 그 리고 대상과 함수에 대한 양화사(II), 동일성 기호(III), 부정 기호(IV), 치역 기호(V) 그리고 마지막으로 기술 연산자(VI). 이들 공리로부터 제한된 특정한 수의 추리 패턴에 의해 논리학으로부터 산수 전체를 이끌어내는 작업을 했다. 

그런데 프레게의 체계에 치명적인 결함이 있음을 알리는 결정적 사건이 터졌다. 그것은 바로 1902년 6월 프레게의 생각을 잘 알고 있었던 러셀이 프레게 체계에서 특히 공리 V가 모순이 있음을 지적하는 글을 보낸 것이다. [프레게의 공리 V는 다음과 같다. 만약 두 함수의 치역value range이 같다면, 주어진 논항argument에 대한 한 함수의 값은 다른 함수의 값과 항상 같고 그 역도 성립한다. 이를 좀 더 단순화하면 다음과 같다. 만약 모든 F가 G이고 모든 G가 F이면, F의 집합은 G의 집합과 동일하고 그 역도 성립한다.] 공리 V는 개개의 개념 모두가 외연을 가지며, 이는 어떤 속성을 가정하든 그 속성을 갖는 모든 사물만 원소로 하는 집합이 있음을 말한다. 러셀이 제기한 문제는 다음과 같다. “w가 ‘…는 자기 자신에 대해 서술될 수 없는 술어이다’라는 술어라고 가정했을 때, w는 자기 자신에 대해 서술될 수 있는가?” 이에 대해 어떤 식으로 대답을 하던 문제가 발생할 수밖에 없다. 이는 러셀의 역설paradox of Russell로서 다음과 같이 정식화할 수 있다. 먼저 Z를 자기 자신에 속하지 않는 집합, 즉 자기 자신의 원소가 되지 않는 집합들의 집합이이라고 정의하자. Z = { x｜x ∉ Z }. 여기서 Z는 자기 자신에 속하는가, 속하지 않는가? Z가 Z에 속하지 않는다면, Z의 정의에 따라 Z는 자기 자신에 속한다. 또한 Z가 Z에 속한다면, Z의 정의에 따라 Z는 자기 자신에 속하지 않는다. [이 역설의 버전을 쉽게 바꾼 것이 이발사 역설이다. 스스로 머리를 깍지 않는 모든 마을 사람들의 머리를 깎아 주는 이발사가 있다. 그러면 이발사 자신은 어떻게 될까? 이발사가 자신의 머리를 깎는다면, 그는 자신의 머리를 깎는 사람이다. 그러나 정의에 따라 그는 자신의 머리를 깎을 수 없다. 만일 자신의 머리를 깎지 않는다면 그는 자신이 깎아주어야 할 마을 사람들의 집합에 속한다. 그러므로 그는 자신의 머리를 깎을 수 있다.] 

러셀의 편지를 받은 프레게는 절망할 수밖에 없게 된다. 자신이 그토록 심혈을 기울였던 수를 논리학으로 이끌어내고자 했던 논리주의가 커다란 암초에 부딪친 것이었다. [그 이후 약간의 수정 작업을 시도하기는 했지만] 결국 프레게는 1906년 이후 산수의 기초에 관한 글쓰기를 전면적으로 포기하기에 이른다. 말년에 프레게는 『산수의 기초』에서 야심차게 논의를 진행했던 산수는 선천적 분석 명제임을 포기하고 칸트의 생각에 동조할 수밖에 없는 비운의(?) 처지에 이른다. 

                        

수 이론을 논리로부터 정초하고자 했던 프레게의 논리주의는 분명히 실패했다. 그렇지만 그의 실패는 단순히 한 수학자(논리학자)의 이론적 실패가 아니었다. 아니러니 하게도 그것은 현대 논리학이라는 토양을 풍성하게 해주는 위대한(?) 실패였다. “위기 속에서 구원이 자란다.”는 어느 시인의 말처럼, 프레게가 『개념표기법』을 내놓은 이후 계속된 그의 작업은 현대 논리학에 관한 다양한 연구들이 엄청난 발전을 이룩하는 데 혁혁한 공과를 이루었다고 해도 지나치지가 않다. 천재는 천재를 알아보는 법. 이후 비트겐슈타인은 1911년 여름 독일의 예나로 프레게를 찾아간다. 하지만 60의 나이를 넘긴 프레게와 몇 차례 만남을 가졌지만, 결국 비트겐슈타인은 자신보다는 러셀의 밑에서 공부하는 것이 더 나을 것이라는 프레게의 조언을 받고 다시 캠브리지로 올 수밖에 없었다. 이후 『논고』를 완성한 뒤에도 프레게와 몇 번의 서신 교환을 나누었다. 그렇지만 비트겐슈타인은 『논고』에 대한 프레게의 평가가 자신의 의도를 온전하게 이해하지 못했다는 생각을 갖게 되면서 프레게와 결별하게 되고 자신의 독자적인 길을 가게 된다. 

그럼에도 프레게로부터 비트겐슈타인이 받은 영향력은 무시될 수 없다. 그 중에서도 프레게의 “하나의 낱말은 오직 문장의 문맥 속에만 의미를 가진다.”(Frege, FA, Xe)는 ‘맥락 원리’principle of context)와 ‘합성 원리’principle of composition[이는 언어의 작문 기능 혹은 낱말 합성 기능을 의미하는 것으로서, 명제의 의미는 그 명제가 포함한 낱말들과 그것들이 결합된 방식의 함수라는 생각을 말한다.]는 비트겐슈타인의 『논고』는 물론 후기에서도 지대한 영향력을 미친다. 후기 비트겐슈타인은 프레게의 문맥 원리를 문법적 규칙에 따라 언어가 사용되는 언어놀이의 차원으로 바꾸어 생각한다. 

위의 단락에서 한 가지 빠진 사항이 있다. 그것은 1913년 비트겐슈타인이 ‘케임브리지 리뷰’라는 케임브리지 학부생들의 잡지에 생애 처음으로 코피P. Coffey의 『논리의 과학: 정확한 사고와 과학적 방법의 원리에 대한 탐구』The Science of Logic: an inquiry into the principles of thought and scientific method, (1912)에 대한 짤막한 서평을 기고한 것이다. [이 서평에 대한 전문은 레이 몽크, 『How to Read 비트겐슈타인』, 김병화 옮김, 11쪽~13쪽을 참조할 것.] 이 서평을 통해서 우리는 비트겐슈타인이 프레게와 러셀의 편에 서서 자신이 가진 논리적 사고 능력을 최대한 발휘하는 모습을 볼 수 있다. 비트겐슈타인이 비판의 표적으로 삼은 코피 교수는 아리스토텔레스 · 스콜라 철학의 고전 논리 체계가 우월함을 옹호하는 입장이었다. 프레게와 러셀의 논리학을 철저하게 공부한 비트겐슈타인으로서는 코피 교수의 관점은 당연히 공격의 대상이 될 수밖에 없었다. 비트겐슈타인이 비판하는 점을 나열하면 다음과 같다. (레이 몽크, 『How to Read 비트겐슈타인』, 12~13쪽, 아래의 괄호 안에 있는 숫자는 코피의 책에 있는 쪽수를 가리킨다.)

프레게는 이미 일상 언어의 표기법과 형식적 표기법의 관계를 육안과 현미경의 관계로 비유했다. 그만큼 일상 언어에는 불분명하고 애매한 것들이 있다. 예컨대, 일상 언어의 ‘이다’(is)는 세 가지 서로 다른 의미가 있다. 이러한 구분의 원조는 역시 프레게이고 러셀과 비트겐슈타인 모두 이를 받아들였다. ① 연사(계사)로서의 용법. ‘철수가 노래를 부르고 있다’(Chulsu is singing)와 같은 문장에서 주어와 술어를 연결하는 연사(連辭, copula)로 나타난다. 이를 프레게 식으로 표현하면, ‘…는 노래를 부르고 있다’와 같이 고정된 부분을 함수(function)라고 하고 ‘철수’는 논항(독립변수, argument)에 해당된다. ② 동일성을 나타내는 기호. ‘2 곱하기 2는 4이다’에서 ‘2 × 2 = 4’로 번역되는 경우를 말한다. ③ 존재의 표현. ‘악마가 있다’에서 이것은 존재 양화사를 사용하면 ‘약간의 x에 대해서, x는 악마이다’로 번역된다. 비트겐슈타인 역시 이를 받아들인다. “(독일어) ‘ist’(이다, 있다)라는 낱말은 계사, 동일성 기호로, 존재(存在)의 표현으로 보인다.” (『논고』, 3.323) 그럼에도 불구하고 비트겐슈타인이 프레게와 러셀의 개념표기법을 받아들이면서도 논리에 대한 자신만의 사고를 전개하고자 했음은 다음의 글을 통해서 잘 알 수 있다. 

          

위의 마지막 인용문을 볼 것 같으면, 비트겐슈타인은 분명히 프레게와 러셀, 특히 프레게의 공리 V에 대해 러셀이 제기한 역설의 문제 그리고 그에 대한 러셀의 해결책, 즉 ‘유형 이론’theory of types[이는 명제 함수가 유의미한 명제가 될 수 있게 하는 독립변수(논항)들의 어떤 범위가 있으며, 이는 어떤 일정한 위계 구조, 즉 개별자들의 집합(제1유형), 제1유형의 집합들의 집합(제2유형), 제2유형의 집합들의 집합(제3유형) 등등을 이룬다는 러셀의 이론]이 만족스럽지 않다는 점을 엿볼 수 있다. 유형 이론에 대한 비트겐슈타인의 비판은, 유형이론은 말할 수 없는(오직 보여질 수만 있는) 것을 말하려 했다는 것이다, 그에 의하면 올바른 표기법에서는 러셀의 역설은 아예 생길 수 없으며, 따라서 유형 이론은 불필요하다. 비트겐슈타인은 러셀의 역설을 ‘집합’ 대신 ‘함수’에 대한 논의로 바꾸어 생각한다. (이런 맥락과 유사하게 비트겐슈타인은 러셀이 도입한 ‘환원가능성 공리’axiom of reducibility, ‘무한 공리’ axiom of infinity, ‘곱셈 공리’ mutiplicative axiom등에 대해서도 동의하지 않는다. 그 이유는 위의 세 개의 공리가 논리적 근거에 의해서 옳은 것인가 하는 물음에 대해 전혀 아무런 답을 제시하지 못하기 때문이다. 이러한 생각이 옳다면, 러셀이 논리주의의 정당성을 입증하고자 했던 『수학 원리』(1910)의 주장은 당연히 그 근거를 잃어버리게 된다.)    

프레게와 러셀이 부딪치게 된 난제로부터 비트겐슈타인이 벗어나고자 했던 탈출구는 무엇인가? 비트겐슈타인은 의외로 단순할 정도로 자연주의적 처방을 내린다. 논리의 규칙들은 전적으로 구문론적 규칙들, 즉 기호들을 다루기 위한 규칙들이어야 한다고 규정하는 것이다. 논리는 ‘속성’, ‘관계’, ‘논리 상항’과 같은 낱말들을 정당화할 철학적 이론을 필요로 하지 않으며, 철학은 그것의 적용에 제한을 가할 수도 없다. 말 그대로 “논리(학)는 스스로를 돌보아야만 한다.Logic must take care of itself…논리에서 가능한 모든 것은 또한 허용되어 있다.” (5.473)