괴델 에셔 바하 정리: 함수와 함수의 입력값과 주체의 문제

1.

나는 기계인가?

사람들이 인간의 지능의 근원에 대해 질문을 던지기 시작한지는 꽤 오래된 일이지만 최근 인공지능에 대한 관심이 높아지고 과연 컴퓨터가 인간의 지능을 얼마나 대치할 수 있는지에 대한 의문이 강해지면서 더욱 많은 사람들이 이런 질문에 대해 호기심을 갖게 된 것 같다. 이는 인간이라는 존재의 본질에 대한 오랜 질문의 또 다른 형태라고 볼 수 있는데 인간이라는 존재를 볼 때, 인간의 뇌의 신경망구성과 컴퓨터 논리 회로의 유사성을 얘기하며 기계와 동일한 수준의 존재로 보는 사람들은 컴퓨터가 인간을 대치하는 것은 단순히 기술적인 시간문제라고 생각한다. 오히려 컴퓨터가 인간보다 나을 수도 있다는 주장을 펴는 사람도 있는데 이런 시각을 낭만적으로 그린 이야기들 중에는 몇 년 전에 개봉한 엑스 마키나라는 영화나 최근 첫 시즌을 끝낸 미국 드라마 '웨스트월드' 등이 있다. (엑스 마키나가 훨씬 세련되게 이 문제를 다루고 있는 것 같다) 반면 컴퓨터는 단순한 기계에 불과하기 때문에 자유의지를 가진 주체적인 존재인 인간을 절대로 따라올 수 없다고 이야기하는 사람도 있다 그런데 문제는 자유의지라는 것 자체가 단순한 환상에 불과하다는 말도 있는데 그것이 사실이라면 인간이 특별한 존재라는 생각 또한 환상이라고 말할 수 밖에는 없게 될 것이다. 어찌 보면 과학의 발전으로 우주와 인간에 대한 이해도가 높아지면서, 자유의지를 부정하는 것이 지적으로 좀더 세련되어 보이고 인간의 존엄성이니  주체성이니 하는 개념에 매달리는 것은 감상적인 헛된 노력처럼 보이기도 한다.

2.

그러나 이런 이야기를 할 때 사용되는 자유의지니 주체성이니 하는 말들이 모두에게 같은 의미로 받아들여지는 지는 의문이다. 주체성이든 자유의지이든 여러 정의가 있지만 많은 경우 명확하지 않은 정의는 의사 소통에 있어서 혼란만 가중시킬 뿐이다. 아마도 주체성을 가장 간단하고 명확하게 정의하는 방법은 원인과 결과의 사슬 속에서 정의하는 것이 아닌가 싶다. 즉, 주체성을 스스로 원인을 제조할 수 있는 능력으로 정의하는 것이다. 만약 어떤 사람의 모든 행동이 주어진 상황에 대한 수동적이 결과에 불과하다면 그 사람을 구체적인 존재라고 보기는 힘들 것이다. 스위치에 연결된 전등은 별다른 문제가 없는 한 스위치를 켜면 불이 켜지고 스위치를 끄면 불이 꺼진다.  이런 전등은 단순히 외부의 입력에 의해서 그 상태가 결정되는 수동적인 존재라고 볼 수 있다. 전등 스위치 중에는 자기고찰을 하는 스위치도 있다. 예를 들어 버튼이 하나이고 불이 꺼진 상태에서 버튼을 누르면 불이 켜지고 켜져 있는 상태에서 버튼을 누르면 불이 꺼지는 전등이 있다면 이 전등은 외부의 입력과 자신의 상태를 모두 고려하여 다음 행동을 결정한다. 하지만 여전히 이런 물건을 주체적인 존재라고 보기는 힘들다. 사람이 과연 이런 전등 스위치와 다른 존재일까? 그냥 엄청나게 많은 스위치로 이루어진 존재가 아닐까? 현재 상태와 동작 방식을 한눈에 이해하기에는 너무 복잡하긴 해도 궁극적으로는 전등 스위치와 같은 존재가 아닐까? 만약에 사람을 그저 복잡한 형태의 전등 스위치라고 본다면 주체라는 의미는 사라지고 이런 존재는 컴퓨터의 논리 회로로 완벽한 복제가 가능할 것이다.

반대로 전등 스위치와 정반대의 경우를 생각해 보자. 완벽한 주체성을 가진다는 것이 무엇을 의미하는 것일까 생각해 보면 그것도 상당히 문제가 많은 단순한 존재에 불과할 것이다. 만약 환경이나 인지하는 입력값들과 아무 관계 없이 행동하는 존재가 있다면 그다지 흥미롭지는 않은 존재일 것인데 만약 전등 스위치가 사람이 버튼을 누르던 말던, 스위치를 올리거나 내리던 아무 상관 없이 제멋대로 불이 켜졌다 꺼졌다 한다면 그 전등 스위치는 쓸모 없는 고장난 물건이라고 할 수 밖에는 없다. 사람도 만약 상황이나 보고 듣는 것에는 아무런 상관없이 행동한다면 사람들은 그 사람을 정신병자라고 부를 것이고 그다지 접촉하고 싶지하지 않아 할 것이다. 따라서 어떻게 보면 적당한 수준의 주체성이 가장 흥미롭고 상식적으로 생각하는 주체의 개념에 가까울지도 모른다.

이런 상황은 엔트로피와 복잡도의 관계에 비교해볼 수 있다. 무질서도라고도 불리는 엔트로피에 대해서는 기회가 되는 대로 좀더 자세히 다루겠지만 간단하게 말해서 엔트로피가 높은 상태란 가능성이 높은 상태고 엔트로피가 낮은 상태란 가능성이 낮은 상태이다. 예를 들어 IS에 의해서 파괴된 사원은 엔트로피가 아주 높은 상태이고 파괴되기 전의 정교한 구조의 사원은 굉장히 엔트로피가 낮은 상태이다. 폐허는 사막 어디에나 존재하는 가능성이 높은 상태이고 정교한 구조의 사원은 굉장히 특이하게 원자들이 배열된 희귀한 상태이기 때문이다. 우주 전체의 엔트로피를 계산하면 그 값은 항상 증가한다는 것, 즉 우주는 항상 무질서한 상태를 향해갈 수 밖에 없다는 것은 물리학의 근본 원칙 중의 하나이다. 그런데 단순하게 생각하면 엔트로피가 낮을수록 질서 있는 상태이니까 그 상태가 가장 정교하고 흥미로운 상태라고 생각하기 쉽다. 최소한 그 상태가 가장 구조가 잘 잡히고 복잡한 상태라고 볼 수도 있다. 하지만 사실은 그렇지 않다. 아래의 그림에서처럼 두 가지 색깔의 색소를 넣은 물을 가만 놔두면 두 액체는 서로 섞이게 된다 이 때 두 개의 부분으로 완벽히  나누어진 상태는 상대적으로 엔트로피가 아주 낮은 상태이다. 이 상태는 유지되지 못하고 액체의 엔트로피는 증가해서 결국엔 골고루 섞여 중간색이 된다. 엔트로피만 따지면 섞이는 과정에서 그 값은 이렇게 계속 증가하지만 복잡도를 생각해보면 엔트로피가 가장 높은 상태나 가장 낮은 상태나 모두 복잡도는 아주 낮다고 말할 수 있다. 오히려 중간 상태를 보면 훨씬 복잡하고 흥미로운 상태가 된다. 최소한 각 상태를 그림으로 그린다고 했을 때 중간 상태를 그리는 것이 가장 어렵다는 것은 누구나 수긍할 것이다.

3.

이런 면에서 주체성은 복잡성과 연관 지을 수 있다. 주체성이 전혀 없는 개체는 기계적인 반응을 보이는 개체이며 완벽하게 수동적인 전등 스위치와 같은 개체이다. 완벽한 주체성의 수준, 혹은 완벽하게 자유로운 수준의 개체는 그저 무작위적으로 반응을 보이는 고장 난, 혹은 광기로 가득찬 개체이다. 일반적인 상식으로 우리가 받아들일 수 있는 주체의 수준이 존재한다는 믿음은 이런 극단적인 상태의 중간에 질적으로 다른 상태가 존재한다는 믿음과 같다고 볼 수 있다.

즉, 주체성의 수준에 있어서

1.     기계적 / 수동적 상태와

2.     완전한 자유 / 무작위적 반응을 보이는 상태

의 두 가지만 존재하거나

이 사이에 1.5라는 단계, 우리가 일반적인 상식으로 주체라고 부르는 개체가 갖는 주체성의 수준이 존재하거나 아니면 1.5라는 단계는 존재하지 않고 인간은 기계적 수동적 상태의 존재에 불과하다고 볼 수도 있다.

이런 두 가지 믿음의 차이가 인간과 기계를 비교하는 시각에 있어서의 차이를 결정한다고 볼 수 있다.

물론 1번 단계의 주체성에 있어서도 복잡성의 차이는 존재한다. 전등 스위치와 애플 아이맥 컴퓨터는 둘 다 기계적이고 수동적인 개체이고 전등 스위치를 수백억 개 정도 잘 배열하면 아이맥과 비슷한 계산능력을 가진 개체를 만들 수 있지만 전등 스위치와 애플 아이맥과 비슷한 개체라고 생각하는 별로 없을 것이다. 두 개체는 복잡성에 있어서 엄청난 차이를 보인다. 사람도 전등 스위치나 아이맥과는 상당히 다른 존재임은 분명하다. 그러나 그 차이가 단순한 복잡성의 차이인지 아니면 주체성에서 1.5라는 새로운 카테고리를 만들어야 할 필요를 요구하는 존재인지는 대답하기 어려운 문제이다.

4.

여기서 또 한가지 오해하기 쉬운 점은 결정론적이라고 해서 쉽게 동작을 예측하는 것이 가능한 것은 아니라는 점이다. 알란 튜링의 논문에서 시작된 여러 가지 연구에 따르면 동물의 털이나 피부의 무늬와 같이 복잡한 패턴도 상당히 간단한 알고리즘에 의해서 결정되지만 알고리즘만 보고 그것이 실제 어떤 무늬를 결정하는지 예측하는 것은 거의 불가능한 일이다. 이와 비슷한 예 중에 랭턴의 개미라는 알고리즘이 있는데 이는 바둑판과 같은 격자 무늬판을 칠하는 알고리즘 중의 하나이다. 알고리즘은 매우 간단한데 도착한 칸이 흰색이면 오른쪽으로 돌고 검은색이면 왼쪽으로 돌면서 자기가 있던 곳의 색을 반대로 칠하는 것이다. 앞의 수십 단계를 보면 다음과 같다.

\

그런데 놀라운 것은 만 번의 단계를 지나면서 갑자기 규칙적인 형태로 바뀐다는 것이다.

 

오른쪽 아래구석을 향해 쭉 뻗은 형태는 아주 규칙적인 형태인데 알고리즘만 보고 이런 형태를 예측한 사람은 없었다. 모든 사람이 불규칙한 형태를 반복할 것이라고 예상한 것이다. 실제 알고리즘을 만 번 이상 돌린 후에야 이런 규칙적인 형태가 나온다는 놀라운 결과를 알게 된 것이다.

이런 면에서 봤을 때 결과의 예측 가능성이나 외형적인 알고리즘의 단순함도 주체성을 완벽하게 결정하는 것은 아닌 것 같다. 그렇다면 주체성이라는 문제에 대해서 우리는 어떻게 접근해야 할까?

5.

이 문제에 대한 접근에서도 계층의 문제가 많은 도움이 될 것 같다. 앞의 글에서도 본 것처럼 어떤 개념이든 접근하는 계층이 어느 정도 정의되지 않으면 그 개념은 혼란스러워지게 마련이다. 물리적인 개념은 물리적인 계층에서 접근해야 하고 인간 인지와 관련된 개념은 인간의 계층에서 접근해야 한다. 이는 각 계층이 논리적인 귀결로 연결되지 않기 때문이다.

컴퓨터의 동작은 입력과 출력으로 결정된다. 수학적인 언어로 말하자면 컴퓨터는 입력과 출력을 연결하는 함수라고 볼 수도 있다. 컴퓨터의 동작을 결정하는 것은 이런 함수이지만 이런 함수가 어디에서 저절로 튀어 나온 것은 아니며 이런 함수는 모두 사람이 프로그래밍하는 것이다. 최근 유행하는 신경지능망(Neural Network)기반의 연산작업이 기존의 프로그래밍과는 근본적으로 다르다고 하는 주장도 있지만 그것도 복잡도의 차이에 불과한 것 같다. 어떤 프로그래밍이건  아무런  목적 없이 아무렇게나 이루어지는 것이 아니라 어떤 필요한 작업을 정의하고 그 작업을 할 수 있는 프로그래밍을 하게 된다. 앞의 글에서의 관습을 따라, 이야기를 편하게 하기 위해 이렇게 프로그래밍된 내용을 편의상 컴퓨터의 소스코드라고 필요한 작업의 목록을 '작업 목록'이라고 부르자. 앞의 글에서 살펴본 것처럼 소스코드와  작업 목록은 전혀 다른 차원의 물건이다. 작업 목록은 인간의 수준의  언어로 정의되지만 소스코드는 철저히 컴퓨터의 언어로 작성된다. 소스코드는 외형상으로는 인간의 언어와 유사한 형태를 갖고 있긴 하지만 실제 동작은 컴퓨터의 논리 회로의 동작을 표현하고 있기 때문에 모호함을 철저히 배제하며 그 동작은 완전히 결정적이다. 작업목록을 보고 소스코드를 만들어내는 작업을 코딩이라고 하는데 전세계에서 수천만 명의 사람들이 코딩을 하거나 코딩을 하는 사람을 관리하거나 어떻게 하면 코딩을 효과적으로 할 수 있을까 고민하는 일을 하고 있다. 작업 목록은 '이런 버튼을 누르면 이렇게 동작하는 게임을 구현하는 방법'이라는 것부터 '아픈 사람을 돌보는 방법' 등 다양하다. 이 때 앞의 작업처럼 컴퓨터 상에서 돌아가는 작업은 상상하는 대로 거의 무엇이든 구현이 가능하다. 이런 작업은 입력이 거의 키보드, 마우스, 컨트롤러 아니면 정해진 숫자들의 목록이다. 바둑 두기도 이런 작업 중의 하나라고 볼 수 있다. 반면 아픈 사람 돌보기처럼 현실의 상황을 입력으로 받아들여야 하는 경우는 조금만 작업이 복잡해지면 컴퓨터가 다루기 힘들어지는데 최근 신경지능망을 통해 이런 작업까지 컴퓨터의 활용영역을 넓히려는 시도가 있긴 하지만 일부 분야를 제외하고 실질적인 성과를 거두는 것은 요원해 보인다.

또 한가지 고려해야 할 사항은, 작업 목록이 같더라도 소스 코드는 다를 수 있다는 것이다. 내가 사려는 가방을 파는 가게의 홈페이지를 보여주는 작업이라면 그것이 어떤 서버에 있는 홈페이지건 어떤 방식으로 구현되었건 어떤 브라우저를 써서 보이건 크게 중요한 것은 아니다. 결국 홈페이지만 나타나면 되기 때문이다. 코딩에는 여러 가지 방법론이 있고 동일한 작업을 하는 소스코드라도 다른 프로그래머가 구현했다면 그 둘이 동일한 작업인지 판단하기 어려울 정도로 달라질 수도 있다. 하지만 어쨌든 컴퓨터의 소스코드는 작업목록을 구현한다는 명확한 목표를 가지고 작성된다. 주어진 입력에 따라 작업목록에 정해진 결과를 내야 하고 입력값과 결과의 관계는 무척 복잡해질 수는 있지만 그 관계는 작업목록에서 원하는 범위 안에서 정의되어야만 하고 작업목록과 관계없는 결과가 나온다면 그 소스코드는 오류를 포함하고 있다고 볼 수 밖에 없다.

6.

반면 사람의 경우에는 이러한 작업목록을 정의하기가 어렵다. 물론 진화론이 모든 것을 설명해준다고 믿는 사람에게는 작업목록이 명확할지도 모른다. 그런 사람에게 작업 목록은 '생식 능력이 있는 자손을 많이 배출할 것'일 것이다. 그래서 사람의 모든 행동 양식이나 사고 방식이 이 하나의 원리에 의해서 결정된다고, 따라서 사람의 소스 코드도 이 작업 목록을 완수하는 것을 목표로 작성된다고 생각할 것이다. 그러나 진화론은 일반론적인 원리에 불과하며 실제 생물의 신체적, 심리적 형성 과정에 대한 구체적 설명을 제공하는 것은 아니다. 진화론이 모든 것을 설명한다는 것은 뉴턴 역학에 의해 공기 속의 여러 분자의 움직임을 원칙적으로 알 수 있기 때문에 토성의 달인 타이탄의 기후 변화를 예측할 수 있다고 생각하는 것과 마찬가지이다.

진화론은 또 하나의 문제점을 갖고 있는데 그것은 진화론이 이미 벌어진 일에 대한 당위성만을 제공할 수 있다는 것이다. 어떤 일이 벌어졌을 때 그 일이 이미 벌어졌으니 지금 상황에서 봤을 때는 벌어질 수 밖에 없는 일이라고 말하는 것은 너무나 쉬운 일이다. 그러나 수 많은 가능성 중에 왜 그 일이 벌어졌는가를 설명하는 것은 훨씬 복잡하고 어려운 일이고 진화론은 이런 면에서 원리를 제공하는 것이 아니라 과거를 이해하는 방식의 하나에 불과하다고 볼 수 있다. 그 때문에 진화론은 뉴턴의 역학과는 다르게 일반적인 예측의 힘을 제공하지 못한다. 이렇듯 결과에 맞추어 그 결과의 결정 과정을 설명하는 것은 진화론에 근간한 여러 이론의 근본적 논리적 오류라고 볼 수 있다. 이런 오류의 대표적인 사례가 도킨스의  '이기적 유전자'인데 이 책에서 진화과정을 마치 유전자가 자신이 살아남기 위해 생물의 행동 양식을 조종하는 것처럼 설명하는데 많은 사람들이 이런 논리적 반전을 대단한 통찰인 듯 생각하지만 사실 이는 논리적 오류에 불과하다. 또한 제목에 들어있는 이기적이라는 말 때문에 발생한 소모적 논쟁을 생각해 보면 아마 이 책이 20세기 대중 과학 서적 중에서 가장 큰 지적 자원의 낭비를 초래한 책 중의 하나라고 볼 수도 있을 것이다. 논쟁 거리를 좋아하는 도킨스 자신에게는 어쩌면 훌륭한 성과인지도 모르겠다. 이렇듯 비유와 실제를 혼돈하는 것은 과학의 이해에 있어서 큰 걸림돌로 작용한다. '10대 때 피카소가 그린 그림은 그의 추후 대단한 성공을 예측했다'라는 식의 표현은 영어에서 흔한 것이다. 그러나 실제 그 그림이 사람처럼 미래를 예측했다라고 생각하는 사람은 없을 것이다. 이 표현은 단지 피카소의 추후 작품의 훌륭한 점이 10대의 그림에도 포함되어 있었다는 말의 비유적인 표현에 불과하다. 이기적 유전자도 이런 표현에 불과할 뿐 어떤 설명적인 힘도 가진 표현이 아니다.

7.

그렇다면 사람이라는 존재의 작업 목록은 무엇인가? 가장 가능성이 높은 결론은 사람의 작업 목록은 존재하지 않는다는 것이다. 신을 믿는 사람에게는 신의 뜻이 작업 목록이 될 것이고 진화론의 모든 이론을 신봉하는 사람에게는 유전자의 보존, 혹은 종의 보존이 작업 목록이 될지도 모르지만 이런 목록은 지나치게 상위의 개념이거나 지나치게 하위의 개념이고 심지어는 원인 결과 관계도 모호하게 정의되기 때문에 사람의 소스 코드의 생성의 구체적 과정을 설명하지는 못한다.

그렇다면 작업 목록이 없다면 어떻게 소스 코드가 생성되는 것일까?  어쩌면 작업 목록의 부재가 바로 인간의 주체성의 근원이 아닌가 한다. 컴퓨터의 경우 사람이 정한 작업 목록에 따라 정해진 입력 변수에 맞추어서 출력을 결정한다. 이는 수학적으로 봤을 때 하나의 함수라고 볼 수 있다. 입력 변수들 정해져 있고 그 입력 변수의 값에 따라서 결과를 내는 함수 말이다. 그러나 사람의 경우는 함수가 이런 정형화된 틀을 가진 것이 아니라 입력값에 의해 유동적으로 정의된다. 이것이 사람이 흥미로운 존재인 이유이다. 사람은 컴퓨터처럼 완벽히 기계적인 존재도 아니며 양자역학에서 다루는 소립자처럼 완전히 주체적인 존재도 아닌 적당한 주체성을 가진 존재이며 새로운 카테고리를 형성할 만한 논리적 뒷받침을 가진 존재라고 할 수 있다. 물론 사람에 대한 이해가 완벽하게 이루어져 사람의 행동을 규정하는 함수를 완벽하게 알게 될지도 모르지만 그럴 가능성은 그리 높아보이지 않는다. 그 이유는 앞서 실린 글에서 살펴본 것처럼(참조) '작업 목록'은 인간 수준의 언어이고 DNA와 같은 기계적인 분석은 그 보다 하위 수준의 언어이기 때문에 두 계층 사이의 논리적 귀결이 성립하지 않기 때문이다.

물론 이런 주장은 새로운 것은 절대 아니다. 이미 실존주의 철학자들이 이런 이야기를 많이 했다. 지금은 약간 유행이 지난 이야기처럼 들리기도 하지만 그렇다고 그것이 틀린 것은 아니다. 또한 실존주의 철학자들의 다소 감상적인 어조 때문에 어떤 이론적 논리적 기반을 의심하는 사람들도 꽤 있지만 깊은 논리적이고 분석적인 충분한 기반을 갖고 있다고 본다.

* 이 글에 대한 권한은 아포리아에 있습니다. copyrights@aporia.co.kr ([이상국 칼럼] Aporia Review of Books, Vol.5, No.1, 2017년 1월, 이상국, 소프트웨어 엔지니어)