추론에 관한 밀의 입장 5. 브라우버르의 직관주의와 연속체, 밀의 예상 반응

 

브라우버르, 힐베르트 모두 기하학을 수학의 기초로 간주하기 어려운 시대를 경험했다. 비유클리드 기하학의 출현 때문이었다. 브라우버르도 힐베르트와 마찬가지로 산수를 수학적 사고의 출발점으로 여긴다. 하지만 브라우버르는 공리 체계에 근거한 수학의 형식화를 불필요하다는, 그리고 논리학이 수학의 일부라는 신념을 갖고 있었다. 그는 셈을 경험과 무관한 타고난 능력으로 여겼는데, 여기서 더 나아가 셈 능력 발휘에 시간이라는 선험적 조건을 전제했다. 다시 말해, 마음에는 경험 이 전에 경험을 가능하도록 해 주는 선험적 조건이 있는데 그 조건이 시간이라는 것이다. 마음의 선험적 조건으로서 시간은 물리적 시간이 아니다. 그것은 경험을 가능하도록 해 주는 선험적 조건이기 때문에 직접 경험할 수도 없다. 만약 그것을 직접 경험할 수 있다면, 이 점은 그것을 선험적 조건으로 규정하는 것과 모순된다. 따라서 브라우버러가 해결해야 문제는 다음과 같다.

 

• 마음의 선험적 조건으로서 시간이 있다는 사실을 어떻게 보일 것인가?

 

브라우버르에 따라 시간을 셈 활동에 전제된 것이라 할 때, 그는 의식의 연속적 흐름이 시간을 반영한다고 여겼다. 브라우버르에게 의식의 연속적 흐름은 시간의 이동과 같은 것이다. 그러한 이동 속에서 기억의 도움을 받아 과거의 순간과 현재를 연결할 수 있는데, 그는 그러한 연결을 ‘원초적 직관’이라 불렀다. 원초적 직관에 따른 과거와 현재의 연결은 항상 ‘두 개적인 것(two-ity)’이다. 과거의 특정 순간을 a, 그리고 현재의 특정 순간을 b라고 하자. a와 b에 각각 대응하는 사건들은 개별적이며 불연속적으로 발생한 것이지만, 브라우버러는 시간에 따른 a와 b의 순서화가 두 순간 사이의 연속적인 의식의 흐름, 즉 시간의 이동을 바탕으로 가능하다고 여긴다. 시간이 지나 순간 c를 a, b와 함께 연결할 수 있다. 이때 b와 c, a와 c, a와 b 모두 두 개적인 것들이며, 그들 사이의 의식의 흐름은 연속체로 표현된다. 브라우버르의 이러한 생각을 수용한다면, 불연속적인 순간들은 항상 연속체와 함께 하는 것이다. 다시 말해, 그에게 시간 혹은 의식의 흐름을 나타내는 연속체는 심적 구성에 전제된 것이다. 셈이란 연속체에 나열된 순간들에 수 기호들을 대응시키는 것으로 해석 가능하기 때문에, 다음과 같은 수선을 구성할 수 있다.

 

 

 

셈에서 순서의 관계만이 핵심이기 때문에, 수 기호들 사이의 거리는 무시된다. 1이 위치하는 곳은 개인의 선택 사항이므로 임의적이다. 수선에서 오른쪽으로의 이동은 더하기 연산 기능을, 왼쪽으로의 이동은 빼기 연산 기능을 하게 된다. 한 칸씩 건너뛰는 ‘+1’의 출발점으로 ‘0’이라는 항등원을 도입할 수 있다. 항등원을 도입하면, 음수를 정의할 수 있다. 배수, 곱셈 등을 정의하면, 곱셈에 대한 항등원을 얻을 수 있고, 또한 역원들을 가정할 수 있다. 그러한 역원들로서 유리수를 도입할 수 있다. 이런 식으로 정수 및 유리수들을 구성하는 경우에도, 그 구성은 시간 혹은 의식의 흐름 속에서 벌어지는 셈 활동에 근거한다. 수선을 구성하는 과정에서 생각해 볼 수 있는 무한은 셈 활동과 관련하여 단지 잠재적으로 가능하며, 인간이 확실하게 알 수 있는 무한의 양은 자연수들만큼의 양이다. 브라우버르가 수학을 건설하는 데 고전적 수학과 명백한 차이를 보이는 영역은 실수들이다. 브라우버르에게 연속체는 실수들의 집합과 같은 것이 아니라 수들의 구성에 전제된 것이다. 브라우버러가 실수들을 도입하는 방식을 살펴보기 전에 수학과 논리학의 관계에 대한 그의 입장을 언급한다.

 

브라우버르에게는 증명된 것만이 참인 수학적 진술이다. 그에게 수학적 증명의 기본은 심적 구성 과정이다. 실례로 ‘어떤 자연수 x에 대해 A(x)가 성립한다’는 것은 A(x)를 만족하는 하나의 자연수 혹은 자연수들을 구성하는 것이다. 수학적 증명을 크게 직접 증명과 간접 증명으로 구분할 때, 브리우버러는 직접 증명만을 참다운 증명으로 간주한 것이다. 논리적 모순은 심적 구성 대상이 될 수 없다고 여긴 브라우버러는 모순율을 인정한다. 어떤 수학적 진술 ‘￢A’는 ‘A가 ‘1=2’와 같은 터무니없는 결론을 함축함’을 증명하는 것이며, ‘터무니없는 결론’은 이미 증명된 것과 모순 관계를 맺는다. ‘A∨B’는 ‘A와 B 중 적어도 하나가 증명됨’을, ‘A∧B’는 ‘A와 B 모두 증명됨’을 뜻한다. ‘A→B’는 ‘A의 증명이 B의 증명으로 변환됨’을 뜻한다. 여기서 자연수들에 국한할 때, 브라우버러가 수학적 귀납법(mathematical induction)을 인정하는 이유를 짐작해 볼 수 있다. 그에게 수학적 귀납법은 ‘A(1) 그리고 임의의 자연수 n에 대해 A(n)→A(n+1)을 보이면, 임의의 n에 대해 A(n)이라는 것’이다. A(1)의 증명을 a1이라고 하자. A(n)→A(n+1)에 대응하는 구성법 C가 있다고 하자. 즉, 주어진 자연수 n에 대해 A(n)의 증명을 an이라고 할 때, A(n+1)의 증명은 C(n, an)이다. A(2)의 증명 a2는 C(1, a1), A(3)의 증명 a3는 C(2, a2)이다. 동일한 구성법에 따라 ‘a1, a2, a3, ... ’가 순차적으로 구성된다는 것이 브라우버러의 수학적 귀납법에 따른 증명법이다.

 

위 논의에서 보듯이, 브라우버러에게 논리적 연결사들의 규정 방식은 참 거짓 진리치의 변환이나 조합 방식이 아니다. 그것은 수학적 증명 구성법에 의존적이다. 브라우버러에게 증명 이전의 참 거짓을 묻거나, 아직 증명되지 않았지만 참인 수학적 진술을 가정하는 것은 무의미하다. 여기서 그가 배중률을 인정하지 않은 이유를 알 수 있다. 아직 증명되지 않은 수학적 문제가 있다고 하자. 브라우버러에게 그러한 문제를 함축한 수학적 진술 A에 대해서 ‘A∨￢A’를 주장할 수 없다. 배중률을 인정하지 않는 경우, 이중 부정은 긍정과 논리적 동치라는 주장도 무조건 성립하지 않게 된다. 이때 수학의 간접 증명법을 대표하는 귀류법(reduction ad absurdum)의 사용도 제한을 받게 된다. A를 증명하려고 A의 부정(￢A)을 가정하고 모순을 함축한 결론을 이끌어 낸 경우, 실제 증명된 것은 A가 아니라 A의 이중 부정(￢￢A)이다. 이중 부정은 긍정과 반드시 논리적 동치라고 주장할 수 없기 때문에, 귀류법을 가지고 항상 A가 증명된다고 할 수 없다. 브라우버러에게 귀류법은 단지 유한개의 양에 국한되어 사용 가능한 증명법이다. 귀류법은 수학에서 광범위하게 사용되는 간접 증명법인데, 귀류법을 유한개의 양에 국한시켜버리면 수학의 많은 부분이 소실되게 된다. 하지만 자연수론, 정수론, 유리수론에 관심을 국한하는 경우, 배중률을 인정하지 않는 브라우버러의 직관주의 수학은 기존의 수학과 유의미한 차이를 보이지 않는다. 실수에 바탕을 둔 해석학으로 넘어가면, 브라우버러의 직관주의 수학은 고전적 수학과 어울릴 수 없는 특별한 분야가 되어버린다. 브라우버러가 배중률을 수학적 증명에서 허용하지 않은 또 다른 이유도 그의 특이한 실수 구성법에 있다. 그는 실수를 수들의 배열, 즉 수열(sequence)로 정의하는데, 그러한 정의 방식 자체에는 특이한 것이 없다. 특이한 것은 그의 ‘선택 수열(choice of sequences)’에 있다. 그것이 무엇인지 알려고 먼저 실수를 수열로 나타내는 방법에 대해 간략히 살펴보자.

 

원주율 π는 유리수가 아닌 실수를 대표한다. 3.14는 π의 근사치일 뿐, 실제 π의 소수점 이하 자릿수는 주기성을 보이지 않은 채 끝이 없다. π를 계산하는 알고리듬은 있지만, 그 알고리듬을 가지고는 인간은 수천, 수만, 심지어 수백만 단위의 자릿수를 계산할 수 없다. 컴퓨터의 도움으로 조 단위의 자릿수를 계산하는 것이 가능해졌다. 이러한 π(=3.145296...)를 수열로 나타내는 경우를 다음과 같이 표현할 수 있다.

 

π=(3.14 3.145 3.1459 3.14592 3.145296 ... )

 

표기법의 일관성을 강조하는 경우, 자연수와 유리수들도 수열로 나타낼 수 있다. 실례로 1은 (1 1 1 1 1 ... ), 1/3은 (0.3 0.33 0.333 0.3333 0.33333 ... )으로 나타낼 수 있다. 수열로 표기된 π는 수선에서 3.14 다음 어느 곳에 위치할 것이다. 고전적 해석학에서 다루는 실수는 π처럼 자릿수에 위치할 수를 계산해 주는 알고리듬을 가지고 있다. 브라우버러는 그러한 알고리듬을 가지고 있는 실수뿐만 아니라 또 다른 종류의 실수를 가정한다. 수학을 심적 구성의 창조물로 간주한 브라우버러는 ‘주관적 선택의 자유’를 강조한다. 다시 말해, 동전 던지기 등을 통해 무작위적 수열을 구성할 수도 있고, 심지어 100단위 자릿수까지는 π를 모방하다가 101단위에서 임의로 선택을 변경할 수 있다. 이러한 식으로 구성되는 선택 수열들 때문에, ‘임의의 실수 x에 대해 x=1이거나 x≠1이다’도 브라우버러 직관주의에서는 성립하지 않는다. 왜 그럴까? 어떤 개인이 천 단위까지 1로 나열된 수열을 구성했다고 하자. 그 다음 101번째 무엇을 선택할지는 그의 선택 사항이어서 알 수 없다. 그 수열이 1이 될지 아닐지는 그의 주관적 선택에 달린 문제이다. 수학을 심적 구성물로 간주한 브라우버러에게 주관적 선택을 배제할 이유는 없다. 선택 수열을 허용하는 경우, 배중률을 허용할 수 없다. 그 결과, 브라우버러의 실수론 혹은 해석학은 기존의 고전적 해석학과는 다른 수학 체계가 되고 만다.

 

집합론을 기초로 현대 수학을 익힌 많은 사람들에게 브라우버러의 선택 수열은 황당한 것으로 비추어질 것이다. 더욱이 수학을 객관적 측면에서 참 거짓을 밝히는 분야로 여기는 사람들은 브라우버러의 직관주의 수학 체계를 혐오할 것이다. 그런데 브라우버러의 선택 수열 도입은 그의 직관주의에서는 근거를 결여한 것이 아니다. 앞서 살펴본 수선 구성법을 기억해 보자. 부라우버러에게 그 수선의 토대는 의식의 흐름 혹은 시간을 나타내는 연속체이다. 수 기호들은 그러한 연속체에 나열되는 것들이다. 브라우버러에게 연속체는 주어진 것으로서 더 이상 분할 불가능한 원자와 같은 것들로 구성되는 것이 아니다. 원자론적 연속체 관점에 따르면, 연속체는 분할 불가능한 구성단위를 갖고 있다. 수선을 알고리듬으로 계산 가능한 실수들의 집합으로 정의하는 통상적 방식은 원자론적 연속체 관점을 대표한다. 수선이라는 연속체를 그러한 실수들의 집합으로 규정하는 경우, 각 실수는 연속체의 기본 구성단위로서의 원자에 유비된다. 이때 각 실수를 기준으로 연속체를 명확히 분리할 수 있다. 1을 그러한 분리점으로 잡는 경우, 연속체 R은 {x|x>1}, {1}, {x|x<1}이라는 서로 중첩되지 않는 세 집합의 합집합으로 나타낼 수 있다. 또 R에서 1을 제거한 경우, R은 {x|x>1}과 {x|x<1}이라는 두 연속체로 분리된다. 브라우버러가 생각한 연속체는 이러한 원자론적 연속체가 아니다. 브라우버러의 연속체는 제아무리 모든 수를 개발해 동원해도 결코 채워질 수 없다는 점에서 무한 분할 가능한 것이다. 이 때문에, 연속체를 분리한다고 할 때 정확한 분리점을 규정할 수 없게 된다. 이러한 특징으로 인해 브라우브러의 실수론은 고전적 해석학과 통합 불가능한 또 다른 체계인 것이다.

 

브라우버러의 직관주의는 수학계에서 큰 환영을 받지 못했지만, 논리학을 수학적 구성의 일부로 간주한 그의 관점은 이후 브라우버르-하이팅-콜모고로프 BHK 직관주의 논리 체계로 발전한다. 또한 ‘어떤 함수가 계산 가능하다면 그 함수는 튜링 기계에서 계산 가능한 것’이라는 처치-마르코프-튜링 논제Church-Markov-Turing thesis)의 출현 과정을 자극했다. 튜링의 계산 가능성 이론, 처치의 람다(λ) 함수, 마르코프의 재귀 함수 이론(recursive function theory)을 접해 본 사람이라면, 누구나 그들과 브라우버러의 사고방식에서 나타나는 유사성을 감지할 수 있을 것이다. 브라우버러의 직관주의의 연장선에 서 있는 구성주의는 1967년 비숍(E. Bishop)의 연구로 전환기를 맞는다. 비숍은 브라우버러와 마찬가지로 수학의 핵심을 심적 구성으로 간주했다. 또한 논리학도 BHK를 사용한다. 하지만 그는 브라우버러의 직관주의에 담긴 연속체에 대한 사변, 특히 선택 수열을 수용하지 않는다. 또한 수학자들이 사용하는 함수를 주어진 것으로 간주하고 수학의 진술들을 수치적으로 해석한다. 증명이란 그렇게 해석된 진술들의 수치적 부분들 사이의 연관 관계를 밝혀 주는 알고리듬들을 찾고 다루는 것이다. 비숍은 직관주의 논리 체계를 바탕으로 고전적 수학 체계와 대등한 체계를 건설할 수 있음을 보이는 데 성공한다. 또한 특정 조건들을 부가하여 다른 체계도 건설할 수 있음을 보였다. 비숍 이후 알고리듬을 다루는 컴퓨터 기법이 발달하면서 구성주의는 새로운 국면을 맞이하게 된 것이다.

 

밀은 19세기 말 가속화된 추상적 수학의 발달 과정을 목격하지 못했다. 여기서 고전적 수학이라는 것은 그러한 발달 과정의 산물이기 때문에, ‘고전적’이란 단순히 ‘오래된 것’을 뜻하지 않는다. 그것은 오히려 다수 수학자들에 통용되는 ‘표준’을 뜻한다. 밀은 힐베르트, 브라우버러와 동시대 인물은 아니지만, 세 사람을 비교해 보는 것은 흥미롭다. 그렇게 비교해 보는 것은 고전적 수학 형성 직전기의 인물과 그 형성 과정에 직접 기여한 인물을 비교해 보는 것이며, 동시에 수학에 대한 밀의 입장을 쉽게 파악하도록 해 준다. 또한 수학, 논리학, 경험 사이의 관계를 놓고 고민해 보는 기회를 제공해 준다.

 

정답은 없지만 나에게 흥미로운 밀의 예상 답변 생략

 

* 수학적 증명 일반에 대해서는 다음의 나의 글을 참조하라.

<수학적 증명> http://blog.daum.net/goodking/65