기호 및 표현의 개체화

* 다음은 원고 <수학적 표현과 사고: 원놀이에서 연속체 문제까지>의 일부이다. 앞뒤 맥락을 모르는 상태에서 다음 글을 정확히 이해하기는 힘들다. 하지만 이 부분적인 글 마지막에 던져진 물음에 대해 고민해 보는 것은 흥미로울 것이다. 

 

 

기호 및 표현의 개체화

산수의 연산을 익힌 아이들은 다음과 같은 표현들을 배우게 됩니다.

 

• ‘x＞3’을 만족하는 어떤 자연수 x가 있다.

• 모든 혹은 임의의 자연수 x에 대해, a가 1보다 같거나 크다면 ‘ax+1＞x’이다.

 

위의 첫 번째 표현은 항상 참인 진술입니다. 아직 변수의 사용법을 체득하지 못한 아이들에게 ‘x＞3’보다는 ‘□＞3’이라는 표현 방식이 가깝게 다가올 것입니다. 아이들은 □에 자연수들 1, 2, 3, ...을 넣어 보다가, ‘x＞3’를 만족하는 자연수들이 있다는 사실을 발견하게 됩니다. 두 번째 표현도 항상 참인 진술입니다. 아이들에게 첫 번째보다는 두 번째 진술이 이해하기 까다롭습니다. 표현 ‘ax+1＞x’는 x와 a가 정해져야 참 거짓 판단 가능하다는 점에서 2.5에서 살펴본 진술 스키마의 일종입니다. ‘ax+1＞x’에서 □로 처리 가능한 변수는 x입니다. 반면에 고정된 것을 나타내는 상수(constant)는 두 개가 등장합니다. 그 하나는 1이며, 다른 하나는 a입니다. 1은 특정 상수이고, a는 그 값이 아직 정해지지 않은 ‘임의의 상수(arbitrary constant)’입니다. 따라서 ‘ax+1＞x’에 대해 다음의 표현들이 대응합니다.

 

• a가 1일 때, 1x+1＞1(2□+1＞1).

• a가 2일 때, 2x+1＞1(2□+1＞1).

• a가 3일 때, 3x+1＞1(3□+1＞1).

• a가 4일 때, 4x+1＞1(4□+1＞1).

......

 

아이들은 위 각각 표현의 변수에 자연수들을 집어넣어 보면서 ‘ax+1＞x’에 대한 예외가 없다고 일반화하게 됩니다. 이렇듯, 아이들이 대수의 진술들을 놓고 참 거짓을 판단하는 과정은 주어진 식을 만족하는 값을 직접 찾아내거나, 아니면 일일이 변수에 자연수들을 집어넣어 예외 발생 여부를 따지는 것입니다. 따라서 아이들이 그러한 진술의 참 거짓 여부를 아는 과정은 수학적 증명에 해당하지 않습니다. 그 과정에서 중요한 핵심은 ‘집어넣기’입니다.

 

상자에 고양이 집어넣기 등 ‘집어넣기’는 아이들이 자주 하는 행위입니다. 일상생활에서 집어넣기의 대상이 되는 것들은 ‘개체’, 즉 구체적이며 특수한 것으로 분류됩니다. 영이가 고양이 왈도를 상자에 집어넣은 경우, ‘영이는 왈도를 상자에 집어넣었다’라는 진술은 참이 됩니다. 그 진술을 다음처럼 바꾸면, 주어 두 개를 갖는 관계형 진술을 얻게 됩니다.

 

• 영이와 왈도는 상자 집어넣기 관계를 맺는다.

 

관계를 함축한 술어들은 ‘관계 놀이’에서 자세히 살펴볼 것인데, ‘...와 ...는 상자 집어넣기 관계를 맺는다’라는 술어를 ‘상자집어넣기(x, y)’로 나타냅시다. 이때 위 진술은 ‘상자집어넣기(영이, 왈도)’가 되며, 영이와 왈도는 개체들로 분류됩니다. 변수에 특정 자연수를 집어넣는 것은 분명히 고양이 왈도를 집어넣는 것과는 다릅니다. 하지만 언어활동에서 둘 사이에는 구조적 유사성이 있습니다. 영이가 수학적 표현의 변수에 자연수 2를 집어넣는 것은 다음과 같은 일반 진술형으로 나타낼 수 있습니다.

 

• 영이와 자연수 2는 수학적 표현의 변수와 관련하여 집어넣기 관계를 맺을 수 있다.

 

‘...와 ...는 수학적 표현의 변수와 관련하여 집어넣기 관계를 맺는다’라는 술어를 ‘변수집어넣기(x, y)’로 나타낼 때, 위 진술은 ‘변수집어넣기(영이, 2)’가 됩니다. ‘상자집어넣기(영이, 왈도)’와 ‘변수집어넣기(영이, 2)’의 구조적 유사성에 주목할 때, 2는 왈도처럼 일종의 개체처럼 취급되고 있습니다. 이 점은 무엇을 반영해 줄까요? 변수에 자연수들을 집어넣어 보는 활동을 통해 아이들은 자연수를 마치 왈도와 같은 개처처럼 여기게 됩니다.

 

기호 ‘2’에 두 개의 대상들을 적용하는 것만 가지고는 자연수 2 그 자체라는 존재를 가정할 필요는 없습니다. 만약 자연수 2가 정말 존재한다면, 그것은 두 개의 사과, 두 개의 구슬 등을 보기로 갖는 ‘보편적인 것’입니다. 또한 그것은 시간과 공간적 제약을 초월한 ‘추상적인 것’입니다. 정말 수들이 존재하는 세계가 있다면, 그 세계는 영이와 왈도가 속한 현실 세계가 아닌 추상적 혹은 플라톤적 세계입니다. 그러한 추상적 세계가 있다면, 그 세계에서 2는 다른 것과 구별되는 특수성을 갖고 있다는 점에서 ‘추상적 개체’가 됩니다. 따라서 2를 개체처럼 취급한다고 해서, 2가 왈도처럼 시공간적 크기를 갖고 있는 개체는 아닙니다. 하지만 추상적인 수학의 세계를 인정하는 그 어떤 수학자도 2 자체가 추상적 세계에 있다고 단순하게 주장하지는 않습니다. 대신에 추상적 구조(abstract structure)가 있다고 주장하며, 그 추상적 구조는 형식 공리 체계가 나타내는 것입니다. 이를 간략히 알아보기 전에 집고 넘어 가야 할 것이 있습니다. 수 2 존재를 둘러싼 철학적 논쟁은 2를 개체처럼 취급할 수 있게 된 다음에야 가능한 것인데, 영이가 그 논의에 관심을 가질 수도 없고, 또 그 논의를 이해할 필요도 없습니다. 왜 그럴까요?

 

자연수를 나타내는 기호 및 표현들, 실례로 ‘2’, ‘1+1’을 변수나 □에 집어넣어 보는 과정에서 아이들은 그것들을 대상화합니다. ‘기호 및 표현의 개체화’는 이를 고급스럽게 표현한 것에 불과합니다. 기호나 표현 자체를 머리 근처에 떠올리든 종위 위에 쓰든, 그것은 돌멩이나 사과처럼 특정 시공간 제약 속에 존재하는 구체적 대상입니다. 다만 기호나 표현은 무엇을 나타내는 표상 기능을 갖고 있습니다. 전 절에서 살펴보았듯이 ‘2’는 셈 활동을 바탕으로 두 개의 대상들에 적용될 뿐만 아니라, 다양한 수학적 과정들을 함축하고 있는 응축 개념입니다. 그래서 아이에게 ‘2’가 무엇인지 묻는 경우, 아이는 두 개의 사과를 가리키거나, ‘1+1’, ‘1+1=2’ 혹은 그냥 ‘2’라고 답합니다. 수학적 기호 및 표현의 개체화가 반드시 기호 및 표현이 표상하는 대상의 존재를 전제하는 것은 아닙니다. 다만 ‘2’가 응축 개념으로 굳어지게 되면, ‘2’에 대해 수 2라는 대상을 가정하는 사고의 습관이 아이에게 생겨납니다. 그러한 습관은 언어적인 것이기도 합니다. ‘x＞1’의 변수 x에 아이가 ‘2’를 집어넣는 경우를 생각해 봅시다. 그 결과인 참인 진술 ‘2＞1’에서 2는 1과 함께 논리적 주어가 됩니다. ‘...와 ...는 대소 관계를 맺는다’는 관계 술어를 ‘x＞y’로 나타낼 때, 2는 그 술어의 논리적 주어가 될 수 있다는 점에서 개체처럼 취급됩니다.

 

집합론의 의미 있는 표현들도 익히면 익힐수록, 집합의 응축 개념 성격이 두러지게 됩니다. {사과1, 사과2}라는 표현을 자유자재로 사용할 수 있는 사람은 그것에 다음과 같은 여러 수학적 과정들을 대응시켜 볼 수 있기 때문입니다.

 

• {사과1, 사과2}={사과1}∪{사과2}

• {사과1}∪{사과2} → {사과1, 사과2}

• {사과1, 사과2}={사과1, 사과2, 3}∩{사과1, 사과2}

......

 

그런데 집합을 나타내는 표현들은 자연수들의 경우와는 다른 특징을 보여 줍니다. 공집합 { } 혹은 ∅을 제외한 모든 집합들에 대해서는 ‘2’, ‘3’ 등과 달리 별도의 단일 기호들이 대응하지 않습니다. 그런 집합 각각에 특정 이름을 부여하지 않는다면 말이죠. 왜 그럴까요?

 

생략

 

위 물음에 대해 고민해 보는 과정을 통해 자연수와 집합의 표현들이 보여 주는 유사성과 차이점을 따져 본다면, 집합을 상자에 유비하는 것이 한계를 보일 수밖에 없는지, 그리고 아이들에게 집합론보 수론을 먼저 가르치는 것이 자연스러운 지에 대한 이유도 분명해질 것이다.