집합의 단계적 구성 방식 (실험 버젼 1차 수정)

이 글에 이어지는 <집합의 논리적 구성 방식>은 올릴 것이지만, <내연과 외연의 비대칭성>, <원과 '{ }'의 차이>는 생략. 이 글은 1차 실험 버젼임을 밝혀 둔다.

 

 

(4) 단계적 구성 가능 집합

0으로 양의 모든 정수들을 구성하는 방법은 여러 가지가 있습니다. 다음을 보죠.

 

• 0′, (0′)′, ((0′)′)′, ...

 

‘′’는 순차적으로 0, 그 다음에 0′, 그리고 그 다음 다음에 (0′)′에 적용되고 있습니다. 위를 다음과 같이 표현해도 되겠죠.

 

• 0′, 0′′, 0′′′, ...

 

0′를 1로, 0′′를 2로, 그리고 0′′′를 3으로 여길 수 있습니다. 칸토어의 단계적 구성 방식을 알아보기 위해 ‘′’를 빌립시다. 물론 이때 ‘′’는 위의 경우와 달리 집합에 적용되는 것입니다.

 

• 공집합 { }에 대해 { }′는 {{ }}이다. 즉, ‘공집합을 원소로 갖는 집합’입니다. {{ }}′, 즉 { }′′는 {{{ }}}이다. {{{ }}}은 ‘공집합을 원소를 갖는 집합의 집합을 원소로 갖는 집합’이다. 여기서 ‘′’의 수학적 역할은 ‘′’가 적용되는 집합을 그 집합과는 다른 집합에 대응시키는 데 필요한 것입니다. 실례로 그것을 { }적용한 경우는 {{ }}에 대응된다. 그것을 심적 활동과 연관시키는 경우, 심적 활동은 공집합을 가지고 공집합을 원소로 갖는 집합을 생성시키는 것에 비유 가능하다. 하지만 심적 활동은 그러한 집합을 선별해 내는 ‘발견적 도구’이지, 실제 그러한 집합을 생성시키는 것은 아니다. 그러한 집합은 이미 있는 것이고, ‘′’를 매개로 공집합에 대응되는 것이다. 따라서 칸토어에게 구성은 진정한 의미에서의 생성이 아니다.

 

위 절차를 ‘칸토어의 단계적 구성 방식이라 합시다. 집합들 사이의 특정 대응 관계를 함축한 ‘′’를 ‘칸토어의 단계적 구성 스키마’라고 합시다. 칸토어의 단계적 구성 방식에 따라 다음 결과를 얻을 수 있습니다.

 

• { }, {{ }}, {{{ }}}, ...

 

공집합을 ‘∅’로 표기하는 경우, 위 결과는 다음과 같습니다.

 

• ∅, {∅}, {{∅}}, ...

 

그런데 집합의 단계적 구성 방식이 반드시 하나일 필요는 없습니다. 칸토어의 것과는 다른 방식은 전 절에서 살펴본 집어넣기 연산자 ‘^’를 사용하는 것입니다. ‘^’를 사용해 위 결과를 얻을 수 있다면, ‘^’도 단계적 구성 스키마로 여길 수 있는 것입니다.

 

• 공집합 { }에 ‘^’을 사용하는 경우 중 { }^{ }을 생각할 수 있다. ‘^’의 규정 방식에 따라 { }^{ }는 앞의 { }을 원소로 하여 뒤의 { }에 집어넣는 것이다. 따라서 { }^{ }의 결과는 공집합을 원소로 갖는 집합 {{ }}이다. {{ }}^{ }는 앞의 {{ }}을 뒤의 { }에 집어넣은 것이므로 {{{ }}}와 같다.

 

위 절차에 따라 다음 결과를 얻을 수 있습니다.

 

• { }, {{ }}, {{{ }}}, ...

 

칸토어의 단계적 구성 스키마와 ‘^’는 동일한 결과를 발생시킵니다. 곧 보게 되겠지만, ‘^’는 칸토의 단계적 구성 스키마보다 포괄적입니다. 더욱이 공집합 하나만 가지고 공집합이 아닌 집합들을 ‘진정한 의미에서 생성시키는 기능’을 갖고 있습니다. 반면에 칸토어의 단계적 구성 스키마를 사용할 때, 공집합은 개체처럼 취급되고 있습니다. 또한 칸토어의 단계적 스키마는 ‘이미 있는 집합들 사이의 특정 대응 관계’를 만드는 데 필요한 것입니다. 그것이 진정한 의미에서 새로운 집합을 생성시키는 것은 아닙니다. 그 결과, 칸토어의 단계적 구성 방식에서 공집합은 ‘무엇을 집어넣을 수 있다’는 시각적 의미를 잃어버립니다. 칸토어는 집합론의 아버지로 불릴 만큼 유명한 수학자이니, 그러한 시각적 의미를 공집합에서 박탈시켜야 하는 것일까요? 그렇게 박탈시켜야 하는 이유로 다음과 같은 근거를 드는 사람들이 있을 것입니다.

 

• { }^{ }는 결국 공집합에 공집합을 원소로 집어넣는다는 것인데, 이게 말이 되니?

 

그렇다면 ‘1+1’, ‘1=1’, ‘0+0’, ‘0=0’과 같은 수학적 표현들은 어떻게 가능한가요? ‘동일한 대상이 두 장소에 존재할 수 없다’는 조건에 따른 일상 언어의 경우, ‘나에게 나를 더한 것’, ‘나와 나는 동일한 것’과 같은 표현은 농담의 의미가 아니라면 사용되지 않습니다. 그런데 수학에서는 그런 표현들이 자주 등장합니다. 이는 수학의 언어 체계가 일상 언어와 다름을 암시합니다. 위 반문에 답하려면, 어쩔 수 없이 ‘수학이란 무엇인가?’라는 물음에 대해 약간 언급할 수밖에 없습니다.

 

‘수학이란 무엇인가’를 놓고 수학자들 사이에서도 의견이 분분한데, 1980년대 접어들면서 수학은 ‘추상화 과정을 통해 실재하는 패턴 혹은 가성의 패턴들을 다루는 학문’이라는 공감대가 형성되었습니다. 한 개의 사과에 한 개의 배를 더하는 경우가 있습니다. 한 개의 배에 한 개의 사과를 더하는 경우가 있습니다. 또 한 사람과 다른 사람을 더하는 경우가 있습니다. 사과, 배, 사람은 시간적 지속성과 공간적 크기, 즉 시공간적 크기를 갖고 있다는 점에서 구체적입니다. 추상화 과정의 가장 단순한 의미는 시공간적 크기를 제거시키는 것입니다. 그러한 과정을 거쳐 한 개의 사과, 한 개의 배, 한 명의 사람 등 하나의 양을 가진 모든 것을 1로 나타내는 것입니다. 이때 한 개의 배에 한 개의 사과를 더하는 경우처럼 특정 구체적 대상에 또 다른 구체적 대상을 더하는 경우는 1+1이라는 패턴을 보여 주는 것으로 여겨집니다. 추상화 과정을 통해 실재하는 패턴 혹은 가상의 패턴들을 다루는 학문으로 수학을 규정한다면, 수학이 ‘추상적인 플라톤의 세계’를 표상한다는 철학자들이나 일부 수학자들의 주장은 근거를 잃어버리게 됩니다. 적어도 수학의 발달 역사를 교육과 접목시켜 보고 싶어 하는 수학자들은 그러한 주장을 무조건 받아들일 수 없습니다. 이 점은 이 작업의 마지막 부분에서 보게 될 것입니다.

 

공집합을 원소로 갖는 집합 {∅} 혹은 {{ }}도 구체적인 현상에서 추상화된 어떤 패턴을 나타낸다고 합시다. 큰 원에 작은 원을 집어넣는 경우를 생각해 볼 수 있습니다. 하지만 그러한 경우는 집합과 원소가 아니라 부분 집합의 관계를 나타내는 것으로 굳어졌습니다. 아이들을 대상으로 공집합을 원소로 갖는 집합을 소개할 때, 현재 표준적인 방법은 다음과 같습니다.

 

<선생님 설명>

“예들아, 여기 비어 있는 작은 상자가 있단다. 이것을 공집합 ∅이라고 하자. 이 작은 상자를 또 다른 비어 있는 큰 상자에 집어넣는다. 그 결과는 큰 상자 안에 작은 상자가 하나 들어가 있는 상태지. 이 큰 상자를 기호 ‘{ }’라고 하면 어떻게 되니? {∅}, 즉 공집합을 원소로 갖는 집합이 되는 것이지. 이때 기호 ‘{ }’는 공집합이 아니라 집합을 나타내는 기호란다.”

 

작은 상자를 큰 상자에 집어넣은 사진이나 그림과 함께 위와 같이 설명을 하면, 집합론을 배운 학생이나 어른들은 고개를 끄덕입니다. 그런데 과연 집합론을 처음 대하는 아이들도 그럴까요? 그렇다고 생각하는 어른들은 아이들의 사고 능력을 너무나 얕보고 있는 것입니다. 아이들은 위 설명을 놓고 다음과 같이 고민합니다.

 

<아이 생각>

“비어 있는 큰 상자도 공집합과 같은 것이 아닐까? 어차피 작은 상자처럼 비어 있는 것은 마찬가지잖아. 비어 있는 큰 상자보다 더 큰 상자도 있어. 그렇다면 그 더 큰 상자에 그 큰 상자를 집어넣을 수 있으니, 큰 상자도 공집합이라고 할 수 있어. 더 큰 상자는 또 다른 더욱 더 큰 상자에 집어넣을 수 있지. 그렇다면 기호 ‘{ }’는 무한대 크기의 상자가 되어야 하는 것 아닐까?”

 

아이들이 위와 같은 생각을 해도 반문하지 않는 이유는 두 가지입니다. 첫 번째는 자신의 생각이 틀릴까 두려워서고, 두 번째는 위와 같이 생각을 해도 명확하게 말로 표현할 정도로 구체화시킬 수 없기 때문입니다. 아이들이 아예 위처럼 생각을 하지 않는 경우는 입시에 매몰된 수업 환경에 길들여졌기 때문입니다.

 

비어 있는 상자들은 무수히 많습니다. 그 크기들은 다 다릅니다. 각양각색의 모든 상자들에서 공간적 크기를 제거합시다. 물론 이것은 생각으로만 가능한 것이죠. 각양각색의 모든 상자들의 비어 있는 공통 속성을 공집합으로 간주하고, 상자들을 집어넣을 수 있는 것을 추상적으로 패턴화한 것이 ‘{ }^{ }’라고 할 수 있습니다. 마치 크기와 색이 다른 대상들을 더하는 것을 추상적으로 패턴화한 것 중 ‘1+1’이 있듯이 말이죠. 이를 받아들이면, 칸토어의 단계적 구성 방식과 차이를 보이는 ‘^’도 집합의 단계적 구성 스키마의 일종으로 간주할 수 있습니다. ‘추상화 과정을 통한 패턴화’는 나중에 좀 더 자세히 다룰 것입니다. 사실 <선생님 설명>은 ‘집어넣을 수 있다는 시각적 의미를 배제하지 않는 공집합’에 더 잘 부합하는 것입니다. 더욱이 ‘^’는 칸토어의 단계적 구성 스키마보다 포괄적입니다. 이 점은 집합으로 수를 정의하는 두 가지 방식을 살펴볼 때 분명해집니다.

 

독일 수학자 에른스트 체르멜로(E. Zermelo)는 양의 정수들을 다음과 같이 정의 했습니다.

 

• 0은 { } 혹은 ∅, 1은 {{ }} 혹은 {∅}, 2는 {{{ }}} 혹은 {{∅}}, 그리고 3은 {{{{ }}}} 혹은 {{{∅}}} 등이라 할 수 있다.

 

위의 정의 방식은 칸토어의 단계적 구성 스키마에 따른 것입니다. 당연히 ‘^’를 가지고도 위의 정의 방식이 가능합니다. 그런데 집합을 가지고 수를 정의하는 방식은 여러 개입니다. 다음은 헝가리 출신의 수학자 폰노이만(J. von Neumann)의 정의 방식입니다.

 

• 0은 { } 혹은 ∅, 1은 {{ }} 혹은 {∅}, 2는 {{ }, {{ }}} 혹은 {∅, {∅}}, 그리고 3은 {{ }, {{ }}, {{ }, {{ }}}}혹은 {∅, {∅}, {∅, {∅}} 등이라 할 수 있다.

 

위 방식은 위에서 소개된 칸토어의 단계적 구성 스키마만으로는 만들어 낼 수 없습니다. 칸토어에게 {∅, {∅}}나 {∅, {∅}, {∅, {∅}} 등은 ‘집합도 원소가 될 수 있다는 조건’에 반하지 않기 때문에 ‘이미 있는 것’입니다. 그것들이 칸토어의 단계적 구성 스키마의 반복적 적용에 따른 결과는 아닙니다. 물론 칸토어의 단계적 구성 스키마와 합집합 연산자를 함께 사용해 그것들의 존재를 보일 수 있습니다. 칸토어의 단계적 구성 스키마로 {∅}과 {{∅}}를 구성할 수 있습니다. {∅}과 {{∅}}의 합집합은 {∅, {∅}}입니다. 반면에 ‘^’라는 집합의 단계적 구성 스키마, 즉 ‘무엇을 집어넣을 수 있다’는 시각적 의미를 공집합에서 배제시키지 않는 스키마만 가지고 폰노이만의 수들을 만들어 낼 수 있습니다.

 

• { }^{ }의 결과는 {{ }}이다. ‘({ }, {{ }})^{ }’은 ‘{ }와 {{ }}를 원소로 하여 순차적으로 { }에 집어넣는 것’을 뜻한다. ({ }, {{ }})^{ }의 결과는 {{ }, {{ }}}이다. ({ }, {{ }}, {{ }, {{ }}})^{ }의 결과는 {{ }, {{ }}, {{ }, {{ }}}}이다. 이러한 결과들을 ‘∅’를 사용해 표현하면 ∅, {∅}, {∅, {∅}}, {∅, {∅}, {∅, {∅}}이다.

 

수의 정의에서 체르멜로 정의 방식과 폰노이만의 정의방식 중 무엇을 사용해야 할까요? 답은 아무것이나 사용해도 됩니다. 중요한 물음은 이렇습니다. 집합을 가지고 수를 정의한다고 할 때, 정말 자연수, 전체수, 정수 등은 집합의 일종일까? 집합을 가지고 수를 정의할 때, 서로 대등한 두 가지 정의 방식들이 있다는 것은 이 물음에 대해 고민해 보도록 만듭니다. 이러한 고민이 중요한 이유는 ‘집합을 가지고 수를 정의하는 곳’에서 살펴볼 것입니다. 그 정의 방식도 일상 언어의 정의 방식과는 다르다는 사실이 밝혀질 것입니다. 수학 교육이 어려운 이유 중 하나는 바로 ‘수학의 언어 체계’가 일상 언어와 많이 다르다는 데 있습니다. 지금까지의 논의를 정리해 봅시다.

 

• 집합을 구성하는 방식 중에는 ‘단계적 구성 방식’이 있다. 단계적 구성 방식에는 칸토어의 단계적 구성 스키마가 있고, 집어넣기 연산자로 소개되었던 ‘^’가 있다. 칸토어의 단계적 구성 스키마는 이미 있는 집합들 사이의 특정 관계를 보이는 데 필요한 것이다. 반면에 공집합의 시각적 의미를 배제하지 않는 ‘^’는 공집합과 다른 집합들을 공집합에서 생성시키는 기능을 갖는다. ‘공집합에 공집합을 원소로 집어넣는다는 것’은 일상 경험 및 일상 언어 놀이를 기준으로 할 때 마음에 잘 와 닿지 않는다. 하지만 수학을 ‘추상화 과정을 통해 실재하는 혹은 가상의 패턴들을 다루는 학문’으로 규정하는 경우, 그것은 ‘1+1’처럼 수학에서 허용될 수 있다. ‘1+1’ 역시 일상 경험 및 일상적 언어 놀이를 기준으로 할 때 마음에 잘 와 닿지 않는다.

 

칸토어의 단계적 구성 방식 혹은 시각적 의미를 배제하지 않는 단계적 구성 방식에 근거해 보일 수 있는 집합들을 ‘단계적 구성 집합’이라고 합시다. 이때 합집합, 교집합 등의 연산자 사용도 허용합시다. 집합의 원소는 순이와 같은 개체도 될 수 있습니다. 순이와 공집합을 가지고 만들어 낼 수 있는 단계적 구성 가능 집합은 무척이나 많겠죠.

 

• {순이}, {{순이}}, {{{순이}}}, ...

{순이, {순이}}, {순이, {순이}, {순이, {순이}}}

{ }, {{ }}, {{{ }}}, ... 혹은 ∅, {∅}, {{∅}}, ...

{{ }, {{ }}}, {{ }, {{ }}, {{ }, {{ }}}}, ... 혹은

{∅, {∅}}, {∅, {∅}, {∅, {∅}} ...

{순이, ∅}, {{순이}, ∅}, {{순이}, {∅}}, {{{순이}, {∅}}}, ...

......

 

이제 논리적 집합에 대해 알아봅시다.