공집합의 시각적 의미와 원소 집어넣기 (3차 수정)

 

 

1.4. 개와 고양이의 내연적 관계       생략

1.5. 현실적으로 불가능하지만 논리적으로 가능한 것       생략

1.6. 개체란           생략

1.7. 개(x)와 {x|개(x)}

      (1) 두 집합의 같음             생략

      (2) 두 집합의 다름              생략

      (3) 공집합의 원래 의미와 원소 집어넣기

      (4) 집합의 두 가지 구성 방식        블로그에 올릴 예정 (이 부분을 보아야 (3)이 좀 더 설득력을 갖게 되므로)

1.8. 내연과 외연의 비대칭성       생략

 

2. 원과 '{}'의 차이 (4가지 정도가 있는데 한 개 정도 올릴 예정)

 

* 다음 글은 실험의 일종임을 밝혀둔다.  원과 {}의 유사성과 차이를 다루고, 관련된 여러 문제들을 해결한 후, 관련 수학 역사의 문헌들을 재정리한 후 수정 할 예정. 

 

 

(3) 공집합의 시각적 의미와 원소 집어넣기

집합론의 관계, 연사자 등은 집합론을 정교히 다룰 때 다시 살펴볼 것입니다. 이제 집합의 두 가지 종류를 알아보고, 그것들을 외연과 내연에 적용해 볼 것입니다. 그 전에 많은 사람들이 그냥 그렇다고 넘어간 것을 먼저 따져 봅시다. 그것은 다음과 같습니다.

 

• 임의의 혹은 모든 집합 X에 대해 ‘∅⊂X’가 항상 성립한다. 즉, 모든 집합은 공집합을 부분 집합으로 포함한다.

 

위 정리를 모르는 사람은 거의 없습니다. 그런데 왜 그럴까요? 위 정리에서 ‘X’는 특정 집합을 뜻하지 않습니다. ‘X’는 집합들이 들어가는 ‘집합 변수’입니다. ‘X’는 ‘모든’ 혹은 ‘임의의’라는 양화사에 한정되어 있습니다. 이것과 논리적 동치사의 규정 방식을 정확히 이해해야 위 정리를 증명할 수 있습니다. 그러한 규정 방식은 집합론적 의미론을 다룰 때 살펴볼 것이기 때문에, 위 정리의 증명도 그곳으로 미룰 것입니다. 하지만 공집합을 ‘∅’보다는 ‘{ }’로 표현하는 것을 선호할 때, 위 정리가 참인 이유는 쉽게 알 수 있습니다. 적어도 ‘{ }’ 시각적으로 해석하는 경우, 공집합은 비어 있어 대상들로 채워질 수 있는 가능성을 갖게 되기 때문입니다. 물론 현대적 집합론에 익숙한 사람은 그런 가능성을 거론하는 것에 대해 의아해 할 것입니다. 이 문제는 일단 뒤로 미루고, 왜 그런지 살펴봅시다.

 

(i) 임의의 집합 X에 대해 ‘X=∅’ 또는 ‘X≠∅’이 성립한다.

(ii) ‘X=∅’인 경우를 먼저 고려하자. ‘∅=∅’이 참이라는 데 이의를 제기할 사람은 없다. 그런데 ‘나는 나와 같다’는 방식의 표현은 일상생활에서 거의 사용되지 않는다. ‘∅=∅’는 표현은 수학의 언어가 일상어와는 다름을 암시해 주는데, 수학에서는 ‘∅=∅’는 표현이 필요하다. 공집합을 ‘{ }’로 표기하는 경우, 그것은 시각적으로 비어 있어 대상들로 채워질 수 있는 가능성을 배제하지 않는다. 공집합을 원소로 갖는 집합은 ‘{{ }}’, ‘{{ }, { }}’ 등이 가능한데, 즉 ‘{∅}’, ‘{∅, ∅}’ 등이 가능한데, 이러한 두 집합을 다르게 볼 이유는 없다. 그러한 이유를 보장하려면, ‘∅=∅’이 필요하다. 또한 ‘{ }∈{{ }}’, 즉 ‘∅∈{∅}’이 자연스럽게 성립하기 위해서도 ‘∅=∅’가 필요하다.

(iii) 부분 집합의 관계 ‘⊂’는 논리적으로 같음의 관계 ‘=’를 배제하지 않는다. 즉, 두 집합이 부분 집합의 관계를 맺는다는 것은 ‘한 집합이 다른 집합의 진부분 집합이거나, 두 집합이 서로 같은 경우’를 뜻한다. 따라서 같음의 관계를 맺는 두 집합은 동시에 부분 집합의 관계를 맺는다. ‘∅=∅’가 성립하므로 ‘∅⊂∅’도 성립한다. ‘X=∅’인 경우, ‘∅⊂X’가 성립한다. 이 점은 집합론을 자세히 다룰 때 분명해질 것이다.

(iv) ‘X≠∅’이 참인 경우를 고려해 보자.

(v) 앞서 살펴본 두 특정 집합 A(={1, 2}), B(={1, 2, 3,})에 대해 ‘A⊊B’가 성립한다. 즉, A는 B의 진부분 집합이다. A와 B를 자세히 살펴보면, A에 3을 집어넣으면, A와 B가 같아짐을 알 수 있다. 다시 말해 어떤 집합 X에 ‘X에 속하지 않는 특정 원소들’을 집어넣은 결과가 Y일 때 ‘X⊊Y’임을 알 수 있다. 집어넣기 연산자 ‘^’를 도입하자. ‘a^X’는 ‘X에 속하지 않는 원소 a를 X에 집어넣는다는 것’을 뜻한다. 집어넣기 연산자를 한 번 혹은 여러 번 반복한 결과가 Y와 같도록 해 주는 원소들이 있는 경우, ‘X⊊Y’도 성립한다. ‘(3^A)={1, 2, 3}’이고 B={1, 2, 3}이므로, ‘(3^A)=B’가 성립한다. 집어넣기 연산자를 적용한 결과가 B와 같도록 해 주는 원소는 3이다. 따라서 ‘A⊊B’도 성립한다. 집어넣기 연산자에 대비된 덜어내기 연산자도 생각해 볼 수 있다. 지금까지의 논의를 덜어내기 연산자를 가지고 재구성해 보는 것은 독자의 몫으로 남긴다.

(vi) ‘X≠∅’가 참인 경우, X에 속한 서로 다른 원소들 a1, a2, a3, ... 등이 있다. a1^∅, 즉 { }에 a1을 집어넣은 결과 a1^{ }는 {a1}이다. {a1}에 a2를 집어넣은 결과 a2^{a1}은 {a1, a2}이다. a3^{a1, a2}는 {a1, a2, a3}이다. 이러한 식으로 집어넣기 연산자를 반복적으로 적용하다 보면, X가 나온다. 따라서 ‘∅⊊X’가 성립한다. ‘∅⊊X’성립하므로 ‘∅⊂X’도 성립한다.

(vii) (i)~(iii)에 의해, ‘X=∅’인 경우 ‘∅⊂X’가 성립한다. (iv)~(vi)에 의해, ‘X≠∅’인 경우 ‘∅⊂X’가 성립한다. 그 어떤 경우에나 공집합은 주어진 집합의 부분 집합이 된다.

 

공집합을 ‘∅’으로 표기하는 경우, ‘무엇을 집어넣을 수 있다’는 공집합의 시각적 의미를 살리기 힘듭니다. 그러한 시각적 의미는 공집합을 ‘{ }’로 표기할 때 더 잘 살아 납니다. 아이들도 상상과 손짓 활동을 통해 특정 대상을 ‘{ }’에 집어넣는 활동을 할 수 있습니다. 또 집어넣었다가 덜어 낼 수도 있겠죠. (v)에서 언급한 집어넣기 연산자 ‘^’는 이러한 심적 활동을 기호로 나타낸 것에 불과합니다. 그러한 연산자를 사용하지 않고서도 아이들은 ‘{ }’에 대해 ‘집어넣기 활동’을 자유자재로 할 수 있습니다. 따라서 적어도 공집합이 아닌 집합 X에 대해서는 아이들도 ‘∅⊊X’라는 사실을 발견할 수 있습니다. 공집합을 ‘{ }’표기하는 경우, 그것에 ‘무엇을 집어넣을 수 있다’는 시각적 의미는 실제 아이들에게서 발견됩니다. 물론 ‘∅’을 사용하면, ‘시각적 단순화’ 효과를 기대할 수 있습니다. ‘{{ }}’을 ‘{∅}’으로 표현할 수 있으니까요. 이때 다음과 같은 의문이 발생합니다.

 

“그런데 왜 집어넣기 연산자와 같은 것은 아예 교재에 등장하지 않니?”

 

위 물음은 여러 가지 시각에서 접근해 볼 수 있습니다. 우선 공집합에서 ‘무엇을 집어넣을 수 있다’는 시각적 의미를 배제하지 않는 집합론은 제안된 적이 없습니다. 공집합을 ‘{ }’로 표기한 칸토어의 경우, ‘집합’은 ‘원소들로 구성된 전체’를 뜻합니다. 칸토어의 집합론에서 공집합의 시각적 의미와 같은 것은 등장하지 않습니다. 하지만 칸토의 이전부터 집합 개념은 여러 고전에 남아 있습니다. 비어 있어 무엇으로 채워질 수 있다는 ‘공집합의 시각적 의미’도 남아 있었습니다. 그러한 시각적 의미는 ‘대상들을 포함하는 일종의 용기(container)’처럼 집합을 간주하는 직관을 반영하고 있습니다.

 

논리학이 발달하면서, 이상적으로 형식화된 수학 체계는 그림을 떠올리는 것과 같은 직관과 무관해야 한다는 입장이 득세했습니다. 이 작업의 마지막 부분에서 살펴보겠지만, 현대 집합론을 대표하는 ‘ZFC 공리 체계’ 건설에 필요한 관계 ‘∈’와 집합은 ‘무정의 용어(undefined term)’입니다. 증명에 사용되는 공리들, 즉 증명을 위해 참으로 전제된 진술들을 만족하는 것은 무엇이든 집합으로 취급될 수 있습니다. {1, 2, 3}과 같은 것도 공리들을 만족하는 표현일 뿐입니다. 수학에 대한 이러한 관점, 즉 20세기를 지배한 관점에 따르면, 그림을 떠올리는 것과 같은 직관이나 특정 표현법을 채택하는 것과 같은 표현법은 수학의 핵심이 될 수 없습니다. 그러니 그 관점을 수학 공동체에 정착시키려고 했던 부르바키 모임이 공집합을 ‘{ }’으로 표기하는 것을 반길 리 없었겠죠. ‘{ }’은 ‘대상들을 포함하는 모임 혹은 집어넣을 수 있는 용기’와 같은 직관과 연관될 수 있기 때문입니다. 수학적 작업의 결과물이 공리 체계와 같은 것으로 끝나야 할지라도, 과연 직관이나 표현법 등이 수학적 발견과 이해와 무관한 것일까? 정말 직관이나 표현법은 그저 공식 등을 이해하는 데 보조 역할을 하는 것에 불과한 것일까? 그렇지 않다는 것이 이 작업의 결론입니다. 그럼에도 다음과 같이 반문하실 분들이 계실 것입니다.

 

“너의 이야기에 따르면, 대상들을 집어넣을 수 있는 용기와 같은 직관을 반영하는 공집합의 시각적 의미는 더 이상 인정되지 않는 것 아니니? 그렇다면 ‘공집합의 시각적 의미’라는 표현 대신에 ‘공집합의 시각적 유혹’이라는 표현을 사용해야 맞다. 그리고 그러한 유혹에서 벗어나야 함을 강조해야 하는 것 아니냐.”

 

저는 위의 반문에 동의할 수 없습니다. 이어지는 두 절에서 보게 되겠지만, 집합에는 두 가지 종류가 있습니다. 하나는 ‘단계적 구성 가능 집합’이며, 다른 하나는 ‘논리적 집합’입니다. 집어넣기 연산자 ‘^’는 공집합 하나로 무한개의 집합들을 단계적으로 구성해 내는 기능을 갖고 있음을 보게 될 것입니다. 합집합 연산자‘∪’나 교집합 연산자 ‘∩’는 그러한 기능을 갖고 있지 않습니다. 집어넣기 연산자는 집합의 ‘단계적 구성 스키마(set construction-schema)’의 한 종류임을 보게 될 것입니다. 단계적 구성 스키마는 하나가 아니기 때문입니다. 집합론의 아버지라 불리는 칸토어의 단계적 구성 스키마도 있습니다. 칸토어의 단계적 구성 스키마도 공집합에서 ‘무엇을 담을 수 있다는 용기’라는 시각적 의미를 제거하려는 동기를 보여 줍니다. 하지만 ‘^’와 칸토어의 단계적 구성 스키마가 동일한 결과를 갖는다면, 무조건 그러한 시각적 의미를 공집합에서 박탈할 수 없습니다. 그러한 시각적 의미를 반영하는 집합론, 그것도 칸토어의 집합론과 대등한 것을 건설할 수 있기 때문입니다.

 

집합을 구성할 때, 단계적 구성 스키마와는 다른 종류의 스키마도 있습니다. ‘논리적 스키마(logical schema)’라는 것입니다. 집합론의 아버지를 칸토어라 하지만, 1930년대 이후 집합론은 논리적 스키마를 토대로 발달했습니다. 그 결과, 형식 체계의 현대 집합론에 단계적 구성 스키마가 명시될 필요가 없게 된 것입니다. 하지만 단계적 구성 가능 집합은 수학 교육에서 여전히 필요하며, 또한 집합론에서 제거할 수 없음을 주장할 것입니다. 더욱이 무엇을 집어넣을 수 있다는 ‘공집합의 시각적 의미’를 현대 집합론과 겹치지 않게 적절히 변형하는 것은 아이들의 산수 교육에 도움을 줄 수 있습니다. 이 주장은 이 작업의 후반기에서 보게 될 것입니다. 이제 집합의 두 가지 종류에 대해 살펴봅시다.