베이즈주의 (수정)

베이즈주의

 

 

1.

확률 계산법(probability calculus)의 베이즈 공식은 ‘주어진 증거 e에 근거한 가설 H의 신빙성’을 확률로 나타낸 것이다.

 

• prob(H/e)=[prob(e/H)prob(H)]/[prob(e/H)prob(H)+prob(e/-H)prob(-H) (prob(H/e)는 증거 e가 주어진 상태에서 가설 H가 성립할 확률, 그리고 prob(-H)는 H가 성립하지 않을 확률을 뜻한다. prob(H)는 ‘사전 확률(prior probability)’로, prob(H/e)는 ‘사후 확률(posterior probability)’로, 그리고 prob(e/H)는 ‘H를 가정한 경우에 e가 발생할 가망성(likelihood)’을 뜻한다.)

 

베이즈 공식은 토머스 베이즈(T. Bayes)가 죽은 후 1764년 영국왕립협회에서 발표되었다. 베이즈 공식의 수학적 증명과 무관하게 베이즈 공식을 음미하는 것만으로도, 여러 논쟁거리를 발견할 수 있다.

 

가망성은 동전 던지기 등을 시행함으로써 결정된다. 반면에 베이즈 공식의 사후 확률 prob(H/e)는 ‘사전 정보에 근거한 확률’을 뜻한다. 이때 사전 정보는 ‘H를 가정한 경우에 e가 발생할 가망성(prob(e/H))’ 및 ‘사전 확률(prob(H))’이 된다. 따라서 베이즈 공식의 ‘사후 확률’은 ‘사전 정보에 근거한 예측’을 뜻하며, ‘사전 정보에 근거한 예측’은 동전 던지기 등에 의해 결정되는 가망성이 아니다. 베이즈 공식에는 ‘주어진 정보를 바탕으로 예측하는 인간’ 개념이 함축되어 있다. 이 때문에, 베이즈 공식이 합리성을 둘러싼 논쟁에서 자주 등장하는 것이다. 또한 확률 개념 자체가 하나가 아니기 때문에, 베이즈 공식 자체에 대한 해석도 다양할 수밖에 없다.

 

베이즈 공식을 ‘단일 사건 발생에 대한 믿음의 정도’, 곧 ‘주관적 확률(subjective probability)’ 개념을 바탕으로 해석하는 것은 철학 진영에서는 대세이다. 하지만 현대 수학적 확률론 자체가 특정 확률 개념을 반드시 전제하지 않는 까닭에, 베이즈 공식이 오로지 주관적 확률 개념과 양립 가능하다는 생각은 통용될 수 없다. 확률 개념에 대한 해석과 무관하게 베이즈 공식의 쓰임새가 풍부하다는 것은 분명하다.

 

 

 

2.

사람들은 과연 베이즈 공식의 절차에 따라 미래의 사건을 예측하고 판단하는 것일까? 그렇지 않다는 사실이 1970년대 이후에 실험적으로 밝혀졌다. 이로부터 베이즈 공식의 무용지물론이 성립하는 것은 아니다. 미적분학의 절차에 따라 투사체 운동의 기울기를 재는 사람이 많지 않다고 하여, 미적분학이 쓸모없는 것은 아니다. 베이즈 공식도 이와 마찬가지로 평가되어야 한다. 사람들이 베이즈 공식의 절차에 따라 판단하지 않는다는 사실을 가지고 그 누구도 베이즈 공식의 무용지물론을 주장할 수 없다. 그렇다면 그러한 사실이 ‘합리성의 재고(reconsidering rationality)’라는 주제로 주목받는 이유는 어디에서 기인한 것일까? 이러한 물음에 답하기 위해서는 베이즈 공식의 해석과 관련된 ‘베이즈주의(Bayesianism)’를 알아야 한다.

 

베이즈주의에는 인간의 모든 개연적 판단을 확률 계산법의 형식 절차로 대체할 수 있다는 관점, 곧 ‘확률주의 관점’이 깔려 있다. 확률주의 관점은 형식 연역 체계에 따른 지식 체계만을 ‘과학적 지식체계’로 여겼던 시대의 산물이다. 여기서 과학적 지식체계는 지금 우리가 과학이라 부르는 것들의 지식 체계가 아니다. 그것은 모든 개연성이 추방된 상태의 지식 체계를 뜻한다.

 

확률 계산법의 공리 체계를 구성하는 공리들은 다음과 같다.

 

• 모든 확률은 0보다 크거나 같거나, 1보다는 작거나 같다.

 

• ‘논리적 참(logical truth)’을 함축한 진술, 곧 동어반복(tautology) 형의 진술은 항상 1이라는 확률을 갖는다.

 

• 서로 배타적인 두 사건을 함축한 두 진술의 이접(disjunction)에 대한 확률은 두 사건의 확률을 더한 것과 같다.

 

형식 연역의 공리 체계는 무모순성(consistency)을 기준으로 구조화된 것이다. 확률 계산법의 공리 체계에서 무모순성과 같은 기준에 대응하는 것은 무엇인가? 램지(F. Ramsey)와 드 피네티(B. de Finneti)가 베이즈 공식이 확률 계산법의 공리 체계를 만족한다는 사실을 증명한 이후, 그러한 기준은 ‘믿음들의 내적 정합성(internal coherence)’으로 규정되었다.

 

그러나 ‘믿음들의 내적 정합성’이라는 개념 자체가 애매모호하다. 그 개념은 사실 다음을 주장하는 것과 다르지 않다.

 

• 확률 계산법의 공리 체계를 위반한 믿음들은 ‘구조적 비정합성(structural incoherence)’을 갖고 있다.

 

그런데 ‘구조적 비정합성’이라는 것은 무엇을 뜻하는가? 이러한 질문을 회피하기 위해 위의 질문은 다음과 같이 수정된다.

 

• 확률 계산법의 공리 체계를 위반한 사람의 행위는 제 3자에게 ‘그의 믿음들이 구조적 비정합성을 갖고 있는 것’으로 나타난다.

 

어떤 믿음들의 구조적 비정합성이 어떻게 제 3자에게 드러난다는 것일까? 그리고 그러한 비정합성을 가진 인물의 행위가 비합리적으로 여겨지는 근거는 무엇일까? 일명 ‘더치 북 논증(dutch book argument)’은 이러한 물음에 답하는 방식 중 하나이다.

 

 

 

3.

더치 북 논증의 개요는 다음과 같이 구성된다.

 

(1) 확률은 단일 사건 발생에 대한 믿음 정도를 나타낸다. 그러한 믿음의 정도는 도박에서 내기 돈을 것에 의해 측정 가능하다.

(2) 도박판을 벌리는 도박사는 ‘더치 북’을 갖고 있다. 더치 북은 각 대안에 대한 승률과 내기 돈의 가능한 모든 조합의 목록으로 구성되어 있다. 도박사가 멍청하지 않다면, 도박사는 모든 대안에 돈이 걸린 경우 그에게 항상 이윤이 남도록 더치 북을 만든다.

(3) 도박에 참가하는 사람은 더치 북의 목록에 있는 대안에 돈을 건다.

(4) 확률 계산법의 공리 체계를 위반한 믿음들을 가진 사람은 도박사에게 돈을 잃을 수밖에 없다. 도박사에게 당한 그의 믿음들은 구조적 비정합성을 보여주는 것으로 간주된다.

(5) 도박사에게 당한 그의 내기 방식은 합리적인 것으로 볼 수 없다. 믿음들의 구조적 비정합성을 보여주는 행위는 비합리적이다.                                         

(6) 확률 계산법의 공리 체계를 위반한 믿음들에 근거한 행위는 비합리적이다.

 

(6)은 전통적인 베이즈주의의 논제와 같은 것이다. 그런데 베이즈 공식이 수학적으로 증명되었다고 해서, 위 논증이 이의 제기로부터 완전히 해방된 것은 아니다. 도박에서 내기 돈을 거는 정도를 가지고 사건 발생에 대한 주관적 믿음의 정도를 평가해 보겠다는 것은 아무런 문제가 되지 않는다. 하지만 그것이 정말 단일 사건 발생에 대한 믿음의 정도에 대응하는 것일까? 멍청하다는 것이 비합리적인 것과 동일한 것이며, 그래서 현명하다는 것은 합리적인 것과 동일한 것일까? 가난한 도박사를 도와줄 목적으로 일부러 돈을 잃어주는 행위도 비합리적인 것으로 간주될 수 있을까? 이러한 일련의 물음들이 던져졌고, 이에 따른 여러 변종의 더치 북 논증들이 생겨났다.

 

 

 

4.

더치 북의 목록이 인간의 계산 능력 범위 내에서 파악 가능하다면, 도박에 응할 사람은 많지 않을 것이다. 이때 도박에 응하지 않는 궁극적인 이유가 확률 계산법에 따른 계산의 결과로만 볼 수는 없다. 그 이유는 손해를 보려고 하지 않는 의도에 기인한 것일 수도 있기 때문이다.

 

베이즈주의자들처럼 행위가 믿음의 결과라고 생각한다면, 행위의 합리적 변화도 확률 계산법에 따른 믿음들의 수정 과정에 기반을 두어야 한다. 이러한 이유로 철학자들은 앞서 언급한 더치 북 논증을 ‘공시적 더치 북 논증(synchronical dutch book argument)’으로, 그리고 믿음들의 합리적 수정 과정과 관련된 논증을 ‘통시적 더치 북 논증(diachronical dutch book argument)’으로 부른다.

 

확률 계산법의 공리 체계에 따른 믿음들이 내적 정합성을 갖고 있고, 그러한 내적 정합성이 반영된 행위만이 합리적인 것이라면, 새로운 증거에 의한 믿음들의 수정은 어떠한 식이어야 하는가? 이에 대한 가장 단순한 대답은 다음과 같다.

 

• probold(H)가 과거의 믿음들에 근거한 것이고, probnew(H)가 새로운 증거 e에 의해 수정된 믿음들에 근거한 것이라고 할 때 다음과 같은 ‘조건화’(conditionalization) 규칙이 성립한다.

 

단순한 조건화: probnew(H)=probold(H/e) (probold(H/e)는 베이즈 공식 prob(H/e)와 같다.)

 

위 조건화 규칙의 숨은 의도는 너무나 단순해서 일종의 속임수처럼 보인다. 단순화 조건에 따라 수정된 믿음들은 사실 새로운 것이 아니기 때문이다. 단지 믿음들에 부여되는 확률만이 베이즈 공식에 의해 달라졌기 때문이다. 단순화 조건에 따른 변화는 새로운 정보나 믿음들이 생성되는 ‘확장적 추론(ampliative inference)’의 결론은 아니다. 그것은 단지 과거의 의견에 대한 신빙성만 변화시킨 것이기 때문에, ‘확률 계산식의 공리 체계를 위반하지 않은 믿음들만 합리적인 것’이라는 베이즈주의의 관점은 그대로 유지된다.

 

단순한 조건화 규칙의 적용 범위는 너무나 좁다. 이 때문에, 여러 더치 북 논증에 따른 다양한 조건화 규칙들이 생겨났다. 그런데 그러한 모든 조건화 규칙들을 통합할 수 있는 일반적인 규칙은 발견되지 않았다. 이러한 이유로 일부 철학자들은 ‘좀 더 포괄적인 조건화 규칙 찾기’라는 경쟁에 매혹되었다. 그 경쟁은 난제를 해결함으로써 ‘철학 영재’에 등극하고자 하는 이들을 위한 것 같아 보이기도 한다.

 

정말 새로운 증거에 의해 믿음들이 정합적으로 수정될 필요가 있는 것일까? 문제 해결 과정에서 정합성을 지향하는 것은 중요하다. 하지만 서로 내용적으로 연결된 믿음들의 실제 변화 방식은 국소적(local)이다. 확률 분포 변화가 그러한 변화를 설명해낼 것이라고 그 누구도 장담할 수 없다. 인공적으로 뇌신경망을 만들고 확률 분포의 변화 함수를 이용해 인간 지능을 모방할 수 있는 기계는 어느 정도 구현 가능하다. 그러나 이로부터 인간의 합리적 능력이 그러한 기계의 함수 기능과 동일하다는 결론은 성립하지 않는다. 또한 인간의 판단은 외부의 자극이 아니라 생태적 환경 구조와 맞물려 있으며, 형식보다는 내용에 민감하다. 이는 인지 심리학의 여러 실험 결과에 근거한 사실이다. 베이즈주의에 담긴 이상화된 인간에게 생태적 환경 구조와 같은 것은 중요하지 않다. 중요한 것은 자극 수용에 따른 ‘믿음들의 내적 정합성’의 유지이며, 그 정합성의 유지는 철저히 형식 절차에 따른 결과이다.

 

 

 

5.

베이즈 공식의 형식 절차를 따른 선택과 판단만이 합리적이라고 해보자. 이때 인간의 실제 판단이 베이즈 공식의 형식 절차를 따르지 않는다는 실험적 사실은 ‘인지 편향론’을 지지해준다. 즉, 인간의 인지는 오류를 범하도록 편향되어 있다는 것이다. 베이즈 공식을 합리적 능력의 본질과 같은 것으로 여긴다면, 인간은 ‘비합리적 동물’이라고 말해야 한다.

 

오류를 범했던 사람도 사전 정보에 민감하게 반응할 수 있도록 실험이 재구성된 경우에는 일반적으로 오류를 범하지 않는다. 이러한 실험적 사실은 무엇을 암시하는가? 베이즈 공식과 같은 형식 절차를 합리성의 기준으로 여기지 않는 경우, 인간의 실제 판단이 그러한 형식 절차를 따르지 않는다는 사실을 가지고 ‘인지 편향론’을 주장할 수 없다. ‘오류를 범하도록 타고난 인간상(人間象)’에 근거한 ‘인지 편향론’은 베이즈 공식과 같은 것을 합리성의 본질로 여기는 경우에만 성립한다. 베이즈 공식의 절차에 따라 사람들이 판단하지 않는 이유는 베이즈 공식을 사용하는 데 필요한 사전 정보를 무시하기 때문이다. 하지만 인간의 실제 판단은 정보의 양뿐만 아니라 정보가 주어지는 순서 및 구성되는 방식에도 의존적이다. 사전 정보를 단일 사건에 대환 확률이 아니라 자연 빈도수로 바꿔주는 경우, 사람들은 베이즈 공식을 몰라도 올바른 판단을 할 수 있다. 이에 대한 이유는 무엇일까? 베이즈 공식은 ‘판단 상황의 맥락’과 무관하게 사용 가능하도록 고도의 추상화 과정을 통해 탄생한 ‘문제 해결의 분석적 도구’이다. 따라서 베이즈 공식에 따라 정보가 구성되면, 대부분의 사람은 그러한 정보에 둔감할 수밖에 없다. 해당 정보가 판단 상황의 맥락을 암시하도록 재구성되는 경우, 베이즈 공식을 모르는 사람들도 올바른 판단을 하게 된다. 여기에서 얻을 수 있는 교훈은 다음과 같다.

 

• 베이즈 공식과 같은 형식 절차를 기준으로 인간의 합리성 능력을 평가하는 경우, 실제 판단에서 인간의 합리적 능력이 기능하는 방식은 왜곡된다.

 

이를 인식하지 못하는 사람은 베이즈 공식과 같은 것을 ‘문제 해결의 유용한 분석적 도구’가 아니라, ‘합리적 능력의 본질’ 그 차체로 여긴다. 그는 베이즈 공식의 형식 절차에 따라 판단하지 않는 대부분의 사람들을 비합리적 동물로 규정한다. 하지만 다수가 그를 ‘합리성의 왕(king of rationality)’으로 모시는 일은 없을 것이다.