수학사랑

이 글은 저널 '수학사랑' 56호(2006년 5/6월호)에 실렸던 필자의 글을 조금 고친 것입니다.

따짐이: 선생님, 확률과 통계라는 단원이 있잖아요.

선생님: 있지.  거의 매 학년마다 공부하게 될 걸.

따짐이: 그런데 왜 확률하고 통계가 붙어 다녀요?

선생님: 응? 무슨 소리?

따짐이: 자료를 잘 알아볼 수 있게 도수분포표나 히스토그램 같은 것으로 정리하는 것이나, 그 자료로부터 평균이나 표준편차를 구하는 것, 두 종류의 자료로부터 상관관계를 알아보는 것은 모두 통계에 해당하죠?

선생님: 그렇지.  통계란 자료를 다루는 일이니까.

따짐이: 그리고 경우의 수를 세는 방법을 생각하거나, 그것을 가지고 확률을 구하는 것, 확률로부터 기대값을 구하는 것은 ‘확률’ 부분에 해당하고요.

선생님: 요약을 참 잘 하는구나.

따짐이: ㅎㅎㅎ 제가 또 요약에는 좀 소질이...

선생님: 그렇다 치고, 질문 있다며?

따짐이: 저는 그 둘이 별로 상관이 없는 것 같거든요.  한 쪽이 다른 쪽을 공부하기 위해서 필요하다든지, 그런 관계가 아닌 것 같아요.  그런데 항상 한 묶음으로 취급되는 이유는 뭐냐는 거죠.

선생님: 당연히...

따짐이: 당연히, 사실은 관련이 있다는 거죠?

선생님: 어떻게 알았냐?

따짐이: 선생님 말씀에서 ‘관련’ 을 빼면 남는 게 없잖아요.  어쨌든 확률하고 통계가 어떻게 관련되는지 대략이나마 알려 주시면 안 될까요?

선생님: 통계나 확률을 왜 배운다고 생각하니?

따짐이: 그건... 통계는 자료를 잘 정리해서 파악하고 사용하기 쉽게 하기 위해서, 그리고 확률은 여러 가지 현상의 확률을 알아보기 위해서...

선생님: 그래서, 통계를 배워서 평균 성적이 누가 높나 비교하거나, 확률을 배워서 로또복권은 사면 살수록 손해라는 것을 깨닫거나, 뭐 이런 것들?  물론 그런 것도 중요할 수 있지만, 그런 것이 통계나 확률을 배우는 목적일까?

따짐이: 아닐까요?

선생님: 그것은, 눈이 안 보이는 사람이 코끼리 다리와 코를 차례로 만져 보고 기둥 같은 것과 뱀 같은 것으로 따로따로 파악하는 것과 같은 일이야.  물론 그것은 그 사람의 잘못은 아니지.  충분한 정보가 없어서 그런 것이니까.

따짐이: 그렇다면, 아직은 모르지만 더 공부를 하다 보면 확률과 통계가 연결되면서, 그것들이 사실은 더 중요한 공동의 목적을 향해 나아가고 있었다는 사실을 알게 될 것이다, 이런 말씀이신가요?

선생님: 그래.

따짐이: 그 공동의 목적이 뭔데요?

선생님: 나는 그것을 ‘합리적인 판단을 하기 위해’ 라고 말하고 싶다.

따짐이: 합리적인 판단?  확률과 통계의 목적이?

선생님: 그래.

따짐이: 얼른 이해가 안 되네요.  어떻게 해서 그렇죠?

선생님: 예를 들어 A, B 두 개의 문구점이 있는데 같은 연필을 A 문구점에서는 한 개에 200원에 팔고, B 문구점에서는 2개씩 묶어서 300원에 판다고 하자.  그런데 내가 지금 연필 한 개만 필요하고, 다른 조건들은 모두 같다고 하면, 어느 문구점에서 사는 것이 합리적이겠니?

따짐이: A 문구점이요.  그런데 이게 확률, 통계하고 무슨...

선생님: 어떤 행동을 하면 어떤 결과가 될 지 확실히 알고 있는 이런 문제에서는 확률과 통계의 지식이 필요 없지.

따짐이: 깜짝이야.

선생님: 하지만 판단이란 대부분 불확실한 상황에서 내려야 해.  예를 들어  원래 A반의 평균 성적은 75점, B반의 평균 성적은 78점이었는데, 어떤 새로운 학습 방법을 A반에만 사용했더니 다음 시험에서 A반은 68점, B반은 66점을 받았다.  그러면 이 새로운 학습 방법이 효과가 있었다고 판단해야 할까?

따짐이: 그렇지 않을까요?  성적이 낮았던 반이 더 높게 되었는데.

선생님: 그게, 예를 들어 우연히 B반 학생들이 점수를 못 받아서 그런 것이 아니라는 것은 어떻게 확신하지?

따짐이: 그야, 못하죠.

선생님: 그래.  그건 확실하지 않아.  하지만 그 학습법이 효과가 있는지 판단을 내려야 한다면?

따짐이: 어쩐지 평균만 알아서는 안 될 것 같군요.

선생님: 맞아 그런 판단을 하기 위해서는 A반, B반의 평균 외에도 학생 수와 표준편차 같은 정보를 알아야 해.  그리고는 그 정보들을 사용해서, 새로운 학습법 덕분이 아니라 그냥 우연히 이런 결과가 나올 확률을 계산하는 거야.  그 확률이 매우 작으면, 우연히 그렇게 된 것이 아니다, 다시 말해 학습법의 효과에 의한 결과라고 판단하는 것이지.  여기서 확률이 ‘매우 작다’ 고 판단하는 기준은 얼마나 엄격해야 하느냐에 따라 5퍼센트라든가 1퍼센트라든가 하는 값이 사용되지.

따짐이: 엇, 한 문제 안에서 통계와 확률이 모두 사용되었네?

선생님: 이런 예는 많이 있어.  어떤 과학 이론을 검증하기 위해 실험을 했는데, 그 실험 결과가 그 이론이 맞아서 그렇게 된 건지, 사실은 그렇지 않은데 다른 이유로 그런 결과가 나온 건지도 사실은 불확실해.  하지만 어느 쪽으로든 판단을 해야 하지.

따짐이: 맞아요.  어떤 회사의 주식을 사면 이익이 될지, 아니면 손해가 될지도 알 수 없죠.  하지만 사든지 말든지 판단을 해야 하죠.

선생님: 사실 생활을 하면서 내리는 판단, 공공기관에서 내리는 법률적이거나 정책적인 판단, 전문가들이 내리는 학문적인 판단 등, 우리는 스스로 하거나 남이 하는 수많은 판단들의 영향을 받으면서 살아가게 되지.  그런데 대부분 그 결과가 어떻게 될 지 불확실한 상태에서 판단을 해야 해.  아까 말한 학습법의 예에서도 학습법이 효과가 있다고 판단하든지 그러지 않든지 어느 쪽이든 잘못된 판단일 가능성이 있는 것처럼.

따짐이: 그래요.  어떤 판단을 내린다는 것은 어려운 것 같아요.  앞의 연필 문제처럼 확실한 문제는 사실 많지 않잖아요.

선생님: 바로 그럴 때 확률과 통계가 사용되는 거야.  아까 말한 학습법의 예에서, 결국 핵심은 주어진 자료를 기초로 해서 잘못된 판단(오류)이 될 확률이 ‘매우 작은’, 그러한 판단을 내린다는 것이지.  사용할 수 있는 자료들을 최대한 정리해서 필요한 정보를 수집하는 것이 통계이고, 그 정보에 기초해서 확률을 계산하고 그것을 판단의 근거로 삼는 것이 ‘확률’이야.  불확실한 상황에서 막연하게 판단을 내리는 것보다는 자료와 확률에 근거해서 판단을 내리는 것이 합리적이지 않을까?  물론 확률을 정확하게 계산하기 어려운 경우도 많지만 확률을 근거로 삼는다는 사고방식 자체는 합리적인 판단을 하기 위해 꼭 필요한 것이라 할 수 있어.  확률과 통계는 그래서 배우는 것이고, 그러다 보니 붙어 다니는 것이지.  언젠가는 힘을 합해서 아주 중요한 일을 할 예정이니까 말이야.