가설은 그냥 가설일 뿐입니다

파올로 루피니(Paolo Ruffini)라는 이탈리아의 수학자가 있었습니다. 그는 5차방정식을 풀 수 있는 공식은 존재하지 않음을 증명한 사람입니다. 여러분이 고등학교 때 달달 외웠던 2차방정식의 '근의 공식'과 같은 공식이 5차방정식(x의 차수가 5인)에서는 없음을 증명했던 거죠. 하지만 그의 증명은 오류가 있음이 그가 죽은 후에야 밝혀지게 됐습니다. 

루피니는 2권 분량이나 되는 자신의 증명을 책으로 출판하여 사람들에게 알리고자 했습니다. 당시의 위대한 수학자 중 한 사람이었던 라그랑주에게도 세 차례에 걸쳐 자신의 책을 보내어 '검증하거나 인정해주기를' 바랐지만 라그랑주는 아무런 답장도 보내지 않았죠. 웬일인지 사람들은 그의 증명에 큰 관심을 보이지 않았습니다. 왜 그랬을까요?

첫 번째 이유는 그의 증명이 너무나 복잡하고 길었기 때문입니다. 책으로 2권이나 되는 그의 증명을 하나하나 짚어가면서 따져보기에는 너무나 방대하고 어려웠습니다. 5차방정식 문제가 수학자들의 주요 테마 중 하나이긴 했지만, 페르마의 마지막 정리와 같이 수세기 동안 수학자들을 괴롭혔던 문제가 아니고서는 관심을 쏟을 이유가 상대적으로 적었습니다.

두 번째 이유는 부정적인 결과('5차방정식엔 근의 공식이 없다')에 시간과 노력을 들이고 싶지 않은 사람들의 심리 때문입니다. 수학자들은 오랜 세월에 걸쳐 3차방정식과 4차방정식에서 근의 공식을 규명해냈기 때문에 5차방정식에서도 근의 공식이 존재하리라고 추정했습니다. 그 공식이 복잡하고 난해하더라도 언젠가는 밝혀지리라는 믿음을 가졌지요. 

우리는 두 번째 이유에 주목할 필요가 있습니다. 사람들은 자신의 믿음에 반하는 증명을 누군가가 제시했을 때 자동적으로 그것을 반대하려는 심리가 있습니다. 자신의 가설을 '반증'하는 근거를 수용하기 어려워 합니다.

그러니 루피니가 나타나서 오랜 시간 동안 잠정적으로 믿어왔고 '입증'하려고 애써온 가설이 틀렸다는 증명을 자신들에게 던져주니 살펴볼 마음이 생기지 않았던 겁니다. 2권이나 되는 방대한 분량 때문에 더더욱 그랬죠. 그래서인지 루피니의 증명에 존재하는 오류는 그가 살아있을 땐 규명되지 못했습니다(나중에 노르웨이의 수학자 닐스 아벨이 5차방정식에는 근의 공식이 없음을 '옳게' 증명해 냅니다).

가설은 한번 설정되면 힘을 발휘하기 시작해서 마치 그 가설이 옳은 것처럼 느껴지게 됩니다. 그래서 가설을 입증할 근거만 눈에 보이고 반증할 근거는 자신도 모르게 외면하고 맙니다. 누군가가 가설의 틀림을 이야기하면 그가 제시한 근거에 먼저 눈을 돌리기보다는 가설의 보호자를 자처해 그 사람을 공격하기도 합니다.

루피니는 죽기 1년 전인 1821년에야 위대한 수학자인 코시(Cauchy)로부터 5차방정식 연구에 대해 찬사를 받았지만 코시도 루피니의 증명을 검증해본 것 같지는 않습니다. 루피니는 수학자가 아니라 발진티푸스를 연구하고 치료하는 의사로 살다가 1822년에 삶을 마감합니다.

자신이 만들었거나 자신이 지지하는 가설에 대해 객관적인 입장을 가지기가 어려움을 루피니의 '불행한 삶'이 우리에게 알려줍니다. 가설은 그냥 가설일 뿐입니다.

(*참고도서 : '아름다움은 왜 진리인가')

인퓨처컨설팅 & 유정식의 포스트는 아이폰 App으로도 언제든지 볼 수 있습니다.  여러분의 아이폰에 inFuture App(무료)을 설치해 보세요. (아래 그림 클릭!)