현상금은 대개 범인 잡는 데 걸린다. 그런데 종종 아주 많은 현상금이 걸리는 대상이 또 있다. 바로 수학문제다. 풀기 어려운 문제에 현상금을 내걸고 수학자들의 자존심과 영예를 겨뤄 왔다. 풀면 현상금을 타지만, 실패하면 목숨을 내놓기도 한다. 수학사의 난제 중 난제가 ‘페르마의 마지막 정리’이다.‘x3/4+y3/4=z3/4;n이 3이상의 정수일 때 이 방정식을 만족하는 정수해 x,y,z는 존재하지 않는다.’라는 명제를 증명하는 문제다.

만만해 보이는 이 문제는 1637년 프랑스의 아마추어 수학자 피에르 드 페르마가 제기했다. 취미로 읽던 수학책의 귀퉁이에 자신이 이 정리를 증명했으나 여백이 좁아 옮기지 않겠다고 적어 놓은 것이 수학 역사상 최대 난제가 된 것이다. 이후 당대의 내로라하는 수학자들이 앞다퉈 달려들었으나 끝내 참담한 좌절을 맛보았고, 결국 1908년 독일 사업가 파울 볼프스켈에 의해 현상금까지 내걸렸다.2007년까지 100년 안에 이 문제를 푸는 사람에게 10만마르크를 주기로 한 것이다. 이 문제는 현상금 시효를 13년 남긴 1994년 마침내 40대의 영국 수학자 앤드루 와일즈에 의해 풀렸다. 인류 최고의 천재 수학자로 통하는 가우스(1777∼1855년)조차 이솝우화의 신 포도 취급을 한 문제가 357년만에 베일을 벗은 것이다.

버금가는 난제들도 적지 않다.‘힐버트의 기본문제’와 ‘골드바흐의 추측문제’, 그리고 미국의 클레이 수학재단(CMI)이 지난 2000년 각각 100만달러의 현상금을 내건 ‘7대 밀레니엄 문제’가 대표적이다. 이 가운데 ‘7대 문제’의 1번인 ‘P대 NP’를 우리나라의 한 수학자가 풀 가능성이 높다는 보도가 나오면서 학계의 논란이 가열되고 있다.‘P대 NP’를 푸는 데 적용한 S이론이 미국의 수학잡지에 최근 게재돼 채택 가능성이 높다는 주장과 이미 실패한 해법이라는 반박이 이어지고 있다.

지난 1월 미국항공우주국(NASA)의 혜성 충돌실험은 ‘날아가는 총알을 다른 총으로 쏘아 맞힌 것’에 비유된다. 그만큼 고도의 수학적 계산이 요구되는 작업이다. 우주항공입국의 꿈을 위해 이 땅에서도 세계적 수학자가 배출되는 날이 하루빨리 오기를 빌어 본다.

진경호 논설위원 jade@seoul.co.kr