뷰페이지

[박형주의 세상 속 수학] 코파카바나 해변에서 말편자를 찾다

[박형주의 세상 속 수학] 코파카바나 해변에서 말편자를 찾다

입력 2017-07-11 17:46
업데이트 2017-07-11 17:49
  • 글씨 크기 조절
  • 프린트
  • 공유하기
  • 댓글
    14
이미지 확대
박형주 아주대 석좌교수
박형주 아주대 석좌교수
미국 수학자 스티브 스메일은 1998년 ‘수학 인텔리전서’라는 학술지에 논문을 기고했는데, ‘리오의 해변에서 말편자를 찾다’라는 특이한 제목을 붙였다. 코파카바나 해변에서의 추억을 다룬 듯이 보이는 이 글은 사실 혼돈 이론을 설명하는 수학 논문이었다. 수학 논문에 어울리지 않은 이 범상치 않은 제목은 뭘까.

‘푸앵카레의 추측’은 20세기를 통틀어 수학자들을 좌절시키던 난제 중의 난제였다. 위상수학 분야의 문제인데 쉽게 표현한다면 ‘내 근처의 사실을 관찰해 전 우주적 성질을 유추할 수 있는가’ 정도 된다.

난공불락이던 이 문제를 5차원 이상에서 해결해 1966년에 필즈상을 받은 사람이 스메일이다. 그 뒤에 4차원의 경우를 해결한 프리드먼과 최종적으로 3차원의 경우를 해결한 그리고리 페렐만에게 필즈상이 수여됐다. 수상을 거부한 페렐만까지 포함해 하나의 문제로 3개의 필즈상이 나온 것이니 이 문제에 대한 관심이 얼마나 대단했었겠는가.

이 난제의 돌파구를 처음 찾은 스메일은 올해 87세의 고령인데도 여전히 강연과 연구를 한다. 하지만 그는 어린 시절부터 영특함을 드러냈던 천재가 아니었다. 공부를 잘하는 편에 속해 미시간대학에 입학했지만, 대학 성적이 신통치 않아 오히려 주위에 걱정을 끼쳤다. 미국 대학원에서는 성적만을 보지 않고 미래의 가능성에 대한 투자의 의미로 소수의 대학원생을 뽑아 기회를 주는 경우가 있는데, 스메일은 운 좋게도 이런 경우로 대학원에 진학했다. 하지만 ‘역시나’ 무리였던 걸까. 대학원에서 낙제점을 받다가 수학과 학과장에게 불려가 퇴학 경고까지 받고 나서야 마음을 가다듬고 심각하게 공부하기 시작했다.

우여곡절 끝에 겨우 박사 학위를 받은 스메일은 포스트닥 연구원이 됐다. 반전은 이때 일어났다. 당시 괴물과도 같던 푸앵카레 추측 문제를 5차원 이상에서 완벽히 해결하는 기념비적 논문을 내어 수학계를 충격에 빠트린 것이다. 스메일은 당시 프린스턴 고등연구소에서 친해진 브라질 수학자의 초청으로 리우에서 지내면서 이 연구의 주요 부분을 진행했다. 그래서 자신의 주요 연구 업적은 리우의 해변에서 이루어졌다고 말하곤 했는데, 이 때문에 나중에 큰 문제에 직면하게 된다. 미국민의 세금으로 조성된 미국 연구재단의 연구비로 놀러 다녔다는 비난을 받게 된 것이다. 1968년 당시 미국 존슨 대통령의 과학보좌관이던 도널드 호닉은 ‘사이언스’ 저널에 기고한 글에서 ‘리우의 해변에서 수학한답시고 국민 세금을?’이라고 맹공을 퍼부었다.

하지만 그렇게 이루어진 연구로 세기의 난제를 풀었고 필즈상을 받았다. 전공 분야인 위상수학에서 최고의 명성을 쌓더니 관심을 바꾸어 동역학계로, 그리고 계산이론으로 연구 분야를 종횡무진 넘나들며 20세기 최고 수학자의 반열에 올랐으니 어쩌랴. 그가 해변에서 가장 연구 생산성이 높았다고 말한 건 과장이 아니었던 것이다. 말편자 함수(horseshoe function)는 스메일이 혼돈 이론을 발전시키면서 개발한 주요 수학 개념이다. 호닉이 그를 비난하기 위해 사용했던 표현을 그대로 가져다 쓰면서 혼돈 이론의 주요 개념이 바로 그 리우 해변에서 탄생했음을 말하는 과정에서 이 범상치 않은 제목이 탄생한 것이다.

연구자의 자율성은 통상 연구 주제 선정의 자율성을 말하는 것으로 해석된다. 하지만 스메일의 경우를 보면 연구 방식의 자율성은 훨씬 더 어려운 문제인지도 모르겠다.

2017-07-12 30면

많이 본 뉴스

  • 4.10 총선
저출생 왜 점점 심해질까?
저출생 문제가 시간이 갈수록 심화하고 있습니다. ‘인구 소멸’이라는 우려까지 나옵니다. 저출생이 심화하는 이유가 무엇이라고 생각하시나요.
자녀 양육 경제적 부담과 지원 부족
취업·고용 불안정 등 소득 불안
집값 등 과도한 주거 비용
출산·육아 등 여성의 경력단절
기타
광고삭제
위로