서울대 교수와 미국 유타대 교수가 힘을 합쳐 50여년 동안 미해결로 남아있던 수학계의 난제를 풀어냈다. 지난 5일(수) 서울대는 강현배 교수(수리과학부)가 그램 밀턴 교수(Graeme Milton, 미국 유타대·수학과)와 함께 ‘폴야-세고 추측(Polya-Szego Conjecture)’과 ‘에슐비 추측(Eshelby Conjecture)’을 증명했다고 밝혔다. 이들의 공동 논문은 올해 초 국제 학술지 「이론 역학 및 해석학(Archive for Rational Mechanics and Analysis)」에 게재됐다. 자연대 연구실에서 강현배 교수를 만나 문제의 증명 과정에 대해 들어봤다.

-대단한 발견을 한 것으로 안다. 소감은?
이 문제는 이미 2년 전 해결한 것이다. 2006년에 투고했다. 검증하는 과정에서 그동안 시간이 걸린 것이다. 사실 그때의 감동은 좀 잊혔다.(웃음)

-열악한 국내 연구 여건에서 이뤄낸 성과인데?
서울대는 연구환경이 상당히 좋은 편이지만, 국가 전체적으로 보면 열악하다고 느낄 수 있다. 기초학문의 경우 연구자의 노력은 물론, 정부와 언론 등이 기반을 조성해주는 작업도 필요하다. 정부는 기초학문 연구자에 대한 지원을 늘리고, 언론은 좀 더 학술적인 시각으로 연구결과를 보도할 필요가 있다. 이번 증명의 경우에도 학문적 의의가 더 중요한 것인데, 언론에서는 소위 ‘돈 되는’ 응용 방안에 대해 더 깊이 있게 다루는 것 같아 아쉬웠다.

-어떤 인연으로 이 문제를 풀게 됐나?
이 문제를 오래 생각해 왔다. 다만 집중해서 생각한 것은 아니고 시간이 나면 생각하는 정도였다. 그런데 2005년 서울대에서 주최한 국제학회에서 유타대의 밀턴 교수를 만났고, 문제에 대해 이야기를 나누다가 아이디어가 생겨서 이 문제에 뛰어들게 됐다.

-문제에 대해 설명해달라
에슐비 추측은 세포 함유물 내부에 에너지가 가장 적어지기 위해서는 그 함유물이 정렬된 상태, 즉 타원이어야 한다는 내용이다. 1971년 2차원 평면에서는 참이라는 것이 증명됐지만, 그 해법이 3차원으로 확장되지는 못했다. 폴야-세고의 추측은 주어진 부피에서 영역의 최적화에 관련된 것으로 3차원에서 그 편극텐서의 ‘trace(행렬 대각선의 합)’가 최소가 되는 것은 구면체라는 예측이다. 우리는 이 두 추측이 동치관계임을 밝힌 다음 에슐비의 추측이 3차원에서도 참이라는 것을 증명해냈다.

-해결하는 도중에 별다른 에피소드는 없었나?
논문작업을 할 때 논문을 다듬으면서 어느 정도 여유를 부렸다. 사실 밀턴 교수도 나도 이런 문제를 증명하려고 애쓸 사람은 없다고 생각하고 있었다. 그런데 「이론 역학 및 해석학」 저널 편집자가 미국의 다른 교수가 증명에 도전하고 있다는 소문을 알려왔다. 깜짝 놀라서 그 교수에게 연락해 아직 완성되지 않은 논문을 볼 수 있었는데 아직 어려운 단계를 넘지 못한 상태여서 안심할 수 있었다. 결국 그 교수도 다른 방식으로 증명한 논문을 냈다. 논문이 빨리 나와 우리보다 한 달 먼저 출판됐지만 학계에선 투고일이 중요하기 때문에 별 상관은 없다.

-‘증명을 못할 수도 있다’는 생각을 한 적도 있나?
3차원 영역에서 에슐리의 추측이 참이라는 것을 증명할 때가 가장 힘들었다. 이 부분은 1930년대에 프랑스의 수학자 디브(P. Dive)가 ‘뉴턴의 포텐셜 문제’를 해결한 방법을 적용해 문제를 해결할 수 있었다. 그때가 가장 극적인 순간이었다. 그 이후에는 일사천리로 증명이 마무리됐다.

-앞으로 계획은?
더 이상 다른 추측들을 쫓아다닐 생각은 없다. 앞으로는 의료영상과 관련된 수학을 연구하고 싶다. 사실 이 분야에는 재미있는 수학문제들이 굉장히 많다.

-후학들에게 하고 싶은 말이 있다면
졸업해서 ‘어떻게 하면 편하게 살 것인가’를 생각하지 말고 꿈을 크게 가지라고 말하고 싶다. ‘학문이든 뭐든 인류를 위해서 어떻게 공헌할 것인가’를 생각했으면 한다.

Keyword
편극텐서: 3차원상의 어떤 모양에 대응되는 성질을 나타내는 행렬을 의미하며 편극텐서를 구하면 물체의 모양을 추정할 수 있다. 19세기 말에 등장한 개념으로 최근 들어 의료 영상장비, 비파괴 검사 등의 분야에서 중요한 개념으로 각광받고 있다.

뉴턴의 포텐셜 문제: ‘물체의 내부 중력장이 상수가 되는 영역은 타원체밖에 없다’는 이론. 1931년 프랑스의 수학자 디브에 의해 입증됐다.