‘수학’이라는 말만 들어도 기가 죽는 사람이 적지 않다. ‘국포자’ ‘영포자’는 낯설어도 ‘수포자’는 수학능력시험과 무관한 사람들에게도 익숙한 조어다. 아카데미에서의 수학은 ‘천재의 학문’이란 이미지에 둘러싸여 있다. 영화 속 수학자들이란 복잡하고 추상적인 수의 세계 속에 살지만 현실적인 생활 능력은 어딘지 조금씩 떨어지는 벽창호 같은 인물이다.

방학을 맞아 한국에 머물고 있는 김민형 옥스퍼드대 교수(55)를 찾기 전에도 세속적 기대와 호기심을 갖고 있었다. 그는 2011년 한국인 수학자로서는 최초로 옥스퍼드대 수학과 정교수에 임용됐다. 중학교 1학년 때 몸이 아파 학교를 쉰 것을 계기로 정규 교육 과정으로 돌아가지 않았다는 사실도 그에 대한 ‘신비감’을 증폭시킨다. 김민형은 검정고시를 본 뒤 서울대 수학과에 들어갔으며, ‘서울대 개교 이래 첫 조기 졸업생’으로 기록되기도 했다.

김민형은 방학기간 중 서울고등과학원 석학교수 자격으로 서울에 머물며 고차원의 세미나와 친근한 대중강의를 병행했다. 그는 서울고등과학원 ‘수학난제연구센터’ 연구실에서 반팔 티셔츠, 반바지 차림으로 기자를 맞이했다.

문학평론가 김우창의 아들로 중1 자퇴, 검정고시· ‘서울대 최초 조기졸업생’이지만 자신을 ‘아마추어’라고 평가 “난 수학을 하지 않고 수학에 대해서 생각”

극단적인 경우를 미리 생각하는 것이 수학적 사고의 강점…수학을 하면 어떤 주장을 정당화하는 것이 얼마나 어려운 지 그 감각을 배우게 돼

수학에서 완벽한 답을 낼 수 있는 경우는 드물어, 인생이 그렇듯이…‘수포자’란 말 나오지만 한국 ‘수포자들’ 수학 수준 높은 것 또한 교육 덕분

-연구에 바쁘실 텐데 대중강의도 하고 책(<수학이 필요한 순간>)도 쓰셨네요.

“수학 하는 재미에는 여러 가지가 있는데, 가장 일상적이고 쉬운 재미는 ‘좋은 수학을 알려주는 재미’입니다. 다른 수학자와 의견과 지식을 교환하는 것도 재미있지만, 수학에 관심 있는 사람 누구와도 이야기하면 즐겁습니다.”

-청중이 강의를 어려워하지는 않나요? “‘페르마의 마지막 정리’에서 유래된 산술대수 기하학의 고전적인 난제를 위상수학의 혁신적인 방식으로 해결”한 것이 당신의 업적이라고 하는데, 솔직히 무슨 말인지 알 수가 없네요.

“제 지레짐작인지 몰라도, 대부분 청중이 관심을 가지고 집중해 주십니다. 전문가하고 대화할 때와 분위기가 다르다는 느낌은 받지 못했습니다. 물론 거론하는 수학의 종류는 다르지만, 근본적인 호기심은 비슷합니다. (주로 영어로 학문을 하기에) 영어로 된 수학용어를 우리말로 어떻게 표현할지 막히는 경우가 있는데, 그럴 때는 즉석에서 좋은 번역어를 제시하는 청중도 있습니다.”

세계적인 수학자인 그는 ‘아마추어 수학자’로 살아왔다고 자평한다. “수학을 하는 것보다 수학에 대해서 생각하는 것”을 더 즐겼기 때문이다. 김민형의 ‘프로’ 동료 중에는 “입 다물고 계산이나 해!”라고 말하는 사람이 있다지만, 대중에게는 전문가의 ‘아마추어’인 척하는 태도가 친근하고 고맙다.

<수학이 필요한 순간>(인플루엔셜)은 수학에 관한 책이니 당연하게도 몇 가지 복잡한 수식이 나온다. 하지만 이 수식들을 건너뛰어도 독서에는 별 지장이 없다. 오히려 수학을 통해 우리 삶과 사회의 구성 원리를 좀 더 깊게 탐구하는 방식을 배울 수 있다. 예를 들어 ‘답이 없어도 좋다’라는 제목이 붙은 장은 현대 민주주의의 형식에 대해 고민하게 한다. 대부분 현대 국가는 중요한 의사결정을 할 때 구성원 다수의 뜻을 반영하는 민주주의를 채택하고, 이를 위해 1인1표제에 기반한 대의제를 실시한다. 하지만 다수의 후보가 출마해 최대 득표한 1인을 선출하는 다수결 선거가 정말 최선인가. 혹시 당선자 A를 지지하는 이만큼 증오하는 이도 많다면, 그 체제는 제대로 작동할까. 단순다수대표제가 아니라 선호도 조사로 대표를 선출할 수는 없을까. 18세기 이후 수많은 수학자들이 민의를 정확하게 반영하는 선거 방식을 고민해왔다. <수학이 필요한 순간>에는 다섯 명의 후보가 출마했을 때, 이 중 누구도 대표가 될 수 있는 여러가지 선거 방식을 보여준다.

-실제 정책을 만들 때 수학자가 참여하는 경우도 많나요.

“일부러 극단적이고 인위적인 경우를 만들어 사고할 수 있다는 것이 수학적 사고의 강점입니다. 극단적인 경우를 미리 생각하면 현실적인 문제를 해결하는데 도움이 되죠. 쉽게 생각할 수 없다, 쉬운 결론을 낼 수 없다는 점을 인지하는 데에서부터 과학적 사고가 출발한다고 볼 수 있습니다. 경제학자들 중에는 근본적으로는 수학자라 할 만한 사람들이 많습니다. 영화 <뷰티풀 마인드>의 주인공으로 노벨경제학상을 받은 존 내시가 수학자였고요. 소련 출신으로는 유일하게 노벨경제학상을 받은 레오니트 칸토르비치도 수학자입니다. 너무나 당연해서 잠시 잊었는데, 통계학자도 정책 결정에 참여합니다. 통계학은 물론 수학의 영역이죠.”

-현대 수학에서는 ‘정확함’이 아니라 ‘적당함’을 찾는다는 대목이 인상적이었습니다. 수학에 대한 통념과는 다른 내용이기도 하고요.

“인생의 많은 일들이 그렇듯, 수학에서도 완벽한 답을 낼 수 있는 경우는 드뭅니다. 수학은 생각을 정화해가는 과정일 뿐, 완벽한 사고에 이르기는 어렵습니다.”

-덜 알려진 현대 수학의 최신 개념 중 앞으로 좀 더 보편화될 영역이 있을까요.

“직관적으로는 정보와 관련한 수학 영역이 좀 더 활용될 것 같습니다. 이제 엑셀은 많이 사용되고 있죠. 앞으로는 정보를 진열하고 정리해 시각화하는 과정에 좀 더 고등한 수학이 필요해지고, 일반인에게도 널리 알려질 것 같습니다. 미적분도 그렇습니다. 경제적 불평등의 정도를 표현하는 지니 계수를 구하는데는 적분이 필요합니다. 세상과 사회를 이해하기 위한 전문가의 영역이 일반인에게로 점점 퍼져나가고 있습니다.”

-기술 발달이 수학의 발전에도 도움을 주었습니까.

“컴퓨터를 사용해 고등한 수학의 실험을 쉽게 하게 되었습니다. 무엇보다 인터넷을 통해 전 세계 수학자들이 쉽게 의사소통하고 아이디어를 교환한다는 점이 중요하겠네요. 수학은 그 어떤 학문 분야보다도 국제적인 협업이 많이 일어납니다. 물론 협업 때문에 독특한 관점을 개발하는데 방해가 되는 경우도 있겠지만, 대체적으로는 도움이 됩니다.”

-정확이 아니더라도 근사를 찾고, 정답이 막힌 곳에서 새로운 방법을 찾는다는 점에서, 학문이나 역사의 발전에 대한 당신의 생각이 낙관적이라 이해해도 되겠습니까.

“낙관적이라기보다는 현실적이라고 하죠. 세계 경제의 불평등에 대한 의견이 많지만, 통계적으로 보면 세계는 더 평화로워지고 가난도 줄어들고 있습니다. 그렇다면 왜 사람들은 나쁜 측면에 집중하는가. 아마 나쁜 점을 보완하고 향상시키고 싶어서겠죠.”

-한국의 교육과정에서 수학은 중요한 문제입니다. 수학 교육의 문제점을 지적하는 의견이 많고, ‘수포자’란 말도 보편화되어 있습니다.

“한 가지 구분할 것이 있습니다. ‘수포자’하고 ‘수학 못하는 사람’은 구분해야 합니다. 만일 테니스 선수가 있다고 해보죠. 윔블던 우승을 포기한다고 해서, 그 선수가 테니스를 못 치는 건 아니잖아요. 제가 관찰한 바로는 대부분의 수포자는 수학을 잘합니다. 한국의 중·고교 수학 기준이 높기 때문입니다. 기준이 높아 많은 이들이 수학을 포기하지만, 그 높은 기준 때문에 많은 이들의 수학 실력이 향상된 것도 사실입니다.”

덧셈, 곱셈, 뺄셈, 나눗셈의 사칙연산은 고대에는 전문가의 영역이었다고 한다. 확률이나 미적분은 근대까지만 해도 천재나 이해할 수 있었다. 100년 전 만해도 “내일 비올 확률이 40%”라는 말을 제대로 알아듣는 이가 드물었을 것이다. 그런 면에서 수학을 못한다고 생각하는 사람도 사실은 수학을 꽤 한다.

-대학에서 학생들을 가르치실 때 특별한 방법론이 있나요.

“당연하게도, 수학이든 어떤 학문이든 지속적으로 해야 합니다. 글 쓰는 사람도 매일 꾸준히 몇 시간씩 써야 한다고 하잖아요. 수학도 잘하는 사람은 결국 젊었을 때부터 꾸준히 해온 사람입니다. 물론 아무나 성실할 수 있는 건 아니고, 어느 정도의 자질은 있어야겠죠.”

-중학교 1학년 이후 정규 교육 과정을 이수하지 않았습니다. 특별한 이유가 있었나요.

“뒤돌아보면 심각한 결정이었지만, 당시에는 대수롭지 않게 생각했습니다. 한번 학교에 빠지다 보니 계속 안 가게 되더라고요. 부모님도 대수롭지 않게 생각하셨습니다.”

-직업으로서의 수학자가 되기로 결심하신 이유는요.

“‘하다 보니까’였습니다. 그저 계속 했을 뿐입니다. 처음 학부에 들어갔을 때는 철학을 했는데 곧 수학으로 옮겼습니다. 대학원 때 다시 철학을 할까 하다가 그냥 익숙한 수학에 남았는데, 잘한 결정 같습니다. 말하기 조심스럽긴 하지만, 철학은 ‘이 세상에 대한 이야기’여야 할 것 같습니다. 우리에게 주어진 세상, 현실을 이해해야 하는데, 특히 17세기 이후의 사회에서는 수학 없이 현실을 이해하는 게 어렵습니다. 수학을 공부하지 않고 철학을 했다면 답답했을 것 같습니다.”

그는 세상을 느슨하게 이해해도 좋을 때가 있고, 정밀하게 이해해야 할 때가 있다고 했다. ‘수학이 필요한 순간’은 물론 후자다.

-수학자는 어떤 사람들입니까.

“영화에서는 매우 특이한 사람으로 그려지곤 하지만, 모든 집단이 그렇듯 수학자도 다양합니다. 하지만 생각해보면 ‘수학자는 좀 특이하다’는 인상이 완전히 틀리지는 않습니다. 수학적으로 현실을 바라본다는 것은 직관적으로 보이지 않는 배경을 생각한다는 뜻입니다. 어떤 현상을 이해하기 위해 극단적인 결론을 생각하는 습관을 반복하면, 살면서 그런 측면이 강하게 드러나는지도 모르겠습니다. 수학을 하면, 어떤 주장을 정당화하는 것이 얼마나 어려운지 그 감각을 배웁니다. 의견을 갖기는 쉽지만, 의견을 설명하기는 어렵죠. 예를 들어 옆에 있는 사람이 ‘사회는 이렇게 나아가야 한다’고 주장하면, 수학자는 옆에서 묵묵히 앉아만 있죠(웃음).”

-부친이 인문학 거목인 김우창 문학평론가십니다. 부자가 전혀 다른 분야를 공부하셨네요.

“아버지도 수학, 과학을 많이 권장하셨습니다. 당신도 과학을 알고 싶었는데, 기회를 놓쳤다는 느낌을 가지고 계신 것 같습니다.”

-아들이 같은 대학에서 수학을 전공한다면서요.

“아무래도 제 영향이 있었겠죠. 문학에도 관심이 있었는데, 좀 더 안전한 방향으로 결정한 것 같습니다.”

-수학 전공이 안정적이라고요?

“한국도 그렇다고 들었는데, 옥스퍼드에서 수학과는 가장 취직이 잘되는 학과입니다.”

-언제 가장 행복하십니까.

“좀 이상한 답일지 모르겠지만, 정직하게 말하면 ‘주로 행복하다’입니다. 우울을 느끼는 일이 거의 없습니다. 먹고사는 데 문제없고, 불평할 만한 상황도 없었습니다. 좋은 분들하고 만나서 얘기할 기회도 많았고요. 돌아보면 인생에 행운이 많았네요.”

한참 이야기를 하다 보니 김민형은 어느덧 신발을 벗은 채 맨발로 앉아있었다. 인터뷰를 끝낸 세계적인 수학자는 엘리베이터 앞까지 나와 사람 좋은 웃음을 지으며 손님을 배웅했다.