2012년 7월 16일 한국 수학계에 낭보가 전해졌다. 아르헨티나 마르델플라타에서 열린 제53회 국제 수학올림피아드(IMO)에서 한국 대표단이 금메달 6개를 획득해 종합 1위에 올랐다는 소식이었다. 한국이 수학올림피아드에 처음 참가한 것은 1988년. 25년 만에 거둔 1위로 대표단 6명 전원이 금메달을 따 의미를 더했다. 100개국 548명의 참가학생 중 6위를 거뒀던 장재원씨(당시 서울과학고 3년)는 귀국 후 가진 인터뷰에서 “수학과에 진학하겠다”고 밝혀 주목을 받았다.

기자는 2000년 과학고에 입학해 1년여간 다니다 자퇴한 경험이 있다. 당시만 해도 ‘우수한 인재는 의대에 간다’는 것이 당연하게 여겨지던 때였다. 국제 올림피아드에서 우수한 성적을 거뒀던 기자의 동기는 서울대 의대에 진학했다. 장재원씨가 “수학과에 가겠다”고 밝힌 것이 이례적으로 보일 수밖에 없었다.

장재원씨뿐 아니다. 최근 이과 수험생들 사이에서 “의대보다 수학과 들어가기가 더 힘들다”는 말이 힘을 얻고 있다. 익명을 요구한 한 유명 사립대 홍보팀장은 5월 14일 전화통화에서 “수험생의 진로 선택에 영향을 미칠 수 있어 구체적인 자료를 제공하기는 힘들다”면서도 수학과의 인기가 실제로 높아지고 있다고 말했다. 그는 “입시학원에서 제공하는 정보에는 의대 지원에 필요한 수능 점수가 훨씬 높게 나온다. 그런데 막상 입학 후에 실제 수능 점수를 비교해 보면 수학과 학생들의 점수가 의대 학생들과 크게 다르지 않다”고 말했다. 2012학년도에 이 학교에 입학한 수학과 학생들의 평균점수와 의대 학생들의 평균점수 차는 5점 안팎이라고 덧붙였다. 한 입시정보 사이트에서 자체적으로 조사한 결과에 따르면 지난해 서울대 수리과학부 학생들의 입시 점수는 585.78점으로 의대 학생들과 거의 차이가 나지 않거나 약간 더 높은 것으로 드러나기도 했다. 2013학년 서울대 수리과학부 정원은 35명, 포항공대 수학과는 15명이었다. 몇 명 되지 않는 정원에 서울대 수리과학부 수시모집 일반전형 경쟁률은 11.35:1, 포항공대 수학과 수시모집 일반전형 경쟁률은 8.27:1까지 치솟아 평균보다 높은 경쟁률을 기록했다.

우수한 학생들이 의대가 아닌 수학과로 몰리는 이유는 뭘까. 하승열 서울대 수리과학부 교수는 최근 들어 높아진 한국 수학계의 위상을 이유로 꼽았다. “예전에는 외국에서 석박사 학위를 따야만 외국의 포닥(박사후과정)을 하거나 국내 강단에 설 수 있다고 했어요. 그런데 요즘은 서울대에서 석박사 학위를 따고 외국으로 진출하거나 국내 대학교수 자리를 얻은 학생이 많아요.”

또 수학 전공자들의 진로가 다양해지고 있다는 것도 수학과에 대한 인기가 높아지는 이유다. 하 교수는 “연구를 계속할 수도 있겠지만 석박사 과정에 들어서 다른 학문과 융합한 응용수학을 공부해 전문가로 나서는 학생도 많다”고 말했다. 해석학을 공부한 학생이 금융 전문가로 진출하기도 하고, 선형대수학을 공부한 학생이 기후 전문가가 되기도 한다. 하 교수의 연구실에는 학부생의 출입도 끊이지 않는다. 기자가 찾아간 날에도 12학번 유상우·김정호 학생이 하 교수와 함께 연구과제를 정하는 토론을 벌이고 있었다. 다음 학기부터 외국 대학에 1년간 교환학생으로 떠날 예정인 김정호 학생은 “수험생들 사이에서도 수학이 기초학문이라는 생각이 옅어지는 것 같다”며 “수학을 공부하면 이공계 어디서든 응용할 수 있다는 생각에 수학과를 지망했다”고 말했다.

수학자가 되려는 사람이 늘어나고 대학의 수학과 경쟁률이 높아지는 이유는 수학이 다른 분야에 응용할 수 있는 기초 능력을 키워준다는 인식이 확산된 데 있다. 정보통신 기술의 발전에 수학이 빼놓을 수 없는 역할을 했다는 사실은 잘 알려져 있다. 암호학을 전공한 천정희 서울대 수리과학부 교수는 “요즘 암호학은 일상생활과도 밀접한 관련이 있어 일반인을 대상으로 하는 강연도 자주 나가는 편”이라고 말했다. 천 교수가 최근 개발해낸 ‘4세대 암호’ 기술은 정보 보안을 강화할 수 있는 핵심 기술이다. 암호문을 굳이 풀어내지 않아도 연산이나 검색을 할 수 있는 4세대 암호의 대표적인 것은 ‘완전동형암호’. 암호화된 상태에서 덧셈·곱셈 등을 할 수 있어 의료·납세·교육 등 정보 시스템에서 숫자 정보를 보호할 때 매우 유용하다. “예를 들어 건강보험공단에서 완전동형암호를 사용하면 일반 직원들은 암호화된 상태에서 데이터를 다루게 됩니다. 개인정보의 유출 위험이 한결 줄어드는 셈이죠. 관리자만이 암호를 푸는 복호화 권한을 가지기 때문에 해킹 위험도 줄어듭니다.” 사회문제를 해결하는 데도 수학자의 도움이 필요하다는 인식이 커진 덕분인지 천 교수의 강의를 들으러 오는 사람 중에는 초등학생, 중학생도 적지 않다.

대한수학회장을 지낸 김도한 서울대 수리과학부 교수는 수학의 인기가 높아지는 것이 전 세계적 흐름이라고 설명했다. 김 교수의 전공은 해석학이다. 우리나라 수학계에서 특히 강세를 보이는 해석학 분야는 수학을 비롯해 자연과학뿐 아니라 사회과학 등에도 응용된다. 김 교수는 “거의 모든 사회현상의 변화는 해석학을 통해 설명할 수 있다”고 설명했다. 특히 1990년대 이후 집중적으로 개발된 편미분방정식은 금융 분야는 물론 디지털기술, 의학기술, 기후예측과 교통이론에 이르기까지 광범위한 분야에 쓰이고 있다. 최근 노벨 경제학상을 받은 학자 중에도 수학자가 많다. 2012년 노벨 경제학상을 받은 로이드 섀플리 UCLA 명예교수를 비롯해 영화 ‘뷰티풀 마인드’의 모델이 된 존 내시 프린스턴대 교수, 2007년 노벨 경제학상을 받은 에릭 매스킨 프린스턴대 교수와 로저 마이어슨 시카고대 교수까지 수학은 경제학의 이론적 토대를 세우는 데 중요한 역할을 해왔다.

이런 분위기 속에 최근 경제·경영학을 공부하려면 수학적 능력을 필수적으로 갖춰야 한다는 생각도 늘어나고 있다. 2010년부터 학생을 모집한 아주대 금융공학과에는 매년 15~20명 가까운 과학고 출신 학생들이 입학한다. 강원과학고를 졸업한 조유상 학생도 그중 한 명이다. 조유상 학생은 “나이 많은 분들은 과학고를 나와 금융을 공부한다고 하면 ‘신기하다’고 말하지만, 또래 친구들은 ‘금융에서 수학은 필수’라는 반응을 보인다”고 분위기를 전했다. 해석학을 전공한 배형옥 아주대 금융공학과 교수는 “금융공학에서는 생산관리와 과정, 인사관리까지 수식을 통해 해결한다”며 “수학의 외연이 넓어지고 있는 만큼 수학에 재능을 보이는 학생들이 다양한 방법을 통해 수학 공부를 계속해 나가고 있다”고 설명했다. 특히 응용수학 분야에서는 문제 해결 능력을 강조하던 예전과 달리 분석 능력, 커뮤니케이션 능력 등 사회과학적 능력도 중요해지고 있다는 것. 배 교수는 “인문학적 소양을 갖춘 학생이 수학 공부를 하는 것은 이제 흔히 볼 수 있는 일”이라며 이공계열 학생만이 고등수학을 공부한다는 선입견이 없어지고 있다고 말했다.

강석진 서울대 수리과학부 교수의 전공은 대수학. 엄밀하게 말하면 표현론이다. 숫자 대신 문자를 써서 복잡한 법칙을 간결하게 표현하는 대수학은 수학 일반의 기초를 이루는 분야다. 표현론은 대수적 구조를 알고 싶을 때, 다양한 방식으로 풀어서 찾아내는 방법을 다룬다. “만약 배우 김태희가 어떤 사람인지 알고 싶다면 CF나 드라마를 보기도 하고 김태희가 나온 다큐멘터리를 분석할 수 있겠죠. 마찬가지로 대수적 구조를 다양한 차원의 벡터 공간에 옮겨 놓는 것이 대수학의 표현론입니다.” 여기에서 수학자에게 요구되는 능력은 어려운 문제를 쉽게 풀어낼 수 있는 표현력과 다양한 차원에서 문제를 바라볼 수 있는 창의력이다. 강 교수는 “흔히들 수학자가 되려면 계산 능력이나 한 가지에 파고드는 집중력이 중요하다고 생각하기 쉽지만 사고방식이나 태도가 더 중요하다”고 강조했다. 유연한 사고방식, 합리적 판단은 수학자뿐 아니라 요즘 사람들에게 모두 중요시되는 능력이라는 것이다. 강 교수는 “수학에 대한 관심이 높아지는 현상은 수학자가 갖춘 능력이 요즘 시대에 가장 필요한 능력이라는 사실을 잘 알고 있다는 증거”라고 말했다.

30년 넘게 강단에 서 온 김도한 교수는 30년 전과 현재 한국 수학계의 가장 큰 차이점으로 다양한 인재가 늘어난 것을 들었다. “수학 문제를 풀 때도 안 풀리는 문제를 해결하려면 다른 분야를 연구하고 자유롭게 토론하는 일이 필요합니다. 제가 처음 수학을 공부하기 시작했을 때만 해도 함께 토론할 사람이 적었어요. 하지만 요즘은 우수할 뿐 아니라 다양한 경험과 소양을 갖춘 인재가 많습니다.” 이공계의 위기가 사회문제로 제기됐을 때도 있었지만 수학계는 꾸준히 성장해 왔다는 것. 김 교수는 “머지않아 우리 수학계에서도 필즈상을 받고 세계적 석학 반열에 오르는 수학자가 탄생할 것”이라며 낙관적 전망을 내놓았다.