우리나라 학생들이 가장 많이 공부하는 과목은 아마 수학일 것이다. 요즘은 초등학교 혹은 그 이전부터 시작해 많은 시간을 들여가며 수학 문제를 푼다. 하지만 제일 싫어하는, 혹은 제일 못하는 과목을 말하라고 하면 많은 사람들이 당당하게 수학이라고 말하는 듯하다. 그 많은 ‘수포자’를 만드는 수학을 도대체 왜 배우는 것일까? 정말 수학은 그저 입시를 위한 방편이고, 대학에 들어가고 나면 아무 쓸모가 없는 것일까? 

몇 년 동안 문명과 수학이라는 강의를 맡아 가르치면서, 이 수업을 들은 학생들이 수학을 왜 배우는가라는 질문에 대한 대답을 찾았기를 바란다. 이 질문은 비단 현재 우리나라 학생들만의 문제는 아닌 듯하다. 고대 그리스의 유클리드도 기하학을 배우러 온 한 학생에게 이걸 배워서 어디다 써먹을 수 있는지 질문을 받았다고 한다. 그가 하인을 불러서 “이자에게 동전 세 닢을 줘라. 그러면 배운 것으로부터 무언가 얻은 것이 될 테니….”라고 말했다는 일화가 전해진다. 

영화 〈마션〉에서 주인공이 화성에서 살아 돌아온 뒤 우주인이 되고자 하는 학생들에게 어떻게 살아남았는지 이야기하며 “수학을 합니다. 한 문제, 한 문제 해결해 나갑니다. 그렇게 충분히 많은 문제를 해결하면 살아 돌아올 수 있습니다.”라고 말한다. 이는 수학이 그저 의미 없어 보이는 문제를 푸는 것이 아니라, 무엇이건 자신이 당면한 문제를 어떤 방식으로든 해결할 수 있는 해답을 찾는 과정이라는 것을 가장 잘 보여주는 말이 아닌가 싶다.

그럼에도 불구하고, 그것보다 조금 더 직접적으로 수학에 어떤 쓸모가 있는지 묻는다면 사실 수학이 영향을 미치는 분야는 의외로 많이 있다. 우선 암호를 들 수 있다. 2차 대전에서 연합군이 승리할 수 있었던 결정적 이유가 독일군의 암호를 효과적으로 해독한 것이고, 여기에 앨런 튜링을 비롯한 수학자들의 역할이 결정적이었음은 영화 〈이미테이션 게임〉을 통해서도 알 수 있다. 영국 수학자 고드프리 하디는 “나는 지금까지 ‘실용적’인 것은 한 번도 해 본 적이 없다. 나의 그 어떤 발견도, 직접적으로나 간접적으로나, 선을 위해서나 악을 위해서나, 이 아름다운 세상을 변화시키지 않았고 앞으로도 변화시키지 않을 것이다.”라며, 자신이 연구한 수학이 어떤 식으로도 실생활에 응용되지 않을 거라고 말했다. 하지만 그가 평생 연구했던 정수론에서 나온 아주 큰 수를 소인수분해하는 것이 어렵다는 사실에 기반해 RSA 암호라는 막강한 암호가 만들어졌고 이는 인터넷 상거래나 전자 서명 등에 사용되고 있다.

구글의 검색 엔진으로 확고한 자리를 차지할 수 있게 만든 페이지 랭크 알고리즘에서 신뢰할 만한 웹페이지에 가중치를 줘 순위를 매기고 그에 따라 순위가 높은 순으로 검색 결과를 보여주는데 선형대수학에서 배우는 행렬에 관한 지식이 사용됐다.

수학은 빈센트 반 고흐 등의 작품으로 알려진 미술품 중 위작을 찾는 데도 이용된다. 잉그리드 도비시를 포함한 수학자들은 웨이블릿 분석을 통해 원작 그림을 디지털 이미지로 바꾼 다음 작은 블록으로 나눠 각 부분의 세밀한 붓질의 패턴을 수학 알고리즘으로 분석했다. 위작의 경우 모방을 위한 노력 때문에 나타나는 주저함의 정도가 높으므로 이를 이용해 성공적으로 위작을 가려낼 수 있었다.

또한 최근에는 생물학에서도 수학이 다양하게 사용된다. 적절한 치료법을 찾기 위해 약의 효과를 알고자 실제 임상 실험을 한다면 시간과 비용이 많이 들 뿐만 아니라 위험 부담 역시 크다. 그러나 약에 의한 생화학적 반응에 관한 미분방정식을 만들어 수학적으로 그 해를 계산해 낸다면 가상 실험을 통해 약의 효과를 예측한 셈이 돼 훨씬 더 빠르고 안전하게 신약 개발을 할 수 있다.

이렇듯 수학은 놀라울 만큼 다양한 분야에서 사용되고 있고 굉장한 힘을 발휘하고 있다. 수학이 언제 어디서 여러분 앞에 튀어나올지 모른다. 이제 입시의 중압감에서 조금 벗어나 다른 시각에서 수학을 바라보기를 바란다. 그리고 무엇보다 작은 수학 문제더라도 스스로 해결했을 때 느꼈던 뿌듯함과 즐거움을 다시 떠올려 보기를 바란다.