누군가가 수학을 공부한다고 할 때 대부분의 사람들은 그 사람에게 가장 필요한 것이 계산력이나 논리력이라고 생각한다. 하지만 실제로 수학에 있어서 가장 필요한 것은 창의력이다. 우리가 알고있는 수학은 전부 창의적 발견이라고 해도 과언이 아니다. 숫자를 탄생시킨 것도 숫자의 필요성을 느낀 어떤 한 사람의 창의적인 발명이었다. 'π,e,i'역시 정확하게 정의내리지 못하는 수에 대해 수학자들이 신개념 자체를 창조해 낸 것이다. 물체의 움직임을 물체의 위치의 변화율로 생각한 뉴턴의 새로운 발상이 현대 미적분학을 탄생시켰으며, ‘곱셈을 덧셈처럼 할 수 있으면 얼마나 좋을까’라는 네이피어의 발상이 log계산법을 등장시켰다.

하지만 우리가 ‘일반적’으로 생각하는 수학은 이 창의적으로 완성된 수학을 반복 계산하는 것이다. 왜 수학의 창의성에 집중하지 않는 것일까? 그 원인은 현대 수학교과과정에서 찾을 수 있다.

중·고등학생들은 대부분 수능을 염두에 두고 수학 공부를 한다. 하지만 수능의 수학 문제는 창의력보다는 얼마나 정확하고 빠른 계산을 할 수 있는지에 초점이 맞춰져 있다. 이 때문에 학생들은 문제에 이론을 대입시켜 풀이방법을 생각하기보다 문제의 유형별로 풀이방법을 외우는 공부법을 선택한다. 풀이방법이 쉬운데도 불구하고 신 유형 문제만 등장하면 오답 자가 속출하는 것도 이 때문이다. 국가수리과학연구소 김정한 소장은 한 인터뷰에서 “수학은 조급하게 생각한다고 해서 답이 얻어질 수 없는 학문”이라며 “이해할 때까지 생각해야지 문제지 뒤편에 적힌 답을 좇아서는 수학이 늘 수가 없다”고 학생들을 지적했다.

그렇다면 창의적인 생각은 어떤 것일까? 해답은 의외로 단순하다. 새로운 시각으로 접근을 해보는 것이다. ‘2의 30제곱은 몇자리 수일까?’라는 간단한 문제를 예로 들어 보자. 이 문제의 일반적 풀이는 직접 곱하는 것이다. 하지만 ‘2의 10제곱이 1024≒1000니까 2의 30제곱은 10자리 수’라는 창의적 발상으로 문제를 간단히 풀 수 있다.

문제를 어떻게 쉽게 풀 수 있을까라고 생각하고 고민해서 새로운 풀이 방식을 찾는 것은 창의적 생각의 기본이다. 새로운 풀이 방법을 깨닫는 순간 수학 실력은 늘게 되는 것이다. 김씨는 “성경책을 많이 본다고 크리스천이 되는 게 아니라 깨달음의 순간이 필요한 것과 마찬가지”라고 말한다.

페르마의 수학 노트 마지막에는 페르마의 마지막 정리*와 함께 이런 말이 쓰여 있다.

‘나는 경이적인 방법으로 이 정리를 증명했다. 그러나 이 책의 여백이 너무 좁아 여기 옮기지는 않겠다.’

몇 년 전 한 수학자가 다양한 현대의 수학이론들과 복잡한 정리들로 페르마 정리의 증명에 성공했다. 하지만 그의 풀이는 페르마가 살던 당시보다 훨씬 진보한 개념들로 가득 차 있다. 분명 페르마는 어떤 창의적 깨달음으로 간단하게 이를 증명할 수 있었을 것이다.

앞에서 이야기했던 경비원이나 윌 헌팅 역시 창의력이 있었기에 해박한 수학적 지식 없이도 난제들을 풀 수 있었다. 지금 이 글을 읽고 있는 독자들도 예외는 아니다. 당신의 창의적 가능성이 당신을 수학자의 길로 인도할지도 모른다.

*페르마의 마지막 정리: xⁿ+yⁿ=zⁿ. n이 3이상의 정수일 때, 이 방정식을 만족하는 정수해 x,y,z는 존재하지 않는다.

박기범 기자 ask_walker@yonsei.ac.kr

그림 김진목