이른 아침 등교 시간에 쫓길 때나 나른한 오후의 여유를 즐길 때 간식으로 먹기 좋은 도넛과 커피 한 잔이 있다. 크림이 든 것, 초콜릿을 바른 것, 아메리카노, 카페라떼 등 도넛도 커피도 종류가 다양해 무엇을 먹을지 고민해 본 경험은 누구나 있을 것이다. 그러나 도넛과 커피의 맛보다는 도넛과 커피 잔의 모양을 두고 고민하는 사람들이 있다. 도넛과 커피 잔의 형태를 구별하지 않는 사람들, 도넛과 커피 잔의 모양이 근본적으로 다르지 않다고 생각하는 사람들이 바로 ‘위상수학’을 공부하는 사람들이다.

위치들끼리의 관계를 논하다

위상수학(Topology)은 어떤 도형을 연속적으로 변형시켰을 때도 불변하는 속성을 연구하는 학문이다. 여기서 ‘변형’이란 어떤 도형을 자르거나 이어붙이지 않고, 도형을 늘이거나 구부리는 ‘동작’을 가리킨다. 변형이 가해진 도형과 본래 도형은 위상동형(homeomorphic) 또는 연결 상태가 같은 도형이라 불린다. 간단히 말해 한 도형에 변형을 가해 겉모습이 바뀌었다고 해도 두 도형은 본질적으로 같다는 뜻이다. 위상수학은 매우 추상적이다. 도형이 아주 유연한 고무로 만들어져 있지 않는 한, 이를 늘이거나 구부리는 다양한 동작을 실제로 할 수 없다. 때문에 위상수학 연구는 주로 수학자의 머릿속에서 이뤄진다.

위상 개념은 수학의 네 가지 중요한 성질 중 하나이다. 수학의 네 가지 성질은 △집합 개념을 다루는 집합적 구조 △사칙연산의 대수적 구조 △큰 수와 작은 수 개념인 순서적 구조 △거리 개념을 논하는 위상적 구조가 있다. 위상수학이 이 위상적 구조에 속한다. 민경찬 교수(이과대·위상수학)는 “위상수학은 늘이거나 줄이는 동작을 통해 모양이 일치될 수 있는 것을 같은 것으로 본다”며 “위상수학이 거리개념을 다루기는 하지만 실제 측정되는 거리나 위치를 파악하려는 것이 아니라 두 대상의 관계적 위치에 주목한다”고 설명한다.

풍선에 사각형의 꼭지점이 연상되도록 점 네 개를 찍고 각각의 점에 'A, B, C, D'라고 표시한다. 풍선에 바람을 불면, 크기가 점점 커지면서 점들 사이의 거리는 멀어진다. 그러나 점들의 위치 관계는 변하지 않는다. 풍선이 커지기 전이나 커진 후나 점 A는 여전히 점 B의 옆에 있기 때문이다. 위상수학의 관계적 위치는 지하철 안내 노선도에도 나타난다.

지하철을 타고 갈 때, 지하철 노선 안내도를 보고 목적지에 찾아가기란 어렵지 않다. 그러나 지하철을 타지 않고 목적지를 찾아 갈 때 지하철 노선 안내도는 거의 도움이 되지 않는다. 지하철 노선 안내도는 역의 순서, 연결요소 등을 파악하는 데 필요한 요소만으로 간단히 그려지기 때문이다. 이대역, 신촌역, 홍대입구역 각 역 사이의 거리는 실제로 다르지만, 지하철 안내 노선도에는 세 역 사이의 거리가 똑같이 나타난다. 민교수는 “형태는 달라져도 가까이 있는 지점은 여전히 가까이 있다”고 말한다. 지하철 안내 노선도에는 위상수학에서 말하는 가까이 있는 점끼리의 관계가 나타나 있는 것이다.

 ‘안’과 ‘밖’은 같다

이처럼 위상수학은 이름은 생소하지만 우리 주변에서 쉽게 찾아 볼 수 있다. 경인교대 수학교육과 강문봉 교수는 “한붓그리기, 뫼비우스의 띠, 클라인 병, 놀이공원에서 볼 수 있는 마술거울(키가 실제보다 작게 보이거나, 몸이 더 뚱뚱해 보이게 하는 거울) 등도 위상수학을 이해하는 데 도움이 될 수 있다”고 말한다.

이 중에서 뫼비우스의 띠와 클라인 병은 특히 흥미로운 예이다. 뫼비우스의 띠와 클라인 병은 면이 하나밖에 없는 도형으로 알려져 있다. 둘 다 바깥쪽면과 안쪽면의 경계가 없기 때문이다. 뫼비우스의 띠는 한 바퀴를 돌아 처음 돌기 시작한 자리로 돌아오면 좌우가 바뀌게 된다. 긴 테이프를 한 번 꼬아서 만든 곡면인 뫼비우스의 띠는 모든 면을 한 가지 색으로 칠할 수 있다. 일반 테이프와 달리 안과 밖의 구별이 없기 때문이다. 클라인 병은 뫼비우스의 띠 두 개를 붙여 만든 것으로, 이 병 역시 내부와 외부가 구분되지 않는다. 안과 밖이 따로 존재하지 않기 때문에 이 병에선 물을 붓는 동시에 밖으로 흘러나온다. 도형의 모양을 고정시키지 않고 다양하게 변형하는 위상수학의 특성이 뫼비우스의 띠와 클라인 병이라는 독특한 도형을 만들어낸 것이다.

위상수학은 상상력이다

수학은 기계적으로 문제만 풀어대는 재미없는 학문이란 오해를 받는다. 그러나 위상수학을 통해 수학에서도 상상력이 매우 중요하다는 사실을 알 수 있다. 위상수학에서는 고정관념처럼 굳어진 도형의 모양을 이리저리 바꿔 모양을 구부리고 펼치며 안과 밖의 경계를 모호하게 한다. 남들이 쉽게 상상하기 힘든 다양한 시도가 위상수학에서 논의되고 있다.

위상수학은 이제까지 누구도 생각하지 않았던 일을 상상하는 학문이다. 복잡한 기호들로 둘러싸인 수학과 상상력은 얼핏 보면 아무런 관계가 없을 것 같다. 그러나 위상수학자가 아니라면 누가 안과 밖의 경계가 없는 도형을 상상할 수 있었을까? 

위상수학은 도형을 변형시키는 상상력을 수학 공식과 기호를 통해 실제 세상에 드러내고, 이를 논리적으로 설명하려 한다. 위상수학은 위대한 상상력의 결과다. 독창적인 개념이 수학적으로 이론화되는 과정은 누가 보더라도 신기하고 흥미로운 일이다. 위상수학을 이해하는 데는 오랜 시간이 걸리지만 그 매력을 느끼는 건 짧은 순간이다. 누구도 해본 적 없던 상상에 대한 호기심이 위상수학과 같은 학문을 낳았던 것이다.

 박영일 기자 pyi0407@