주기성이 없는 일종의 질서. - 하오 배린
단순한 결정론적 계에 나타나는 일견 임의적인 회귀적 형태. - 브루스 스튜어트
결정론적인 비선형 동력학 계에 나타나는 불규칙적이고 예측 불가능한 행태. - 로데릭 젠슨

카오스는 아직 통일된 정의가 없어 한마디로 설명하기 매우 어렵다. 간단히 정리하자면 카오스란, ‘겉으로는 불규칙하고 무질서해 보이는 비예측성 신호 속에 일정한 규칙성을 가진 운동’이다. 이것은 흔히 사람들이 이해하고 있는 완전한 무질서나 혼란 상태와는 다르다. 카오스의 이면에는 잘 정의된 규칙성이 존재하며, 이 규칙성은 기이한 끌개*라고 불리는 질서구조에 의해 주어진다.

카오스의 비예측성은 외부에서 주어진 잡음에 의해 생겨나는 것이 아니라 결정계*에서 발견된다. 초기조건에 의해 미래가 완전히 결정되는 결정계에서의 비예측성은 매우 모순된 개념처럼 보이지만 이는 기이한 끌개상의 ‘나비효과’에 의해 생겨난다. 또한 이 개념은 고전역학적 현상이며 거시적 세계에서 결정론적 세계관과 확률론적 세계관을 연결시켜주는 역할을 한다.

인류는 태양계 등에서 관찰되는 규칙적 운동을 인지하기 시작하면서 점차 모든 자연현상을 예측할 수 있다는 생각을 갖게 됐다고 한다. 이러한 견해는 뉴턴이 고전역학법칙들을 발견하며 뒷받침했으며 라플라스의 결정론적 세계관을 낳게 했다. 이에 따르면 우주의 미래는 초기조건에 의해 과거와 마찬가지로 결정돼 있고 완전히 예측가능하며, 단지 확률의 도입은 관찰에서의 불완전성에서 기인한다고 한다. 그러나 하이젠베르크의 불확정성원리는 미시적 양자 세계에서의 근원적 비예측성(unpredictability)을 강조했으며 결정론적 세계관의 몰락을 가져왔다.

우리는 주위에서 그 양상이 매우 복잡해서 불규칙적이고 예측 불가능해 보이는 현상들을 흔히 관찰할 수 있다. 그것들은 경제지표의 변동, 장기간의 기상변화, 지진 해일의 비예측적 발생 등 일련의 신호들의 배열로써 나타나거나 구름의 다양한 모양, 피어오르는 연기의 불규칙한 흩어짐, 끓는 물의 운동, 해안선의 복잡한 구조 등에서와 같이 공간적인 복잡성으로 나타난다. 이런 복잡한 현상들은 그 배후에 어떤 결정론적인 법칙이 있다 하더라도 그 현상과 관련된 물리적 변수들이 너무 많아서 결정론적인 방법으로 다루는 것을 포기해야 하는 경우가 대부분이다. 혹, 계(system)가 간단하여 물리적 변수의 수가 적고 그 변수들 간에 어떤 결정론적인 법칙이 존재해 계의 운동을 조정한다 할지라도, 오랜 시간 후에 계는 예측 불가능한 카오스운동을 할 수 있다. 그렇다면 카오스운동을 보이는 계는 미래를 전혀 예측할 수 없는 것인가?

물론 그렇지 않다. 카오스운동은 외관상 불규칙적이고 비예측적이어서 임의적 운동처럼 보이지만, 기이한 끌개의 예에서 볼 수 있듯이 그 불규칙성의 이면에는 잘 정의된 질서 구조가 공존한다. 자연계에서 관찰되는 불규칙현상은 동전던지기와 같은 완전한 무작위성(randomness) 또는 완전한 비예측성을 보이는 경우는 없다는 것이다. 대부분 그 속에 어떤 형태로든 규칙성을 가지고 있다. 카오스의 응용 가능성은 바로 이 불규칙성에 내재한 질서구조로부터 나온다. 또한 카오스이론은 카오스운동의 복잡성을 정량적으로 규정하는데 그치지 않고, 이것을 제어할 수 있는 방법까지도 암시 한다.

외관상으로 규칙적 운동이 훨씬 다루기 쉬워 보이지만 카오스운동은 이것이 갖고 있지 않은 여러 가지 장점들을 지닌다. 그중 하나는 카오스운동이 매우 민감한 운동이기 때문에, 제어에 대해 매우 빠른 속도로 반응할 수 있다는 것이다. 또 다른 하나는 그것의 복잡한 구조가 암시하듯, 카오스는 그 안에 무한한 정보를 갖고 있다는 점이다. 이제 카오스는 그 장점을 이용하여 무궁무진한 응용을 기대할 수 있는 대상이 됐다.
자연계의 카오스가 우리에게 시사하고 있는 것은 무엇일까. 그것은 바로 간단하고 결정론을 따르는 법칙들이 반드시 간단하고 직관적으로 이해가 가능하며 예측가능한 현상만을 보여주지 않는다는 사실이다. 카오스가 있음으로 해서 자연현상은 다양해지고 복잡해지는 것일 것이다.

*기이한 끌개(strange attractor): 운동을 일정한 모습으로 이끌어 나가는 역학계의 상태 지표. 그래프의 점은 한번 지나간 곳을 다시 지나지 않아 반복되진 않지만 전체적으로는 질서에 따라 움직이는 모양을 띤다.
*결정계(deterministic system): 뉴턴의 운동방정식과 같이 계의 시간적 변화를 기술하는 식이 주어지고 초기조건에 의해 미래가 완전히 결정 지워지는 계

김혜진 기자 2every1@yonsei.ac.kr