40여 년 전 출간되어 많은 사람들에게 과학의 아름다움을 느끼게 했던 칼 세이건(Carl Sagan)의 책 『코스모스』는 여전히 지금도 베스트셀러 목록에 올라 있다. 책에서 과학의 많은 영역을 다루고 있지만 천문학자였던 그에게 우주는 규칙적인 질서와 조화로 이루어진 세상이었을 것이다. 실제 ‘코스모스’란 ‘카오스’와 대비되는 말로 질서의 의미를 담고 있다. 그러나 지난 글에서처럼 비선형 상호작용으로 나타나는 예측 불가능의 현상들이 실제로 우리 주변을 가득 메우고 있다. 마치 수의 체계에서 규칙성을 상징하는 유리수가 무질서한 무리수의 넓은 바다 위에 군데군데 떠 있는 섬인 것처럼 카오스는 우리가 무시해왔거나 느끼지 못했을 뿐 세상 저변에 바다처럼 존재하고 있다. 카오스는 우리가 철저하게 질서 시스템으로 믿고 있는 태양계에서 이미 존재하고 있다. 위대한 수학자 푸앙카레(H. Poincare)는 뉴턴의 만유인력법칙을 적용하는데 있어서 단 하나의 행성이 아닌 두 개 이상의 행성을 동시에 고려할 때 기존의 예측 가능한 결과를 얻을 수 없다는 것을 알았다. 이것이 그 유명한 ‘3체 문제’인데, 기존과 달리 3개의 물체가 비슷한 정도의 힘을 통해 상호작용할 때 세 물체의 운동을 정확히 예측할 수 없다는 것이다. 그는 이 사실로부터 많은 행성들로 이루어진 태양계의 운동 역시 안정된 궤도를 유지할 수 없음을 제시한 것이다. 지구의 궤도 역시 태양 이외의 다른 행성들의 인력으로 어느 범위 안에서는 예측 불가능한 카오스 상태인 것으로 알려져 있지만 다행히 목성과 토성의 영향으로 현 궤도를 크게 벗어나지는 않을 것으로 예측되고 있다. 나비효과를 발견하면서 본격적으로 카오스 물리학을 창시한 사람은 기상학자인 로렌츠(E. Lorenz)이다. 그는 60년대 중반 대기 운동에 대해 나름의 비선형 방정식을 세워 초창기 컴퓨터를 이용해 풀고 있었다. 느린 속도로 작동하는 컴퓨터가 매 계산과정마다 그 결과 값을 프린트하도록 설정했다. 어느 날 그는 과정을 재검토하기 위해 같은 계산을 반복하기로 했는데 시간 절약을 위해 처음부터가 아닌 중간 과정에서 출력된 값을 넣어 계산을 실행했다. 이것이 ‘나비효과’를 발견하게 된 상황이다. 컴퓨터가 출력한 값이 정확한 값이 아닌 소수 셋째 자리에서 반올림한 값으로 컴퓨터가 기억하는 값과는 미세한 차이가 있다. 그런데 이 차이가 이후에 계산과정에서 증폭되어 먼젓번 결과와는 엄청난 차이를 보인 것이다. 그런데 로렌츠는 기상학자로서 이 이상한 결과에 대해 『대기과학지(Journal of the Atmospheric Sciences)』 20권 130쪽에 발표했지만 정작 물리학자들은 이 카오스의 원조를 찾아보지 않았다. 마치 19세기 끈질긴 완두콩 실험으로 유전법칙을 발견한 멘델이 1900년 세 명의 생물학자들에 의해 독립적으로 재발견된 역사를 떠올리게 한다. 이후 70년대 물리학자, 생물학자들이 이 현상을 알기 시작했으며 카오스는 과학의 한 영역으로 자리 잡기 시작했다. 오랫동안 그토록 골칫거리였고 귀찮은 존재였던 비선형, 이것이 매우 중요한 주제로 떠오른 것이다. 공기저항을 무시한 갈릴레오처럼 이상적인(ideal) 조건과 산뜻하고 간결한 풀이과정을 덕목으로 삼았고 이로부터 자연의 모든 핵심적인 내용들을 다 끌어낼 수 있으리라 믿었던 물리학은 이제 전혀 다른 방향으로의 여행을 시작한 것이다. 또 한명의 주목해야 할 사람은 프랑스계 미국 수학자인 망델브로(B. Mandelbrot)이다. 그가 1982년 발표한 저서 『자연의 프랙털 기하학(Fractal Geometry of Nature)』는 새로운 기하학의 출발을 알렸는데 ‘프랙털’이란 무한 반복을 통해 부분과 전체가 닮은 도형을 의미한다. 프랙털 기하학은 카오스가 그냥 뒤죽박죽이 아닌 질서를 내재하고 있음을 알려주는 중요한 연결고리이자 자연에 존재하는 여러 복잡한 구조가 어떤 단순함을 가지고 있는지 알게 해주는 특별한 기하학이다. 20세기 후반 컴퓨터 능력의 눈부신 발전으로 카오스는 새로운 과학의 영역으로 그 폭을 확대해 가고 있으며 세계의 모습은 코스모스만이 아닌 ‘카오스모스(chaosmos)’임을 확인시켜주고 있다.