우리 스스로를 비롯하여 우리를 둘러싸는 친숙한 세상은 단순하지 않다. 무질서, 혼돈, 그리고 불확실성으로 넘쳐나는 아찔한 세상이다. 어느 날 갑자기 병에 걸릴지, 투자한 주식이 어떻게 될 지, 지진이 언제 어떤 세기로 일어날지, 기후 변화로 얼마나 많은 생명이 사라질지에 대해 걱정은 되고 대략 예측해볼 수는 있겠지만, 한 달 후 일출 시간은 언제가 될지, 다음 일식은 언제 일어날 지와 같이 정확하게 예측하기는 불가능하다. 천체들의 운동은 태양과 지구를 비롯해 몇 개의 요소들만이 움직이며 나타나는 단순한 시스템인 반면 나의 몸, 기후, 지진 등의 상황은 몇 개의 요소들로 단순화시킬 수 없는 시스템이다. 그래서 복잡계라고 부르는 것이다. 복잡계는 다음과 같이 정의한다. 첫째, 매우 많은 수의 구성 요소들이 존재하는 시스템이다. 우리의 몸은 수많은 다양한 세포들로 이루어져 있으며 주식시장은 수많은 투자자들로 이루어져 있기 때문에 복잡계가 될 수 있는 조건을 갖추고 있다. 둘째, 구성요소들 간에 비선형적(nonlinear) 상호작용이 존재한다. 이것은 앞에서 카오스 현상이 일어나기 위한 조건과 동일하다. 상호작용을 자극과 반응으로 이야기한다면 그들이 서로 비례하지 않는다는 것이다. 자극을 2배로 증가시킬 때 반응은 2배가 아닌 4배나 8배, 그밖에 다른 값들이 된다. 셋째, 복잡계의 구성요소 또한 복잡계이다. 생명은 많은 세포로 이루어져 있고 그들이 서로 비선형적 상호작용을 한다. 그런데 세포 역시 많은 수의 기관으로 이루어진 복잡계이다. 생태계 역시 많은 수의 생명들과 자연물로 이루어진 복잡계이다. 이처럼 복잡계는 계층 구조(hierarchy)를 나타낸다. 따라서 우리가 언제나 접하는 세상은 복잡계가 아닌 것이 오히려 드물다. 이 분야 연구의 선구자는 1977년 노벨 물리학상을 수상한 필립 앤더슨(1923~2020)이다. 그는 일상적인 자석에서부터 초전도체에 이르기까지 고체물리학에서 뛰어난 업적을 남겼으며 1972년 『사이언스』지에 「많으면 달라진다(More Is Different)」라는 제목의 논문을 발표하면서 복잡계의 선구자가 되었다. 이후 쿼크의 발견 등으로 1969년에 노벨 물리학상을 수상한 머리 겔만(1929~2019), 물리학자 데이비드 파인즈(1924~2018), 1972년 노벨 경제학상을 수상한 케네스 애로(1921~2017)와 경제학자 브라이언 아서 등과 함께 산타페(Santa Fe) 연구소를 설립하였다. 아쉽게도 언급한 멤버들은 최근 몇 년 사이에 대부분 유명을 달리했지만 이 연구소는 복잡계 연구의 메카로 물리학, 뇌과학, 생물학, 경제학, 심리학 등의 전문가들이 함께 모여 학문의 영역을 넘나들며 다양한 연구를 진행하고 있다. 그렇다면 복잡계는 어떤 점이 특별한가? 필립 앤더슨은 복잡계 과학을 ‘출현(emergence)의 과학’이라고 불렀다. 여기서 출현이란 시스템이 변화하는 과정에서 당초에는 전혀 예측할 수 없었던 새로운 현상이나 특성이 나타남을 말한다. 다시 말해 구성 요소들이 개별적 특성과는 관계없이 그들의 비선형적 상호작용에 의해 새로운 현상이 나타난다는 것이다. 그때의 현상은 ‘스스로 조직되는 질서(self-organizing order)’이다. 무질서하고 혼란스러운 상황으로부터 질서가 출현하는 것이며, 여기에서는 전체를 지휘하는 중앙 제어 장치가 없다. 구성요소들 간의 인접한 상호작용에 의해서만 만들어지는 질서다. 수만 마리의 새들이 무리지어 날면서 멋진 장관을 만들어내는 장면을 보았을 것이다. 이 상황이 바로 ‘스스로 조직하는 질서’의 전형적인 사례다. 무리들 가운데 전체를 진두지휘하는 대장은 없다. 모든 새들은 각자의 비행에서 홀로 고립되지 않으며 혼잡한 곳을 피하는 간단한 규칙만을 지킬 뿐이다. 결국 무리지어 비행하는 새들은 복잡계인 것이다. 그런데 이와 같은 새들의 장관은 영원히 지속되지 않는다. 상황의 변화에 따라 출현했다가 사라지는 것이다. 영원한 것은 아무 것도 없다.