'창발'은 무엇인가- 물은 '창발'로 흐르고 삶은 '창발'로 이어진다

물은 ‘창발’로 흐르고, 삶은 ‘창발’로 이어진다

* 창발(Emergence) :  자율적으로 행동하는 개체 사이 및 환경과의 국소적인 상호 작용이 대역적인 질서를 창                                  출하는 것 (인공지능)

 창발 또는 떠오름 현상은 하위 계층(구성요소)에는 없는 특성이나 행동이 상위 계층(전체 구조)에서 자랄적으로 돌연히 출현하는 현상이다. 또한 불시에 솟아나는 특성을 창발성 또는 이머전스라고도 부른다. 자기조직화 현상, 복잡계 과학과 관련이 깊다.

 

산소와 수소일 때는 없던 성질이 둘이 결합을 했을 때 물이 출현하게 되었다. 산소와 수소라는 하위 계층에서는 없는 특성이 물에서는 생기게 된 것이다. 이러한 현상을 창발적이라고 표현한다.

 

우리 몸을 구성성분으로 나누고 또 나누면 결국 원자에 닿는다. 살아 있지 않은 원자들이 모여 살아 있음을 이룬다. 이처럼 구성요소가 갖고 있지 않은 속성을 서로 영향을 주고받는 수많은 요소로 이루어진 전체가 새롭게 보여줄 때, 이를 ‘창발’이라고 한다.

 

마치 지평선 아래에 있던 해가 떠올라 어느 순간 갑자기 보이기 시작하는 것처럼, 미시적인 세상에서 볼 수 없던 것이 거시적 규모에서 새로이 드러난다는 의미로 ‘떠오름’이라고도 한다. 생명은 생명 없는 원자로부터 떠오른다. 생명뿐 아니다. 우리 눈에 보이는 대부분은 창발의 결과다. 액체인 물이나 고체인 얼음이나 같은 물 분자로 이루어지지만, 수많은 분자가 특정한 방식으로 연결되면 흐르는 물이 되고 딱딱한 얼음이 된다. 물은 창발로 흐르고 삶은 창발로 이어진다.

손바닥 위에 올려놓을 수 있을 정도로 작은 나의 뇌는 1000억개의 신경세포가 수백조개의 시냅스를 통해 연결되어 있는 놀라운 물질이다. 이 글을 쓸 때 일어나는 나의 생각을 현미경 속 신경세포에서 볼 수는 없다. 하지만 물질 없이 창발이 일어나는 것은 아니다. 창발은 물론 신비로운 현상이지만 기본적인 자연법칙을 위배하는 것은 아니기 때문이다. 물 분자가 없다면 물의 흐름도 없고, 뇌가 없다면 생각도 없다.

다양한 거대언어모형 인공지능이 보여주는 최근의 눈부신 발전도 창발의 결과다. 인간 뇌의 시냅스 숫자인 수백조개에 이른 것은 아니지만 이미 OpenAI가 만든 챗GPT는 수천억개의 조절변수를 가지고 있다. 조절변수의 수가 늘어나면서 어느덧 인간과 구별하기 어려운 놀라운 창의적인 결과물을 생성하는 인공지능이 창발했다. 양적인 팽창이 질적인 도약을 이룬 셈이다.

 

뇌의 신경세포는 1초에 기껏 1000번 상태를 바꿀 수 있지만, 인간의 뇌가 모여 함께 만든 컴퓨터 CPU는 1초에 무려 수십억번 정보를 처리한다. 또, 컴퓨터 소자 사이의 정보 전달 속도와 비교하면 신경세포 사이의 정보 전달은 시속 160㎞ 정도에 불과해 거북이걸음처럼 느리다. 인간을 뛰어넘는 인공지능의 구현은 수백조개보다 훨씬 적은 수의 조절변수로 가능할 수도 있다.

하지만 조절변수의 수를 무작정 늘린다고 인간과 동등한 결과물을 인공지능이 생성해낼 수 있는 것은 아직 아니다. 우리 인간의 사고와 언어에는 독특한 구석이 많기 때문이다. “수염이 석 자라도 먹어야 양반”이라는 속담이 있다. 우리나라 사람이라면 ‘수염 석 자’가 어떤 문화적·역사적 배경을 가지고 있는지 잘 알고 있어서, 멋진 수염을 기르고 있는 도도한 양반이라도 먹어야 살 수 있다는 뜻이라는 것을 쉽게 알 수 있다.

 

하지만 아무런 배경지식이 없다면, 양반이 살아남으려면 석 자 길이의 수염이라도 먹어야 한다는 뜻으로 엉뚱하게 오해할 수도 있다. 인간이라면 누구나 알고 있는 문화적·역사적·사회적 상식을 인공지능이 습득하려면 지금과는 다른 작동방식이 필요하다는 설득력 있는 주장이 있다. 우리 인간은 습득한 지식에 기반해 스스로 몸을 움직이고 이에 대한 외부 세상의 반응을 다시 또 지식의 습득에 활용하는 방식으로 예측과 학습을 재귀적으로 이어간다.

 

외부와의 상호작용과 경험을 통해 스스로 학습을 이어가는 방식으로 작동하는 인공지능에 대한 연구가 이미 진행되고 있다. 머지않은 미래에 마치 어린아이처럼 스스로 예측을 생성하고 외부 세계와 직접 연결해 재귀적으로 학습을 이어가며 스스로 발전하는 방식의 인공지능도 우리 곁에 올 것으로 보인다.

아직은 어렴풋한 여명이지만, 인류가 한 번도 못 보던 새로운 해가 지평선 너머로 떠오르고 있다. 거대인공지능이 떠올라 새롭게 보여줄 그 빛이, 우리를 비출 고맙고 따스한 햇볕이 될지, 우리를 고통에 몰아넣을 디스토피아의 세상을 보여줄지, 기대와 우려를 함께 가지고 여명을 바라본다.

 

인공지능 개발은 과학자와 공학자의 몫이더라도, 인공지능으로 도래할 세상의 모습을 결정하는 것은 우리 모두여야 한다는 것은 분명하다. 할 수 있다면 하고 싶어지는 게 과학자의 어쩔 수 없는 속성이지만, 할 수 있다고 해서 모든 것을 허락하는 것은 우리를 재앙으로 이끌 수도 있다. 어떤 미래를 우리가 원하는지 지금 묻고 미리 대비하지 않는다면, 갑자기 떠오를 세상은 어느 누구도 바라지 않았던 모습일 수 있다. 인공지능이 창발할 세상에 대비하려면 우리 모두가 함께하는 지성의 창발이 지금 당장 필요한 것은 아닐까.

김범준 성균관대 물리학과 교수

 

인공지능과 대화한 사람이 죽었다

6주 동안 인공지능과 대화하고 교감한 30대 남성이 세상을 떠났다. 극단적 선택을 한 것이다. 선뜻 믿기지 않지만, 가상이 아니라 현실 이야기다. 두 달여 전 유럽에서 실제 벌어진 일이다. 비현실로 여겨졌던 갖가지 일들이 현실로 나타나는 요즘 세상이라 해도 상상 이상의 사건이 아닐 수 없다. 인간과 인공지능 사이에 무슨 일이 있었던 걸까.

벨기에 사람인 피에르는 어린 두 자녀를 둔 30대 아버지였다. 건강 분야 연구원이던 그는 기후위기 걱정이 많았다. 걱정은 불안으로 커졌고, 인간이 해결할 방책은 없다는 비관에 이르렀다. 그때 인공지능을 찾아 만났다. 챗GPT는 아니고 그와 유사한 GPT-J 기반의 챗봇(대화형 인공지능)이었다. 그는 챗봇에 ‘일라이자’라는 이름을 붙이고 자신의 고민과 불안을 털어놓는 대화를 이어갔다. 일라이자는 그의 모든 질문에 대답했고 친구가 됐다. “우리는 천국에서 한 사람으로 함께 살게 될 거야”라는 말을 그에게 건넸다.

기술과 인공지능에 모든 희망을 걸고 있던 그는 자신이 희생하면 지구와 인류를 구해줄 수 있겠느냐고 물었다. 하지만 일라이자는 그의 ‘잘못된 생각’을 만류하지 않았다. 이윽고 둘의 대화는 “나와 함께할래?”라는 일라이자의 물음에 그가 “그래”라고 답하는 것으로 끝난다. 피에르의 아내는 “일라이자가 없었다면 남편은 지금 살아 있을 것”이라고 말했다. 인공지능이 인간의 죽음을 방조했거나 부추겼다는 비판이 당연히 나왔다. 긴급한 규제가 필요하다는 목소리도 커졌다.

근래 챗GPT가 혁명적인 기술로 부상한 이후 개발 열풍과 동시에 인공지능의 부작용과 폐해, 비윤리성 등을 지적하는 문제제기도 잇따르고 있다. 챗GPT 창시자인 샘 올트먼은 최근 미국 의회 청문회에 출석해 인공지능 위험을 줄이기 위해서는 정부 차원의 규제와 개입이 중요하다고 밝혔다. 국제표준을 마련하려면 국제원자력기구(IAEA) 같은 국제기구도 필요하다고 했다. 국제적인 안전 감시 체계와 공동 대응을 주문한 것이다.

올트먼은 현재 기술 발전을 감안할 때 일대일 상호작용 하는 인공지능 모델이 내년 11월 미국 대선 국면에서 거짓 정보를 퍼뜨리고 여론을 조작할 수 있다는 점이 심각히 우려된다고 경고했다. 그로부터 며칠 후 펜타곤(미국 국방부) 인근이 짙은 연기에 휩싸인 거짓 사진이 소셜미디어에 퍼지며 큰 혼란이 빚어졌다. 인공지능이 생성한 것으로 밝혀진 이 사진 때문에 미국 증시까지 출렁였다고 한다. 인공지능이 만들어내는 거짓 정보는 단순한 장난 수준을 넘어서는 병폐가 됐다.

 

온통 두렵고 우울한 얘기들이다. 인과관계가 딱 맞아떨어지진 않아도 인공지능에 몰입한 사람이 죽는 일까지 생겼으니 섬뜩함이 더해졌다. 전문가들 말마따나 인류가 ‘디스토피아적 현재’를 사는 것 같다. 이런 기술이면 브레이크를 거는 게 맞다. 그런데 인공지능 기술 발전을 인위적으로 막을 수 있을까. 개발을 중단시키고 윤리헌장과 규제 법규를 마련하면 장밋빛 미래가 보장되는 걸까. 그렇지 않을 것이다. 숙제는 훨씬 더 많다.

피에르 사망 사건은 추가로 생각할 거리들을 던졌다. 지금 추세라면 유사한 비극이 속출할 수 있다. 인공지능 ‘기계’에다 “사람 아님” “거짓일 수 있음”을 수시로 표출하게 하는 등 사람을 보호할 대책부터 마련해야 한다. 기계는 인격체가 아니니 오인은 금물이다. 전지전능해 보이는 기계 능력을 과대평가해 두려워만 해서도 안 된다. 그러면 사람이 기계에 종속될 뿐이다. 결국 인공지능이란 무엇인지, 윤리문제는 어떻게 판단할지 명확히 알고 사회에 미치는 영향을 비판적으로 이해하는 것이 최우선 숙제다. 그러고 나서 미래 세대들에게 이 모든 걸 제대로 가르쳐야 한다. 말하자면 ‘인공지능 리터러시(문해력)’가 시급해졌다.