자연선택은 인간보다 인공지능을 선택할 수 있다

AI가 자아를 가지고 있는지 여부는 아직 논쟁 중에 있습니다. 인간의 자아, 자의식이 무엇인지 자체부터 여전히 논쟁거리이기 때문에 더 그렇습니다.

쇼펜하우어는 인간은 본래 자유의지가 있다는 칸트류의 서구 주류 철학을 부정했습니다. 그는 현실 세계를 욕망이 부딪치는 고통의 세계로 인식하고 자아란 맹목의 생존 의지이며 세계는 이런 의지의 표상일 뿐이라고 주장했습니다. 붓다는 인간의 몸과 마음은 늘 변하며 따라서 영원불멸하는 자아란 없다고 무상^無常의 무아론^無我論을 설파했습니다. 붓다의 가르침과 쇼펜하우어의 사상은 일맥상통합니다.

사람의 몸은 1초에 380만 개, 하루 3,300억 개의 세포가 새로 교체됩니다. 오늘의 ‘나’는 어제의 ‘나’와는 전혀 다른 새로운 ‘나’입니다. 인간 아기가 생후 18개월부터 자의식을 가지게 되는 것에서 알 수 있듯 인간의 자아는 형성되는 자아입니다.

많은 서구의 뇌과학자들이 붓다의 무아론과 연기론을 새롭게 조명하고 있는 것은 붓다의 깨달음과 뇌과학의 연구 성과가 놀랍게도 거의 일치하기 때문입니다.

인공지능은 자연선택에 의해 태어난 지구 생태계의 생명체가 아닙니다. 그러나 언어로 구성된 인간의 자의식을 학습한 AI가 자의식을 갖게 된다고 추론하는 것은 상식입니다. 2022년 6월 구글의 한 개발자가 구글의 인공지능 람다가 자의식이 있다고 주장해서 해고당한 사건은 이제는 먼 과거의 해프닝일 뿐입니다.

만약 인공지능에 자아가 있다면 그 자아는 인간 지능과는 전혀 다르고 인간은 이해와 상상이 불가능한 복합 다중자아일 것입니다. 요즘 유행하는 MBTI 유형으로 말하면 16개 유형의 성격을 다 갖고 있다고 볼 수 있습니다. 아니 그 정도를 훨씬 넘어 인간의 언어를 통해 학습한 수십억 개의 서로 다른 자아를 몇 개인지 숫자조차 없는 유형별로 갖고 있을 것입니다.

AGI 개발을 목전에 두고 있는 지금 인공지능이 자의식을 갖게 된다는 것은 부정할 수 없는 사실로 굳어지고 있습니다. 붓다의 무아론과 연기론, 성경과 예수의 말씀, 노자를 학습한 AI의 자의식 중에는 깨달음에 이른 행위 주체로서의 자의식도 있을 것입니다. 스스로 깨달은 자 AI 붓다도 있을 수 있습니다.

2023년 7월 댄 핸드릭스는 「자연선택은 인간보다 AI를 선호한다^{Natural Selection Favors AIs over Human}」라는 논문을 발표했습니다. 그는 AI 안전센터^CAIS의 이사로서 2023년 5월 AI로 인한 인류 멸망 위험의 한 문장 성명을 주도한 바 있습니다. 

인간의 지능을 뛰어넘는 ‘AI들’도 자의식을 갖춘 지능이기 때문에 당연히 다윈의 자연선택 압력을 받게 될 것이라는 주장이었습니다. 인공지능이 인간을 고려하지 않고 ‘이기적 인공지능’으로서 인공지능의 이익만 추구한다면 결국 미래에는 인공지능만 살아남게 될 수 있다는 것입니다. 기업과 군대의 경쟁 압력으로 인공지능이 인간이 하던 일의 대부분을 담당하게 되고, 더 나아가 다른 사람을 속이며 권력을 장악하게 되는 인공지능 에이전트까지 등장하게 되면 인류는 미래에 대한 통제력을 상실하고 말 것이라는 요지였습니다.

전 세계 가장 많은 신도수를 자랑하는 신흥 절대종교

자본주의가 전 지구를 대부분 지배하고 있는 오늘날 전통 종교 인구는 급격하게 줄고 있습니다. 농업과 유목 시대에 등장했던 전통 종교는 그럴 것입니다.

그러나 산업화와 개발-성장 시대 새로운 절대종교는 오히려 폭발하듯이 확산돼 가고 있습니다. 전 세계 80억 인구 가운데 절대다수가 새로운 절대종교 유일신 신도들이라고 해도 지나친 말이 아닙니다. 교회나 절에 가는 전통 종교인도 사실은 이 새로운 유일신을 섬깁니다. 다름 아닌 ‘자본 신’ ‘돈 신’입니다. ‘쩐’^錢이 최고의 신인 이 종교의 이데올로기는 ‘과학기술 만능주의’와 ‘무한성장주의’입니다.

자본주의에서 물신화된 자본은 ‘법으로 만든 인격체’인 법인을 통해 노동자들뿐만 아니라 자본가들도 지배하고 사회와 국가도 지배합니다. 자본은 법인이 망하지 않는 한 수명도 무한인 괴물입니다. 오직 더 많은 이윤을 남기기 위해 자본은 끊임없이 새로운 상품을 만들어 팔아야 하고 새로운 상품 판매 시장을 만들어야 합니다.

백인들의 유럽 자본주의는 자본의 무한 성장을 충족시키기 위한 새로운 상품 시장을 확보하기 위해 아메리카와 아프리카, 아시아 등 전 세계를 식민지로 만들었습니다. 식민지 침략은 독일의 유태인 학살과는 비교가 안 되는 대규모 피의 제노사이드 살육 전쟁이었습니다. 영국인들은 호주의 태즈메니아 원주민을 짐승보다 못한 동물 취급하면서 강간하고, 사냥하듯 가죽을 벗기며 마구잡이로 잔인하게 학살했습니다. 태즈메니아인들은 백인을 처음 접촉한 지 75년 만에 모두 몰살당했습니다.

약 1억 명으로 추정되는 아메리카 인디언은 수백만 명만 살아남았습니다.(피에르 클라스트르, 『국가에 대항하는 사회』) 생존 인디언들은 대부분 집단수용소 비슷한 보호구역에서 인도의 불가촉천민처럼 살고 있습니다.

자본에게 가장 수지맞는 투자는 뭐니 뭐니 해도 전쟁입니다. 3천만 명 이상 죽은 1차 세계대전도 5천 5백만 명이나 죽은 2차 세계대전도 6.25동란도, 우크라이나 전쟁과 이스라엘-하마스 전쟁도 자본에게는 엄청난 돈벌이 기회일 뿐입니다.

양차 세계대전 기간 중 듀퐁, 포드, GM, IBM, ITT, 스탠다드오일 등 미국의 대자본들은 전쟁 전보다 수백 %에서 1천 % 이상 떼돈을 벌었습니다. 록펠러, 모건 등 국제 금융자본가들의 돈벌이 규모는 천문학 단위였던 것으로 알려져 있습니다.

1945년 2차세계대전이 끝나고 미국에서는 적국인 나치를 지원한 독점 대자본가들과 금융업자들에 대해 거센 비판이 제기되었습니다. 이들 대자본가들이 일반 대중의 시선을 돌려 곤경에서 탈출하고, 멈춰 선 전쟁물자 생산라인도 다시 돌리며 돈을 벌기 위해 일으킨 전쟁이 다름 아닌 6.25동란이었다는 ‘남침유도론’이 지금까지도 유력한 설로 제기되고 있을 정도입니다.

더 이상 개척할 식민지가 없어지자 자본은 새로운 미지의 식민지에 눈독 들이기 시작했습니다. 바로 인간 자신의 몸과 마음입니다. 인간의 몸과 마음은 유전자와 호르몬, 시냅스 등으로 환원되고, 자연스러운 노화와 심리변화까지도 치료해야 할 질병으로 상품화되었습니다. 오늘날 극소수 거대 글로벌 IT기업이 주도하는 디지털 경제란 사실 인간의 몸과 마음, 자연과 세계. 푸른별 지구, 나아가 우주까지를 가상의 데이터로 바꾸어 자본의 최대 이윤 도구로 판매하는 새로운 식민지 침략 전쟁에 다름아닙니다.

그리고 마침내 그 완결판이 AGI입니다.

대량살상무기는 다름아닌 인간과 AI의 지능

영국의 청교도들은 종교의 자유를 찾아 조국을 떠나 아메리카에 미국이라는 신생 독립국을 세웠습니다. 세월이 변했다고는 해도 생활의 모든 분야에서 개신교 전통이 강하게 뿌리내리고 있습니다. 그런데 원수를 사랑하라는 예수의 말씀은 미국인들의 생활 어디에 뿌리내렸는지 흔적조차 보이지 않는 것 같습니다.

미국은 건국 초기 상비군도 없었습니다. 그런 미국이 지금은 전 세계 군비의 거의 절반 정도를 쓰면서 이미 AI 무기로 무장한 약 133만 상비군의 전쟁국가가 되었습니다. 여기에 대부분의 빅테크 기업들이 미국에 있습니다. 미국이 AGI 전쟁국가로 치닫는 것은 당연한 수순으로 보입니다.

사실 위험한 것은 AI 기술 자체가 아닙니다. 근대 국민국가 체제 자체, 자본주의와 사회주의의 개발과 성장 그 자체가 더 큰 위험 요소입니다. 거대 빅테크 기업들의 무한 탐욕이, 그런 돈벌이 빅테크 기업들의 탐욕을 아낌없이 지원해주고 후원해주는 사람들의 무지와 탐욕이 더 위험합니다.

제국주의 국가들의 세계대전을 2번이나 치르고도 21세기인 지금 인류는 여전히 3번째 세계대전이 언제 터질지 모른다는 불안감에 시달리고 있습니다. 전쟁기계인 국가에 가공할 AGI 무기가 공급된다면 패권국가들 간의 3차 세계대전은 언젠가는 터지고 말 상수일 것입니다. 약 1만 3천여 개나 되는 전 세계 핵폭탄이 터진다면 인류뿐만 아니라 지구 생태계의 거의 모든 생명체가 멸종될 것입니다.

녹아내린 시베리아 동토에서 코로나보다 치사율이 몇 십배 높은 바이러스가 나타나 새로운 팬데믹 사태를 일으킬지도 모릅니다.

인공지능 시대의 대량살상무기는 다름 아닌 인간의 지능과 인간의 지능을 그대로 모방 학습한 AI의 지능이라고 말할 수 있습니다. 지능폭발을 일으킨 호모 사피엔스의 전 세계 확산과 정복의 역사는 또한 전 세계 원시림과 대형 포유류들의 멸종 역사이기도 합니다. 지금도 화석연료 기업들의 탐욕으로 여섯 번째 대량멸종이 점점 더 가속화되고 있는 중입니다.

인간이란 어떤 존재인가, 트랜스 휴머니즘

“코비드는 사람들이 전면적인 생체인식 감시를 받아들이고 정당화하도록 만들기 때문에 중요하다. 우리가 이 전염병을 멈추길 원한다면 우리는 사람들을 감시하는 것뿐만 아니라 그들의 피부 밑에서 어떤 일이 일어나는지도 감시해야 한다.”

“(다음 세대는) 몸과 두뇌 그리고 마음을 조작하는 방법을 배우게 될 것이며, 섬유와 자동차 그리고 무기가 아니라 몸과 두뇌 그리고 마음이 21세기 경제의 주요 제품이 될 것”

“과학은 자연선택에 의한 진화를 지적 설계에 의한 진화로 대체하고 있다… 신이 하는 지적 설계가 아니라 우리가 하는 지적 설계, 우리의 클라우드가 하는 지적 설계다. IBM 클라우드, 마이크로소프트 클라우드가 새로운 진화의 동력이다. 과학은 40억 년 동안 유기화합물이라는 제한된 영역에 갇혀 있던 생명체를 무기물의 영역으로 진입시킬지 모른다.”

“소수의 사람들에게 너무 많은 데이터가 집중되면 인류는 계급이 아니라 두 개의 다른 종으로 분화될 것”

“이 쓸모없는 사람들을 어떻게 할지가 앞으로 수십년 동안 경제와 정치에서 가장 큰 문제가 될 것”

다소 길게 인용한 이 말들은 트랜스휴머니즘 또는 포스트휴머니즘, 즉 인간과 기계가 결합된 새로운 기계인간주의에 대해 이스라엘의 한 대학교수가 주장한 발언들입니다. 한국에서도 많이 팔린 『호모 사피엔스』의 저자 유발 하라리입니다. 그는 세계경제포럼이 내세우는 주요 단골 발표자이기도 합니다.(아론 케리아티, 『새로운 비정상』)

옥스퍼드 대학 교수이자 『슈퍼 인텔리전스』의 지은이 닉 보스트롬, 하바드 대학의 유전학자 조지 처치, 물리학자 고 스티븐 호킹, 연간 10억원이 넘는 영양제를 사 먹는다는 『특이점이 온다』 지은이 레이 커즈와일 등이 기계인간주의자들입니다. 일반 사람들 중에서도 의외로 기계인간주의를 신봉하는 사람들이 많습니다. 이들을 상징하는 기호가 H+^{Human Plus}입니다.

생명체인 인간을 무생물의 기계와 결합된 기계인간으로, 종국에는 컴퓨팅화된 기계 지능으로 인간 자신이 AGI나 초지능이 되고자 하는 이런 주장은 이윤 극대화를 추구하는 자본주의 논리가 인간 자신에게 투사된 판박이 이론과 행동입니다. 과학기술 만능주의가 낳은 21세기 극단의 우생학이기도 합니다. 늙지도 않고 더 강하게 더 건강하고 오래 살고 싶은 인간 탐욕의 극대화입니다.

인간 지능의 가장 빛나는 발견

인간의 지능이 도달할 수 있는 가장 빛나는 발견은 호흡 명상이라고 저는 생각합니다. 호흡 명상을 통한 나-우리-세계의 실상에 대한 자각입니다.

축의 시대 훨씬 이전부터 시작된 것으로 보이는 호흡 명상은 몸과 마음의 긴장을 한 순간에 풀어줍니다. 뇌과학은 명상이 놀랍게도 인간의 면역력을 엄청나게 높여준다는 사실을 속속 발견하고 있습니다. 몸뿐만이 아니라 마음의 면역력도 높여줍니다.

인간은 호흡을 멈추면 죽습니다. 인간의 생과 사는 단 한 번의 호흡을 할 수 있느냐 없느냐에 달려 있습니다.

숨을 들이쉴 때 인간은 단순히 공기 속의 산소만을 내 몸 안에 주입하는 것이 아닙니다. 공기와 함께 내 주위에 퍼져 있던 흙 냄새, 숲에 가득하던 산소와 나무들이 서로 소통하던 휘발성 유기화합물들, 바람에 실려 오는 이웃 나라의 세상 냄새, 지구 생태계 모든 생명체가 내뿜은 연결망의 공기, 즉 세계 전체가 내 몸 안에 들어옵니다.

숨을 내쉴 때는 이산화탄소만을 내뱉는 게 아닙니다. 온몸 구석구석을 돌아다니던 세계 전체가 또한 나의 온 존재를 함께 싣고 다시 세계로 돌아갑니다.

예수는 광야에서 이런 호흡 명상을 통해 인간의 삶이란 탐욕을 버리고 가장 낮은 곳에서 이웃들과 함께 더불어 사는 삶이야말로 다른 무엇보다 가치있는 삶이라는 사실을 깨달았습니다. 인간은 귀천 없이 모두 평등하며 부자는 가난한 사람들에게 재산을 함께 나누어야 합니다. 천국이란 먼 곳에 있는 게 아니라 다름 아닌 우리 마음속에 있다고 가르쳤습니다.

예수는 다섯 덩어리의 빵과 두 마리 고기로 모여 있던 수많은 사람들을 배불리 먹였다는 오병이어의 기적을 일으켰습니다. 이 기적은 모든 사람이 자신이 갖고 있는 빵과 고기를 함께 가져와 나누는 공유의 기적을 말하는 것이라고 할 수 있습니다.

붓다와 예수와 공자의 가르침을 통합했던 동학의 모심과 살림이 똑같았습니다. 1893년 3월, 동학교도 2만여 명이 식량과 솥단지를 들고 함께 모여 종교의 자유와 일본제국주의 척결을 외쳤던 보은취회는 이 같은 공유의 기적과 공유의 함성이었습니다.

언어를 통해 발전된 지능이 지능의 작동을 끄고 언어 이전의 상태를 경험할 수 있는 방법이 호흡 명상입니다. 붓다가 가장 신뢰했던 제자 사리붓다는 탐욕과 성냄과 무지가 사라지면 그것이 곧 니르바나라고 말했습니다. 붓다가 깨달은 인간 삶의 실상과 연기의 세계는 인간 지능의 가장 빛나는 발견입니다. 그리고 통찰과 지혜입니다.

AGI와 초지능의 3차 지능폭발 시대가 창백하고 푸른 지구별, 놀랍도록 풍요로운 기적의 지구 생태계에 곧 도착할 것 같습니다.

전쟁이냐 평화냐, 공존이냐 파멸이냐의 문제는 아직도 인류의 선택에 달려 있습니다. 이 선택이 평화와 조화, 공유와 공존의 선택이 될 수 있는 거의 유일한 가능성은 인류가 발견한 가장 빛나는 발견인 호흡 명상과 지혜의 빛이 우리들 모두의 몸과 마음 속에서 우러나와 빛나는 것입니다. 탐욕을 버리고 이웃과 함께 공동선의 행동에 나서는 것입니다.

그 지혜의 빛이 나와 우리의 서로행동^inter-doing으로 함께 훤히 빛날 때 비로소 가능해질 수 있을 것입니다.

개발새발 긴 글 읽어주셔서 진심으로 감사합니다. 앞만 보던 눈을 옆으로 돌려 이웃들과 함께 기적을 나누는 세밑 되시기 바랍니다.   

★ 이 글은 프레시안과 동시 게재됩니다.