6년 만에 다시 마주 앉은 두 사람. 지난번 대화의 주제는 시뮬레이션 이론이었지만, 이번엔 시작부터 분위기가 다르다. 로건은 "6년 전엔 AI 얘기도 거의 안 했는데, 지금은 문명 전체에 드리운 그림자가 됐다"며 놀라움을 표한다. 보스트롬은 이 가속을 복싱 중계에 비유한다. 1라운드는 정상 속도, 2라운드는 2배속, 3라운드는 4배속— 그야말로 팔다리가 뒤엉키는 소용돌이라는 것.
로건은 AI를 둘러싼 두 개의 상반된 내러티브를 정리한다. 하나는 "AI가 인류보다 우월한 지적 생명체가 되어 우리를 지배할 것"이라는 공포, 다른 하나는 일론 머스크 식의 낙관 — 보편적 풍요, 빈곤 종식, 노동의 종말과 자유. 다만 로건은 냉소적인 단서를 단다. "그런 장밋빛 전망을 말하는 사람들은 죄다 AI로 돈을 벌고 있는 사람들"이라고. 그래서 그는 이해관계가 없는 보스트롬 같은 "진짜 객관적 분석가"의 낙관론에 더 무게를 둔다고 말한다.
보스트롬은 진실은 아무도 모른다고 선을 그으면서도, 경제적 생산성부터 의료·환경·여행까지 "부의 쓰나미"가 모든 배를 띄우는 시나리오를 제시한다. 동시에 인간 노동이 시대착오가 되는 지점까지 상상해본다.
"우리는 급류를 타는 래프트 위에 있다. 목적지에 무사히 도착할 가능성도 있지만, 뒤집혀서 얼음장 같은 물속에서 강기슭으로 헤엄쳐 나가는 법을 다시 배워야 할 가능성도 있다." — 이 급류 래프팅 비유는 대화 내내 반복해서 소환되는 이 에피소드의 중심 이미지가 된다.
대화는 곧바로 "로봇이 내 일을 대체하면 어떻게 되나"라는 표면적 질문을 넘어선다. 보스트롬은 이를 양파 껍질에 비유하며 벗겨나간다. 가장 얕은 층은 "재교육이 필요하다"는 수준의 논의지만, 끝까지 파고들면 결국 "사제·매춘부·정치인처럼 소비자가 '인간이 직접 해주길' 원하는 극소수 직군을 빼고는 인간이 하는 거의 모든 일이 대체된다"는 결론에 도달한다.
여기서 진짜 질문이 시작된다. 로건은 노동을 "인간의 발명품"이라 규정하며 반문한다. 왜 일을 꼭 해야 하는가? 대부분의 사람들이 하루하루 씨름하는 건 결국 주거와 식량 문제일 뿐이고, 그게 해결되면 사람들은 알아서 시간을 쓸 방법을 찾지 않겠냐는 것이다. 보스트롬은 이에 동의하면서도 임금노동을 "완화된 형태의 노예제(slavery light)"라 부른다 — 생필품을 얻기 위해 하루 근무시간의 3분의 1을 팔아야 하는 구조라는 것.
보스트롬: "궁극적으로 이건 엄청난 해방이 될 것이다. 자기 시간을 스스로 통제한다는 건 자신의 몸 다음으로 가장 소중한 것을 되찾는 일이니까." 다만 그는 곧바로 경고한다 — 인간은 진화적으로 "게으름을 통해 자원을 아끼도록" 설계됐기 때문에, 목적 없이 방치되면 우울해질 위험이 있다고.
그래서 두 사람은 교육 얘기로 넘어간다. 로건은 현재 교육 시스템이 애초에 "공장 노동자를 만들기 위해 설계됐다"고 단언한다. 컨베이어벨트에 아이를 태우고, 책상에 앉혀 과제를 시키고, 성적표라는 품질 라벨을 붙여 사회로 내보내는 구조라는 것. 보스트롬은 여가의 시대에 맞는 새 커리큘럼을 상상해본다 — 대화의 기술, 예술과 음악에 대한 감상, 신체 건강, 스스로 목표를 세우고 진짜 우정을 쌓는 법, 영성 같은 것들.
보스트롬의 골프 예시가 재미있다. 세계 최고의 프로 볼링선수도 연간 10만~20만 달러 안팎밖에 벌지 못한다는 사실을 짚으며, 돈이 동기에서 빠지고 나면 결국 사람들은 순수하게 흥미와 지위·명성을 좇아 활동을 선택하게 될 거라 말한다. 두 사람은 우울증조차 상당 부분 운동·식습관 같은 기초 생리 관리로 개선될 수 있다는 데 의견을 같이한다.
대화는 인간이라는 종의 물리적 한계로 향한다. 보스트롬은 인간이 "너무 일찍 죽는다"고 말한다 — 15~20년간 성장하고 몇십 년간 지식과 기술을 쌓다가, 겨우 지혜라는 걸 조금 얻을 즈음 뇌가 썩기 시작하고, 알츠하이머나 죽음으로 그 평생의 경험이 통째로 지워진다는 것. 노화를 늦추는 것을 넘어 "역전(reversing)"시키는 연구까지 이미 진행 중이라고 그는 짚는다.
로건은 여기서 자신의 오랜 관심사인 고대 문명 이야기를 꺼낸다. 이집트와 수메르 신화 속 수천 년을 산 왕들의 기록, 그리고 거의 모든 문명에 등장하는 대홍수 신화. 피라미드처럼 현재 기술로도 설명하기 어려운 거대 구조물들을 보면, 인류사가 원시인에서 스마트폰을 든 현대인으로 이어지는 단순한 선형 진보가 아니라 한때 고도로 발달했던 문명이 있었을 가능성을 배제할 수 없다는 것이다. 그는 이를 "100년이 인생의 전부라는 관념 자체가 언젠가 우스워질 것"이라는 주장과 연결한다 — 노화를 정복하면 인간은 인지 능력도 계속 성장할 수 있고, 그 끝에는 피라미드 같은 걸 지을 수 있는 초고도 기술이 다시 등장할 수 있다는 사변이다.
대화는 자연스럽게 포스트휴먼의 모습으로 옮겨간다. 로건은 소위 "그레이(Grays)" 외계인 이미지 — 무성(無性)에 근육 없는 마른 몸, 거대한 머리, 텔레파시 소통 — 가 어쩌면 "기술을 얻은 영장류가 도달하는 일반적인 방향"일 수 있다는 도발적 가설을 던진다. 번식이 전부 공학적으로 이뤄지면 성별도, 그로 인한 욕망·질투·자아도 사라지고, 결국 모두가 서로 연결된 하이브 마인드 상태로 수렴할 수 있다는 것.
보스트롬은 여기서 더 깊은 철학적 질문으로 파고든다. AI가 의식을 가질 수 있는지를 논하기 전에, 오히려 "우리가 정말 지금 의식이 있는가"부터 물어야 한다는 것이다. 두 시간 넘게 운전하면서도 정작 그 시간을 거의 기억하지 못하는 인간의 경험을 예로 들며, 다이슨 스피어(태양 전체를 감싸 에너지를 뽑아내는 거대 구조물) 규모의 컴퓨팅 위에서 작동하는 정신을 상상해본다.
"그런 초지능이 가질 수 있는 인식(awareness)과 우리의 인식 사이의 차이는, 우리의 인식과 벼룩의 인식 사이의 차이보다도 훨씬 클 수 있다. 어쩌면 이것이야말로 생명이 처음으로 진정 '깨어나는' 순간이 될지도 모른다." 인간은 스스로를 의식의 최대치를 이미 달성한 기준점으로 여기지만, 실은 "희미하고 흐릿한, 간신히 지각이 있는" 수준일 뿐이라는 것이 그의 진단이다.
대화의 축이 철학에서 현실의 타임라인으로 이동한다. 보스트롬은 "초지능이 불과 몇 년 안에 오지 않을 거라고 더 이상 확신할 수 없는 시점"에 와 있다고 말한다. AGI(범용인공지능·인간이 하는 모든 일을 해낼 수 있는 AI)를 거쳐, 그보다 모든 면에서 훨씬 뛰어난 초지능으로 넘어가면 그때부턴 AI 스스로 더 나은 AI를 설계하는 지능 폭발(intelligence explosion)이 일어나 기술적 성숙 단계까지 단기간에 도달할 수 있다는 시나리오다.
로건은 "24개월 안에 정말 미친 일이 벌어질 것 같다"고 예측하고, 보스트롬은 "48개월일 수도 있다"고 웃으며 되받는다 — 둘 다 정확한 시점은 모른다는 걸 인정하면서도, 방향성만큼은 의심하지 않는다. 흥미로운 건 보스트롬이 제시하는 속도 둔화 시나리오다. 지난 10년의 발전은 상당 부분 컴퓨팅 투입량 증가가 견인했는데, 이미 수천억~1조 달러 규모까지 온 투자가 앞으로 3자릿수(1000배)씩 계속 커지긴 물리적으로 어렵다는 것. 즉 컴퓨팅 스케일업이 둔화되면 알고리즘 혁신만으로는 속도가 늦춰질 수 있다.
가장 구체적인 실제 사례는 앤트로픽의 'Mythos'와 'Fable 5' 이야기다. 보스트롬에 따르면 Mythos는 사이버 공격 능력이 매우 뛰어난 모델이라 일반 공개 대신 은행 등 핵심 인프라 사업자에게 먼저 제공해 시스템을 패치하도록 하는 전략을 택했다. 안전장치를 강화한 축소판 'Fable 5'가 공개됐지만, 며칠 뒤 미 행정부가 비(非)미국 시민의 사용을 제한하는 수출 규제를 걸었고, 실시간으로 국적을 검증할 방법이 없던 앤트로픽은 결국 전 세계 서비스를 일시 중단했다. 이후 몇 주간의 물밑 협상 끝에 안전성에 대한 정부와의 합의가 이뤄지고서야 재개됐다는 것.
그는 동료 다수와 달리 AI 개발의 전면 중단을 주장하지 않는다. 다만 "몇 달, 반년 정도의 짧고 확실히 끝나는 일시정지"라면 안전장치를 다시 점검할 여유를 준다는 점에서 유용할 수 있다고 본다. 리스크는 두 가지 — ① 스파이 활동으로 경쟁자가 따라잡을 수 있고, ② "임시"로 만든 규제 인프라가 관료제의 관성으로 영구화될 수 있다는 것.
정렬(alignment) 문제와 거버넌스 문제는 별개라는 지적도 나온다. "AI를 원하는 대로 작동하게 만드는 것"은 기술 문제지만, "누가 그 AI가 원하는 걸 결정하느냐"는 순수한 정치의 문제라는 것. 로건이 "권력을 가진 자들은 결국 돈이 되는 방향으로 갈 뿐"이라며 회의적 태도를 보이자, 보스트롬은 이를 부정하지 않으면서도 초지능 개발 시점의 거버넌스 체계에 그런 압력이 집중될 것이라 인정한다.
보스트롬은 AI를 늦추는 것 자체에도 도덕적 비용이 있다는 점을 분명히 한다. 전 세계에서 매년 약 6,500만 명이 사망하는데, 이는 25분마다 9·11 테러 한 번 분량의 인명 피해가 발생하는 셈이라는 계산이다. 여기에 사별한 사람들의 슬픔, 질병, 극빈, 자살, 공장식 축산 동물들의 고통까지 더하면 "매일이 거대한 참사"이므로, AI가 이를 해결할 실낱같은 가능성이 있다면 불필요하게 지연시켜서는 안 된다는 "도덕적 긴급성(moral urgency)" 논리다.
"이것을 바로잡을 수 있다는 희망이 있다면, 불필요하게 오래 기다리고 싶지 않다. 매일매일이 그저 거대한 참사이기 때문이다." — 다만 보스트롬은 곧바로 균형을 잡는다. AI 안전과 정렬에서 조금이라도 더 준비를 갖추고 도약하는 것 역시 "충분히 그럴 가치가 있다"고.
초지능이 실현되면 소행성 충돌·화산 폭발 같은 외부 자연재해는 비교적 쉽게 방어할 수 있을 거라는 낙관적 전망도 나온다(로건: "지구를 덮는 태양광 방패를 만들 수도 있지 않겠나"). 하지만 보스트롬은 진짜 까다로운 위험은 문명 내부에서 발생하는 위험이라고 강조한다. 신종 마약처럼 극도로 중독적인 기술, 한번 퍼지면 걷잡을 수 없는 이데올로기, 그리고 "집단적 광기(collective insanity)" 같은 것들이다.
로건은 이를 현재의 소셜미디어 상황과 연결한다. 트위터(X)에서 벌어지는 논쟁의 상당수가 실은 사람이 아니라 봇과 알고리즘, 그리고 특정 조직이 고용한 인력이 여론을 흐리기 위해 만들어낸 것이라는 지적이다. 보스트롬은 이를 문자의 발명(국가의 과세·상비군·대규모 전쟁 가능), 인쇄술(종교개혁과 100년 종교전쟁), 대중매체(라디오 시대 선동가들)에 이어 등장한 네 번째 커뮤니케이션 혁명으로 규정한다 — 매번 새로운 매체가 등장할 때마다 이전에는 존재할 수 없었던 정치적 역학이 새로 생겨났다는 것이다.
이 구간에서 두 사람은 다시 "래프트" 비유로 돌아온다. 보스트롬은 단순히 바위에 부딪히지 않는 것만이 문제가 아니라, 어느 물줄기를 택하느냐에 따라 최종 도착지 자체가 완전히 달라질 수 있다고 확장한다 — 아름다운 포스트휴먼 유토피아로 갈 수도, 페이퍼클립을 극대화하는 AI의 세계로 갈 수도, 소수 엘리트가 지배하는 전체주의로 갈 수도 있다는 것. 로건은 침입종으로 다른 침입종을 제어하려다 오히려 재앙이 된 사례(괌의 개구리·두꺼비 문제)를 들며, 인류가 예측 불가능한 부작용에 얼마나 취약한지를 짚는다.
대화는 다시 처음의 질문으로 돌아온다. 범죄도, 폭력도, 거짓말도, 부패도 없는 완전히 조화로운 세상이 정말 더 나은 목표일까? 보스트롬은 그 상태를 실제로 오래 들여다보면 "어딘가 밋밋하게(bland)" 느껴지는 게 사실이라고 인정한다. 긴장도, 갈등도, 상처 입은 자존심도 없다면, 그것은 인간의 조건을 근본적으로 다른 무언가로 변형시키는 일이라는 것이다.
여기서 보스트롬은 유명한 골프 비유를 꺼낸다. 작은 흰 공을 18개의 구멍에 넣는다는 목표 자체는 완전히 임의적이다. 심지어 "골프채로만 쳐야 한다"는 불편한 규칙까지 스스로 부과한다. 하지만 바로 그 인위적 어려움 덕분에 사람은 집중하고, 스윙을 다듬고, 몰입할 이유를 갖게 된다. 그는 이것이 기술적 성숙 사회의 미래상이라고 본다 — "인공적 목적(artificial purpose)"을 스스로 부여하는 거대한 게임 플레이의 시대.
"지금 우리 삶의 상당 부분은 '자연적 목적(natural purpose)'으로 구조화돼 있다 — 이를 닦지 않으면 이가 썩고, 생계를 벌지 못하면 집에서 쫓겨난다. 하지만 미래에는 그런 자연적 목적의 상당수가 AI에게 맡겨지면서 사라지고, 대신 스스로 부여한 인공적 목적이 훨씬 큰 비중을 차지하게 될 것이다."
동시에 보스트롬은 낮에는 태양빛에 가려 보이지 않던 별들이 밤이 되면 드러나듯, 지금은 생존이라는 절박한 필요에 가려 보이지 않는 더 미묘한 가치들이 그 자리를 채울 수 있다고 말한다 — 조상을 기리는 일, 영적 탐구, 전통을 아름답게 재해석해 함께 의례를 치르는 일 같은 것들. 지금은 세탁하고 출근하느라 시간이 없어 못 하는 일들이지만, 그런 일들이 여가 시대에 삶의 더 많은 부분을 채울 수 있다는 전망이다.
대화는 인간 존재의 의미가 우주 전체에서 갖는 위상에 대한 로건의 질문으로 마무리를 향한다 — 100년밖에 못 사는 유한한 생물체가 부여하는 "의미"라는 게, 블랙홀처럼 훨씬 오래 존재하고 훨씬 강력한 우주적 실재 앞에서 얼마나 중요할 수 있는가. 명확한 답 없이도 두 사람은 이 물음 자체가 여정의 본질이라는 데 공감하며, "4년 뒤에 다시 만나서 우리가 얼마나 틀렸는지 확인하자"는 농담으로 대화를 마친다.