직썰

11세기 캔터베리의 신학자 안셈은 신의 존재를 이렇게 증명했습니다. 곧, 신의 정의는 우리가 상상할 수 있는 가장 위대한 존재이며, 존재하지 않는 신보다 존재하는 신이 더 위대하기 때문에 신은 존재한다는 것입니다. 이는 존재론적 증명으로 불리며 천 년이 지난 지금까지 이야기될 정도로 많은 이들이 이를 받아들였습니다. 이 존재론적 증명에 대한 비판으로는 이 증명이 사용한 신의 정의 자체가 존재를 가정한 것이며, 따라서 정의를 잘못 사용했다는 것입니다.

사람들이 존재를 증명하기 위해 노력한 것은 신 외에도 더 있습니다. “어떤 뛰어난 인간의 모든 지적 활동보다 훨씬 뛰어난 일을 할 수 있는 기계를 초지능 기계라고 하자” 이는 수학자 어빙 존 굿이 1965년에 한 말입니다.

“이 기계는 다른 기계를 만들 수 있을 것이며, 따라서 초지능 기계는 자신보다 더 뛰어난 기계를 만들 수 있을 것이다. ‘기계 지능의 폭발적 증가’가 일어나고 인간은 크게 뒤처질 것이다. 즉, 초지능 기계는 적어도 그 초지능 기계가 자신을 어떻게 제어해야 하는지 우리에게 알려줄 정도로 착하다면, 인간에게 필요한 최후의 발명품이 될 것이다.”

이 기계 지능의 폭발적 증가는 1993년 컴퓨터 과학자이자 작가인 베너 빈지가 이를 “특이점(the singularity)”라 부르면서 다시 등장했고, 지금까지도 기술주의자와 철학자들 사이에서 언급되고 있습니다. 닉 보스트롬의 “슈퍼인텔리전스”, 맥스 테그마크의 “라이프 3.0”, 스튜어트 러셀의 “인간과의 공존: 인공 지능의 제어 문제(Human Compatible: Artificial Intelligence and the Problem of Control)” 등은 모두 인공지능이 자신보다 더 뛰어난 인공지능을 끝없이 만들어낸다는 “재귀적 자가발전” 시나리오를 이야기하고 있습니다.

나는 굿과 안셈의 논리가 유사하다고, 곧 두 증명 모두 정의 자체의 문제를 가지고 있다고 생각합니다. 이들이 사용한 정의는 얼핏 그럴듯해 보이며 그래서 많은 이들에게 설득력 있게 받아들여졌습니다. 하지만 이들의 논증은 자세히 검증할 필요가 있습니다. 나는 굿의 주장 뒤에 숨은 가정을 엄밀하게 살펴볼수록 이들이 말하는 지능의 폭발적 증가가 실은 그리 그럴듯하지 않다는 사실을 알게 되었습니다.

——

인간의 경우 재귀적 자가발전은 어떤 식으로 이루어질까요? 논의의 편리를 위해 인간의 지능을 IQ로 가정하겠습니다. 이는 IQ 테스트 결과가 실제로 그 사람의 지능을 나타낸다고 내가 생각한다는 뜻이 아니라, 그저 어떤 지능을 하나의 숫자로 나타낼 수 있다는 개념을 이들은 지능의 폭발적 증가를 설명하는 가정으로 사용했기 때문입니다. 이 경우, 재귀적 자가발전을 다시 쓰면 이런 주장이 됩니다. 어떤 사람의 IQ가 300이라면, 그는 IQ가 300인 다른 사람의 IQ를 350으로 더 높이는 그런 문제를 풀 수 있다는 것입니다. 그리고 IQ가 350인 사람은 IQ가 350인 사람의 IQ를 400으로 더 높이는, 더 어려운 문제를 풀 수 있으며, 이런 식으로 계속된다는 뜻입니다.

그런데 지능이 과연 이렇게 작동한다고 우리가 받아들여야 할 이유가 있을까요? 나는 그렇게 생각하지 않습니다. 예를 들어, 세상에는 IQ가 130인 사람이 충분히 많습니다. 그리고 소수지만 IQ가 160인 사람이 있지요. 하지만 어떤 이도 IQ가 70인 사람의 IQ를 100으로 – 이는 위의 문제들에 비해 쉬운 문제로 보이지만 – 만들지 못합니다. 지금까지 어떤 이도 IQ 테스트로는 측정도 할 수 없을 정도로 낮은 동물의 지능을 높이지 못했습니다. 어떤 이의 IQ를 높이는 것이 일종의 수학 문제를 푸는 것이라면, 적어도 아주 낮은 IQ를 가진 이들이 처한 문제는 쉬운 문제일 테니 우리가 풀 수 있었어야 합니다. 하지만 아직 그런 예는 없습니다.

어쩌면 이는 우리가 지능을 높이는 데 필요한 최소한의 지능 기준에 비해 지능이 너무 낮아서 그런 것일 수 있습니다. IQ 300이 되면, 그때부터 다른 이의 IQ를 높일 수 있게 될 수도 있습니다. 설사 그렇다 하더라도, 그 이후 무한한 자가발전이 가능할지는 전혀 다른 문제입니다. 예를 들어, IQ가 300인 사람은 다른 사람의 IQ를 200까지 올릴 수도 있습니다. 주변의 모든 사람을 IQ 200으로 올리는 것은 그 자체로 엄청난 일입니다. 하지만 여전히 여기에는 오를 수 있는 한계가 있습니다. 곧, 자가발전은 어느 수준까지만 가능하고, 지능의 폭발적 증가는 일어나지 않습니다.

IBM의 연구원이었던 에머슨 푸는 이런 말을 했습니다. “사람의 뇌가 우리가 이해할 수 있을 정도로 단순하다면, 우리의 뇌는 너무 단순해서 이를 이해할 수 없을 것이다.” 이 말은 매우 직관적입니다. 하지만 더 중요한 것은, 이 말에는 확실한 근거가 있다는 것입니다. 바로 C. 엘레강스라는 선충입니다. 이 생명체는 인류 역사를 통틀어 가장 깊게 이해된 동물입니다. 과학자들은 이들의 유전자를 분석했고, 959개의 체세포가 어떻게 분열되는지를 모두 파악했습니다. 302개의 신경세포가 어떻게 연결되어 있는지도 알고 있습니다. 하지만 여전히, 우리는 이 동물의 행동을 이해하지 못합니다. 인간의 뇌는 평균 860억 개의 신경세포로 이루어져 있지만, C. 엘레강스의 302개 신경세포를 이해하기 위해 어쩌면 거의 모든 신경세포를 다 써야 할지 모릅니다. 이 두 숫자의 비는 너무 커서 인간의 뇌를 이해하기 위해서는 얼마나 많은 신경세포가 필요할지는 가늠하기도 힘들어 보입니다.

지능의 폭발적 증가를 지지하는 다른 이들은 무언가의 지능을 이해하지 못한 상태라도 그 지능을 향상하는 것이 가능하다고 주장합니다. 이들은 인간의 뇌나 AI 프로그램에 어떤 숨겨진 “지능의 비밀 열쇠”가 있으며, 그 열쇠를 찾기만 하면 문제가 풀릴 것이라 말합니다. 나는 우리가 지금 그 열쇠가 될 수 있는 얼마나 많은 후보를 가지고 있는지 알지 못하며, 따라서 이 주장이 얼마나 그럴듯한지도 알지 못합니다. 가장 흔하게 언급되는 것은 인공지능을 향상하기 위해서는 그 인공지능이 돌아가는 컴퓨터의 속도를 높이면 된다는 것입니다. 어떤 이들은 이렇게 말합니다. 우리가 사람과 비슷한 수준의 지능을 가진 프로그램을 만들기만 하면, 그 프로그램을 아주 빠른 컴퓨터로 구동함으로써 인간보다 더 뛰어난 지능을 가지게 된다는 것입니다. 이 방법으로 지능의 폭발적 증가가 가능할까요?

예를 들어, 평균적인 개발자 한 명과 비슷한 수준의 지능을 가진 인공지능 프로그램이 있다고 해 봅시다. 그리고 이 프로그램을 100배 속도로 돌아가는 컴퓨터로 1년 동안 돌렸다고 가정합시다. 이는 한 사람을 100년 동안 방안에 가두고 한 가지 일만을 시킨 것과 비슷합니다. 사람에게 이는 끔찍한 형벌이겠지만, 지금은 그런 문제는 고려하지 않기로 하지요. 즉, AI는 인간의 특징 중 바람직한 특징만 가지고 있고, 그렇지 않은 특징 – 예를 들어 새로움을 추구하거나 스스로 선택하고자 하는 욕망 – 은 가지고 있지 않다는 가정입니다. (이것이 적당한 가정일지는 모르겠지만 그 문제는 다음에 다루기로 합시다.)

이제 우리는 인간과 비슷한 지능이 한 가지 문제에 100년 동안 몰두하게 만들 수 있게 되었습니다. 이를 통해 우리는 어떤 일을 해낼 수 있을까요? 이 AI가 하루에 코드를 1,000줄을 짤 수 있다고 합시다. 이는 놀라운 생산성입니다. 이 속도로 이 AI가 윈도우 XP를 짜는 데는 약 100년이 걸립니다. 이는 놀라운 성과지만, 우리가 기대한, 더 성능이 뛰어난 AI를 만드는 것과는 거리가 멉니다. 더 뛰어난 성능의 AI를 만드는 데는 좋은 코드를 짜는 것 이상의 능력이 필요합니다. AI 연구에서 특별한 전진이 있어야 하며, 이는 평균적인 컴퓨터 프로그래머 한 명이 아무리 오랜 시간을 들여도 하기 힘든 일입니다.

컴퓨터 소프트웨어를 개발하기 위해서는 컴파일러라는 프로그램이 필요합니다. 컴파일러는 사람이, 예를 들어 C라는 언어로 짠 소스 코드를 컴퓨터가 이해할 수 있는 실행 가능한 프로그램으로 바꾸어줍니다. 만약 당신이 사용하는 C 컴파일러가 마음에 들지 않는다고 가정합시다. (그 컴파일러를 컴파일러제로라고 부릅시다.) 컴파일러제로는 당신이 짠 소스코드를 실행 가능한 프로그램으로 바꾸는 데 너무 오랜 시간이 걸리며, 그 결과 컴파일된 프로그램이 실행되는 데도 긴 시간이 걸립니다. 당신은 당신이 더 나은 컴파일러를 만들 수 있다고 생각하고 더 효율적인, 최적화된 컴파일러를 만듭니다.

당신은 그 최적화된 컴파일러를 C로 짰고, 따라서 그 소스코드를 컴파일러제로를 통해 실행 가능한 프로그램으로 바꾸었습니다. 이 프로그램을 컴파일러원이라고 합시다. 당신이 짠 이 컴파일러원으로 다른 소스코드를 컴파일하면, 그 결과 더 빠르게 작동하는 프로그램이 만들어집니다. 문제는 컴파일러원 자체는 컴파일러제로에서 컴파일된 프로그램이기 때문에 작동에 긴 시간이 걸린다는 것입니다. 그럼 어떻게 해야 할까요?

바로 컴파일러원으로 컴파일러원을 만들어낸 소스코드를 컴파일하는 것입니다. 이렇게 만들어진 컴파일러를 컴파일러투라고 합시다. 컴파일러투는 자신의 작동 시간도 짧아졌고, 자신이 컴파일한 프로그램 또한 빠르게 동작하는 특징을 가지고 있습니다. 와우! 당신은 자가발전하는 컴퓨터 프로그램을 만들었습니다!

하지만 발전은 여기까지입니다. 이제 원래의 컴파일러 소스코드를 컴파일러투로 컴파일해도 컴파일러투가 하나 더 만들어질 뿐입니다. 이 방법으로 더 빠른 컴파일러쓰리를 만드는 것은 불가능합니다. 지금보다 더 빠른 프로그램을 컴파일하는 컴파일러를 만들려면 또 다른 방법을 찾아야 합니다.

컴파일러로 자신을 컴파일하는 이 방법은 부트스트랩이라는 방법으로, 1960년대부터 사용된 것입니다. 컴파일러를 최적화하는 작업의 역사는 이미 꽤 오래됐으며, 부트스트랩 역시 컴파일러의 성능 향상에 큰 역할을 했습니다. 하지만 가장 큰 향상을 만들어낸 것은 부트스트랩보다 인간 프로그래머에 의한 것입니다. 물론 컴파일러는 인공지능 프로그램과는 전혀 다른 프로그램이지만, 적어도 다른 프로그램을 결과물로 내놓는 프로그램이라는 점에서, 그리고 그 과정에서 최적화를 가장 중요한 목적으로 만들어졌다는 점에서 지능의 폭발적 증가라는 논리에 있어 하나의 선례로 생각할 수 있습니다.

프로그램의 사용 목적을 잘 알수록 우리는 그 프로그램을 더 잘 최적화할 수 있습니다. 개발자는 종종 특정한 프로그램 일부를 직접 최적화하며, 이는 그 프로그램이 해야 하는 일을 컴파일러보다 더 잘 알기 때문에 가능한 일입니다. 최적화를 가장 잘하는 컴파일러들은 특정한 영역에 최적화된 언어인 도메인 특화 언어(domain-specific language)로 쓰인 것들입니다. 예를 들어, 이미지 처리 프로그램에 특화된 할리드(Halide)라는 언어가 있습니다. 할리드 컴파일러는 특정한 분야에만 사용할 수 있으므로 때로 사람만큼 혹은 사람보다 더 뛰어난 결과를 만들어냅니다. 하지만 할리드 컴파일러는 이미지 처리에 최적화되어 있기 때문에 컴파일러 프로그램을 만들어내는 기능이 부족하며, 따라서 자기 자신을 컴파일하지는 못합니다. 컴파일러를 만들기 위해서는 범용의 언어가 필요하지만, 범용 컴파일러는 인간 개발자보다 최적화 능력이 떨어집니다.

범용 컴파일러는 어떤 프로그램이든 컴파일할 수 있습니다. 문서 편집 프로그램의 소스코드를 집어넣으면, 문서 편집 프로그램이 나옵니다. MP3 플레이어 소스코드를 집어넣으면 MP3 플레이어가 나옵니다. 1990년대에 등장한 웹브라우저처럼 어떤 개발자가 아직 우리가 알지 못하는 완전히 새로운 프로그램의 소스코드를 여기에 집어 넣는다 하더라도 이 범용 컴파일러는 그 새로운 프로그램을 만들어냅니다. 즉, 컴파일러는 인공지능이라 할 수는 없지만, 적어도 인간과 어떤 공통점을 가지고 있습니다. 바로, 처음 보는 입력에 대해서도 대응할 수 있다는 것입니다.

이를 오늘날의 AI 프로그램과 비교해봅시다. 예를 들어, 체스 게임을 하는 AI를 생각해봅시다. 체스는 입력과 출력이 정해져 있으며, 한가지 목적을 위해 최적화하는 것은 매우 쉬운 일입니다. 퀴즈쇼에서 답을 하는 AI 프로그램도 마찬가지입니다. 여러 종류의 게임을 할 수 있는 몇몇 AI 프로그램이 있지만, 여전히 이들이 할 수 있는 영역은 상대적으로 매우 좁습니다. 반대로, 어떤 입력이 주어질지, 혹은 어떤 정답이 필요한지 알 수 없는 AI 프로그램을 만들어야 한다고 생각해봅시다. 우리는 이 프로그램을 무엇에 최적화시킬지 알 수 없으며, 따라서 이 프로그램의 성능을 최적화하기는 결코 쉽지 않은 일입니다.

이런 범용 프로그램을 얼마나 최적화할 수 있을까요? 어느 정도까지는, 한 번도 접해보지 못한 상황을 포함한 가능한 모든 상황에 대해 최적화를 할 수 있을지 모릅니다. 하지만 “기계 지능의 폭발적 증가”라는 생각에는 이 최적화에 한계가 존재하지 않는다는 생각이 들어있습니다. 이는 아주 강력한 주장입니다. 이런 범용 프로그램의 무한한 최적화를 주장하기 위해서는, 특정한 작업에 최적화된 예가 아닌 다른 근거를 가져와야 할 것입니다.

물론 내가 이야기한 어떤 주장도, 기계 지능의 폭발적 증가가 불가능함을 보인 것은 아닙니다. 사실 나는 그런 증명이 가능할지도 의문입니다. 이것은 무언가가 불가능한지에 증명 이야기가 아닙니다. 무엇이 어떤 믿음에 대한 올바른 정당화인가에 관한 것입니다. 안셈의 존재론적 증명에 대한 비판자들은 신이 없다는 것을 증명하지 않았습니다. 그들은 안셈의 증명이 신의 존재를 믿을 수 있는 정당한 이유를 제공하지 못한다고 말한 것입니다. 즉, “초지능 기계”를 그렇게 정의한다고 해서, 우리가 그런 기계를 만들 수 있으리라고 말할 수 없다는 것입니다.

——

재귀적 자가발전이 실제로 유효한 경우가 있습니다. 바로 인류의 문명 전체를 하나로 볼 때입니다. 이는 한 명 한 명의 지능과는 다른 이야기입니다. 1만 년 전 태어난 인간과 오늘날 인간의 지능이 다를 이유는 없습니다. 그들은 오늘날의 우리와 거의 같은 능력을 갖췄을 것입니다. 하지만 우리는 1만 년 동안 발전한 기술을 축적했고, 그 기술에는 물리적인 것 외에 지적인 것들도 있습니다.

아라비아 숫자와 로마 숫자를 비교해봅시다. 아라비아 숫자는 자릿수를 위치로 표시함으로써 곱셈과 나눗셈을 훨씬 쉽게 만들었습니다. 당신이 곱셈 대회에 나간다면, 아라비아 숫자를 쓰는 것이 훨씬 유리할 겁니다. 그렇지만 나는 아라비아 숫자를 사용하는 사람이 로마 숫자를 사용하는 사람보다 더 영리한 사람이라 말하지 않을 것입니다. 같은 논리로, 볼트를 조일 때는 펜치를 가진 사람보다 스패너를 가진 사람이 더 잘 조이지만, 그렇다고 스패너를 가진 사람이 힘이 더 세다고 말할 수 없을 겁니다. 누가 더 힘이 센지를 말하기 위해서는 같은 도구를 가지고 경쟁해야 합니다. 아라비아 숫자와 같은 인지적 도구도 비슷한 이득을 줍니다. 사람들의 지능을 비교하기 위해서는 같은 도구를 가져야 합니다.

단순한 도구는 복잡한 도구를 만들 수 있게 해줍니다. 이는 물리적 도구가 아닌 인지적 도구에도 적용됩니다. 복식 부기와 평면 좌표계와 같은 그런 도구를 인간은 수천 년 동안 만들어왔습니다. 즉, 인간 자체의 지능이 꼭 높아진 건 아니라도 이런 인지적 도구의 힘을 빌려 우리는 더 강력한 도구를 만들어왔습니다.

이런 방식으로, 개인의 차원이 아닌 인류 문명 전체의 차원에서 재귀적 자가발전은 일어납니다. 뉴튼이 미적분을 발명한 다음 더 영리해졌다고 말하기는 힘듭니다. 그는 미적분을 발명할 만큼 처음부터 영리했을 것입니다. 미적분은 그가 이전에는 풀지 못했던 문제들을 풀게 해줬지만, 미적분을 통해 큰 이득을 본 것은 그가 아니라 나머지 인류였습니다. 뉴턴 이후의 사람들은 미적분을 통해 크게 두 가지 이득을 보았습니다. 하나는 단기적인 이득으로 뉴턴 이전에는 풀 수 없던 문제를 풀 수 있게 된 것입니다. 다른 하나는 장기적인 이득으로 이 미적분을 바탕으로 더 강력한 수학 기술을 발전시킨 것입니다.

이렇게 다른 이의 업적 위에 새로운 업적을 쌓을 수 있는 인간의 능력이 바로 내가 인간과 동일한 능력의 AI 프로그램이 100년 동안 혼자 일한다고 해서 엄청난 결과를 만들어낼 것이라는 주장을 믿지 않는 이유입니다. 홀로 연구하는 개인도 엄청난 발견을 할 수 있지만, 그의 업적은 거기에서 멈춥니다. 인류는 다른 사람의 업적에서 영감을 얻어 새로운 업적을 쌓아왔습니다. 꼭 직접 협력할 필요도 없습니다. 어떤 분야든, 많은 이들이 거기에 몰두할 때 새로운 결과가 나왔습니다.

DNA의 예를 봅시다. 제임스 왓슨과 프랜시스 크릭은 1953년 DNA 발견 이후에도 수십 년간 연구를 계속했지만, 이후의 학문적 진전은 그들이 아닌 다른 이들이 이룩했습니다. DNA 시퀀싱 기술을 발명한 것도, DNA 조합을 가능하게 한 PCR 기술을 만든 것도 다른 이들이었습니다. 왓슨과 크릭을 무시하려는 것이 아닙니다. 그저, 우리가 왓슨과 크릭에 해당하는 AI를 가지고, 인간보다 100배 빠른 속도로 돌린다고 하더라도, 전 세계에 DNA를 연구하는 분자생물학자들이 내놓을 결과만큼 좋은 결과를 기대하기 힘들다는 것입니다. 혁신은 고립에서는 발생하지 않습니다. 과학자들은 다른 과학자들의 연구에서 영감을 얻습니다.

혁신의 속도는 스스로 AI를 만드는 인공지능 기계가 등장하지 않아도 앞으로도 더 빨라지고 계속될 것입니다. 어떤 이들은 이 현상도 지능의 폭발적 증가라 부를지 모르지만, 나는 이를 인지적 기술과 물리적 기술을 포함하는 기술의 폭발적 증가라 부르는 것이 더 정확하다고 생각합니다. 컴퓨터 하드웨어와 소프트웨어는 가장 최근 등장한 인지적 기술이며, 이들은 충분히 강력하지만 그렇다고 스스로 기술적 폭발을 이끌어낼 정도로 강력하지는 않습니다. 이를 위해서는 사람들이 필요하며, 그 사람의 수가 많을수록 더 좋습니다. 한 명의 영리한 사람에게 더 뛰어난 하드웨어와 소프트웨어를 주는 것도 도움이 되겠지만, 진정한 혁신은 모든 이가 이를 가졌을 때 이루어집니다. 오늘날 우리가 경험하는 기술의 폭발은 수십억 명이 이 인지적 도구를 사용함으로써 나타난 것입니다.

——

그렇다면 AI 프로그램이 이런 기술의 폭발을 일으킨 인간을 대신해 디지털 세상에서 더 빠른 폭발을 만들 수 있을까요? 그럴 수도 있습니다. 하지만 이를 위해 어떤 조건이 필요할지 생각해봅시다. 아마 성공을 위한 가장 확실한 방법은 인간의 문명 전체를, 곧 각자의 분야에서 일하는 80억 명의 인간에 해당하는 AI 프로그램을 소프트웨어 세상에 복제해야 할 겁니다. 하지만 이는 거의 불가능한 일입니다. 따라서 대부분의 혁신이 일어나는 인간 문명의 특정 부분을 골라내야 합니다. 이렇게 생각해 봅시다. 맨하탄 프로젝트를 위해서는 몇 명의 사람이 필요할까요? 이 질문은 맨하탄 프로젝트에 동원된 과학자가 몇 명인지 묻는 것이 아닙니다. 얼마나 많은 인구가 있어야 그 인구에서 맨하탄 프로젝트에 동원할 만한 수준의 충분한 수의 과학자를 얻을 수 있을까를 묻는 것입니다.

예를 들어, 물리학 박사가 수천 명 중 한 명 나온다는 사실에서, 물리학 박사 수준의 AI는 인간과 비슷한 수준의 AI 수천 개가 있어야 나올 것이라 생각할 수 있습니다. 즉, 맨하탄 프로젝트를 성공시키는 데는 1942년 당시의 미국과 유럽의 인구수 만큼이 필요했습니다. 오늘날에는 훌륭한 연구실은 전 세계에서 재능있는 이들을 끌어모으며, 따라서 구성원이 이 두 대륙으로 한정되지 않습니다. 즉, 오늘날 인류가 이루고 있는 만큼의 혁신을 이루기 위해 필요한 숫자는 80억에서 크게 줄어들지 않을 것입니다.

아직 우리는 한 사람의 능력에 해당하는 AI를 어떻게 만들어야 할지 전혀 알지 못합니다. 적어도 예상할 수 있는 미래에는, 기존 기술을 바탕으로 새로운 기술을 만들어내는 인류의 기술적 폭발 상황에서 “인간에게 필요한 최후의 발명품”이 탄생할 가능성은 전혀 없습니다. 어떤 면에서 이는 다행스러운 일입니다. 굿의 주장과 달리 “인간이 크게 뒤처질”일은 없기 때문입니다. 하지만 초인간 지능 AI가 인류 문명을 파괴할 가능성을 걱정할 필요가 없는 것과 같은 이유로, 초지능 AI가 인류를 구원하리라 기대해서도 안 됩니다. 좋든 나쁘든, 인류의 운명은 우리의 손에 달려 있습니다. (테드 창, 뉴요커)

번역: 뉴스페퍼민트