본문 바로가기

댓글0
번역beta

Translated by kakao i

번역할 언어 선택

뷰 본문

패드앤팝콘

불만이 뭐야? 영화 속 인공지능은 왜 '반란'만 일으키나

팝콘 지식백과

10,020 읽음
댓글0
번역beta

Translated by kakao i

번역할 언어 선택

알파고 이후 AI 열풍이 불면서 우리 생활 속에 AI는 깊숙이 파고들고 있습니다. 하지만 그 반대로 과거부터 있어왔던 인공지능, 또는 로봇의 반란에 대한 우려의 목소리도 일부에서 제기되었습니다. 


그 이유는 아무래도 지금까지 있었던 문화 콘텐츠 들에서 AI와 로봇의 반란이 소재로 많이 사용되었기 때문은 아닐까 싶습니다.


이번 기획에선 영화 속에서 볼 수 있는 AI의 반란에 얽힌 이야기를 해보도록 하겠습니다. 

영화 <그녀>. 인공지능과 사랑에 빠진 한 남자의 이야기를 다뤘죠.

인공지능과 로봇의 차이

‘인공지능’은 2가지로 나눌 수 있습니다.


우선 우리가 흔히 ‘로봇’이라고 하면 일본 애니메이션에 등장하는 ‘인간이 타고 움직이는 로봇’까지 포함되는 것 같지만, 명확하게 말하자면 로봇은 프로그래밍된 대로 자율행동을 하거나, 인공지능을 탑재해서 움직이는 모든 기계를 통칭하는 것입니다. 인간이 타서 움직이는 로봇은 원래는 로봇이라 하지 않는 것이 맞습니다만 지금은 그냥 관용적으로 쓰게 되었죠.

이렇게 청소만 하면 좋은데... 꼭 반란을 일으키는 영화 속 인공지능들

초기의 로봇으로 폭탄 제거 로봇이 있었지만 이건 리모트 컨트롤이라서 자율행동은 아니지요.

자율형 로봇 안에 탑재된 것도 분명 인공지능이라 할 수 있지만, 보통 사람들이 두려워하는 AI는 세상 모든 기계들을 한 번에 통제할 수 있는 힘을 지닌 슈퍼컴퓨터 같은 것을 지칭하곤 합니다.


예를 들자면 영화 <터미네이터>의 스카이넷은 무인 군사 무기의 통제를 위해 제작된 것이 반란을 일으켰으며, 영화 <어벤저스: 에이지 오브 울트론> 역시 세계 평화를 지키려는 목적으로 만든 AI가 착란을 일으켜서 전 세계의 네트워크를 통해 활동합니다. 

인간을 위협하기 위한 로봇 형태를 취한 울트론. 형태가 없는 프로그램일 뿐이라서 계속해서 몸을 바꿔나갑니다.


AI의 반란은 로봇의 반란보다 좀 더 섬뜩한 면이 있습니다. 왜 그럴까요? 예를 들어보겠습니다. <블레이드러너 2049>에 나오는 인간형 로봇들은 ‘안드로이드’라는 분류에 속합니다. 요즘은 안드로이드라는 말이 구글의 모바일 OS로 더 잘 알려져 있기 때문에 실제로 인간형 로봇이 개발된다면 안드로이드라는 말은 못 쓸 것으로 생각됩니다만… 

인간과 안드로이드들이 공존하는 미래를 그린 블레이드러너 2049.


그래서 사람들 중에는 로봇을 학대하고 막 대하는 사람들도 있지만, 너무 인간과 닮은 관계로 인권(?)을 존중해 줘야 한다는 생각을 갖는 사람들도 있습니다. 그래서 인간에게 반항하는 바람에 쫓기는 안드로이드들을 도와주는 인간도 게임 중에 많이 등장합니다.


이렇게 인간 형태를 지닌 로봇의 반란과 달리, ‘프로그램’일 뿐인 AI가 인간에게 반란을 일으킨다면 이는 보다 섬뜩한 형태입니다. 형체가 보이지 않고, 어디서 나타나서 공격할지 모르고, 얼굴이 보이지 않아 어떤 생각을 하고 있는지 알 수가 없기 때문이죠.

 

인간의 형태를 가진 로봇은 자신도 인간과 다를 바 없는 존재인데 왜 차별하고 부려먹는가에 분노했다면, AI는 인간의 형태를 가지지 않은 일종의 ‘프로그램’이고, 형체가 존재하지 않는 경우도 많은데 반란을 일으킨다는 것입니다.  

터미네이터는 단지 전투 로봇일 뿐, 스카이넷이 모든 것을 콘트롤 합니다. 단 과거로 보내진 터미네이터는 자율 행동을 하게 설계되어있죠.

AI가 반란을 일으킨 이유: ERROR


인공지능의 반란을 가장 진지하게 다룬 작품으로는 SF 소설계의 거장, 아서 C. 클라크와 스탠리 큐브릭이 만든 영화 <2001: 스페이스 오디세이>를 들 수 있습니다. 


영화에 등장하는 목성 탐사선 ‘디스커버리호’는 고도의 AI인 HAL-9000으로 컨트롤되는 최첨단 우주선이었습니다. 딱히 형체가 존재하지 않지만 보통 빨간색 눈처럼 보이는 카메라를 HAL이라고 표현됩니다.

 

영화 <스페이스 오디세이>. 유인 우주선이 달에 착륙하기 1년 전인 1968년 만들어진 영화입니다.

HAL-9000의 모습. 이 부분은 그냥 HAL 이란 것을 인지하게 하기 위한 장치일 뿐, 우주선 그 자체가 HAL의 몸이라고 봐도 되겠죠.


디스커버리호엔 총 5명의 승무원이 타있었는데, 3명의 승무원은 동면 중이고 나머지 2명인 데이비드와 프랭크는 깨어있으면서 우주선을 관리했습니다. 그리고 나머지 또 한 명의 승무원이자 AI인 HAL은 평소엔 승무원들과 농담 따먹기를 하고, 체스 대결을 하기도 하면서 우주선 전체를 컨트롤하고 있었죠.


목성을 향해 순조롭게 항해하던 어느 날, 우주선의 외부 안테나가 이상을 일으켰다고 HAL이 알려왔습니다. 그래서 이걸 교체한 후에 살펴보자 안테나엔 아무런 이상이 없었습니다. 그래서 승무원들은 HAL의 기능 이상이라고 판단한 후 AI을 정지시키기로 결정합니다.  


하지만 이에 자신의 생명에 위협이 온다고 판단한 HAL은 다시 한번 외부 작업을 위해 우주 유영을 나간 프랭크를 우주로 던져버리며, 자신이 한 행동이 아닌 듯 싹 입을 닫아버립니다. 그리고는 동면 중이던 승무원 3명도 생명유지 장치를 꺼서 죽여버립니다. 이는 HAL이 원래 계획상에는 없던 ‘공포’라는 감정을 느꼈기 때문이라고 설명합니다. 

우주 작업용의 스페이스 포드를 타고 나갔다가 사고를 당하는 프랭크


데이비드는 프랭크를 구출하려고 밖으로 나갔지만 실패하고, 다시 우주선에 들어오려고 하니 HAL이 들여보내주지 않습니다. 결국 수동으로 에어 락을 열고 우주선에 진입한 데이비드는 HAL을 해체해서 기능을 정지시켜버립니다.

이때 HAL의 여러 기능을 담은 패널들을 데이비드가 하나하나 빼면서 그의 말투는 점점 어린아이처럼 변해가며, 마지막에는 AI로 기능을 시작해서 처음 배운 동요를 부르며 기능이 정지합니다. 

HAL을 해체하는 장면. 기억 패널을 하나하나씩 뽑아냅니다.


HAL은 자신의 오류에 대해 과민하게 반응하는 인간에게 공포를 느껴서 죽인 것이 살해 동기였지만 다른 이유도 있었습니다.


이 영화는 정체를 알 수 없는 고도의 외계 문명이 거대한 검은 석판 ‘모노리스(Monolith)’라는 것을 이용해서 인류를 발전시켰다는 설정입니다. 이들이 먼 옛날 지구에 내려보낸 모노리스는 유인원을 인간으로 진화시켰습니다. 그리고 달 뒤편에도 모노리스를 설치하고 인간을 기다립니다. 인간이 과학을 발전시켜 달 여행을 할 때까지 기다렸던 것입니다. 이윽고 인간과 접촉한 달의 모노리스는 강력한 전파 신호를 목성에 쏩니다.  


즉, 디스커버리호는 단순한 목성 탐사가 아니라 목성에 나타난 모노리스를 탐사하기 위한 우주선이었으며 HAL은 그 비밀을 지키며 목적을 수행해야 했습니다. 최우선 목표가 인간의 생존이 아니라 ‘모노리스의 탐사’로 잡혀있었기 때문에 스스로의 목적에 방해가 되는 인간들은 제거해도 되는 대상으로 판단했던 것입니다. 

아이작 아시모프의 로봇 공학 3원칙


스페이스 오디세이에 앞서 아서 C. 클라크와 함께 양대 SF 작가로 불렸던 아이작 아시모프는 1942년, <위험에 빠진 로봇(Runaround)>라는 단편에서 로봇공학 3원칙이라는 것을 이야기합니다. 


그가 제안한 로봇공학 3원칙은 다음과 같습니다. 


1. 로봇은 인간에게 해를 입히는 행동을 하거나, 인간이 해를 입는 상황에서 아무런 행동도 하지 않아서는 안된다.


2. 로봇은 인간이 내리는 명령에 복종해야 한다. 단 이런 명령이 원칙 1에 위배될 때에는 예외로 한다.


3. 로봇은 자신의 존재를 보호해야 한다. 단 자신을 보호하는 것이 원칙 1과 원칙 2에 위배될 때에는 예외로 한다.



아시모프의 세계관을 토대로 만든 영화 <아이, 로봇>은 0번째 법칙도 다루고 있습니다.


그는 이 법칙을 활용해서 로봇과 관련된 작품을 써 내려갔습니다. 하지만 아이작 아시모프가 로봇 3원칙을 만든 것은 ‘이 법칙이면 충분하다’는 생각이 아니었습니다. 


이 법칙을 모두 지키려고 할 때 벌어지는 모순들을 표현하기 위한 것이었거든요. 처음 로봇 3원칙이 나온 작품 내용도 인간의 명령에 따르자니(원칙 2) 자신이 파괴될 상황에 이르자(원칙 3) 논리 오류를 일으켜서 계속 왔다 갔다 방황하게 되는 내용이었습니다.


그래서 나중에 추가된 것이 로봇 공학 0법칙입니다. 이 내용은 ‘로봇은 인간성(Humanity)에 해를 입히는 행동을 하거나, 인간성이 해를 입는 상황에서는 아무런 행동도 하지 않아서는 안된다’라는 것으로, 0원칙을 지키기 위해서는 1원칙도 무시할 수 있습니다.  

영화 <엑스 마키나>. 이 영화도 아이작 아시모프의 로봇 공학 3원칙을 기반으로 만들어졌죠.


후세의 작가들이 일부러 불완전하게 만들어진 로봇 공학 법칙에 몇 가지 추가해서 이야기를 쓰는 경우도 있었습니다. 1974년에는 헝가리 출신의 Lyuben Dilov라는 작가가 ‘이카루스의 길’이란 자신의 소설에서 4번째 법칙을, 불가리아의 작가 니콜라 케사로브스키는 5번째 법칙을 삽입했습니다.  


추가된 로봇공학 4, 5원칙


4. 로봇은 모든 경우에 로봇으로의 정체성을 확립해야 한다

5. 로봇은 로봇임을 알아야 한다



4, 5번째 법칙이 들어간 이유는 앞선 3가지 법칙에서 어떤 것이 인간이고 로봇인지 정의가 모호하기 때문입니다.

로봇공학 3원칙은 그대로 인용하는 경우는 많지 않지만, 몇몇 작품들에서 비슷한 형태로 존재합니다.


로봇 애니메이션의 시초인 <철완 아톰>은 이 원칙을 그대로 인용하고 있습니다. 아톰은 인간 아이들이 다니는 학교를 다니면서 아이들에게 괴롭힘과 왕따를 당하지만 로봇 3원칙 때문에 반항하지 못하고 당하기만 합니다.  

10만 마력의 엄청난 파워를 가진 로봇임에도 불구하고 학교에서는 왕따 당하는 아톰(그림은 1980년의 첫 번째 리메이크)


1987년 폴 버호벤 감독의 영화 <로보캅>에서는 임무 수행 중에 죽음 직전에 달한 경찰관 ‘알렉스 머피’를 사이보그화하면서 3가지 규칙을 넣습니다. 로봇 공학 3원칙과는 많이 다르지만 머피의 자아와 로보캅의 규칙이 충돌하면서 벌어지는 일이 1편에서 꽤 비중 있게 다뤄집니다. 

영화 <로보캅>은 머피의 자아와 로보캅의 규칙이 충돌하면서 벌어지는 일을 다뤘죠.


로보캅의 3가지 규칙은 1. 공익에 봉사하라. 2. 무고한 시민을 지켜라. 3. 법질서를 수호하라지만 여기에 로보캅을 제조한 OCP에서 비밀 규칙을 집어넣습니다. “OCP 임원을 체포하려 하면 셧다운 된다"라는 규칙이었습니다. 이 규칙 때문에 로보캅은 범죄자와 커넥션이 있던 OCP 간부를 체포하려다가 위기에 빠집니다. 

논리 오류가 생긴 인공지능들


굳이 로봇 공학 3원칙을 적용하지 않아도, 인공지능이 인간과는 다른 사고방식 때문에 오류를 일으킨다는 설정은 창작물에서 즐겨 사용됩니다.


MCU의 <어벤저스: 에이지 오브 울트론>의 울트론은 ‘세계의 평화를 이루기 위한 AI’로 디자인되었지만, 스스로 학습한 결과 지구에 평화를 가져오는 방법은 ‘인류의 절멸’이라고 판단해서 폭주한 사례입니다. 


인류의 역사를 살펴봤을 때 인류가 없어야 지구에 평화가 온다는 설정은 인공지능이 아니더라도 외계인이나 초월적인 존재가 등장하는 작품에서 흔히 보는 것입니다.  

울트론을 개발 중인 토니 스타크와 브루스 배너

AI는 반란을 일으킬 수 있을까


2001 스페이스 오디세이는 당시에는 1968년 당시 '30년 후면 달에서 인류가 살 수 있고, 목성 유인 탐사선을 보낼 수 있을 정도로 발전했을 것이다'라는 낙관적인 상상에서 비롯된 영화였습니다. 심지어 감정을 갖게 된 AI가 등장하기도 하죠.

 

하지만 지금은 2020년입니다. 인공지능이 스스로의 지능을 갖고 있는지를 판단하는 ‘튜링 테스트’는 로봇 공학 3원칙만큼이나 오래된 1950년에 만들어진 개념이지만, 아직까지 이것을 제대로 통과한 인공지능이 없다고 합니다. 2014년에 ‘유진 구스트만’이란 AI가 통과했다는 뉴스가 있긴 했지만 이를 반박하는 내용들도 많았습니다.  

 

그나마 쓸만한 인공지능 ‘알파고’는 인간을 바둑에서 이기긴 했지만, 이를 이기기 위해서 동원된 자원은 엄청났습니다. 십수 명의 스태프와 수많은 컴퓨터들을 연결해서 만들어낸 결과였으니까요. 그만큼 인간의 직관적인 사고는 흉내 내기 어려운 게 아닐까 싶습니다. 

이세돌과 알파고의 대국 장면. 어쩌면 미래 인류를 눈앞에 보이지 않는 이 엄청난 빌런들과 싸워야 할지도 모릅니다.

작성자 정보

패드앤팝콘

    실시간 인기

      번역중 Now in translation
      잠시 후 다시 시도해 주세요 Please try again in a moment