본문 바로가기

댓글0
번역beta

Translated by kakao i

번역할 언어 선택

뷰 본문

이웃집과학자

AI가 테트리스 했더니 "뜻밖의 결과"

By 이웃집과학자

121,682 읽음
댓글0
번역beta

Translated by kakao i

번역할 언어 선택

2016년, 알파고(AlphaGo)가 바둑으로 이세돌 9단을 제압합니다. 사람들은 엄청난 충격에 빠졌는데요. 인공지능(AI)이 인간을 지배하는 영화 속 이야기가 현실이 될 것이라는 두려움까지 생겨났죠. 하지만 이는 AI의 알고리즘들이 특정 과제에서만 인간을 능가했을 뿐입니다. 마치 계산기가 인간보다 빠르게 많은 양의 연산을 처리하는 것처럼 말이죠. 

알파고를 기억하시나요?

출처flickr

전문가들은 영화 <터미네이터>에서 핵전쟁을 일으키는 스카이넷 같은 AI가 현재로서는 말 그대로 SF 영화 수준이라고 말합니다. 심지어 책 <좀 이상하지만 재미있는 녀석들>의 저자는 인공지능이 대략 '곤충 수준'의 지능을 지녔다고 말합니다.

그런 말을 하는 이유가 뭔가요?

게임에선 호구지능?

AI의 성능을 테스트하고 싶을 때 전문가들은 컴퓨터 게임을 학습시켜 봅니다. AI는 빠른 속도로 수천 시간의 게임 데이터를 쌓아나갑니다. 그런데 단순한 컴퓨터 게임이더라도 AI는 한계를 노출한다고 하는데요.

이게 아닌가?

출처AdobeStock

2013년 톰 머피(Tom murphy)라는 한 연구자는 게임을 플레이 할 수 있는 AI 알고리즘을 하나 설계했습니다. 이 알고리즘에 고전 게임의 대명사, 테트리스를 시켜봤습니다. 그러자 알고리즘은 거의 무작위로 블록들을 쌓기 시작했습니다. 블록들은 어느새 게임 화면의 꼭대기 직전까지 차올랐습니다. 그제서야 알고리즘은 다음 블록이 나타나는 즉시 자신이 게임에서 진다는 사실을 알아챘습니다. 알고리즘이 이 때 선택한 방법은 무엇이었을까요? 

'일시정지'였습니다. 위 영상에서처럼 게임을 영영 멈춰버렸다고 합니다. 그게 유일하게 지지 않는 방법이었던 것이죠. 

가라테 키드 게임 하고 있는 AI. 필살기 탕진.

출처유튜브/suckerpinch

<가라테 키드(Karate Kid)>라는 게임을 하게끔 학습된 AI가 있었는데요. 이 AI는 늘 게임 초반에 강력한 '크레인 킥'을 남발했습니다. 캐릭터의 목숨을 비롯해 여러 자원을 흥청망청 썼다는 말인데요. 왜냐하면 이 AI의 메모리로는 게임에서 다음 6초간 벌어질 일 밖에 내다볼 수 없었기 때문이라고 합니다. 

이렇게 AI가 간단한 계획조차 세우지 못하는 현상은 꽤 자주 발견됩니다. <슈퍼마리오(Super Mario Bros)> 레벨 2에는 악명 높은 벽 하나가 등장합니다. 게임을 하도록 만들어진 모든 AI 알고리즘 입장에서는 큰 골칫거리입니다.


슈퍼마리오(Super Mario Bros) 레벨 2의 악명 높은 구간.

출처유튜브/suckerpinch

이 벽 위에는 반짝이는 동전이 놓여있습니다. 레벨 2까지 간 AI라면 동전을 먹을 경우 게임 기록에 좋다는 점을 이미 알고 있습니다. 계속 오른쪽으로 전진해야만 시간이 다 되기 전에 판을 깰 수 있다는 점도 말입니다. 동전을 차지하기 위해 AI는 벽으로 점프합니다. 동전을 다 먹어치웁니다. 하지만 AI는 왜 자신이 전진하고 있는데도 벽을 통과해 앞으로 나아갈 수 없는지 이해하지 못합니다. 뒤로 가야만 벽 위에서 내려올 수 있는 건데요. AI는 그때까지 한 번도 뒤로 가본 적이 없습니다.

AI는 문제를 해결하지 못하고 이 구조 안에서 옴짝달싹 못하다가 시간을 다 써버립니다. 톰 머피는 "이 문제 때문에 CPU 타임을 수천 시간이나 쓰면서 말 그대로 6주를 보냈다"고 말합니다. AI의 짧은 기억력이 이런 결과를 초래했다는 분석입니다.

AI의 기억력이 짧다는 이야기는 결국 AI의 메모리가 크지 않다는 걸 의미하는데요. 인간은 아기 때부터 수차례 넘어지고 일어서며 '앞이 막혀 있으면 돌아가야 한다'든지 '특정 구간에서는 자세를 낮추는 게 서서가는 것보다 편하다'든지 하는 세세한 동작 정보를 기억하고 있습니다. 이러한 사항은 이미 장기기억으로 넘어가 몸이 반사적으로 반응할 정도이지요.


미시간주립대학교(Michigan State University)에서 전기공학을 전공하고 세인트앤드루스대학교(University of St Andrews)에서 물리학 석사학위를 취득한 저넬 셰인에 따르면 컴퓨터가 사용할 수 있는 메모리란 이 AI를 운영하는 메모리 뿐이라고 지적합니다. 저넬 셰인은 "AI도 장기 기억을 아주 조금 가지고 있긴 하지만 모든 걸 저장하기에 작다면 기억력에 한계가 생길 수 있다"고 설명합니다. 물론 과학자들은 단기적인 사항과 장기적인 사항을 모두 살필 수 있는 AI의 순환신경망을 만들려고 노력 중이라고 덧붙였습니다.


한편, AI는 심지어 목숨을 잃으면 안 된다고 입력하지 않으면 이런 점을 전혀 인지하지 못합니다. 위 영상을 잠깐 볼까요? 슈퍼마리오 게임을 하던 AI를 훈련시켜 레벨 2 끝까지 갈 수 있게 만들었습니다. 그런데 레벨 3이 되자마자 AI는 곧장 함정으로 뛰어들어 죽어버렸다고 합니다. 프로그래머는 이 AI가 자신이 잘못했다는 사실을 모를 것이라고 결론 내렸습니다.


그렇기 때문에 AI를 이용해 컴퓨터 게임을 학습시키고 싶을 땐 구체적인 목표가 중요하다고 하는데요. 가장 좋은 목표는 알고리즘이 지금 잘하고 있는지 여부를 즉각 얻을 수 있는 목표라고 합니다. 따라서 '게임에서 이겨라'는 좋은 목표가 아닙니다. 차라리 '점수를 높여라' 또는 '최대한 오랫동안 살아 남아라'가 적합한 목표라고 하는데요. 목표를 잘 설정해도 기계 학습 알고리즘은 주어진 과제를 잘 이해하지 못한다고 합니다. 

책 <좀 이상하지만 재밌는 녀석들>에는 똑똑한 줄만 알았던 AI의 엉뚱하거나 다소 모자란 모습들이 등장합니다. 과학자가 AI에 "로봇의 몸체를 설계해 로봇의 몸으로 A 지점에서 B 지점으로 이동하라"는 과제를 주었습니다. 사람들은 보통 A에서 B 지점까지 두 발로 걸어가는 모습을 떠올릴 겁니다. 그냥 직선 경로로 이동하는 거죠. 그런데 AI는 온갖 종류의 로봇을 만들어 냅니다. 탑을 쌓아 넘어뜨리는 로봇, 공중제비를 도는 로봇, 큰 원을 그리며 나아가는 로봇 등 끝도 없었습니다.

정말 놀라운 점은 AI가 발견한 이런 창의적인 전략들이 나중에 동식물들에게서 발견되기도 한다는 점입니다. 인공지능의 다소 이상하지만 코믹한 실수들을 통해 우리가 발견하게 될 새로운 지식은 무엇일까요? 

많은 걸 시사하는 인공지능의 테트리스 수준

##참고자료##

  • 저넬 셰인, 좀 이상하지만 재미있는 녀석들, RHK 


작성자 정보

    실시간 인기

      번역중 Now in translation
      잠시 후 다시 시도해 주세요 Please try again in a moment