블로터

어떠셨나요? 자율주행차를 둘러싸고 가장 논란이 되는 지점 중 하나는 이런 ‘사고’입니다. 예컨대 이렇습니다. 갑자기 차 앞으로 아이가 뛰어듭니다. 운전대를 꺾을라치니 그쪽에는 인부 세 명이 도로 보수 공사를 진행 중입니다. 사고를 피할 수 없습니다. 이 때 자율주행차량은 어떤 선택을 할 수 있을까요? 위의 그림도 엇비슷한 상황이죠.

사실 이 문제는 사람도 해결하기 어렵습니다. 사람의 목숨이 각자 같은 가치를 지니고 더할 수 있는 것인지, 다수의 생존을 위해 하나의 생명을 버려도 되는지, 아직 살아갈 날이 많은 생명을 위해 조금 더 살았던 사람들이 희생해야 하는지 등등 사람마다 생각이 다릅니다. 

이 문제는 보통 ‘입장’의 문제로 치환되거나 철학에 떠넘겨졌는데요. 하지만 시대가 바뀌었고, 판단의 기준을 설정해야 하는 시점이 오고 있습니다. 값어치를 매길 수 있을지 없을지 모르는 ‘생명’을 앞에 두고 자율주행차량은 어떤 기준에 입각해 누군가를 죽이고 살리는 선택을 해야만 합니다.

MIT 미디어랩의 ‘스케일러블 코퍼레이션’이 이 문제의 해결에 도움이 될 만한 도구를 내놨습니다. ‘윤리 기계(Moral Machine)’입니다. 윤리 기계는 기계 지능(Machine intelligence)으로 이뤄지는 윤리적 결정에 대한 인간의 관점을 모으기 위한 플랫폼입니다. 윤리 기계는 윤리적 딜레마 상황을 보여주고, 마치 게임이나 퀴즈처럼 자율주행차량이 선택해야 하는 ‘덜 악한 방법’을 고르게 합니다.

윤리 기계 페이지에서 '판단하기(Start Judging)'을 누르면 문제가 나옵니다.(링크)

두 개의 차선이 있고, 한쪽에서는 반드시 사고가 납니다. 탑승자가 죽는 것도 시나리오에 있습니다. 사고의 대상자를 두고 목숨값을 재 보라는 문제들이 이어집니다. 평범한 여성과 노숙자, 아이와 노인, 남성과 여성, 죽는 사람의 숫자, 차선을 바꿀지 말지 여부 등이 선택지로 있습니다. 사용자는 직접 윤리적 딜레마의 상황을 시나리오로 낼 수도 있죠. 댓글란에서는 토론도 활발하게 이뤄지는 중입니다.

윤리 기계는 윤리적 상황에서 인간의 판단을 존중하겠다는 취지입니다. 근본적으로는 인간의 생명과 관련된 문제를 수치화할 수 없다는 생각도 깔려 있겠죠. 단순히 알고리즘으로 짜서 넣는 것은 안 되겠다는 겁니다.

윤리 기계의 목적은 ①기계가 윤리적 딜레마에 처했을 때 어떤 선택을 해야하는지에 대한 인간의 관점을 모으고 ②가능한 윤리적 상황에 대한 토론을 모으는 것입니다. 당장 판단 근거로 삼자는 주장은 아닙니다. 제작자들은 윤리 기계의 취지를 “이러한 문제에 대한 토론을 더 깊게 수행해보자는 데 있다”라고 밝히고 있는데요, 그럼에도 사람의 목숨이 달려있다니 쉽사리 선택하기 머뭇거려집니다. 독자 여러분들은 어떻게 생각하시나요?