컨텐츠 뷰 본문

사람처럼 대화하는 인공지능, 윤리 논쟁 불붙이다

구글 듀플렉스를 두고 벌어진 AI 윤리 논란
프로필 사진
블로터 작성일자2018.05.14. | 1,184 읽음
댓글

구글이 사람 대신 전화를 걸어주는 인공지능(AI)를 공개했다. AI가 직접 미용실이나 식당에 전화를 걸어 예약을 잡아주고, 쉬는 날을 확인해주는 식이다. 구글이 시연한 영상에는 사람과 거의 구분되지 않는 수준으로 AI가 인간 직원과 대화하는 모습이 등장한다.

영화관람

심지어 ‘으흠’하고 사람처럼 대화에 추임새를 넣기도 한다. 구글은 이를 ‘구글 듀플렉스’ 기술이라고 소개했다. 고도화된 대화형 AI 기술은 탄성을 자아내지만 한편으론 윤리적 질문을 던지게 한다. AI와 인간이 구분되지 않는 데서 발생하는 문제다.

지난 5월8일(현지시간) 구글의 연례 개발자 컨퍼런스 

‘구글 I/O 2018’에서 공개된 ‘구글 듀플렉스’ 기술

과 관련해 윤리적 문제가 제기되고 있다. 비판의 요지는 크게 두 가지다.


AI와 사람을 구분되지 않게 만들어 사람을 속일 수 있다는 점에서 개인의 알권리, 프라이버시 등을 침해할 수 있다는 비판과 이로 인해 발생할 전화 사기 등 사회적 범죄 가능성에 대한 우려다.


구글은 이런 반응에 대해 해당 우려를 인지하고 있으며 다양한 실험이 올여름에 계획돼 있다는 입장이지만, AI가 자신의 정체를 드러내야 한다는 문제 제기에 대해선 분명한 답을 내놓지 않고 있다.

사람을 기만하는 AI에 대한 비판

집순이

‘구글 듀플렉스’에 대한 가장 직접적인 문제 제기는 사람과 구분되지 않는 수준의 AI가 자신의 신분을 명확히 밝히지 않는다는 점이다.


제이넵 투페치 노스캐롤라이나주립대학 교수는 트위터를 통해 “구글 어시스턴트가 자신이 ‘봇’인지 밝히지 않을 뿐만 아니라 ‘음’, ‘아’ 등의 반응을 추가해 인간처럼 전화하도록 만들어져 상대방을 속일 수 있다”라며 “끔찍하다. 실리콘밸리는 윤리 의식을 상실했고 통제가 제대로 안 되며 최근의 일(페이스북 개인정보 유출 사태)로부터 교훈을 얻지 못했다”라고 비판했다.


최근 페이스북 사태로 불거진 실리콘 밸리의 윤리 의식 문제를 이번 구글 AI 기술 시연을 통해 다시 짚은 셈이다.

기술의 진보가 직면하는 책임에 관해 주장해온 작가 스튜어트 브랜드는 “인공지능의 음성은 (인간과 다른) 인조 음성을 내야 한다”라며 “어떤 종류의 성공적인 속임수는 신뢰를 파괴하며 신뢰가 깨졌을 때 남는 것은 빠르게 악화된다”라고 말했다. AI가 인간을 모방하는 것을 지향해서는 안 된다는 주장이다.


또 일부 AI 전문가들은 AI인지 사람인지 명확히 구분되지 않을 때 기술에 대한 신뢰가 깨지고 더 나아가 대량의 전화 사기 등 사회적 문제가 발생할 수 있다는 우려를 제기한다.

기계와 인간의 소통을 돕는 기술


구글은 듀플렉스 기술이 텔레마케팅에 사용되지 않을 거라고 밝혔다. 이번에 구글 I/O 2018에서 선보인 기술은 일종의 시연으로, 그대로 나오지 않고 다양한 실험을 거쳐 출시될 것이란 입장이다.


스콧 호프만 구글 어시스턴트 개발 총책임자는 듀플렉스 기술에 대한 사람들의 반응이 환호와 비판이 섞여 있다며 우려를 충분히 인지하고 있다고 전했다.


하지만 “로봇 음성으로 전화가 올 경우 사람들은 전화를 바로 끊을 것”이라며 기계음과 사람의 음성을 구분해야 한다는 주장에 대해선 선을 그었다. 또 자신이 구글 어시스턴트이며 고객을 위해 전화했다는 점을 밝히는 사항에 대해선 고려 중이며 올여름 다양한 실험이 진행될 예정이라고 밝혔다.

구글은 기본적으로 듀플렉스 기술을 ‘기계와 인간의 소통을 돕는 기술로’ 내다본다. 인간이 기계의 언어를 이해하고 학습하는 게 아닌 기계가 사람의 언어를 이해하고 소통하는 것은 자연어처리(NLP) 기술을 비롯한 AI 기술의 오랜 목표이기도 하다. 구글은 듀플렉스 기술이 전화 통화가 필요한 일에 보조 역할을 해줄 것으로 기대한다. 듀플렉스 기술 옹호론자들은 자동화된 전화 서비스가 장애인에게 도움을 줄 수 있으며 고객서비스와 번거롭게 힘쓰는 일에서 해방시켜줄 것이라고 주장한다.

사회가 기술을 감시해야 하는 이유


구글 순다 피차이 CEO는 이번 행사에서 “AI를 통해 모두를 위한 문제를 해결한다”라고 말했다. 이는 구글이 AI 퍼스트를 외치면서 지향한 목표다. 또 구글 듀플렉스는 만능이 아니다. 가게를 예약하고 약속을 잡는 등 좁은 통로에서만 구글 듀플렉스가 제대로 작동한다.


이번 행사에서 구글 듀플렉스 시연은 지난해 동시통역 기능을 보여준 구글 ‘픽셀 버드’와 마찬가지로 일종의 기술 퍼포먼스 성격이 강하다. 구글은 AI 기술의 진보와 AI가 어떤 방식으로 사람을 도울 수 있는지 보여줄 목적으로 해당 기술을 시연한 셈이다.


문제는 기술이 사회적으로 어떤 파급을 낳을 수 있는지 충분한 고려가 있었는지다. 기술의 선한 의도가 반드시 선한 결과물로 이어지지 않기 때문이다. 구글이 자신들의 기술을 과시하기 위해 선보인 기술에 윤리적 문제 제기가 쏟아진 배경엔 페이스북의 개인정보 유출사태가 있다.


전문가들은 실리콘밸리 전반에 윤리적 의식 없이 기술적 실험이 이뤄진다는 비판이 팽배한 상태에서 ‘음’, ‘아’ 하며 사람과 같이 반응하는 AI를 시연한 건 사려깊지 못했다고 지적한다. 구글의 이번 퍼포먼스에는 ‘사람과 구별되지 않는 수준의 AI’에 대해 충분한 설명이 없었다.

놓치지 말아야 할 태그

#커피

    많이 본 TOP3

      당신을 위한 1boon

        더보기