컨텐츠 뷰 본문

"뭐라? 알고리즘이 사람 차별한다고!"

By 이웃집과학자
프로필 사진
이웃집과학자 작성일자2018.11.18. | 1,492 읽음

"뭐라, 알고리즘에 사람을 이롭게도 하고 해롭게도 하는 양면성이 있다니! 자세히 풀어보거라"

출처 : 영화 <광해> 예고편 갈무리

오늘 하루 페이스북 알람을 몇 번 받으셨나요? 대출광고 문자는 몇 차례 수신하셨는지요. 경력 이직이나 취업 알선 문자, 혹은 상조나 투자자문 가입하라는 전화를 받지는 않으셨나요?


여러분을 귀찮게 하는 이런 끊임없는 소식들이 알고리즘에 기초했다는 점은 대략적으로 아실 겁니다. 그런데 알고리즘이 우리의 삶을 좌지우지하고 있다는 사실에 대해선 어느 정도 생각하고 계실까요.


'지피지기(知彼知己)'면 '백전불태(百戰不殆)'라는 말이 있는데요. 독일의 과학 저널리스트인 크리스토프 드뢰서의 저서 <알고리즘이 당신에게 이것을 추천합니다>는 '알고리즘에 잡아먹히지 않고 그것을 부리는 주인이 되는 방법'을 제시하고 있다고 하니, 필독해야겠죠?

알고리즘이 우리에게 수많은 소식을 전해준다고 해요.

출처 : fotolia
알고리즘 '슈퍼파워' 구글, 문제 없나?

구글은 알고리즘을 통해 우리가 볼 검색 결과를 결정한다고 합니다.

출처 : fotolia

바야흐로 알고리즘의 시대. 문명을 영위하는 현대인이라면 알고리즘이 씨줄과 날줄로 촘촘히 엮은 바둑판 위에서 벗어날 수 없다는 느낌을 받곤 하는데요. 드뢰서의 책 <알고리즘이 당신에게 이것을 추천합니다>는 알고리즘에 포위된 우리의 처지를 객관적인 시선으로 고발하고 그 민낯을 파헤칩니다.


드뢰서는 <알고리즘이 당신에게 이것을 추천합니다>에서 대표적인 알고리즘 기업들을 살펴보는데요. 그는 구글이 지닌 힘의 기반을 '페이지랭크'로 봅니다. 구글 검색 엔진에서 특정 단어를 검색했을 때 나오는 검색 결과의 순서를 가리킵니다.

수많은 기업들이 검색 페이지의 상위에 자사의 상품과 서비스 내용을 노출시키기 위해 노력하고 있습니다!

출처 : fotolia

북미에서만 자사의 페이지를 검색 결과의 상위에 노출하기 위해 매년 200억 달러 이상의 돈이 사용된다고 해요. 검색을 하는 사람들의 90% 이상은 검색 결과 하단에 위치한 '2페이지 넘김'을 클릭하지 않기 때문에, 기업들이 필사적으로 자신들의 상품과 서비스를 알리기 위해 노력하는 것인데요.


하지만 드뢰서에 따르면 기업들의 이러한 노력은 한 순간 수포로 돌아가기 일쑤입니다. 구글에 종사하는 수천 명의 프로그래머들이 매일 페이지랭크 상위에 노출되는 알고리즘 기준을 바꾸기 때문입니다.


또 구글은 사용자의 검색과 웹 서핑 행태를 기초로 '개인 맞춤형' 검색 결과를 제공하기도 합니다. '우리가 무엇을 볼지'를 구글의 알고리즘이 결정하는 셈이죠. 드뢰서는 이러한 과정이 민주적이지 않다고 지적합니다.

이외에도 드뢰서는 <알고리즘이 당신에게 이것을 추천합니다>에서 페이스북과 아마존, 넷플릭스 등 우리 일상을 둘러싼 알고리즘 기업들을 따뜻한 이성과 냉철한 감성으로 살펴봅니다.

정치, 알고리즘에 맡기자?

투표는 꼬박꼬박 하는데...

출처 : fotolia

"에이 인공지능이 정치하는 게 낫겠다" 이웃님들께서도 뉴스로 국회 소식을 접할 때 한 번쯤 이런 말을 해보셨을지 모르겠습니다. 정략적 이익에만 골몰한 사람들보다 감정을 배제하고 객관적으로 판단하는 인공지능이 낫다는 말인데요.

<알고리즘이 당신에게 이것을 추천합니다>에는 정말로 이런 생각을 구체적으로 하는 인물이 소개됩니다. 인터넷 사업가 겸 출판업자인 팀 오라일리가 그인데요. 그는 이른바 '작은 정부'의 정점에 알고리즘으로 운용되는 국가가 있다고 주장합니다.

오라일리는 알고리즘으로 국가를 운영할 때 이룰 수 있는 효용성의 대표로 인터넷 기반 택시회사인 '우버'를 예로 듭니다. '우버'는 택시 사용을 원하는 고객이 휴대전화에서 터치 한 번이면 많은 인력이 필요한 중개업무를 알고리즘이 대체해 택시와 고객을 이어줍니다.


우버를 이용하는 시민의 굉장히 작위적인 모습.

출처 : fotolia

우버 서비스를 이용한 뒤, 운전자나 그의 차량이 마음에 들지 않는 고객은 '낮은 점수'를 주어 해당 운전자를 우버 서비스에서 퇴출시킬 수 있습니다. 오라일리는 이런 알고리즘 방식이 정부를 대신해 효율적인 국가운용의 모델이 될 수 있다고 하는 것이죠.


오라일리의 주장은 △바라는 성과에 대한 깊은 이해 △해당 성과가 달성됐는지 알아내기 위한 실시한 측정 △새 데이터에 적응하는 알고리즘 △알고리즘이 올바른지, 바라는 대로 작동하는지에 대한 정기적이며 심층적인 분석 등 4단계의 과정으로 나누어 볼 수 있는데요. 드뢰서는 오라일리가 펼치는 논리의 맹점을 지적합니다.


그는 '우버'가 활성화될 경우 독립적으로 택시 영업을 하는 운전자들의 수입이 줄어들고 사회 보장을 할 수 없게 될 텐데, 이것이 바람직한가? 고객이 낮은 점수로 매겨 택시 노동자를 시장에서 쫓아내는 게 바람직한가? 등등의 질문을 던지면서 정치는 끊임없는 투쟁과 타협의 과정이기 때문에 알고리즘에 맡기는 것이 불가능하다고 말하죠.

여러분의 생각은 어떠신가요? 옳고 그름의 문제가 아닌 '여러 가치들 가운데 무엇을 선택해야 하는지'를 결정해야 하는 가치 판단이 필요한 정치 영역이 알고리즘으로 대체될 수 있을까요?

알고리즘도 차별한다!

드뢰서는 <알고리즘이 당신에게 이것을 추천합니다>에서 알고리즘도 누군가를 차별할 수 있다고 꼬집습니다. 그는 마이크로소프트 소속의 과학자 케이트 크로퍼드가 만든 스트리트 범프(Street Bump)라는 앱을 예로 듭니다.

스트리트 범프는 본래 보스턴 정부가 관내 도로에 난 구멍을 보수하는 작업을 용이하게 하는 데 도움을 주기 위해 고안됐습니다. 이 앱이 설치된 스마트폰을 가진 운전자가 주행 중에 구멍 때문에 차가 덜컹거리는 일을 겪으면 스마트폰이 그 충격을 기록해 보스턴 정부에 보고하는 것이죠. 그러면 보스턴 당국은 모니터링 결과를 통해 보수를 진행합니다.


스트리트 범프 앱은 부자동네와 가난한 동네의 도로 인프라 차이를 더 벌릴 수 있다고 해요.

출처 : fotolia

하지만 드뢰서에 따르면 여기에 숨은 문제가 있는데요. 바로 '스마트폰을 보유한 사람'이 많은 지역의 도로에 난 구멍이 당국에 더 많이 보고될 것이란 사실입니다. 상대적으로 스마트폰을 보유하지 못하는 저소득 계층 거주 지역의 도로 상황은 덜 보고되겠죠. 결국 스마트폰을 더 많이 가진 동네의 도로가 정비되는 경우가 많게 됩니다. 드뢰서는 이와 같은 알고리즘 과정이 부자 동네와 가난한 동네의 도로 인프라 차이를 불러올 수 있는 까닭에 문제가 있다고 짚어냅니다.


알고리즘이라는 양날의 검, 어떻게 쓸까?

『알고리즘이 당신에게 이것을 추천합니다』의 표지.

출처 : 북하우스 퍼블리셔스

"이 책에서 나는 알고리즘의 힘을 둘러싼 논의에 객관적 기반을 제공하고자 했다. 감정적이고 선입견이 있는 인간보다 감정 없는 컴퓨터 프로그램이 결정을 내리는 편이 더 나을까? 사람들이 자동차를 몰다가 때때로 사고를 일으키는 세상보다 자동차들이 스스로 운전하며 돌아다니는 세상이 더 나을까? 아무도 싸잡아서 대답할 수 없다. 다만 확실한 것은 그 세상은 현재의 세상과 다르리라는 점이다"


-크리스토프 드뢰서, 『알고리즘이 당신에게 이것을 추천합니다』, 전대호, 서울:북하우스 퍼블리셔스, 2018, p.263.


드뢰서는 위와 같은 전언으로 책의 말미를 장식합니다. <알고리즘이 당신에게 이것을 추천합니다>를 읽다보면 나름대로 결론이 내려지는데요. 그의 저서는 알고리즘의 개념과 그 속에 담긴 함의를 알고 싶은 현대인들에게 필독서라 할 만합니다. 드뢰서와 함께 알고리즘의 세상을 산책해보시는 건 어떨까요?

##참고문헌##

  

크리스토프 드뢰서, 『알고리즘이 당신에게 이것을 추천합니다』, 전대호, 서울:북하우스 퍼블리셔스, 2018.


관련 책
알고리즘이 당신에게 이것을 추천합니다
알고리즘이 당신에게 이것을 추천합니다
저자
크리스토프 드뢰서
발행일
2018.11.05
출판사
해나무
가격
정가 15,800원보러가기

놓치지 말아야 할 태그

#반려동물

    많이 본 TOP3

      당신을 위한 1boon

        더보기