인공지능은 의도치 않게 인류를 파괴할 수 있다

"우리 존재를 위협할 수 있는 것은 의식을 발전시킨 로봇이 아니다. 우리가 시키는 일을 너무 능숙하게 하는 로봇이다."

'우리가 걱정해야 할 것은 로봇이 가지는 의식이 아닙니다. 능력입니다. 우리가 잘못 지정한 목표도 아주 훌륭하게 수행해내는 그 능력이죠'

컴퓨터 '딥 블루(Deep Blue)'가 체스 챔피언 가리 카스파로프를 이기는 장면

러셀 교수는 AI가 인간이 미처 모든 걸 다 고려하지 못한 지시에 따라 행동할 때 벌어질 수 있는 위험을 강조했다