테크플러스

트위터에서 사용자가 원치 않는 누드 사진을 보기 전에 차단할 수 있는 소프트웨어가 출시됐다.

영국 공영방송 BBC 등 외신은 지난 14일 트위터에서 원치 않는 누드 사진을 차단할 수 있는 '세이프 디엠(Safe DM)'이라는 새로운 플러그인(필터)이 나왔다고 보도했다.

이 필터를 설치하면, 트위터 '다이렉트 메시지(DM, 사용자끼리 메시지 보내기)'를 통해 전송되는 원치 않는 남성 성기 사진을 차단, 삭제할 수 있다.

BBC에 따르면 개발자인 켈시 브레슬러는 한 남성으로부터 원치 않는 누드 사진을 받은 뒤에 이 아이디어를 생각해냈다.

브레슬러는 소셜미디어 회사들이 사용자들을 '사이버 플래싱(cyber flashing)'으로부터 보호하기 위해 더 많은 일을 할 수 있다고 말했다. 사이버 플래싱은 상대방의 동의 없이 음란 사진 등을 보내는 행위를 일컫는다.

사이버 플래싱 행위 중엔 대표적으로 아이폰의 '에어 드롭' 기능을 악용해 음란 사진을 보낸 사례들이 있다. 해외에선 사이버 플래싱 행위가 미성년자 및 여성에 대한 디지털 성폭력으로 사회적 문제가 되고 있다.

브레슬러는 필터를 인공지능(AI) 기반 기술로 개발하기 위해 지난 9월 사람들에게 남성 성기 사진을 보내달라고 공개적으로 요청했다. 사진을 통해 AI를 훈련하고, 테스트할 수 있기 때문이다.

그는 트위터를 통해 "DM에서 남성 성기 사진을 자동으로 감지하고 사용자 대신에 처리할 수 있는 필터를 테스트하고 있다"라고 밝혔다. 그리고 4000장이 넘는 사진을 받았다.

해당 필터를 사용하려면 자신의 트위터 계정에 필터를 추가하고, DM에 직접 접근할 수 있도록 허용(앱 인증)해야 한다. 필터는 자동으로 사용자 메시지를 스캔하고 성기 이미지를 확인한다. 만약 이미지를 찾으면, 그 이미지는 부적절하고 삭제됐다는 메시지를 사용자와 보낸 이에게 모두 보낸다.

개발자에 따르면 AI는 원치 않는 이미지만 찾으며, DM의 텍스트 내용은 읽지 않는다고 말했다.

세이프 DM 개발팀은 필터가 99% 작동한다고 주장했다.

인터넷 뉴스 버즈피드가 여러 버전의 사진들로 성능을 테스트해 본 결과, 해당 필터가 남성 성기 사진을 탐지하고 삭제하는 기능이 정확하다고 평가했다. 다만 몇 분 정도의 지연 시간이 있지만, 피부색의 유사 이미지를 차단하는데 효과적이라고 전했다.

미국 여론조사기관인 퓨 리서치 조사에 따르면 18세에서 29세 여성 중 절반이 넘는 53%가 원하지 않는 음란물 이미지를 받은 경험이 있는 것으로 나타났다.

브레슬러는 세이프 DM을 트위터 이외에 더 많은 소셜미디어 플랫폼에 적용하기 위한 논의를 시작했다고 전했다.

세이프 DM 개발진은 해당 필터는 설치 후에도 대시보드를 통해 켜고 끄는 것이 가능하며, 모든 성기 사진을 나쁘게 생각하는 것은 아니라고 덧붙였다.

테크플러스 에디터 김명희

tech-plus@naver.com