흑인소녀 검색했는데 왜 성인사이트가 나오죠

흑인소녀 검색했는데 왜 성인사이트가 나오죠

김성호 기자
입력 2019-08-01 23:16
업데이트 2019-08-02 04:12
  • 글씨 크기 조절
  • 프린트
  • 공유하기
  • 댓글
    14

구글은 어떻게 여성을 차별하는가/사피야 우모자 노블 지음/노윤기 옮김/한스미디어/344쪽/1만 6000원

2012년 스톡홀름 현대미술관에서 열린 ‘세계 예술의 날’ 행사에 참석한 레나 아델손 릴리에로트 스웨덴 문화부 장관이 흑인 여성 몸처럼 만든 케이크를 잘라 작가에게 먹이고 있다. 이 작가는 흑인 분장을 하고는 작품이 올려진 테이블에 얼굴만 내놓고 케이크를 받아 먹었다. 케이크는 인종차별과 할례 의식을 비판하는 것이라고 했지만, 웃으면서 여성의 은밀한 부분을 잘라 먹인 장관은 “문화부 장관으로서 자격이 없다”는 비난에 직면해 사퇴 압력까지 받았다.  한스미디어 제공
2012년 스톡홀름 현대미술관에서 열린 ‘세계 예술의 날’ 행사에 참석한 레나 아델손 릴리에로트 스웨덴 문화부 장관이 흑인 여성 몸처럼 만든 케이크를 잘라 작가에게 먹이고 있다. 이 작가는 흑인 분장을 하고는 작품이 올려진 테이블에 얼굴만 내놓고 케이크를 받아 먹었다. 케이크는 인종차별과 할례 의식을 비판하는 것이라고 했지만, 웃으면서 여성의 은밀한 부분을 잘라 먹인 장관은 “문화부 장관으로서 자격이 없다”는 비난에 직면해 사퇴 압력까지 받았다.
한스미디어 제공
요즘 사람들은 필요한 지식의 대부분을 상용 검색 엔진을 통해 찾는다. 도서관이나 사서, 교사, 학자 등 지식을 연구하고 창출하는 이들보다 인터넷 검색 엔진에 더 크게 의존한다. 그 데이터를 이용할 때 빠지기 쉬운 착오는 검색 장치가 객관적이고 중립적이라는 믿음이다. 하지만 실제 현실은 딴판이다. 정보의 순위 왜곡이 빈번하고 사회 전방위로 가짜 뉴스가 홍수를 이룬다. 캘리포니아대 교육정보학대학원 조교수가 쓴 이 책은 바로 그 점을 정색하고 짚어 눈길을 끈다. 인터넷상의 검색 엔진들이 어떻게 편향된 정보를 제공하며 차별과 불평등을 조장하는지를 세밀하게 폭로하고 있다.
이미지 확대
2016년 구글에서 ‘10대 흑인’과 ‘10대 백인’을 검색한 결과. ‘10대 흑인’은 무수히 많은 머그샷 사진을 이미지 결과로 보여 준 반면 ‘10대 백인’은 매우 건전한 모습으로 나타났다. 한스미디어 제공
2016년 구글에서 ‘10대 흑인’과 ‘10대 백인’을 검색한 결과. ‘10대 흑인’은 무수히 많은 머그샷 사진을 이미지 결과로 보여 준 반면 ‘10대 백인’은 매우 건전한 모습으로 나타났다.
한스미디어 제공
●차별·혐오 조장 수단이 된 검색 알고리즘

책은 저자의 충격적인 체험에서 시작됐다. 2010년 딸의 놀잇감을 찾기 위해 컴퓨터 앞에 앉았지만 예상과 다르게 외설적인 포르노그래피로 가득 찬 검색 결과 화면과 마주치게 됐다. 흑인 소녀에 대한 구글의 첫 번째 검색 결과는 ‘달콤한 흑인 여성 성기닷컴’이라는 성인 사이트였고 흑인 여성들을 왜곡된 성적 대상으로 표현한 낯부끄러운 게시물들이 줄이어 노출됐다고 한다. 포르노라는 단어를 함께 검색하지 않았는데도 어떻게 이런 정보들이 일방적으로 제공될 수 있을까.

저자는 디지털 알고리즘이 오히려 차별과 혐오를 조장하고 확대한다고 분명히 밝히고 있다. 책 제목에선 여성을 콕 집었지만 비단 여성 차별뿐만 아니라 유색인, 유대인 등을 대상으로 한 적나라한 인종차별적 가치관이 알고리즘에 삽입돼 인터넷 플랫폼을 통해 유통되고 있다고 고발한다.

●인터넷 의사결정도 결국 인간이 만든 것

객관적이고 중립적이라 여겨졌던 검색 알고리즘은 어떻게 차별과 혐오 조장의 수단으로 탈바꿈했을까. 저자가 제시하는 이유는 의외로 간단하다. 빅데이터나 알고리즘의 자동 의사결정을 실행하는 수학 공식이 인간에 의해 만들어진다는 점이다. 의사결정에 관여하는 모든 사람은 각자의 가치관을 갖게 마련이고 그 가치관을 바탕으로 인종차별과 성차별, 잘못된 능력주의 등을 공공연하게 표방하게 된다는 주장이다. 그 지론은 ‘인종차별의 모든 토대가 반흑인주의이며, 인종차별은 인터넷에서 이뤄지는 구조화된 차별행위의 기본 공식’이라는 사회비평가 라토야 피터슨의 이론과 딱 맞아떨어진다.
이미지 확대
●구글맵에 ‘검둥이’ 치면 오바마 백악관이…

실제로 유에스뉴스앤드월드리포트는 2015년 구글 알고리즘의 글리치가 이미지 검색을 돕는 자동 태깅 기능과 안면 인식 소프트웨어에서 여러 문제를 일으키고 있다고 보도한 바 있다. 사진 애플리케이션이 흑인들의 사진에 ‘유인원’이나 ‘동물’ 같은 단어를 태그로 붙인다는 것이다. 워싱턴포스트도 버락 오바마 대통령 임기 중 ‘검둥이’를 구글 맵에 검색하면 백악관이 표시된 사건을 폭로했다. 2009년에는 미셸 오바마의 얼굴에 원숭이 얼굴을 합성한 사진이 유포되기도 했다.

그처럼 이미지 왜곡으로 압축되는 데이터 오류는 숱하다. 잊힐 만하면 벌어지는 흑인들에 대한 경찰의 과도한 총기 사용이 대표적이다. 그런 이미지 오류는 이제 정치적 영역으로까지 확대되는 추세다. 2016년 미국 대선이 가장 친숙한 예다. 300만표 차를 유지하며 근소한 우세를 이어 가던 힐러리 클린턴이 도널드 트럼프에게 패배하며 전세가 뒤집힌 상황을 두고 즉각적으로 제기된 원인은 바로 온라인에서 확산된 가짜 뉴스였다.

●“백인 독점 해체 뒤 비영리 검색 엔진 돼야”

데이터 기반 의사결정 시스템이 사적 이해관계에 따라 작동되는 것을 막을 수 있는 방법은 뭘까. 저자는 궁극적으로 구글 같은 거대 독점 정보기업들이 해체돼야 한다고 못박는다. “앞으로 등장할 교과서에서 정보는 공공 정책의 최상위에 포진한 백인 우월주의자와 허위 정보 전문가들이 자신들의 이익과 권력을 위해 유포하는 정책으로 기록될지도 모른다”고 경고한다. 책 말미에 얹은 대안이 설득력 있게 다가온다. “상용 정보 검색 플랫폼에 대한 대안으로 비영리 및 공공연구 자금을 확충해야 하며, 그 결과물은 공공의 복리에 기여하고 거짓되고 위해한 정보를 걸러 낼 수 있는 비영리 검색 엔진이 될 수 있다.”

김성호 선임기자 kimus@seoul.co.kr
2019-08-02 32면
많이 본 뉴스
광고삭제
위로