집에도 안 가고 잠도 안 자고 계속 회사에 상주하고는 있는데 할 일은 안 하는 직원을 보는 기분이다. 네이버에서 악플을 감지하는 ‘AI클린봇’ 이야기다. 두 가지 풍경을 보자. 성차별주의 단체인 ‘신남성연대’는 지난 8월2일부터 익명 메신저 디스코드를 통해 포털 내 젠더 이슈 기사의 링크를 걸어 반여성주의적인 내용으로 베스트 댓글을 점유하는 활동을 하고 있다. 이를 가장 먼저 고발한 경향신문 기사의 네이버 댓글란에도 그들의 베스트 댓글이 최상단에 자리하고 있다(8월10일 기준). 또 다른 풍경도 있다. 지난 8월4일 올림픽 여자배구 8강전 한국 대 터키 경기에 대한 네이버 실시간 중계 댓글에선 여성 선수들에 대한 성희롱적인 발언이 이어졌다. 개중 터키 선수들에 대해 ‘케밥녀’란 표현이 사용되기도 했다. 중앙일보 기사에 따르면 이에 대해 네이버 관계자는 “‘케밥녀’를 욕설로 봐야 할지, 그 기준이 사람마다 다르다. 누군가에겐 표현의 자유”라고 해명했다. 그동안 한국 여성을 비하하기 위해 ‘김치녀’를, 또한 ‘김치녀’와 대비되는 개념 있는 여성이란 의미로 한국 여성을 역으로 비하하고 또한 일본 여성을 역시 남성 시각에서 재단하려 ‘스시녀’를 발화하던 사회에서 그로부터 파생된 게 거의 확실한 ‘케밥녀’가 어떻게 여성혐오적이지 않을 수 있을까. 이런 댓글들 옆에서 클린봇은 쉬지 않고 작동 중이라는 초록 눈을 뜨고 있다.

물론 클린봇을 나무라서 해결될 일은 아니다. 중요한 건 이런 문제들을 클린봇이 해결할 수 없다는 걸 네이버가 인정해야 한다는 거다. 클린봇이 사전처럼 특정 어휘들을 욕설이나 혐오차별 표현으로 수집해 삭제 혹은 블라인드 처리하는 건 가능할지 모른다. 하지만 어떤 언어가 특정 대상의 존엄을 훼손하고 차별적 효과를 발휘하는 건 화용론적이고 유동적인 맥락 위에 있다. 유엔 표현의 자유 특별 조사관 데이비드 케이의 2019년 보고서는 “혐오 표현에 대한 세부 맥락에 대한 판단은 인공지능이나 자동화기술에 의존할 수 없으므로 반드시 사람이 해야 하고, 사람에 의한 판단은 혐오 표현을 실제로 경험하는 공동체의 경험에서 배운 내용을 바탕으로 진행되어야 한다”고 제언한다(김민정 ‘소셜미디어 플랫폼상의 혐오표현 규제’에서 재인용). 앞서 ‘케밥녀’의 경우 어휘만 보면 케밥이란 음식과 여성의 조합일 뿐이지만 그동안 ‘김치녀’라는 어휘의 용법, 어떤 물의가 벌어질 때 ‘○○녀’라 명명하고 부정적 의미로 활용하던 다양한 용례들, 여성을 먹는 것으로 묘사하는 저열한 성적 대상화의 경험이 중첩되어 그 단어의 차별적 맥락이 드러난다. 현재의 AI가 이것을 해낼 수 있으리라 기대하긴 어렵다. 여기에 공백이 있다.

최근 신남성연대는 이러한 공백을 파고들어 댓글란을 점유한다. 그들은 노골적인 여성혐오 및 비하 표현을 쓰는 대신 기사 내외의 성평등적 관점과 문제의식을 편견이나 조작이라 주장하고, 자신들의 베스트 댓글 점유는 그동안 여성주의자들이 해오던 댓글 점유를 ‘정화’하는 작업이라 명명한다. 당연히 클린봇이 잡아낼 수도 없고 포털도 애매하단 입장을 취하기 쉽다. 여기엔 두 가지 기만이 있다. 직접적 여성혐오 표현을 피하고 중립적인 척해도 여성이 겪는 성차별적 경험에 대한 발화를 무조건 불신하고 비하하는 담론 지형에서 여성은 동등한 논의 참여의 주체가 될 수 없다. 그러니 여성을 혐오하는 게 아니라 페미니즘을 혐오한다는 말은 실천적으론 모순에 가깝다. 두 번째 기만은 이에 대한 신남성연대의 반론에서 드러난다. 여성들도 남성들의 목소리를 페미니즘의 이름으로 억눌렀기에 자신들의 활동은 그것을 다시 되돌리는 정의로운 작업이라는 것이다. 딱히 참신할 것 없는 논리지만, 그동안 여성들도 응원 혹은 비판의 의도로 포털 기사 댓글에 대한 화력 지원을 한 건 사실이다. 하지만 여성들도 했으면서 자신들의 활동만 비난하는 건 ‘내로남불’이라는 논리는 댓글 지원의 의도와 실천적 효과, 도덕적 근거를 모두 괄호 치고 오직 형식적 동일함만 따진다는 점에서 매우 허약하다.

포털 내 젠더 이슈 기사 찾아가
노골적 혐오·비하 표현 대신 중립적인 척
성평등적 관점과 문제의식을 편견·조작이라 주장

남성 목소리가 페미니즘의 이름으로 억눌렸기에 되돌리겠다는 건
도덕적 근거 무시한 채 형식적 동일함만 따지는 것일 뿐

가령 얼마 전 제주도에 함께 여행을 간 여성이 성관계를 거부하자 죽인 남성에 대한 포털 기사에선 ‘줄 생각도 없이 제주도까지 따라간 년이나 안 준다고 죽인 놈이나’라는 댓글이 600개의 호응을 받으며 베스트 댓글이 됐고 대동소이한 논리의 댓글들이 상단을 차지했다. 하루 뒤 그러한 댓글을 조목조목 비판하는 여성의 댓글이 3000개가 넘는 ‘좋아요’로 상단을 차지했다. 이것을 페미니즘 진영의 베스트 댓글 점유 공작으로 신남성연대의 그것과 동일하게 놓아도 될까. 여성의 자기 결정권을 부정하고 고인이 된 여성을 모독하는 이들의 목소리가 과잉 대표되지 않도록 힘을 모으는 건 건강한 담론장을 위한 활동이다. 하지만 실재했던 안산 선수에 대한 남성들의 사이버 불링과 모의를 페미니스트들의 조작이라 주장하고 ‘페미는 정신병’ 따위의 댓글을 올리는 건, 가짜뉴스를 통한 선동이자 페미니즘에 내재한 평등에 대한 믿음을 적극적으로 훼손하는 행위다.

올림픽 중계를 보며 성차별 댓글을 다는 방구석 성차별주의자들과 신남성연대의 지령을 받으며 베스트 댓글 점유에 동원되는 역시 방구석 성차별주의자들에 대한 당연한 비판과 별개로 이런 목소리가 쉽게 유사 공론장에서 과잉 전시되는 것에 대해 포털의 책임이 요구되는 건 그래서다. 앞서의 중앙일보 기사에서 네이버는 올림픽 중계 ‘응원톡’에서의 성희롱 표현에 대해 “기사 댓글 개념과 다르다. 선수가 기사를 보고 상처받는 게 문제라는 건데 실시간 라이브의 경우 선수가 경기에 임해 직접 보지 못하고 선수 응원 글이 훨씬 더 많다”고 해명했다. 맞는 말이다. 하지만 성희롱을 비롯한 혐오차별 표현은 그것이 당장 기사나 영상의 대상에게 보이지 않더라도, 그것이 게시되는 것만으로 차별에 취약한 이들이 기대는 암묵적 공공선에 대한 약속을 파기하는 효과, 그리고 비슷한 차별주의자들에게 혼자가 아니라는 신호를 낸다. 선량한 시민들이 그들의 여론 조작에 휘둘리지 않더라도 그러하다. 그리고 신남성연대가 그러하듯 차별주의자들은 포털 기사 및 웹툰 베스트 댓글을 기사나 웹툰 피드백과 상관없는 공공연한 혐오 정서의 메인 게시판으로 사용한 지 오래다. 지난 2020년 네이버 댓글 개편에 대한 한국언론진흥재단의 ‘미디어 정책 리포트’에선 “대다수 이용자들은 전체 댓글을 10개 이내로 보는 경향이 있기 때문에 이 순위에 들기 위한 조작의 가능성”이 있어 최상위 댓글 노출을 고정이 아닌 변동형으로 적용할 것을 제안한다. 이젠 조작의 가능성 문제가 아니라 대놓고 조작이 이뤄지는 걸 모두가 목도하는 중이다.

하여 클린봇은 죄가 없다. 현재 차별주의자들이 네이버 댓글란에서 벌이고 있는 건 기술적 빈틈에 대한 해킹이 아닌 제도적 빈틈을 노린 해킹이다. 댓글 시스템에 내재한 빈틈과 포털의 방관을 변화시킬 근거가 없는 사회의 빈틈. 김수아 서울대 언론정보학과 교수는 “현재 우리 법 제도상으로 차별과 혐오가 금지된다는 조항이 어디에도 없어서 정보통신망법에서도 이를 규제할 근거가 없다. 포털 입장에선 본인들이 임의로 규제하면 헌법이 보장한 표현의 자유를 침해했다는 판결이 나올 수 있어 방어적일 수밖에 없다. 그래서 논의가 돌고 돌아 언제나 차별금지법으로 돌아간다”고 설명한다. 포괄적 차별금지법이 제정되어도 그것을 근거로 정보통신망법을 수정하는 논의 및 설득 과정도 필요하다. 굉장히 지난하고 가능성이 아주 높진 않은 시나리오다. 하지만 당장 기술 개발로 클린봇이 실재하는 차별의 맥락을 모두 깨달을 가능성보다는 훨씬 높다. 그러니 이 칼럼에 신남성연대가 네이버에서 댓글을 달더라도 클린봇을 원망하진 않겠다. 대신 차별주의자들과 방관하는 포털과 차별금지법 제정에 지지부진한 국회를 비난하겠다. 물론 댓글이 안 달리더라도 이 셋을 비난할 거다. 그게 혐오차별 표현에 공격받는 이들에 대한 진정한 의미의 ‘연대’일 테니.