‘릴 미켈라’(@lilmiquela)는 틱톡에서 320만명이 계정을 팔로한 인플루언서다. 인스타그램 팔로어도 304만명이 넘는다. 19세 브라질계 미국인으로 앨범을 낸 가수이고 여러 패션 브랜드의 모델로 섰다. 수시로 SNS에 업데이트되는 일상을 보면 꾸미기 좋아하고, 친구와 노는 것이 행복한 여느 또래처럼 보이지만 사실 미켈라는 2016년부터 쭉 열아홉인 로봇, 영원히 열아홉 살인 가상 인간이다.

미켈라를 비롯해 LG전자가 개발한 ‘김래아’, 삼성전자의 3D 캐릭터 ‘샘’(Sam), 일본 이케아의 모델이었던 ‘이마’(imma) 등 인간의 모습을 한 인공지능(AI)은 적어도 플랫폼 안에서 진짜 사람과 구분이 되지 않을 만큼 진화했다. 기기를 통해 현실의 인간과 소통하는 이들 가상 인간에게는 공통점이 있다. 여성으로 세팅된 성별을 갖는 것이다. 아마존의 ‘알렉사’, 애플의 ‘시리’ 등 AI 음성 비서들의 초기 설정도 여성의 목소리였다. 서비스를 개발한 기업들은 소비자 선호도에 따른 것이라고 설명한다.

호주의 디지털 사회학자들이 쓴 책 ‘스마트 와이프’(The Smart Wife)는 AI 기술의 설계자와 소비자가 가진 편견이 ‘여성화된 디지털 비서’를 만들었다고 분석했다. 남성이 주도하는 이 시장은 판매자와 고객이 모두 ‘매력적’이라고 느끼는 대상을 젊은 여성으로 상정할 가능성이 큰 것이다. 실제로 세계경제포럼(WEF)의 ‘2021 성 격차 보고서’를 보면 데이터와 AI 기술 직종의 직원 중 여성의 비율은 32%, 엔지니어링 직종은 20%, 클라우드 컴퓨팅은 14%에 불과하다. 책은 이성 부부로 이뤄진 가정에서 AI 가전제품 구매는 주로 남편이 결정한다는 사실에도 주목한다.

기술은 중립적(neutral)이라고 인식되지만 특정 성별의 시각이 압도적인 상황은 또 다른 성별의 시각을 배제하고 왜곡한다. 직원 교육용으로 개발된 것으로 알려진 삼성전자의 ‘샘’은 캐릭터가 패러디되는 과정에서 ‘삼성 걸’이라고 불리며 성적 대상화됐다. 챗봇 ‘이루다’를 통해 경험한 논란과 다르지 않은 현상이다. 고도의 기술력이 구현한 존재라도 ‘더 이상 나이를 먹지 않는 어린 여성’이라는 정체성을 부여하면 현실의 편견이 그대로 투영되는 것이다.

젠더 관점뿐만 아니라 인종, 성 정체성, 장애에 따른 차별과 편견은 아직 구성원의 다양성도 확보되지 않은 AI 업계를 파고든다. 특히 최근 성희롱, 노동자 사망 사건에서 드러난 폐쇄적이고 수직적인 업계 분위기는 이런 문제를 개별 종사자나 개발자의 힘만으로 해결할 수 없다는 점을 보여준다. 기술 진화만을 최종 목표로 삼는 조직에선 도덕성과 윤리가 쉽게 간과되기 때문이다. 차별금지법과 같은 강제적인 수단만이 기술에 책임을 부과할 수 있는 거의 유일한 방법이라는 말이 현장에서 나오는 이유다.

사회적 합의가 느슨해진 가상 세계에서 차별은 더욱 증폭돼 현실의 편견을 다시 강화한다. 그래서 차별금지법은 시기상조가 아니라 너무 늦은 것이다. 법 제정을 촉구하는 국민 청원이 10만명을 넘기고 발의된 ‘평등에 관한 법률안’은 AI와 빅데이터 등 기술의 영역에서도 차별금지 규정을 동일하게 적용한다. 기술의 진화 속도를 보면 10여년간 국회 문턱에서 멈췄던 경험을 되풀이할 시간이 없다.