조 바이든 미국 행정부가 인공지능(AI)을 기반으로 영상과 이미지를 합성하는 기술인 ‘딥페이크’를 악용한 성 착취물의 제작·확산을 막기 위한 대책을 마련했다.

백악관은 23일(현지시간) 보도자료를 내고 AI 개발자, 금융 기관, 클라우드컴퓨팅 업체 등에 딥페이크 성 착취물을 통한 수익 창출을 막고, 미성년자 이미지를 노골적으로 사용해 광고하는 사이트 결제를 제한할 것을 요구하는 내용을 담은 공문을 보냈다고 밝혔다.

백악관은 구글과 애플 등 모바일 애플리케이션(앱) 스토어를 관리하는 ‘게이트 키퍼’에게도 딥페이크 성 착취물 생성과 확산을 막을 수 있는 일련의 조처를 요구했다.

백악관은 딥페이크 성 착취물을 시의적절하게 차단하기 위한 연방법이 미비한 상황에서 업계의 ‘책임 있는 행동’이 절실하다고 했다.

아라티 프라바카르 미 백악관 과학기술정책실장은 “주로 여성과 소녀를 대상으로 한, 합의되지 않은 이미지가 경이적인 속도로 만들어지는 걸 목격하고 있다”며 “가장 시급한 대처 방안은 기업들이 나서는 것”이라고 AP통신에 말했다.

백악관은 이번 조처를 뒷받침할 수 있는 법적 제도도 만들어져야 한다고 강조했다. 제니퍼 클라인 백악관 젠더정책위원장은 기업들이 자발적으로 나서서 약속을 지킬 수 있도록 독려한다고 해서 “의회가 이 문제에 대한 조처를 마련해야 한다는 근본적인 필요조건은 바뀌지 않는다”고 말했다.

최근 전 세계에서는 딥페이크를 이용한 성폭력 피해 사례가 늘고 있다. 미성년자 피해도 양산되고 있다.

지난 1월에는 미국 팝가수 테일러 스위프트의 얼굴 사진을 합성한 악의적인 딥페이크 성 착취물이 온라인에서 유포되면서 국제사회의 경각심을 불러일으켰다. 당시 마이크로소프트는 스위프트 이미지 중 일부가 자사 AI 도구에 의해 생성된 것을 확인한 뒤 안전장치 강화를 약속했다.

딥페이크 성 착취물은 한국에서도 그 피해가 심각한 상황이다. 최근 서울대 졸업생 2명이 동문을 포함해 수십 명의 사진으로 성 착취물을 제작해 유포한 이른바 ‘서울대 N번방 사건’이 사회에 파장을 일으키기도 했다.

지난 3월 프랑스 일간 르몽드는 한국을 ‘딥페이크 공화국’이라고 요약하며 “한국 여성들이 ‘내 인생의 당신의 성 착취물이 아니다’라는 구호 아래 (가해자) 처벌 강화 시위를 했다”고 보도했다.