인공지능(AI)으로 사진 속 여성의 옷을 벗기는 것처럼 속이는 딥페이크 앱과 웹사이트의 이용자가 늘면서 악용 우려가 커지고 있다.

10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.

딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 그래피카 조사에 따르면 올해 초보다 9월에 X(옛 트위터)와 레딧 등 사회관계망서비스(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수도 2400% 폭증했다.

X에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들 수 있다는 내용을 담고 있었다. 유명인은 물론 직장 동료와 학교 친구, 어린이 등의 사진을 입력하면 클릭 몇 번만으로 사진 속 인물의 옷을 제거할 수 있다.

한 사이트는 “원하는 여성의 옷을 벗기라”는 성희롱적 광고를 내보내기도 냈다. 또 다른 관련 앱은 유튜브에 광고 비용을 지불해 ‘벌거벗기다(nudify)’라는 단어 검색 시 가장 먼저 표시되는 것으로 조사됐다. 사진 속 인물은 대부분 여성이었고, 상당수 웹사이트는 여성 사진에 한해 옷 벗기기 기능을 작동하게 만들었다.

이들 서비스의 인기는 실제 같은 이미지를 만들 수 있는 AI의 출시 때문으로 보인다고 그래피카는 분석했다. 블룸버그도 AI 기술 발달이 성범죄에 악용될 수 있다는 우려를 심화시키고 있다고 지적했다. SNS에서 당사자의 동의나 통제, 인지 없이 사진을 가져다 음란물로 만들고 이를 배포하는 행위는 심각한 법적·윤리적 문제를 야기할 수 있어서다.

개인정보보호 전문가들은 AI 기술의 발달로 딥페이크 영상을 더 쉽고 더 효과적으로 만들 수 있게 됐다고 우려한다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “주로 고등학생과 대학생들 사이에서 이런 일이 벌어진다”고 우려했다.

플랫폼 기업들도 범죄 확산을 차단하기 위해 나선 상황이다. 구글은 “성적으로 노골적인 콘텐츠는 허용하지 않고 있고, 정책을 위반한 광고는 삭제하고 있다”는 입장을 블룸버그에 전했다. 레딧도 “가짜 음란물의 동의 없는 공유는 금지하고 있다”며 “조사를 통해 (관련) 도메인을 막고 있다”고 밝혔다. 틱톡은 ‘옷 벗기(undress)’라는 키워드를 차단하고 있다고 했다.