총선이 진행 중인 인도에서 발리우드(인도 영화계) 스타들이 등장하는 딥페이크 영상이 확산하는 사건이 벌어졌다.

27일(현지시간) 사우스차이나모닝포스트(SCMP)에 따르면, 인도 발리우드 인기 스타 아미르 칸과 란비르 카푸르가 나렌드라 모디 총리를 비판하고 야당을 응원하는 영상이 사회관계망서비스(SNS)에서 확산했다. 각각 40초, 30초가량의 영상에서 칸과 카푸르는 모디 총리가 “두 번의 임기 동안 선거 공약을 지키지 않았으며 중요한 경제 문제를 해결하지 못했다”고 말했다. 영상은 야당의 구호인 “정의를 위해 투표하고 의회를 위해 투표하라”는 문구로 끝난다.

이는 인공지능(AI) 기반 딥페이크로 제작된 가짜 영상이었다.

두 배우 모두 해당 영상이 가짜라고 밝히고 법적 대응에 나섰지만, 이미 SNS에서 50만회 이상 조회수를 기록하며 퍼져나간 뒤였다.

영상의 진위를 한눈에 구별할 수 없는 일반 유권자에겐 딥페이크가 잘못된 영향을 끼칠 수 있다는 우려가 나온다. 사후에 영상이 가짜라는 사실이 밝혀진다고 하더라도 유권자들에게는 여전히 잘못된 믿음과 의심이 남는다는 점 역시 문제다.

인도의 팩트체크 전문가 아치스 쵸드후리는 “허위 정보가 인도가 직면한 가장 큰 문제 중 하나라는 점을 고려하면 AI에 기반한 허위 정보는 이미 나쁜 상황을 더 악화시킨다”고 SCMP에 말했다.

SNS 측이 적극적으로 관리에 나서야 한다는 지적도 나온다. 인터넷 관련 국제 인권단체인 ‘액세스 나우’의 남라타 마헤시와리 수석정책고문은 “선거와 같은 민감한 기간에는 이러한 오용을 식별하고 이를 바로잡고 예방하려는 조치가 더욱 시급하다”고 밝혔다. 그는 또한 유권자가 사실 확인 책임을 져선 안 된다며 “콘텐츠를 급속히 확산시키도록 고안된 SNS 회사들의 알고리즘 역시 조작된 거짓 정보를 광범위하게 확산시킨 데 대한 책임이 있다. 적어도 부분적으로는 정보 확산을 통제하는 것을 목표로 해야 한다”고 말했다.

지난 19일 시작된 인도 총선은 현재 2단계까지 마쳤다. 44일 동안 진행되는 이번 총선에선 하원의원 543명을 선출한다. 지난 19일 집계된 1차 투표율은 62%였다. 모디 총리가 이끄는 집권 여당 인도국민당(BJP)이 이미 의석을 확정한 곳도 있다.