미국 국방부 영내에서 폭발 사고가 발생했다고 주장하는 가짜 사진(사진) 게시물이 사회관계망서비스(SNS)를 통해 확산하면서 한때 금융시장까지 출렁였다. 사진은 인공지능(AI)으로 생성한 가짜 이미지였다.

AP통신 등에 따르면 22일(현지시간) 트위터에 미 워싱턴 인근 버지니아주 국방부 영내에서 폭발이 발생했다고 주장하는 가짜 사진이 올라왔다. 사진은 이날 오전 8시42분쯤 트위터에서 유료 인증을 받은 계정인 ‘@CBKNews121’에 처음 게시됐다. 이 계정에는 미국의 극우 음모론자 집단인 ‘큐어난(QAnon)’과 관련한 게시물들이 올라와 있었다고 NBC가 보도했다. 이후 러시아 관영매체인 RT가 “펜타곤(미 국방부 청사) 근처에서 폭발이 일어났다”며 사진을 트윗했고, 블룸버그통신과 전혀 관련이 없는 가짜뉴스 계정 ‘블룸버그 피드’, 팔로어가 160만명인 월가 유명 블로거 등이 연이어 ‘펜타곤 근처 폭발’이라는 설명과 함께 사진을 게시했다.

온라인에서 사진이 일파만파 확산되자 오전 10시27분쯤 버지니아주 알링턴 소방서가 “펜타곤이나 그 근처에서 발생한 폭발 사건이 아예 없다”며 진화에 나섰다. 국방부도 펜타곤 인근에 폭발 사건이 없었다고 발표했다.

그러나 사진이 유포된 몇 시간 사이 미 금융시장은 일시적으로 출렁였다. 반대로 안전자산인 미국 국채와 금값은 잠시 상승했다.

전문가들은 사진에 AI로 생성한 흔적이 뚜렷이 보인다고 지적했다. 건물 앞 울타리가 변형되고 뒤섞인 흔적을 쉽게 알아챌 수 있어 조악한 수준의 생성 이미지라는 것이다. 사진 속 건물도 펜타곤이 아닌 것으로 확인됐다. AP는 전문가들의 말을 인용해 “점점 접근하기 쉬워진 AI 프로그램이 야기할 수 있는 일상의 혼란이 이번 사태로 드러났다”고 지적했다.

이번 사건으로 트위터도 비판을 받고 있다. 워싱턴포스트(WP)는 일론 머스크가 트위터를 인수한 뒤 바이럴 트렌드를 팩트 체크하던 팀을 해고하고, ‘계정 인증’ 역시 자동화된 유료 인증 절차로 변경함에 따라 트위터가 이런 조작 유포에 악용될 가능성이 커졌다고 지적했다. 르네 디레스타 스탠퍼드인터넷관측소 연구원은 WP에 “이번 사건은 AI 자체의 문제가 아니다”라며 “이것은 트위터의 뉴스 속보를 신뢰할 수 있는지 판단할 수 있는 신호가 얼마나 쓸모없게 되었는지를 보여주는 사례”라고 말했다.