한번 유포되면 걷잡을 수 없이 확산하는 디지털 성 착취물을 끝까지 추적해 삭제하는 인공지능(AI) 기술 개발에 서울시가 직접 나선다. 무한 복제·공유를 차단해 피해자의 고통이 장기화되는 것을 막기 위해서다. 지자체가 관련 기술 개발에 나서는 것은 이번이 처음이다.

서울기술연구원과 서울시는 AI 융합 기술을 활용해 성 착취물을 식별하고 삭제하는 기술 도입하기로 했다고 7일 밝혔다.

디지털 성범죄 피해를 지원하는 ‘서울 디지털성범죄 안심지원센터’에서는 현재 안면 인식 기술로 재유포 차단·삭제하는 불법 촬영물 추적 시스템을 가동 중이다. 하지만 빠르게 진화하는 범죄 형태에 대응하려면 기술 개선이 시급하다고 판단한 것이다. 삭제 지원은 디지털 성범죄 피해자에게 가장 절실한 부분이다.

성 착취물 추적은 비디오·오디오·텍스트 등 각종 데이터 분석 기술이 융합돼 이뤄진다. 얼굴 매칭뿐 아니라 움직임과 오디오 주파수, 대화 내용까지 복합적으로 분석해 정확도가 높아질 것으로 보인다. 특히 성 착취물은 영상을 찾아내 삭제해도 시간이 지나면 다시 유통되는 특성이 있다. 이에 연구원은 관련 불법 사이트를 자동 검색해 추적하는 기능도 개발할 예정이다. 서버를 바꾸거나 새로 생성한 사이트에 피해 영상을 다시 올리는 경우가 많기 때문이다. 웹사이트 정보를 자동으로 추출하고 게시된 영상·이미지 등 데이터를 추출·분석하는 기술을 적용할 예정이다.

연구원은 AI 기술을 2023년 상반기 내 개발해 안심지원센터의 피해 영상 추적 시스템으로 운용할 예정이다. 임성은 서울기술연구원장은 “날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이며, “개발한 AI 삭제 지원시스템을 24시간 가동할 수 있도록 하겠다”고 밝혔다.