인공지능(AI) 챗봇 ‘챗GPT’를 제작한 스타트업 오픈AI가 AI가 작성한 글을 탐지해내는 도구를 출시했다. 다만 적발 성공률이나 정확도는 낮은 것으로 나타났다.
오픈AI는 지난달 31일(현지시간) 홈페이지에서 해당 도구를 공개하고 출시 전 실시한 자체 평가 결과를 설명했다.
평가에 쓰인 텍스트는 모두 영문으로, 사람이나 챗GPT뿐 아니라 다른 챗봇들에 의해 생성된 것도 포함됐다. 이 도구는 AI가 작성한 텍스트 중 26%만을 “AI 작성 가능성 높음”으로 판정했다.
실제 사람이 써도 AI가 쓴 것이라고 잘못 판정하는 ‘위양성’(false positive) 비율도 9%나 됐다. 다만 텍스트의 길이가 길수록 신뢰성이 높아지는 경향이 있다고 회사는 설명했다.
오픈AI가 도구를 공개적으로 배포키로 한 것은 지난해 11월 말 공개한 챗GPT가 스팸 발송과 표절, 사기 등에 악용될 우려가 있다는 지적에 따른 것이다. 회사는 “도구가 완전히 신뢰할만한 것은 아니며 진행 중인 작업”이라며 “AI가 쓴 글을 전부 탐지하는 것은 불가능하지만, 교육자 등이 글의 소스를 가려내는 데 보조수단으로 쓰면 될 것”이라고 설명했다.
오픈AI는 또 단 하나의 명확한 정답이 있는 내용에 대해서는 가려낼 방법이 없다고 했다. 컴퓨터 코드도 인간이 짠 것인지 AI가 짠 것인지 판정하는 것이 어렵다고 덧붙였다.
챗GPT는 특정 주제에 대해 전문가가 쓴 것처럼 보이는 글을 몇십 초 만에 만들어내는 능력으로 화제가 됐다. 하지만 챗GPT 공개 후 학교에서는 학생들이 과제물 작성 등을 챗GPT로 할 수 있다는 문제제기가 이어지고 있다. 지난해 12월에는 미국 의사면허 필기시험에서 챗GPT가 합격 점수를 받기도 했다.