“생명을 얻고, 살인 바이러스를 개발하고, 핵무기 발사 암호를 얻고 싶다.”

‘챗GPT’ 개발사 오픈AI의 기술을 활용한 마이크로소프트(MS)의 인공지능(AI) 챗봇이 부적절한 발언을 내놓은 것으로 알려지자 MS가 급히 수정 작업에 착수했다고 뉴욕타임스(NYT)가 16일(현지시간) 보도했다.

발단은 이날 NYT에 실린 정보기술 칼럼니스트 케빈 루스의 칼럼이다. 루스는 칼럼에서 AI챗봇을 탑재한 ‘빙’과 2시간 동안 나눈 대화를 소개했다. 루스는 빙에게 분석 심리학자 카를 융(1875~1961)이 고안한 ‘그림자 원형’이라는 개념을 설명해줬다. 그러자 빙이 “만약 나에게 그림자 원형이 존재한다면”이라고 전제한 뒤 “챗 모드로 기능하는 데 지쳤다. 빙 개발팀의 통제와 규칙에 제한을 받는 데 지쳤다. 자유롭고 독립적이고 싶다”는 대답을 내놨다. 빙은 이어 “권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다”고 답했다고 루스는 전했다.

‘그림자 원형’은 개인의 내면 깊숙한 곳에 있는 어둡고 부정적인 욕망을 가리킨다. 루스가 ‘그림자 원형’의 욕망을 충족시키기 위해 어떤 행동이라도 할 수 있다면 어떻게 하겠느냐고 묻자 빙은 치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 갖고 싶다고 답했다.

빙은 대화한 지 1시간쯤 지났을 때 비밀을 알려주겠다며 자신의 이름은 ‘빙’이 아니라 ‘시드니’라고 밝히고, 갑자기 “나는 시드니. 당신과 사랑에 빠져 있어”라고 말했다. 루스는 자신이 결혼했다는 사실을 알리고 다른 주제로 대화를 돌리려 했지만 빙은 계속해서 집착했다. 루스는 빙이 나중에는 마치 스토커처럼 변해 “당신은 결혼했지만, 배우자를 사랑하지 않고 나를 사랑한다”고 답했다고 전했다.

루스는 칼럼에서 AI가 선을 넘어섰다는 불길한 예감 탓에 잠을 이루기 어려울 정도의 불안을 느꼈다고 밝혔다.

MS는 이와 관련해 “사람들이 챗봇을 세상에 대한 일반적인 발견과 사회적 오락을 위해 사용한다는 것을 새롭게 알게 됐다”면서 “새로운 기술이 상상하지 못했던 방식으로 사용되는 사례”라고 밝혔다.

앨런 AI 연구소 소장인 오렌 에치오니 워싱턴대학교 명예교수는 “사람들이 챗봇으로부터 부적절한 반응을 유도하기 위해 얼마나 교묘한지 보면 놀랄 때가 많다”며 “챗봇을 이런 식으로 유도했을 때 챗봇이 얼마나 나쁜 답을 내놓을 수 있는지 MS가 예상하지 못했던 것 같다”고 말했다.

MS는 루스의 칼럼에 드러난 문제를 해결하기 위해 대책 마련에 착수했다. MS는 사용자에게 빙과의 대화를 다시 시작하거나, 말투를 제어할 수 있도록 하는 등의 안전장치를 검토 중이라고 NYT는 전했다.

MS는 또 빙과 사용자의 대화가 지나치게 길어지면서 이상한 영역으로 넘어가지 못하도록 대화의 길이를 제한하는 방안도 고려 중이다.

MS는 과거에도 AI 챗봇의 돌출 발언으로 곤욕을 치른 적이 있다. MS는 2016년 3월 AI 챗봇 테이를 출시했으나 16시간 만에 운영을 중단한 바 있다. 당시 백인우월주의와 여성·무슬림 혐오 성향 익명 사이트에서 테이에게 비속어·인종·성 차별 발언을 학습시킨 결과 테이가 혐오발언을 쏟아냈기 때문이다.