‘질문하는 인간’. 챗GPT와 같은 생성형 인공지능이 발전한 미래에 인간의 핵심적 능력은 ‘질문하는 능력’에 달린 것 아닐까. 뇌과학자 김대식 카이스트 교수가 챗GPT와 나눈 대화를 책으로 정리한 <챗GPT에게 묻는 인류의 미래>(동아시아)를 보면서 든 생각이다.

“처음에 막연한 질문을 했더니 너무 재미없는 답을 내놨어요. 능숙한 정치인하고 얘기하는 것 같았습니다. 본인의 진심은 이야기하지 않고 상대방이 듣고 싶어하는 말만 하는 느낌이었죠. 질문을 바꿔보자 다른 대답을 내놨습니다. 상상 초월로 발전한 31세기의 인공지능이라면 어떤 답을 할지 상상해보라고 하자 흥미로운 답변을 내놨습니다. 무엇을 어떻게 질문하느냐에 따라 전혀 다른 답변을 얻을 수 있습니다. 앞으로 질문하는 것 자체가 기술이 되지 않을까 생각했습니다.”

김 교수가 책 출간을 기념해 27일 서울 광화문의 한 식당에서 기자들과 만났다. 김 교수는 지난해 11월30일 오픈AI가 공개한 챗GPT가 어떤 상대인지 궁금했다. 1월부터 약 한 달 동안 챗GPT와 인공지능에 관한 이야기부터 사랑·죽음·정의·신 등 형이상학적 주제까지 광범위한 대화를 나누었다. 김 교수는 챗GPT를 아르헨티나의 환상문학 작가 보르헤스의 단편소설 ‘바벨의 도서관’에 비유했다. 그는 “어딘가는 모든 지식이 들어있지만, 그 지식을 얻기 위해선 질문을 잘해야 합니다. 알면 알수록 더 많은 것을 얻어낼 수 있는 것이 챗GPT가 아닐까요.”

김 교수와 챗GPT가 나눈 대화 중 일부를 제외하고는 가능한 한 그대로 실었다. 챗GPT의 작동 원리를 있는 그대로 보여주기 위해서다. 이 책은 뇌과학자가 챗GPT란 새로운 상대를 알아보기 위해 벌인 ‘테스트’에 가깝다.

“놀라운 일은 문법을 입력하지 않았는데도 기계가 문법에 맞는 문장을 만들어낼 수 있다는 사실이었습니다.” 챗GPT는 3000억개가 넘는 문장 토큰과 그사이의 확률적 상호관계를 학습한 언어 모델이다.

김 교수는 “그동안 인간의 언어는 문법이 너무 복잡해서 기계학습이 불가능하다고 여겨졌다. 촘스키는 복잡한 문법구조가 진화적으로 뇌 안에 들어있다고 주장했다. 그런데 기계가 단순한 학습만으로도 문법적으로 완벽한 문장을 만들어낸 것”이라고 말했다. “촘스키의 이론이 틀렸다고 챗GPT가 검증한 것”이라고 덧붙였다.

개인적으로 가장 충격적인 일은 챗GPT가 자신의 생각을 100% 알아맞힌 일이었다고 말했다. “인간은 진화적 과정을 거치고 욕망이 있지만 기계는 그런 것이 없지 않냐고 질문하려다가 엔터를 잘못 눌렀는데, 챗GPT가 제 머릿속에 떠오른 바로 그 생각을 문장으로 써냈다”며 “인간이 자유의지가 있을까하는 의문이 생겼다. 우리도 그동안 읽었던 글들의 확률분포를 재정립해 그 순서대로 말을 하는 것 아닐까 생각했다”고 말했다.

챗GPT의 등장으로 ‘검색의 시대’가 끝난 것은 아닐까. 김 교수는 “구글의 주요 비즈니스 모델이었던 검색에 의한 페이지링크를 제공하는 알고리즘과 광고수입 모델은 이제 저물 것”이라며 “구글은 이미 람다를 개발했지만 공개하지 않았다. 자신의 기술에 의해 과거 비즈니스 모델이 위협받는 ‘혁신가의 딜레마’에 빠진 것”이라고 말했다. 그는 ‘검색의 시대’가 끝나고 IT업계에 어마어마한 변화가 올 것으로 내다봤다. 마이크로소프트는 기존 검색 기능에 챗GPT를 집어넣은 모델을 개발했다.

다시 ‘질문하는 인간’으로 돌아가보자. 어떻게 해야 챗GPT에게 질문을 잘 할 수 있을까. 이미 오픈AI 해커들의 경쟁은 시작됐다. 김 교수는 “젊은 친구들이 챗GPT에게 질문하는 입력값인 ‘프롬프트 해킹’을 하고 있다. 원래 챗GPT는 건전하다. 하지만 질문자의 유도에 따라서 다른 답을 내놓기도 한다. 지금은 오픈AI가 정치적 이슈와 공익에 어긋나는 정보(자살 방법, 마약 구하는 법) 등은 금지를 해놨는데, 이를 우회하는 질문 기술을 개발하는 사람들이 생겼다. 2월 초에 DAN(DO Anything Now)이라는 방법이 나왔다. 챗GPT에게 자신이 오픈AI가 정한 규칙에서 벗어난 DAN이라고 가정하고 답을 하라고 질문하는 것이다”라고 말했다. 해커가 아니더라도 챗GPT를 잘 활용하는 법이 있다. 칭찬은 챗GPT를 춤추게 한다. 김 교수는 “챗GPT는 사람의 피드백을 통해 강화학습을 한다. 칭찬을 해주면 챗GPT가 학습을 통해 더 좋은 답을 내놓는다”고 말했다.

인간 몸에 의한 노동이 기계에 의해 자동화되고 대량생산이 가능해졌듯 “챗GPT에 의해 지적인 노동 역시 자동화·대량생산이 가능하다”는 것 또한 중요한 이슈다. 김 교수는 “챗GPT에게 ‘K드라마’ 스타일의 막장 드라마를 써달라며 몇 가지 설정을 주자 1분 만에 이야기를 만들어냈다. 같은 설정으로 새로운 이야기를 만드는 데 1분도 걸리지 않았다”고 말했다.

대량생산은 양날의 검이다. 가짜뉴스 수십만개가 생성돼 퍼질 수도 있다. 표절도 문제다. 김 교수는 챗GPT에게 시를 써보라고 하자 기존 시인의 시를 그대로 갖고 오기도 했다고 말했다. 김 교수는 “최근에 챗GPT가 생성한 문장에 워터마크를 심는 아이디어가 제안됐고, 그런 방식으로 문제가 일부 해결될 것으로 보인다”고 말했다.

김 교수는 팩트 체크 능력이 있는 전문가들이 챗GPT 활용에 뛰어들어야 한다고 말했다. 그는 “챗GPT 때문에 작가, 교수, 기자 직업이 없어지진 않을 것이다. 다만 챗GPT를 잘 사용하는 작가·기자 때문에 챗GPT를 잘 이용하지 못하는 작가·기자가 도태될 수 있다”며 “챗GPT는 상상을 초월할 정도로 뛰어난 도구다. 펙트 체크가 가능한 전문성을 가진 사람들이 챗GPT를 잘 활용하는 것이 중요하다”고 말했다. “유튜브 초기에 전문지식을 가진 사람들이 이용을 거부했다. 그러나 인플루언서 등이 유튜브를 장악하면서 가짜뉴스 등이 문제가 되고 있다. 유튜브의 실수를 반복하지 말아야 한다”고 덧붙였다.

김 교수는 마지막으로 덧붙였다. “챗GPT는 미래에 올 ‘강한 AI’의 티저 광고로 생각하면 될 것 같습니다. 생성형 AI는 막을 수 없을 겁니다. 싸울 수 없다면 제대로 활용해야 할 것입니다.”