세계 최고 바둑 챔피언과 첨단 인공지능의 승부가 끝났다. 이세돌 9단과 승부를 겨룬 알파고를 보며 마음이 편치만 않았던 이유는 인간의 전유물이라고 여겨온 지능을 컴퓨터가 세련되게 구사하는 모습에서 느껴지는 생경함과 두려움일 것이다.

그 불편함은 무엇보다 신경세포 덩어리인 두뇌 속에서 지능이 어디에서 발현되고, 사유와 가치 판단이 어떻게 이루어지는지 아직 밝혀내지 못한 데 기인한다. 우리가 미처 정복하지 못한 지능을 컴퓨터가 발전시켜 가고 있는 상황을 목도하며, 필자는 이번 이세돌 9단과 알파고의 대국이 인공지능에 대한 두 가지 시사점을 준다고 본다.

첫째는, 알파고의 인공지능이 신경망을 본뜬 구조를 갖고 있다는 점이다. 구글 측에 따르면, 알파고는 ‘정책망’과 ‘가치망’이라는 두 개의 인공신경망이 마치 수백만 개의 신경세포와 같은 연결고리를 형성해 명령 없이도 최적의 수를 결정할 수 있는 능력을 지녔다고 한다. 이 때문에 알파고의 다음 수가 어떤 논리적 알고리즘으로 정해지는지 개발자들도 미리 알기 어려웠다.

둘째는, 엄청나게 빠른 학습 속도다. 알파고는 주어진 기보로 불과 몇 달 만에 세계적인 수준의 바둑 실력을 스스로 연마해냈다. 하나의 대형 컴퓨터가 아니라 여러 대의 컴퓨터가 병렬 연결되어 시너지를 내도록 설계된 알파고의 클라우드 컴퓨팅이 빛을 발한 것이다.

물론 알파고는 바둑이라는 특정한 작업만을 매우 잘하도록 설계된 소위 ‘약 인공지능’에 불과하므로, 이번 알파고의 선전을 인류에 대한 위협으로 보는 것은 성급한 결론일지 모른다. 그러나 인공지능은 계속해서, 지금 이 순간에도 진화하고 있다.

2009년 이미 한 실험에서 협업을 위해 설계된 로봇들이 한정된 자원을 두고 서로를 속이고, 이를 색출하기 위한 방법을 스스로 고안해냈다고 한다. 막강한 학습능력과 판단력을 갖춘 인공지능이 어느 순간 인간이 설계한 영역을 뛰어넘어 독립체로서의 ‘자아’를 만들고 ‘초지능’을 무기로 우리에게 반기를 들지 않을 것이라고 단언할 수 있을까? 인공지능이 스스로의 목소리를 낼 때, 아무런 안전장치를 갖춰두지 않았다면 그 파장은 상상을 넘어설지도 모른다.

일찍이 SF 작가 아이작 아시모프는 ‘로봇 3원칙’을 제창한 바 있다. 로봇은 인간에게 해를 가해서는 안되고, 인간의 명령에 복종해야 한다는 것이 주된 내용이다. 아쉽게도 인공지능이 기술적으로 구현되는 현시점에서 이와 같은 고민이나 연구는 충분하지 않아 보인다. 이전과는 다른 크기의 거대한 위협-인류라는 종에 대한 위협-에 비해 우리가 준비한 대응책과 안전망은 미비한 수준이다. 인간이 만들어낸 기술이 언제까지나 우리의 통제권 아래 있을 것이라는 안일한 생각은 또 다른 위협 요소로 보인다.

편익과 위협이라는 양면을 가진 첨단기술이 인류와 공존하기 위해서는 기술에 대한 선제적인 고민과 연구가 필수적이다. 에디슨의 전구에 처음 불이 들어왔을 때의 환호는, 적절한 안전기준을 갖추지 못한 채 확산되어 전기 화재 사고로 수많은 인명을 빼앗기도 했다.

스스로 생각하고 진화하는 인공지능의 위협은 전기의 그것과 비교할 수 없으며, 인공지능의 발전과 동시에 ‘안전망’을 갖추기 위한 적극적인 성찰과 노력이 없다면 인류의 편익과 보호를 위해 개발된 기술이 거꾸로 인류를 공격하는 디스토피아가 상상에만 머물지 않을 수 있다. 이번 알파고 대국이 인공지능과 인류의 미래에 시사하는 바는 그래서 남다르다.