월 100만원의 코딩전문 유치원이 있다고 한다. 코딩은 누구나 쉽고 즐겁게 할 수 있다고 선전하지만 동의하기 어렵다. 코딩은 어려운 일이다. 내가 짠 프로그램이 자신뿐만 아니라 남에게도 도움이 되게 만드는 일은 어렵고 괴로운 일이다.

“쉬운” 코딩 교육의 문제점을 일찍 지적한 전산학자 다익스트라는 쉬운 교육이 재능 있는 아이의 창의성을 도리어 갉아먹는다고 주장한다. 초보자 전용 언어란 손가락 2개만으로도 피아노를 칠 수 있는 간편 연주법과 다름없다는 것이다. 그렇게 해서 좋은 연주가로 발전하기 어렵다. 피아노가 잘 맞지 않는 사람은 일찍부터 그 진실을 본인에게 인지시켜주어야 한다. 그게 진정 그 당사자를 위한 일이다. 코딩 역시 그러해야 한다. 그런데 코딩에는 사회적 문제와 결합된 당파성까지 숨어 있다.

알파고 이후 인공지능에 대한 관심이 높아지고 있다. 인공지능 기술 수준은 미래기술의 중추가 될 것이라고 한다. 사람들은 인공지능 시스템이 가져다줄 희망에만 관심을 두고 있다. 우리들은 인공지능 시스템을 만들기 위한 코딩작업을 기술의 문제로만 접근할 뿐 그에 숨어 있는 당파성은 간과하고 있다.

인공지능이라는 단어에는 탈인격화의 의도가 교묘하게 숨어 있다. 사람들은 인공지능 시스템에서 생긴 문제를 그것을 만든 개발자와 분리해 인공지능 자체의 문제로 생각하는 경향을 가지고 있다. 예를 들어 만일 다리가 무너지면 시공한 사람이나 관리 책임자에게 책임을 추궁하지만, 인공지능의 경우에는 인공지능 자체를 탓하곤 한다. 인공지능 그 자체로 완벽할 수 없는 것이라든지, 또는 버그 없는 프로그램은 원천적으로 불가능하다는 식으로 과오의 책임을 소프트웨어 그 자체에 돌린다. 즉 개발팀에서 고안한 알고리즘의 오류나 코딩상의 실수가 아니라 인공지능이 잘못 학습해 만든 그 자체의 한계라고 생각하는 것이다. 이것은 프로그램 오류를 스스로 생겨나고 사라지는 벌레인 버그(bug)라고 미화해 부르는 것과 같은 문화적 맥락이다.

인공지능이든 뭐든 소프트웨어로 구현된 모든 것에는 개발자의 의도가 들어 있다. 그 의도가 분명하기 때문에 우리는 인공지능 시스템의 성공 여부를 검증할 수 있는 것이다. 인공지능이 주위로부터 정보를 수집해 증폭시킨 지식이라도 그것이 개발자의 의도에 합당한지 항상 평가를 한다. 알파고의 지능은 각 착수가 최종 승리에 도움이 되었는지로 평가될 수 있다. 그러나 바둑과 달리 다양한 가치기준의 현실에서 이 문제는 간단치 않다. 요즘 이슈가 되는 자율자동차의 경우를 보자.

자율자동차의 핵심기술은 도로 상황을 인지하고 반응하는 능력이다. 만일 주행 중에 어린아이가 차 앞으로 갑자기 뛰어들었다고 가정해보자. 자율자동차는 브레이크를 밟고 밀려나가 아이와 충돌하든지, 아니면 핸들을 오른쪽으로 틀어 성인 4명이 있는 정류장으로 돌진하든지, 또는 왼쪽 중앙선을 넘어가 달려오는 트럭과 부딪치는 이 3가지 중 하나를 선택하는 상황으로 한정해보자. 반대쪽 차선으로 피할 경우 자율자동차 승객은 크게 다칠 것이다.

이 상황에서의 의사결정은 무인 주행 시스템을 코딩한 개발자의 기준에 달려 있다. 만일 무인차가 차주가 원하는 행동을 보이지 못했다면 프로그램은 수정돼 ‘올바른 지능’을 가질 때까지 다시 교육될 것이다. 만일 인명사고를 최대한 방지해야 한다면 무인차의 속도는 아주 늦추어질 것이다. 사람과 조금이라도 비슷한 물체라고 인식되면 차는 정지해야 한다. 그런데 이런 식으로는 시간당 10㎞도 달리지 못하기 때문에 채산성을 맞출 수 없다.

결국 무인차의 지능은 효율과 안전 사이의 균형에 따라서 결정되고 그렇게 코딩된다. 결국 자율자동차의 가치판단 지능은 프로그래머가 코딩으로 결정하는 것이다.

미래에는 인공지능이 사람을 대신해 감시하고 조정하고 지시할 것이다. 그 과정에서 교묘한 차별이 있을 수 있다. 미국에서 지난 판례를 기준으로 만들어본 인공지능 판결 시스템은 흑인과 여성에게 불리한 판결을 제시했다고 한다. 자동 판결 시스템은 결국 그걸 설계, 개발한 사람 의도의 재현일 뿐이다. 이런 탈인격 시스템은 사회적 불평등을 더욱 고착화시킬 수 있기 때문에 사회적 공론을 거쳐야 한다. 인공지능이 계층 간의 갈등을 합리화시켜주는 마법의 중립어로 악용돼서는 안될 것이다.

코딩작업은 기술과 과학, 당파성까지 포함하는 매우 복잡한 윤리적 활동이다. 간단한 한 줄 코딩에도 철학이 필요한 이유가 여기에 있다.