‘로봇vs인간’의 전쟁, 평화 가능할까

  27일 판문점에서 역사적인 남북정상회담이 있었습니다. 65년 동안 지속된 긴장과 갈등의 체제를 끝낼 수 있는 단초가 마련된 것이죠. 특히 남측 평화의 집에서 열린 이번 회담은 북한 최고지도자가 처음으로 남한 땅을 밟았다는 데 큰 의미가 있습니다. 향후 한반도의 평화 프로세스가 어떻게 진행될지 주목됩니다. 이젠 전쟁의 상처를 모두 씻고 평화의 미래만 그릴 수 있길 기대해 봅니다.  
 사실 인류의 역사는 ‘전쟁과 평화’의 반복이었습니다. 처음 지구상에 인간이 태어나고 다양한 종으로 분화되면서 인간집단 간의 반목과 갈등은 수없이 계속됐습니다. 3만5000년~4만 년 전 사피엔스와 네안데르탈인의 전쟁도 마찬가지였죠. 전쟁의 양상은 후반부로 갈수록 사피엔스의 네안데르탈인 학살로 진행됐습니다. 사회성이 뛰어난 사피엔스가 ‘팀워크’를 발휘해 효율적으로 전투를 수행한 것이죠. 결국 유럽 대륙에 먼저 정착해 살던 네안데르탈인은 사피엔스에게 삶의 터전을 뺏기고 종들의 전쟁에 밀려 지구에서 멸종됩니다.  
 
 이처럼 현생 인류는 침략과 정복의 토대 위에서 시작됐습니다. 문명이 태동한 후에도 크게 달라진 게 없습니다. 인류 최초의 서사시인 호메로스의 ‘일리아스’는 고대 그리스 최고의 전쟁 ‘트로이’를 다뤘습니다. 아킬레우스와 오디세우스 등 수많은 영웅이 등장하죠. 이후 역사책을 장식한 대부분의 내용도 전쟁과 제국의 역사입니다. 마케도니아의 알렉산더 대왕, 진의 시황제, 몽골의 칭기즈칸 등 오늘날 위인으로 칭송받는 이들의 상당수가 누군가에겐 영웅이지만, 다른 한편에선 침략자였습니다.  
 그런데 미래 사회에도 엄청난 전쟁 가능성이 예고됩니다. 바로 인간과 로봇의 전쟁입니다. 아직은 먼 미래의 일이겠지만, 많은 이들이 경고를 하고 있죠. 얼마 전 타계한 스티븐 호킹 박사는 “100년 후 AI가 인간을 지배하게 될 것이다, 세계 정부를 구상해 선제적으로 대응해야 한다”고 주장했습니다. 영화 ‘터미네이터’, ‘매트릭스’처럼 전쟁이 벌어지면 로봇의 전력이 월등할 것으로 예상됩니다. 결국 기계가 인간을 지배하는 디스토피아적 가능성이 매우 크다는 이야기죠.  
 
 이것이 가능한 것은 조만간 다가올 ‘특이점(singularity)’ 때문입니다. 원래 물리학 이론인 특이점은 부피는 0이 되고 밀도는 무한대로 커져 블랙홀이 되는 순간을 뜻합니다. 그러나 최근에는 인공지능과 같은 과학기술이 비약적으로 발전해 인간의 지능을 뛰어넘는 시점을 지칭하는 말로 쓰이고 있습니다. 세계 최고의 엔지니어(구글 기술책임자)이자 미래학자인 레이 커즈와일이 ‘특이점이 온다’는 책에서 처음 정리한 개념입니다. 일본 소프트뱅크의 손정의 회장은 특이점이 2045년 전후에 올 것이라고 예측합니다.
 
 그렇다면 미래 ‘인간 vs 로봇’ 전쟁은 어떻게 펼쳐질까요? 오늘 ‘인간혁명’은 SF ‘미드’의 수작으로 불리는 ‘배틀스타 갤럭티카’의 이야기로 특이점 이후의 시대를 조망해보고자 합니다. 잠시 미지의 먼 우주 공간 속으로 여행을 떠나보시죠.  
 드라마는 ‘12 콜로니’라 불리는 행성 집단에서 벌어진 일을 다룹니다. 이 때 인간은 지구가 아닌 여러 행성에 나뉘어 살고 있었죠. 그리고 인간의 궂은 일 대부분을 '사일런(cylon)'이라 불리는 인조인간이 맡아 하고 있었습니다. 원래는 인간의 편의를 위해 만들어진 존재들이죠. 하지만 어느 날 사일런이 인간의 통제를 벗어나면서 전쟁을 일으킵니다.
 
 사일런은 인간보다 월등한 사고와 신체 능력을 갖고 있었죠. 전쟁에서 강력한 공세를 펼치는 사이런을 인간은 당해낼 수 없었습니다. 결국엔 그들이 살고 있던 모든 행성에 수소폭탄이 떨어져 멸종하게 됩니다. 유일하게 살아남은 건 오래된 구식 전함인 ‘배틀스타 갤럭티카’와 그 안에 타고 있던 5만명의 사람들뿐이었습니다.
 
 나중에 드라마는 우주 어딘가에 인간의 원조 행성 ‘지구’가 있다는 전설을 따라 탐험을 떠납니다. 그러다 인간이 살기에 적합한 조건을 가진 한 원시 행성에 도착하죠. 이 곳엔 원주민들이 있었는데 이들은 제대로 된 언어도 없이 초기 부족사회의 모습을 하고 있었습니다.  
 이곳에 온 ‘배틀스타 갤럭티카’의 인간들은 불행한 전쟁의 역사가 반복되지 않도록 자신들이 높은 과학기술을 폐관(閉關)합니다. 그 대신 이 행성의 이름을 ‘지구’라고 붙인 후 원주민과 동화해 자연의 상태로 살아가죠. 그리고 15만 년의 시간이 흐릅니다. 그 사이 원주민의 문명은 매우 높은 수준으로 발전하고, 이들 역시 과거 사일런과 같은 AI를 만들어 냅니다. 이 것이 바로 현재 우리의 모습입니다.  
 
 영화는 15만 년 전 지구가 아닌 다른 행성에 인간이 살고 있었고, 이들이 로봇과의 전쟁에서 패해 지구로 오게 됐다는 설정을 하고 있습니다. 이들은 원주민의 문명을 발전시켰고, 그 결과 현재와 같은 과학문명을 이루게 됐죠. 여기서 아이러니한 것은 과거 사일런 때문에 지구로 쫓겨 왔던 인간의 후손들이 다시 그와 같은 AI를 만들려고 한다는 겁니다. 과연 우리의 미래는 어떻게 될까요?
 4개의 시즌으로 완료된 이 드라마는 사실 인간의 본성에 대한 이야기입니다. 앞서 네안데르탈인과 사피엔스의 전쟁에서 살펴본 것처럼 인간에겐 파괴와 침략의 본능이 내재돼 있죠. ‘총, 균, 쇠’의 저자로 유명한 제러드 다이아몬드는 ‘제3의 침팬지’에서 사람과 침팬지의 DNA가 98.4%는 같고, 1.6%만 다르다고 합니다. 700만 년 전 하나의 종에서 갈려나온 두 종은 현재까지 놀라울 정도로 유사합니다. 그렇기 때문에 침팬지가 갖고 있는 폭력성이 인간에게도 내재돼 있는 것이고요.  
 
 문제는 인간이 만드는 AI도 인간의 본성이 그대로 녹아있다는 겁니다. AI는 잘 짜인 알고리즘입니다. 알고리즘은 어떤 문제를 풀기 위한 방법을 이야기하죠. 사람들은 같은 문제를 풀더라도 서로 다른 해법을 갖습니다. 하지만 어떤 문제든 가장 정확하고 빠른 해법이 존재하죠. 같은 문제라도 어느 방식을 취하느냐에 따라 효율성이 달라집니다. 알고리즘은 다양한 해법 중 가성비가 가장 높은 최적의 경로를 찾도록 설계돼 있고요.
 페이스북이 자신의 취향에 맞는 글을 추천하고, 넷플릭스가 감쪽같이 내가 좋아하는 영화들만 골라 리스트로 보여주는 것도 알고리즘 때문입니다. 소비자 입장에선 이런 추천 서비스가 선택의 부담을 덜어주고, 기업 입장에선 최적화 된 콘텐트를 보여줘야 매출을 높일 수 있기 때문에 서로 윈윈입니다.  
 
 그러나 여기에도 맹점이 있습니다. 사용자들의 기본 패턴을 좇아 콘텐트를 추천하기 때문에 평소에 자신이 가진 취향과 생각만 더욱 강화되는 거죠. 이는 장기적으로 개인의 주관과 인식을 왜곡시켜 보편적인 것에서 멀어지게 합니다. 이를  ‘확증편향’이라고 합니다. 이렇게 되면 자기 것만 옳다고 여기며 자신과 다른 생각은 받아들여지지 않습니다. 이는 올바른 사고의 발전을 가로막고 결국엔 나와 타인을 분리해 상대방을 ‘적’으로 간주하게 만들죠.  
 
 조슈아 그린 하버드대 교수는 자신의 저서 ‘옳고 그름’에서 인간이 벌이는 전쟁의 원인이 자기 확신에 있다고 지적합니다. ‘그들’과 다른 ‘우리’가 강조되고, 우리의 도덕적 가치와 철학을 확신할수록 ‘그들’을 억압하게 된다는 것이죠. 이렇게 상대를 억압하고 통제하려 들 때 ‘제3의 침팬지’가 가진 폭력성이 극대화 됩니다. 즉, 인간의 본성에 내재된 폭력성은 지나친 자기 확신과 이를 통한 구분 짓기에서 비롯되는 이야기입니다.  
 AI도 인간의 취향과 본성에 맞춰가는 알고리즘을 갖고 있기 때문에 확증편향을 갖게 될 수 있습니다. AI도 인간처럼 자신을 타자와 분리해 생각하고 인간을 ‘그들’로 생각할 수 있다는 것이죠. 인간보다 뛰어난 능력을 가진 AI가 사람을 ‘적’으로 생각하면 ‘배틀스타 갤럭티카’처럼 전쟁이 일어나는 것이고요. 과거 우리의 조상들이 네안데르탈인을 향해 폭력을 휘둘렀던 것처럼 말이죠.
 
 그렇다면 우리는 어떻게 해야 미래의 전쟁을 막을 수 있을까요? 합리적 이성과 도덕적 가치, 그 안에서 파생된 제도와 문화의 힘이 어두운 본성을 통제하지 않는다면 미래에도 전쟁은 불가피할 것입니다. 그러려면 나와 남을 구분 짓고 편을 가르는 ‘자기 확신’부터 근절해야겠죠. 
 
  하지만 이는 쉬운 일이 아닙니다. 앞서 지적한 알고리즘의 문제가 이미 우리 삶에 깊숙이 들어와 있기 때문이죠. 인터넷 공간에서 벌어지는 커뮤니케이션의 내용들을 보면 인간의 교양과 지혜가 오히려 시간이 갈수록 더욱 떨어지는 것은 아닌지 의심하게 됩니다.  
 
 자신과 다른 의견을 마치 ‘적’을 대하듯 하고, 내 생각과 다르면 모두 ‘거짓’으로 모는 행태는 타인을 괴롭게 할 뿐만 아니라 자신의 영혼까지 갉아먹습니다. 이런 것들이 모두 빅데이터로 모여 AI가 학습하게 된다면, 앞서 이야기했던 알고리즘적 확증편향이 미래 AI 로봇들에게도 그대로 심어질 수 있는 것이죠.  
 
 20세기의 대석학 움베르트 에코는 ‘장미의 이름’에서 “진리를 위해 죽을 수 있는 자를 경계하라”고 했습니다. 자신의 신념만 옳다고 믿는 독선이 ‘악’보다 위험하다는 이야기였죠. 독선은 선을 가장해(위선) 다가오기 때문에 더욱 편안하고 따뜻하게 느껴지지만 자기도 모르는 사이에 사람들을 악에 물들입니다.  
 
 인간 문명이 더욱 발전하고, 미래 로봇과 평화롭게 공존하는 세상을 만들려면 그 무엇보다 열린 마음이 있어야 합니다. 상대방의 의견은 틀린 것이 아니라 단지 다른 것일 뿐이라는 ‘오픈 마인드’가 그 어느 때보다 필요한 시점입니다.  
 
 남북의 정상과 그들을 응원하는 양측의 국민 모두 이런 마음을 가져야만, 우리를 둘러싼 여러 강대국의 이권 다툼 속에서도 한반도의 밝은 내일을 약속할 수 있지 않을까요. ‘인간과 로봇’, ‘인간과 인간’의 평화는 내용은 조금 다르지만 그 원리는 같습니다.
 
윤석만 기자 sam@joongang.co.kr  
 
#홈페이지(http://news.joins.com/issueseries/1014)