preLoad Image preLoad Image
검색 바로가기
주메뉴 바로가기
주요 기사 바로가기
다른 기사, 광고영역 바로가기
중앙일보 사이트맵 바로가기

안전한 ‘수퍼지능’은 없다 … 통제할 방법 당장 연구해야

| AI의 도전, 인류가 겪어보지 못한 일
지금 대비 정도따라 인류 미래 결정


과연 기계는 인간을 넘어설까. 만약 그렇다면 그 시점은 언제일까. 인공지능(AI)시대의 공포는 이런 것이다.

AI 연구자 중 90%는 2075년까지 인간의 일반지능을 훨씬 능가하는 수퍼지능(superintelligence)이 등장할 것으로 내다본다. 대비책을 세우지 않으면 수퍼지능이 인류를 파멸시킬 수 있다.
 
기사 이미지

‘포린 폴리시’가 ‘세계 100대 지성’으로 선정한 닉 보스트롬. 스스로를 “AI의 미래에 대해 비관론도 낙관론도 아닌 현실주의자”라고 소개했다. [사진 닉 보스트롬]


닉 보스트롬(43) 영국 옥스퍼드대 교수가 쓴 『수퍼지능』(2014)은 이 문제를 집중적으로 다뤘다. 그가 『수퍼지능』에서 제기한 경고는 일론 머스크, 마크 저커버그, 빌 게이츠 등의 지지를 받고 있다. ‘포린폴리시’ 선정 ‘세계 100대 지성’이다. 지난 14일 그를 전화로 인터뷰했다.
 
수퍼지능이란 무언가.
“AI에도 단계가 있다. 인간에게 가능한 모든 지적인 업무를 성공적으로 해낼 수 있는 게 인공일반지능(AGI·artificial general intelligence)이다. 다음은 인간 지능을 능가하는 수퍼지능 이다.”
수퍼지능을 경고한, AI 반대론자 아닌가.
“많은 사람들이 내가 AI에 반대한다고 느낀다. 『수퍼지능』에서 AI가 제기하는 위험을 다뤘지만 좋은 목적에 사용될 수 있는 AI의 엄청난 잠재력도 언급했다. 나 또한 AI의 긍정적인 면에 고무돼 있다. 내가 ‘인간 수준의 AI가 곧 개발된다’ 고 주장했다고 생각하는 이들이 있는데, 아니다. 시일이 훨씬 걸릴 것이다. 수십 년 아니라 수백 년 이후에나 가능할 수도 있다. ‘AI가 어느 날 갑자기 의식을 갖게 돼 인간과 대적한다’고 주장했다고도 하는데, 그 또한 그럴 리 없다. 그렇게 보는 것은 AI를 의인화시키는 것이다.”

| 군비 경쟁처럼 기술경쟁 시작되면
안전장치 없어 리스크 커질 가능성

 
수퍼지능 보다 낮은 단계의 AI 지능도 인간을 위협할 수 있지 않은가.
“단기적으로는 AI의 응용이 대체적으로 긍정적인 결과를 낳을 것이다. AI는 모든 다른 범용(汎用) 기술과 마찬가지로 전쟁과 같은 나쁜 목적을 포함해 다양한 용도로 사용된다. 그런 점에서 AI는 전기나 바퀴와 다르지 않다. AI가 인간 수준, 초인간 수준에 도달했을 때부터는 인류가 겪어보지 못한 유례없는 독특한 도전이 시작된다. 수퍼지능이 등장했을 때 필요한 통제기법과 통찰력을 확보하려면 지금 기초적인 연구에 착수해야 한다. 그래야 AI 시대로 전환할 때 그 과정을 관리할 수 있다.”

| AI 개발은 인류 공공선 위한 것
특정 회사·국가 넘어 국제협력 필요

 
AI 이전에도 인류 멸망을 초래할 수 있는 핵무기가 등장했다.
“AI와 핵무기는 약간 다르다. 핵무기는 파괴에만 쓸모가 있지만 AI는 용도가 다양하다. 질병 치료, 대중 교통 등 경제 전반에 긍정적으로 사용될 수 있다. AI를 군사적인 차원에서만 이해하는 것은 잘못이다. 하지만 군비경쟁과 마찬가지로 AI를 둘러싼 ‘기술경쟁(technology race)’이 발생할 수 있다는 시나리오도 있다. 사전에 모든 안전장치를 강구하고 검증해 봐야 하는데, AI 기술경쟁이 시작되면 통제방법을 시험할 시간이 없게 된다. 최대한 빨리 기술을 개발해야 하기 때문이다. 그래서 AI 기술경쟁은, AI 시대로 전환할 때 리스크를 증가시킬 가능성이 있다. 협력적 접근법으로 모든 관점에서 AI를 바라봐야 우리가 원하는 방향으로 AI가 발전할 것이다.”
AI에 대해 낙관론과 비관론 중 어느 쪽인가.
“어느 쪽도 아니다. 나는 현실주의적이다. 무엇이 가장 가능성이 높은지 또 어떤 가능성들이 있는지 알아낸 다음, 확률론에 입각해 생각한다. 비관론자들은 우리가 뭘 해도 안전한 수퍼지능은 불가능하다고 말한다. 시도해도 소용없다는 것이다. 낙관론자들은 AI 관리 방법을 발견할 수 밖에 없다고 생각한다. 그들 또한 별도의 노력이 필요 없다고 본다. 안전한 수퍼지능 개발이 가능성은 있지만, 절대 쉽지 않기 때문에 지금 당장 연구를 시작해야 한다는 게 내 입장이다. 내 생각이 맞는다면 지금 우리가 무엇을 하느냐에 따라 인류 문명의 장기적인 미래가 결정될 것이다.”
 
▶관련 기사
① "서구 과학자 60년간 AI 헛발질, 우리가 따라잡을 수 있다"
② AI가 '스킬의 가치'바꿔 … 10년마다 직업 바꾸는 시대 왔다
③ “인류는 점점 똑똑해졌지만 인간 개인은 벌·개미처럼 돼가”
  ◆닉 보스트롬 교수= 옥스퍼드대에 있는 인류미래연구소(FHI)의 창립소장이다. 그는 과학으로 인간을 개선시키거나 완벽한 존재로 만들어야 한다고 믿는 트랜스휴머니스트(transhumanist)다. 1998년 결성된 ‘세계 트랜스휴머니스트 연합’(WTA)의 공동설립자다. 스웨덴의 예테보리대(학사)·스톡홀름대(석사), 런던정치경제대(LSE·박사)에서 공부했다.
 
장대익 서울대 교수가 권하는 인공지능 관련서
 
기사 이미지
『인공지능 1,2』
스튜어트 러셀·피터 노빅 지음, 제이펍
원제 ‘Artificial Intelligence: A Modern Approach’.
인공지능 연구 역사를 총망라했다.


 
기사 이미지
『왜 로봇의 도덕인가』
웬델 월러치·콜린 알렌 지음,
메디치미디어, ‘Moral Machines’.
스스로 판단하는 인공지능 시대에 필요한 컴퓨터 윤리를 다뤘다.



 
기사 이미지
『마음의 아이들』
한스 모라벡 지음, 김영사
‘Mind Children: The Future of Robot and Human Intelligence’.
1988년 출간된 로봇 공학의 고전.



 
기사 이미지
『특이점이 온다』
레이 커즈와일 지음, 김영사
‘The Singularity Is Near : When Humans Transcend Biology’.
인류-기계 문명의 미래 예측서.



 
기사 이미지
『휴먼 3.0』
피터 노왁 지음, 새로운현재
‘Humans 3.0’.
과학기술이 인류 문명을 어떻게 바꾸는가를 긍정적인 시선으로 조망했다.


 

김환영 기자 whanyung@joongang.co.kr
AD
온라인 구독신청 지면 구독신청

중앙일보 핫 클릭

PHOTO & VIDEO

shpping&life

뉴스레터 보기

김민석의 Mr. 밀리터리 군사안보연구소

군사안보연구소는 중앙일보의 군사안보분야 전문 연구기관입니다.
군사안보연구소는 2016년 10월 1일 중앙일보 홈페이지 조인스(https://news.joins.com)에 문을 연 ‘김민석의 Mr. 밀리터리’(https://news.joins.com/mm)를 운영하며 디지털 환경에 특화된 군사ㆍ안보ㆍ무기에 관한 콘텐트를 만들고 있습니다.

연구소 사람들
김민석 소장 : kimseok@joongang.co.kr (02-751-5511)
국방연구원 전력발전연구부ㆍ군비통제센터를 거쳐 1994년 중앙일보에 입사한 국내 첫 군사전문기자다. 국방부를 출입한 뒤 최장수 국방부 대변인(2010~2016년)으로 활동했다. 현재는 군사안보전문기자 겸 논설위원으로 한반도 군사와 안보문제를 깊게 파헤치는 글을 쓰고 있다.

박용한 연구위원 : park.yonghan@joongang.co.kr (02-751-5516)
‘북한의 급변사태와 안정화 전략’을 주제로 북한학 박사를 받았다. 국방연구원 안보전략연구센터ㆍ군사기획연구센터와 고려대학교 아세아문제연구소 북한연구센터에서 군사ㆍ안보ㆍ북한을 연구했다. 2016년부터는 중앙일보에서 군사ㆍ안보 분야 취재를 한다.