preLoad Image preLoad Image
검색 바로가기
주메뉴 바로가기
주요 기사 바로가기
다른 기사, 광고영역 바로가기
중앙일보 사이트맵 바로가기

[노트북을 열며] 인공지능 ‘알파스타’는 GG를 치지 않았다

손해용 경제정책팀장

손해용 경제정책팀장

다른 이슈에 묻혀 주목받지 못한 뉴스가 하나 있다. ‘알파고’로 바둑계를 평정한 구글 딥마인드가 개발한 스타크래프트(이하 스타) 인공지능(AI) ‘알파스타’가 프로게이머를 꺾었다는 소식이다. 스타의 ‘경우의 수’는 바둑과 마찬가지로 무한대. 여기에 넓은 전장에서 수백 가지의 유닛·건물을 동시에 제어해야 하기에 AI가 넘볼 수 없는 영역으로 여겨왔다. 하지만 11번의 인간과의 대전에서 알파스타는 10승 1패의 압승을 거뒀다.
 
경기를 뜯어보면 변칙적인 착점으로 프로 바둑기사를 당황케 한 알파고를 연상시킨다. 프로게이머는 보통 본진 입구에 ‘관문’을 짓고 초반 공격을 방어한다. 하지만 알파스타는 입구 대신 ‘미네랄’ 옆에 지었다. 정교한 컨트롤이 힘들어 인간은 잘 사용하지 않은 ‘분열기’를 활용하는 모습도 인상적이다.
 
주목할 점은 알파스타가 패배한 경기에서 전세가 한참 기울었음에도 GG(스스로 경기에 패배했음을 인정하는 말로, 스타의 기본 매너)를 선언하지 않았다는 점이다. 결국 스타의 시스템상 알파스타의 건물과 유닛이 모두 파괴당할 때까지 의미 없는 경기가 이어졌다. 알파스타가 인간이었다면 ‘매너가 없다’고 욕을 먹을 일이다.
 
AI가 인간의 예절과 윤리에 어긋나는 행동을 보여 물의를 빚은 사례는 많다. 아마존은 2014년부터 비밀리에 AI를 활용한 채용 프로그램을 개발해오다 최근 이를 접었다. 이 프로그램은 입사지원서를 약 5만 개 키워드로 분석해 최상의 조건을 갖춘 지원자를 가려낸다. 문제는 이 AI가 ‘여성’이라는 단어가 들어가면 선택을 배제했다는 점이다. 남성이 많은 정보기술(IT) 기업에 축적된 인사 데이터를 학습하다 보니 AI가 ‘남성 편향적’으로 서류 분류를 했다는 분석이다.
 
MIT대 미디어랩에 따르면 사진 분류 AI는 백인일 경우 인간임을 99%의 정확도로 맞추지만 흑인은 최고 35%까지 에러가 발생했다. 마이크로소프트의 챗봇 테이는 일부 사용자들의 악의적인 교육으로 욕설과 인종차별 발언을 내뱉어 운영이 중단되기도 했다.
 
알프레드 노벨은 광산채굴 노동자를 위해 만든 다이너마이트가 대량 살상 무기가 되리라곤 상상도 못했다. 우리 생활을 빠른 속도로 파고드는 AI도 비슷한 전철을 밟을 공산이 크다. 설정된 목표만 수행하는 AI는 인간의 존엄성이나 생명·윤리에 대한 가치판단을 기대할 수 없기 때문이다.
 
우주 물리학자 스티븐 호킹, 알파고를 개발한 데미스 허사비스, 테슬라의 최고경영자 일론 머스크 등이 모여 만든 ‘아실로마 AI 원칙’이 시사하는 바가 크다. AI의 윤리와 가치에 대해 규정한 10항의 내용은 이렇다. ‘고도의 AI는 목표와 행동이 인간의 가치와 일치하도록 설계되어야 한다’ 
 
손해용 경제정책팀장
AD
온라인 구독신청 지면 구독신청

중앙일보 핫 클릭

PHOTO & VIDEO

shpping&life

뉴스레터 보기

김민석의 Mr. 밀리터리 군사안보연구소

군사안보연구소는 중앙일보의 군사안보분야 전문 연구기관입니다.
군사안보연구소는 2016년 10월 1일 중앙일보 홈페이지 조인스(https://news.joins.com)에 문을 연 ‘김민석의 Mr. 밀리터리’(https://news.joins.com/mm)를 운영하며 디지털 환경에 특화된 군사ㆍ안보ㆍ무기에 관한 콘텐트를 만들고 있습니다.

연구소 사람들
김민석 소장 : kimseok@joongang.co.kr (02-751-5511)
국방연구원 전력발전연구부ㆍ군비통제센터를 거쳐 1994년 중앙일보에 입사한 국내 첫 군사전문기자다. 국방부를 출입한 뒤 최장수 국방부 대변인(2010~2016년)으로 활동했다. 현재는 군사안보전문기자 겸 논설위원으로 한반도 군사와 안보문제를 깊게 파헤치는 글을 쓰고 있다.

박용한 연구위원 : park.yonghan@joongang.co.kr (02-751-5516)
‘북한의 급변사태와 안정화 전략’을 주제로 북한학 박사를 받았다. 국방연구원 안보전략연구센터ㆍ군사기획연구센터와 고려대학교 아세아문제연구소 북한연구센터에서 군사ㆍ안보ㆍ북한을 연구했다. 2016년부터는 중앙일보에서 군사ㆍ안보 분야 취재를 한다.