인공지능(AI)에 기반을 둔 자율주행차 개발 선도 기업인 테슬라의 최고경영자(CEO) 일론 머스크는 대표적인 AI 회의론자다. 오래전부터 AI의 위험성을 설파하는 데 앞장서 왔다. 지난달 마크 저커버그 페이스북 CEO와 벌인 설전이 화제가 되기도 했다. 머스크가 강연에서 “AI는 인간 문명에 근본적 위협이 될 것이므로 조속히 규제 법안을 만들어야 한다”고 주장한 데 대해 저커버그는 “너무 부정적이고 무책임하다”고 지적했고, 이에 머스크도 곧바로 “저커버그의 AI 이해는 제한적”이라고 맞받아쳤다.AI 회의론자들이 특히 우려하는 분야는 AI와 전쟁무기의 결합이다. 자율살상무기(LAWS), 일명 ‘킬러 로봇’의 현실화가 눈앞에 다가오면서 이를 막기 위한 움직임도 빨라지고 있다. 21일(현지시간) 호주 멜버른에서 열린 국제공동AI회의에서 머스크를 비롯해 알파고 개발자인 무스타파 술레이먼 등 세계 26개국의 116개 AI·로봇기업 대표들이 킬러 로봇 개발 금지를 유엔에 촉구하는 공동 서한이 공개됐다. AI와 로봇업계가 킬러 로봇 문제에 이처럼 한목소리를 낸 것은 이례적이다. 이들은 서한에서 킬러 로봇이 제3의 무기 혁명을 가속화할 것이며, 판도라의 상자와 마찬가지로 한 번 열리면 닫을 수 없는 인류의 재앙이 될 것이라고 강력히 경고했다.

영화 ‘터미네이터’에 나오는 킬러 로봇처럼 인간의 개입 없이 스스로 전투를 수행할 만큼 고도로 자동화된 단계까지는 아직 이르지 못했지만 AI 기반의 무기 개발은 하루가 다르게 발전하고 있다. 미국과 영국, 러시아와 중국 등 40여개국이 무인 전투기 및 살상용 로봇 개발에 열을 올리고 있다. 미 해군의 무인 함정 ‘시 헌터’, 러시아의 무인 탱크 ‘MK 25’, 영국의 무인 전투기 ‘타라니스’ 등이 대표적이다. 우리나라도 예외가 아니다. 삼성테크윈이 개발한 ‘센트리 가드 로봇’이 비무장지대에 배치돼 있다. 킬러 로봇 찬성론자들은 정확한 타격으로 인명 피해를 최소화할 수 있다고 주장한다. 그러나 인간의 통제를 넘어설 경우 발생할 반윤리적 상황이나 해킹으로 인한 부작용 등은 상상만 해도 아찔하다.

국제사회도 이 같은 우려를 심각하게 인식하고 있다. 휴먼라이츠워치와 하버드대는 지난해 4월 발표한 공동 연구 보고서에서 “세계 각국은 킬러 로봇으로 알려진 완전자동무기에 대해 인간이 통제권을 갖도록 해야 한다”고 강조했다. 유엔의 특정재래식무기금지협약(CCW)도 이 문제를 다루는 전문가 그룹을 출범시키기로 했다니 지켜볼 일이다.