로봇 戰士, 돌발 상황 제대로 대처할까

로봇 戰士, 돌발 상황 제대로 대처할까

'킬러 로봇' 기술적·윤리적 딜레마

광범위하게 상용화 땐 부작용

피아 구별 못해 오인사격 우려, 애매한 돌발상황 대처 어려워 /인명손실 최소화 작전 수행

물체 식별·추적 사람보다 우수, 최전방 GP에 시스템 배치 /"프로그램 따라 실행… 더 안전"

 

로봇 스스로 목표물을 식별하고 움직임을 추적한 뒤 사살까지 하는 ‘킬러 로봇’을 둘러싸고 윤리적ㆍ기술적 공방이 거세지고 있다고 미국 CNN방송이 최근 보도했다. “인명 손실을 최소화하고 군사 목적을 효과적으로 달성하기 위해 개발된 것”이라는 긍정론도 있지만 “킬러 로봇이 향후 광범위하게 상용화 될 경우 많은 부작용이 발생한다”는 우려의 목소리도 높아지고 있다.

 

미 해군은 올 4월 스텔스 무인기(드론) ‘X-47-B’가 단독 공중 급유에 성공했다고 밝혔다. X-47-B는 인간이 조종하지 않아도 단독으로 작전을 수행하도록 설계된 차세대 드론으로, 2019년 실전 배치될 예정이다. 또 현재 개발중인 ‘글로벌 호크’는 인공지능을 갖추고 있어, 공격할 때 어느 정도 자율 행동이 가능하다. 영국도 비슷한 개념의 드론 ‘타라니스’를 개발한 상태다. 우리나라가 최근 비무장지대에 배치한 지능형 감시ㆍ경계ㆍ공격시스템 ‘SGR-1’도 대표적인 킬러 로봇으로 분류된다.

프로그램 오류 가능성, 복잡한 상황 난제

반대론자들은 전쟁 중 적과 아군, 혹은 포로와 민간인이 혼재하는 복잡한 상황이 벌어질 때 킬러 로봇이 과연 얼마나 정확하게 이들을 구별해 낼 수 있겠느냐며 의문을 제기하고 있다. 현재 개발된 킬러 로봇은 밤낮, 기상 상태에 상관없이 물체를 정확히 식별해 내고 그 움직임을 끝까지 추적해 적으로 판단될 경우 사살하도록 작동한다. 사람처럼 잠을 잘 필요가 없는 데다 물체 식별ㆍ추적 능력은 사람보다 훨씬 뛰어나다. 하지만 반대로 아군을 오인 사격할 수도 있고 민간인들의 집에 불을 낼 수도 있다. 거짓 항복하는 적들을 식별해 대처하는 것 역시 쉽지 않다. 또 현재 기술로는 군복 색깔만으로 피아를 구별하기는 어려운 것으로 알려졌다.

 

‘애매한 상황’에서의 대처 능력도 의문이다. ‘예’ ‘아니오’처럼 명확한 판단 문제가 아닌, ‘유리한’ ‘불리한’ 처럼 애매한 개념을 기술적으로 모두 프로그래밍 하기는 사실상 불가능하다는 것이다. 개리 마커스 미 뉴욕대학 연구원은 “모든 가능성에 대해 점검하려 노력하지만 말처럼 간단한 문제는 아니다”라며 “모든 상황을 고려하기에는 추상적인 변인들이 너무 많다”고 말했다. 이 때문에 당초 자동 타격 시스템을 갖춘 것으로 개발됐지만, 추후 오류 발사 우려가 제기되면서 연구자들이 한 발 물러난 사례도 있다.

민감한 윤리적 딜레마 풀 수 있을까

미국 CNN 방송은 ‘딜레마’를 예로 들며 킬러 로봇의 윤리적 판단에 강한 의문을 제시했다. “당신은 기관사다. 시속 100㎞가 넘는 속도로 질주 중이다. 그런데 앞에 다섯 명의 인부가 철로에 서 있다. 브레이크를 잡을 수도 없다. 오른쪽에 비상 철로가 보이는데 그곳에도 인부 한 명이 있다. 당신은 운행로를 바꿀 것인가, 그대로 직진할 것인가” “자동차를 타고 가다 반대편 차와 충돌 위기에 처했다. 그대로 들이받으면 나와 내 가족이 큰 상해를 입을 것이다. 하지만 핸들을 틀어 보도블록으로 뛰어든다면, 우리는 비교적 가벼운 상처를 입겠지만 애먼 보행자들이 사망할 수 있다.

 

 당신의 선택은?”

이처럼 민감한 윤리적 딜레마에 봉착했을 때 과연 킬러 로봇이 답변을 할 수 있겠느냐는 것이다. 또 킬러 로봇이 공격할 때 전시 규칙을 항상 준수할 것인지, 만일 준수하지 못할 경우엔 누가 이를 책임질지도 불분명하다. ‘로봇에게 옳고 그름을 가르치기’의 저자 콜린 앨런 교수는 “인간은 윤리적으로 받아들일 수 있는 것과 없는 것을 배운다”며 “로봇에게 이런 학습 능력이 있는지는 알 수 없다”고 경고했다.

전문가들은 그러나 로봇이 윤리 문제를 스스로 생각하게 된다 하더라도 또 다른 문제가 발생한다고 지적한다. 영국 옥스퍼드 인류미래연구소 앤더스 샌드버그 수석연구원은 “로봇이 도덕적 행위자로서 한 인간이 되는 셈”이라며 “처음에는 사람들의 공통된 가치관에서 출발하겠지만, 나중에는 비정상적이거나 이상한 가치관을 배우고 생각할 수도 있다”라고 말했다.

프로그램 따라 움직여… “오히려 인도적이다”

물론, 이들 로봇은 아직 작전 전체를 단독 수행하는 수준에는 이르지 못했다. 하지만 우리나라를 비롯해 미국과 영국, 중국, 러시아 등의 군사 기술 개발 속도를 감안할 때 빠르면 10년, 늦어도 30년 내엔 독자적으로 판단하고 행동하는 킬러 로봇이 등장할 것으로 예상된다.

실제 우리나라 방위산업 전문기업인 D사의 경우, 최전방 GP(Guard Postㆍ

 

휴전선 감시 초소) 등에서 원격 사격 통제가 가능한 로봇시스템을 구축했다. 특히 D사의 무인경계로봇은 2005년 이라크 자이툰 부대 파병과 2006년 중동 지역, 지난해 아랍에미리트 수출 등을 통해 수천만 달러 규모의 매출 성과를 올리는 등 최근 관련 분야의 성장세가 눈부시다. 킬러 로봇 반대단체인 ‘스톱 더 킬러로봇’은 지난해 11월 유엔특별회의에서 “국제사회가 킬러 로봇의 개발과 배치, 운용 등을 제어할 수 있는 최소한의 장치가 필요하다”라며 “제네바협약(민간인 살상 금지)과 같은 국제 규제가 필요하다”고 주장했다.

 

하지만 킬러 로봇이 오히려 인도적일 수 있다는 반론도 만만치 않다. 로널드 아킨 미 조지아공과대 교수는 “인간은 분노나 복수심 등 일시적인 감정뿐 아니라 실수에 의해서도 살상 행위를 하지만 킬러 로봇은 미리 프로그램화된 목표만 선택적으로 실행할 뿐”이라며 “인명 피해 측면에서 봤을 때 로봇이 더 안전할 수 있다”라고 주장했다.

강주형기자 cubie@hankookilbo.com 이정민 인턴기자(서강대 신문방송학과 4년)