만화 설정이나 배경에 대해서 잡생각을 해보다가 이야기를 조금 더 진전시키기로 했습니다.
쉽게 말해 이런 것들을 소형화해서 자동 대인 살상내지 무력화 무기로 사용한다면 어떨까요?
미래는 아마 전쟁의 방식이나 양상이 완전 달라질 것입니다.
현재 무인 드론을 이용한 공습도 시행되고 있으니까, 기술만 업그레이드시켜 AI로 통제되는 드론을 사용하면 굳이 조종사를 잃을 위험을 감수할 필요가 없어지는 거죠.
그래서 얼마전 최초로, 국제기구 (유엔)에서 이에 대한 규제책이 필요함을 논의했었음.
국제사회가 인공지능(AI)을 기반으로 한 자동화 무기, 이른바 킬러 로봇 규제를 놓고 머리를 맞댄다. AFP통신은 13일(현지시간) 스위스 제네바에서 시작되는 특정재래식무기금지협약(CCW) 회의에서 킬러 로봇이 논의된다고 전했다. 유엔이 AI가 탑재돼 스스로 가동하는 무기의 부작용 등을 논의하는 건 이번이 처음이다.
앞서 세계 각국의 AI 전문가 130여명은 지난 8월 ‘치명적인 자동화 무기를 만들지 못하도록 금지해달라’는 내용의 공개서한을 유엔에 보냈다. 전기차 업체 테슬라의 일론 머스크, 구글 딥마인드 공동창업자 무스타파 술레이만, AI 최고 석학 중 한 명인 캐나다 몬트리올대 요슈아 벤지오 교수 등은 특히 “AI 기술을 활용한 자동화 무기는 도덕적으로 넘어서는 안 될 선을 넘는 것”이라며 “최악의 경우 사람이 아닌 기계가 인명의 생사를 결정할 수 있다”고 경고했다.
Read more: http://www.segye.com/newsView/20171112001964#csidx0efa636c6cda45e86bdaab7fa26c80a
Copyright © LinkBack
이런 논의는 중요합니다. 아마 곧 배아줄기세포처럼 교황청에서도 규제책이 필요하다는 이야기를 내놓을 겁니다.
미래세계에는 인간이 탑승한 형태의 거대로봇이 식상할 거라고 생각할 수도 있겠지만 꼭 그렇지만은 않다는 겁니다.
국제기구가 AI에 대한 통제권을 전적으로 AI 스스로에게 넘기지 못하게 제한하는 협의에 다다른다면, 인간이 탑승하여 제어하는 체계에 한해서만 무력 사용이 가능하게 허가될 것임. 물론 인건비 줄이려고 통제권을 죄다 AI에게 넘기는 알고리즘을 가진 체계도 등장하겠죠. 이런 건 불법이 될 겁니다.
공각기동대나 페트레이버 보면 이런 상황이 흔히 등장함. 그래서 인간이 탑승하는 체계의 거대로봇은 작동 체계와 알고리즘의 제어 수위에 따라 유효할 수 있습니다.
하지만 여기에서 애매한 체계가 발생할 수 있습니다. 가령 스타크래프트의 캐리어처럼 본체는 사람이 통제하지만 인터셉터는 AI가 알아서 공격하는 체계가 있을 수 있습니다. 법적인 규정이 어떻게 정해지느냐에 따라 사안이 디테일하고 복잡해질 수 있습니다. 만일 '격발을 결정하는 것은 인간이어야 한다.' 라는 엄격한 규정을 국제 기구에서 합의하게 된다면 자동 목표 조준 같은 체계 자체가 불법이 될 것입니다.
그럼 무력 체계에 대한 국제 기구 수준에서 변리사 비슷하게, 알고리즘 판사 같은 게 생길거고요. 국제 기구 수준에서 판단하고 집행하는 패트레이버 스타일의 경찰이 생길 수 있죠.
외계인들이 지구에 직접 온다는 설정도 이 문제로 비견하여 생각해볼 수 있습니다. 외계인 입장에서 한번 생각해봅시다. 시간도 오래 걸리는 다른 행성까지 왜 자기 인생 걸어가며 왕래해야할까요? 그래봤자 직업이고 업무 일 뿐인데.
외국 파견직도 싫어하는 마당에 외계에 까지 가야하는 외계인 입장은 어떨까요? 구인광고 붙여봐야 지원자가 없어 업무 연속성이 유지되기 힘들 것입니다.
자연히 행성간 이동을 가능하게 하는 AI를 비롯한 아바타 내지 원격 조정 체계를 생각해볼 수 있을 것입니다. 하지만 이들에게 무력 사용 권한을 비롯한 전적인 통제 권한을 줄 수는 없을 것입니다.
글쓰기