킬러로봇이라는 토론 주제가 나와서요

패널들의 얘기에서 좀 걱정되는 부분이 있더군요

안된다는 측을 보면 로봇의 오류를 꼽는데, 실제 전쟁에서는 인간의 오류는 셀수도 없이 많습니다

어쩌다 영화에나 나오는 그런 정도가 아니라 매일 매일 벌어지다시피 하는 오인 살해가 수도 없이 많아요

자동이착률 여객기를 보세요

자동으로 한 후 훨씬 사고율이 떨어졌습니다

물론, 오작동으로 인한 사고의 위험성은 있고, 그렇기 때문에 조종사가 슈퍼바이저 역할을 하죠

킬러로봇도 마찬가지겠죠

문제는 오류가 아니라 무감각입니다

사람이 실제 사람을 죽일 때는 온갖 감정에 휩쌓이기 때문에 죽일 것도 안죽이고, 안죽일 것도 죽이는 상황이 생깁니다

하지만, 로봇이 대신 사람을 죽이는 상황이 되면, 자기가 직접 죽이는 끔찍한 과정을 겪지 않기 때문에 양심의 가책을 덜 느끼게 됩니다

비슷한 예로 집단지성의 폭력이라는 문제가 있어요

기획을 발의하는 사람, 기획을 구체화하는 사람, 기획을 결정하는 사람, 명령을 내리는 사람, 실제 명령을 수행하는 사람

모두 일정부분 밖에 책임을 지지 않기 때문에 자신이 한 일의 결과가 끔찍한 일이 되더라도 양심의 가책을 느끼지 못하고 하게 됩니다

그 일과 관련된 대부분의 사람이 이건 잘못 됐다고 알고 있었거나 느끼고 있었지만, 아무도 나서지 않았습니다

무감각하기 때문입니다

킬러로봇도 마찬가지겠죠

가뜩이나 명령에 움직이는 군대인데요

지금은 그나마 잘못된 명령에 항거라도 하지만, 킬러로봇이 생기면 슈퍼로봇의 슈퍼바이저는 잘못된 명령에 항거하지 않는 비율이 월등하게 높아질겁니다