자율무기지침 10년만에 개정…인간개입 가능한 설계·전쟁법 준수 명시

미국 국방부는 인간이 조종하지 않아도 스스로 싸울 수 있는 자율무기를 개발할 때 인간의 의도와 다르게 행동할 가능성을 최소화해야 한다는 지침을 내놓았다.

급격한 기술 발전으로 인공지능(AI)이 인간의 통제를 벗어나는 영화 '터미네이터' 같은 상황이 언젠가 현실화할 수 있다는 우려를 의식한 조치로 해석된다.

국방부는 자율 및 반자율 무기체계가 의도와 다르게 교전하는 오작동의 가능성과 그 영향을 최소화하기 위해 지침을 마련했다고 설명했다.

자율무기체계는 한번 작동하면 운영자의 추가 개입 없이 표적을 스스로 선정해 교전할 수 있는 무기체계이며, 반자율무기체계는 운영자가 지정한 표적하고만 교전하도록 설계된 무기체계라고 정의했다.

지침은 인간 지휘관과 운영자가 무력 사용과 관련해 적절한 수준의 판단력을 행사할 수 있도록 자율 및 반자율 무기체계를 설계할 것을 요구했다. 인간의 결정권을 완전히 없애서는 안된다는 것이다.

 

AI가 인간이 의도하지 않은 행동을 하는 것을 감지, 방지하고 의도와 다르게 행동할 경우 교전을 중단하거나 작동을 정지할 수 있는 능력을 갖춰야 한다고 규정했다.