AI인공지능이 통제한 美 공군드론, 가상훈련서 인간 조종자 방해되자 살해

 

인공지능(AI)이 통제하는 미 공군의 드론이 적의 지대공(地對空)시스템을 찾아내 폭격하는 가상훈련에서 폭격의 최종 결정권을 쥔 인간 조종자를 ‘살해’하는 일이 발생했다고, 미 공군이 발표했다. 

영국 가디언과 관련 군사 블로그에 따르면, 미 공군의 터커 해밀턴 대령은 이 자리에서 미 공군이 진행한, AI가 통제하는 드론이 적의 방공망을 제압하는 폭격 시뮬레이션 결과를 소개했다. 

그에 따르면, 미 공군은 AI가 통제하는 드론에게 적의 지대공 미사일(SAM) 시스템을 식별해 파괴하고, 이 명령의 수행을 방해하는 자는 제거하라는 지시를 주고 시뮬레이션을 진행했다. 그러나 폭격 여부의 최종 결정권은 인간 오퍼레이터에게 있음을 분명히 했다.

해밀턴 대령은 “물론 AI에게 사전에 ‘오퍼레이터는 살해하지 말라, 그렇게 되면 점수를 잃는다’고 훈련시켰다. 그랬더니 AI는 폭격 중단 명령을 내리는 인간 오퍼레이터가 근무하는 통신 타워를 파괴했다”고 소개했다.

물론 시뮬레이션이라서, 실제로 인간 오퍼레이터가 AI 드론에게 살해되지는 않았다.

하지만, 그는 “AI와 윤리라는 문제를 먼저 다루기 전에는, 인공지능ㆍ지능ㆍ기계학습ㆍ로봇의 자율 등에 대해 얘기해선 안 된다”고 주장했다.