AI 과학자 가운데 36%가 ‘AI가 이번 세기 안에 전면적 핵전쟁에 버금가는 대재앙을 일으킬 것’으로 본다는 연구 결과가 나왔다.

뉴욕대·워싱턴대·존스홉킨스대 등의 공동 연구진의 최근 보고서에 따르면  AI 분야의 자연어 과학자 327명을 대상으로 한 심층 설문에서 36%가 ‘AI가 내린 결정이 전면 핵전쟁 같은 대재앙을 이번 세기에 일으킬 수 있다’에 동의했다. 전문가들은 무기에 AI를 결합한 자율 무기 체계가 인류에 큰 위협이 될 것으로 보고 있다. 

실제로 러시아는 해안 도시를 핵으로 공격하는 자율 어뢰를 개발하는 것으로 알려졌다. AI 유도 무기나 핵 경고 시스템에 탑재된 AI가 잘못된 판단을 내릴 경우 파국으로 치닫으리라는 우려가 나오는 이유다. 앞서 지난 2015년 스티븐 호킹 박사와 일론 머스크 테슬라 CEO 등 과학기술계 인사 1000여 명은 “인공지능을 가진 킬러 로봇은 원자폭탄보다 심각한 위험이므로 개발을 금지해야 한다”는 공동성명서를 냈다. 

AI가 인간의 통제를 벗어날 정도로 발전할 것이라는 전망의 배경에는 일반 인공지능이라 부르는 AGI가 있다. 바둑만 잘 두는 알파고처럼 머신러닝(기계 학습)을 통해 특정 임무만 수행하는 좁은 의미의 제한적 인공지능(ANI)과 달리 사람처럼 다양한 분야를 포괄적으로 학습할 수 있는 게 AGI다.

일반화하는 능력을 갖추고 해결책을 찾아내는 AGI가 완성되면, 사람처럼 스스로 목표를 설정하고 임무를 수행하는 초 인공지능의 출현은 시간문제라는 얘기다.