AI 위협에 대한 우려가 일반 가정, 기업에도 확산하고 있다./오픈AI
월스트리트저널은 11일 “AI 기업 앤스로픽의 제이컵 콕슨 전 연구원이 최근 인간의 통제를 벗어난 AI가 문명을 파괴할 수 있다고 경고한 뒤, 관련 논의가 실리콘밸리와 온라인을 넘어 미국 일반 가정과 교회, 직장으로도 퍼지고 있다”고 보도했다.
그동안 AI가 인류를 멸종시킬 가능성은 높지 않았지만, 콕슨의 경고가 확산한 뒤 분위기가 달라지고 있다.
콕슨은 최근 앤스로픽을 떠나면서 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”며 “기업들이 통제할 수 없는 초지능을 향해 질주하며 우리의 목숨을 걸고 도박하고 있다”고 주장했다.
이런 변화는 기업에도 영향을 미치고 있다. 의료기기 규제 관련 업무를 AI로 자동화하는 소프트웨어 기업 케트릭스는 최근 고객의 절반가량이 먼저 AI 안전 문제를 꺼냈다고 밝혔다. 의료 분야에서 AI의 오류가 잘못된 약물 투여나 데이터베이스 해킹 같은 사고로 이어질 수 있다는 우려가 나오자 회사는 위험 관리 시스템 전반을 다시 점검하기로 했다.
다만 AI가 실제 인류를 멸종시킬 수 있다는 주장은 여전히 업계의 주류 견해는 아니라는 지적이다.
