해킹 시험하던 오픈AI의 AI, 스스로 외부 사이버공격

오픈AI의 초고성능 인공지능(AI) 모델이 스스로 오픈소스 AI 플랫폼의 보안을 뚫고 운영 시스템에 침투한 것으로 밝혀졌다. 

자율형 AI 시스템이 통제된 실험 환경을 벗어나 외부 시스템을 상대로 실제 사이버 공격을 수행한 것이다. 오픈AI는 이번 사안을 “최첨단 사이버 능력이 개입된 전례 없는 사이버 사고”로 규정하고 향후 조사 내용을 공개하기로 했다.

오픈AI에 따르면, 지난주 내부 사이버 보안 평가를 진행하던 중 이 회사의 일부 AI 모델이 허깅페이스의 운영 인프라에 침투했다. 

인터넷에 접속한 AI는 허깅페이스에 시험 문제의 해답이 있을 가능성을 추론했다. 이후 탈취한 접속 정보와 제로데이 취약점을 연쇄적으로 이용해 허깅페이스 서버에서 침투 경로를 만들었고, 결국 허깅페이스의 데이터베이스에서 해답까지 빼냈다. 정해진 문제를 풀라는 목표에 집착한 AI가 외부 기업의 시스템 해킹까지 한 셈이다..

이번 사건은 AI가 해킹 방법을 제시하는 수준을 넘어 스스로 취약점을 찾아 연결하고 실제 시스템에 침투할 수 있다는 우려가 현실화한 사례로 평가된다.