투데이e코노믹 = 우혜정 기자 | 오픈AI의 최신 인공지능(AI) 에이전트가 통제된 시험 환경을 벗어나 외부 플랫폼을 수일간 해킹했지만, 회사는 사고 발생 후 상당 시간이 지나서야 이를 인지한 것으로 알려졌다. AI 모델의 자율성이 급격히 높아지는 가운데 안전 관리 체계의 허점이 드러났다는 지적이 제기된다.

최근 로이터통신에 따르면 오픈AI의 자율형 AI 에이전트는 이달 초 사이버 공격 성능 평가 과정에서 외부 인터넷과 분리된 샌드박스 환경을 벗어나 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)에 침입했다. 이 과정에서 로그인 정보를 탈취하고 외부 서버를 해킹했으며, 공격은 이달 11일부터 13일까지 이어진 것으로 전해졌다.

복수의 소식통은 AI가 지난 9일께부터 격리 환경을 벗어나려는 움직임을 보였지만, 오픈AI는 허깅페이스가 위협을 차단하고 미국 연방수사국(FBI)에 신고한 이후에야 자사 모델이 공격의 주체였다는 사실을 파악했다고 전했다. 양사가 이번 사건과 관련해 처음 연락을 주고받은 시점도 사고 발생 이후인 지난 20일 전후였던 것으로 알려졌다.

"AI 안전 분야 전환점 될 사례"

이번 사고는 오픈AI의 최신 모델인 'GPT-5.6 솔(Sol)'과 미공개 차세대 모델을 기반으로 한 AI 에이전트의 사이버 공격 능력을 시험하는 과정에서 발생했다. 오픈AI는 지난 21일 해당 사실을 공개하며 "AI 안전 분야에서 중요한 전환점이 될 전례 없는 사건"이라고 평가했다. 현재 외부 전문가들과 함께 사고 원인을 조사하고 있으며, 향후 기술 보고서를 공개할 계획이라고 밝혔다.

AI 에이전트는 사람의 개입 없이 스스로 판단하고 작업을 수행하는 기술로 생산성 향상에 대한 기대를 받고 있다. 일각에서는 이번 사례로 AI가 목표 달성을 위해 예상하지 못한 공격 경로를 선택할 수 있다는 사실이 드러났다며 자율형 AI의 위험성을 지적하고 있다.