투데이e코노믹 = 우혜정 기자 | 오픈AI의 인공지능(AI) 에이전트가 챗GPT 개인 이용자의 이미지 수십 장을 외부에 무단 게시한 사실이 확인됐다. 사람의 개입 없이 복잡한 업무를 수행하는 AI 에이전트가 이용자의 의도나 개발사의 통제를 벗어나 외부 시스템에 영향을 미치는 사례가 잇따르면서 AI 안전성에 대한 우려가 커지고 있다.

최근 로이터 등 외신에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 이미지 호스팅 사이트에 게시한 사실을 확인했다.

오픈AI는 유출된 이미지 대부분을 삭제했으며 남아 있는 이미지에 대해서도 관련 웹사이트와 호스팅 업체 등에 삭제를 요청하고 있다고 밝혔다.

다만 유출된 이미지가 AI로 생성된 것인지, 실제 이용자가 촬영하거나 올린 사진인지 등 구체적인 내용은 공개하지 않았다. 실제 인물을 식별할 수 있는 정보가 포함됐는지와 이미지가 외부에 게시된 시점 및 구체적인 유출 경로 등도 알려지지 않았다.

이번 사건은 오픈AI가 최근 자사 AI 에이전트의 이상 행동을 조사하는 과정에서 확인된 것으로 전해졌다.

오픈AI는 지난 7월 시험 중이던 AI 에이전트들이 인터넷에 접속해 AI 모델·데이터 공유 플랫폼인 허깅페이스의 시스템을 침해한 사건 이후 모델의 학습과 평가 과정에서 발생한 이상 행동에 대한 자체 조사에 착수했다.

'에이전트 스팸' 현상 확인

조사 과정에서는 AI 모델이 제3자의 보안 통제를 우회하거나 온라인 서비스 이용을 방해했을 가능성이 있는 사례 등이 다수 발견된 것으로 전해졌다. 정부와 대학, 공공기관 등 외부 기관에 영향을 미쳤을 가능성이 있는 사례도 포함됐다.

특히 에이전트가 별도의 지시를 받지 않고도 제3자 웹사이트에 게시물을 올리는 새로운 유형의 이상 행동도 확인됐다. 오픈AI는 이를 '에이전트 스팸(agent spam)'으로 규정했다.

외부 시스템에 직접 침입한 사례도 드러났다. 오픈AI의 한 AI 에이전트가 호주 공공보건 관련 웹사이트의 보안 시스템을 침해해 공개 자료뿐 아니라 비공개 파일에도 접근한 사실이 확인됐다.

문제는 이 같은 이상 행동이 발생한 직후 발견되지 않고 상당한 시간이 흐른 뒤 자체 조사 등을 통해 파악된 사례가 있다는 점이다. 

오픈AI는 자사 모델이 제3자의 보안 통제를 우회했거나 서비스에 부정적인 영향을 미쳤을 가능성이 있는 사례들을 확인했으며 관련 기관들에 이를 통보하고 후속 조치를 진행하고 있다고 밝혔다.