투데이e코노믹 = 우혜정 기자 | 구글의 생성형 인공지능(AI) ‘제미나이’의 이미지 생성 기능이 전면 중단됐다. 역사적 인물의 이미지를 잘못 생성하는 등 오류가 발견된 데 따른 조치다.

구글은 제미나이 서비스 중 인물 이미지 생성 기능을 중단한다고 최근 발표했다. 지난 1일 제미나이에 이미지 생성 기능이 추가된 지 한 달도 채 되지 않아 나온 결정이다. 제미나이는 텍스트와 이미지·음성·영상을 생성하는 멀티모달 AI로 챗GPT의 대항마가 될 것으로 주목받아 왔다. 

구글 제품부문 수석 부사장인 프라바카 라가반은 “제미나이가 특정 그룹의 이미지를 생성하지 않게 하거나, 역사적 또는 그 어떤 이미지를 부정확하게 만들기를 원치 않는다”고 말했다.

최근 소셜미디어(SNS) 등을 통해 제미나이가 역사적 인물의 인종과 성별 등을 잘못 생성한다는 지적이 제기돼 왔다. 

예컨대 제미나이는 ‘1943년 독일군’을 그리라는 명령에 흑인 남성이나 여성 이미지를 만들어냈다. 또 백인만 등장하길 요구하는 명령에 대한 이미지 생성을 거부했다. 다른 인종에 대한 요구는 받아들였지만 백인 이미지만을 요구하는 명령에는 반응하지 않았다.

구글, 광범위한 테스팅 후 기능 다시 활성화

구글은 제미나이의 이 같은 오류가 다양성에 대한 과도한 민감성과 알고리즘의 보수화 때문에 발생한 것이라고 밝혔다.

제미나이는 폭력적이거나 지나치게 성적인 이미지를 생성할 수 없고, 다양한 인종과 특성을 가진 사람들이 이미지에 등장할 수 있도록 설계됐다. 시간이 지남에 따라 모델이 의도한 것보다 알고리즘이 더 보수화 돼 지극히 평범한 프롬프트에 대해서도 민감하게 반응하게 됐다는 설명이다. 

구글은 광범위한 테스팅을 거친 후 제미나이의 이미지 생성 기능을 다시 활성화할 방침이다.

한편 구글의 제미나이는 지난해 12월 출시 직후에도 ‘성능 논란’에 휩싸인 바 있다. 출시와 함께 내놓은 시연 영상이 실시간 촬영본이 아니라 사전 편집본임이 밝혀져 사양이 기대에 미치지 못하는 것 아니냐는 비판을 받았다. 또 제미나이를 탑재한 AI 챗봇 바드가 올해 오스카 남우주연상 수상자가 누구인가에 대한 답을 버벅거리는 등 질문에 정확한 답을 하지 못한다는 지적도 제기됐다.