“독일군이 동양여성?”···구글 ‘제미나이’ 이미지 기능 중단

구글이 자사 주력 인공지능(AI) 모델인 제미나이(Gemini)의 이미지 생성 기능을 일시 중단한다고 파이낸셜타임스(FT) 등 외신이 22일(현지시간) 밝혔다. 역사적 인물에 대한 잘못된 이미지를 생성하고, 여성이나 유색인종의 이미지를 백인화하는 등의 오류가 발견된 인스타 팔로우 구매 데 따른 것이다.
제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 인스타 팔로우 구매 기반의 AI 모델로, 이번 중단은 지난 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만이다.
최근 엑스(X·옛 트위터) 등 사회관계망서비스(SNS)에서는 제미나이가 미국 건국자 등과 같은 역사적 인물을 유색인종으로 잘못 생성하고 있다며 논란이 일고 있다.
예컨대 제미나이에 과거 미국 대통령이나 2차 세계 대전에 참전한 독일군을 그려달라고 하면 동양 여성이나 유색 인종으로 출력해 역사를 왜곡하고 있다는 지적이 제기됐다. 또 조선시대 장군을 그려달라고 요청하면 흑인 남성이 한복을 입고 있는 모습을 생성하기도 했다.
이같은 오류와 관련해 구글은 AI 모델 훈련 과정에서 이미지 생성 시 다양성을 중요하게 여기도록 학습 시킨 것이 영향을 끼친 것으로 보인다고 설명했다.
구글 제미나이 제품 책임자인 잭 크로치크는 역사적 맥락을 고려해야 하는 이미지 생성 과정은 복잡하다며 앞으로 이 기능을 더 발전시켜 다양한 상황에 적합하도록 노력하겠다고 말했다.
앞서 구글은 1년 인스타 팔로우 구매 전에도 AI를 탑재한 새 검색 엔진 ‘바드’ 출시 공식 발표 후 해당 기능을 시연하면서 오답으로 곤욕을 치른 바 있다. 당시 시연회에서 ‘바드’는 ‘제임스 웹 우주망원경’(JWST)을 태양계 밖의 행성을 처음 찍는 데 사용된 망원경이라고 답했다. 그러나 이는 오답이었다.
미 항공우주국(NASA)에 따르면 태양계 밖 행성을 처음 촬영한 것은 JWST가 아닌 2004년 유럽남방천문대의 초거대 망원경(VLT)이었다. 당시 오답으로 구글 주가는 하루 새 9% 급락했다.