투데이e코노믹 = 우혜정 기자 | 마이크로소프트(MS)와 오픈AI 등 글로벌 인공지능(AI) 기업들이 유해한 성적 딥페이크 이미지 확산을 막기 위해 AI 학습 데이터에서 나체 이미지를 삭제하기로 했다.

미국 정부가 중재하고 백악관이 발표한 서약에서 AI 기업들은 “적절한 경우에, (AI) 모델의 목적에 따라 AI 학습 데이터 세트에서 누드 이미지를 자발적으로 제거하겠다”고 밝혔다.

백악관 과학기술정책실은 성학대, 동의 없는 딥페이크 이미지 등이 “여성과 어린이, 성소수자를 불균형적으로 표적으로 삼아 급증했으며, 현재까지 가장 빠르게 증가하는 AI의 유해한 사용 사례 중 하나로 부상하고 있다”고 밝혔다.

이번 서약에는 MS, 오픈AI를 비롯해 어도비와 앤트로픽, 코히어 등이 동참했다. 공공 웹사이트에서 데이터를 수집하는 비영리단체 커먼 크롤은 서약에 부분적으로 참여했다.

이미지 기반 성범죄 위한 자발적 원칙도 약속

커먼 크롤은 AI 챗봇과 이미지 생성기 훈련에 사용되는 핵심적인 데이터 저장소다. 커먼 크롤은 “앞으로 책임감 있게 데이터를 수집하는 등 이미지 기반 성적 학대로부터 데이터를 보호하기 위해 광범위하게 노력하겠다”고 강조했다.

이날 MS를 포함한 메타, 틱톡, 범블, 디스코드, 매치 그룹 등은 미국 여성폭력방지법 제정 30주년과 연계된 별도의 서약에서 이미지 기반 성학대 방지를 위한 일련의 자발적 원칙을 약속했다.

한편 최근 국내에서도 지인 얼굴에 성적 영상물을 합성한 딥페이크 성착취물이 확산돼 큰 논란이 되고 있다. 같은 학교에 다니는 친구, 교사뿐만 아니라 친족 등의 프로필, 졸업사진 등을 수집한 후 AI 기술을 이용해 지인 얼굴을 음란물에 합성하는 식이다. 피해자에는 중·고등학생 등 미성년자도 포함된 것으로 알려졌다.