투데이e코노믹 = 이혜진 기자 |  #목소리 도용 논란

밤양갱이란 노래를 아이유가 부르고 있는 영상이 화제가 됐다. 밤양갱은 아이유의 전 연인이였던 장기하가 작사 작곡하고 가수 비비가 부른 노래다.

물론 아이유는 이 노래를 부른 적이 없다. 생성형AI를 이용해 제작한 영상이다. 문제는 아이유 목소리를 사용했다 하더라도 아이유에게 돌아가는 수익은 없다. 또한 아이유에게 허락을 받지 않고 목소리를 사용했지만 이를 금지할 법적 근거도 없다.

# 딥페이크

작년 3월 미국의 전 대통령 도널드 트럼프가 경찰들에 의해 제지당하는 사진이 등장했다. 미드저니를 사용하여 생성된 이미지다. 이 이미지를 실제 사진으로 믿는 사람들이 있어 문제가 됐다. 이는 딥페이크로, 딥 러닝과 가짜의 합성어로 인공지능으로 만든 인간 이미지 합성 기술이다. 딥페이크 기술은 가짜 뉴스 유포, 특정 인물 음해 등 다양한 방식으로 악용되어 사회적 혼란을 야기하고 있다.

빨라지는 인공지능 발전의 진행속도에 비해 관련 제도나 법은 제정되어 있지 않아 혼란스러운 상황이 많다. 위 사례는 수많은 인공지능 생성물에 의한 에피소드 중 극히 일부만을 소개했다. 인공지능 윤리에 대한 필요성이 강하게 대두되고 있다. 

AI 윤리 관련한 종합 플랫폼이 마련되어 둘러보았다. NC 문화재단이 만든 FAIR AI다. NC문화재단은 2012년 NCSOFT가 창립 15주년을 맞아 체계적이고 지속적인 사회적 책임활동을 위해 설립한 공익 목적의 비영리 재단이다.

인공지능 윤리 정보 포털 'FAIR AI' 오픈

5월 16일 오픈한 FAIR AI는 ▲국내외 논문 및 보고서 ▲언론 기사 ▲가이드라인 ▲커리큘럼 소개 등 AI 윤리와 관련된 정보를 통합 제공한다. FAIR는 Faithful(충실한), Accountable(책임이 있는), Inclusive(포괄적인), Responsible(책임 있는)의 앞 글자를 딴 약자로 '공정하고 책임감 있는 AI 정보 라이브러리'라는 의미를 답고 있다.

자료 중 논문과 뉴스는 아웃링크 방식으로 누르면 해당 원문이 있는 플랫폼이 열린다. 논문 중 '챗GPT와 대학 글쓰기: 학습자 중심의 AI 피드백 - 문장 첨삭을 중심으로'를 누르자 논문이 실려있는 '국가오픈액세스플랫폼'으로 연결됐다. '초등 일반 학생과 과학영재 학생의 인공지능에 대한 태도와 윤리의식 수준 및 관계 비교'를 누르자 한국학술지인용색인 사이트가 연결됐다. 

뉴스는 각 언론사 사이트로 연결된다. "AI '가짜뉴스', 자율규제 통해 규제 실효성 높여야"를 누르자 한국기자협회로, "개방형 AI모델 늘리고 정보 규제 등 완화해야" [서울포럼 2024] 제목을 클릭하자 서울경제 페이지로 이동하는 식이다.

보고서는 모두 국외자료로 영어로 되어 있다. 제목을 누르면 PDF 파일이 바로 열려서 열람 및 저장이 가능하다.

가이드라인은 우리나라를 비롯해 미국, 중국, 싱가포르 등 10개국의 AI 윤리관련 가이드라인이 적힌 사이트를 연결해두었다. 대한민국의 과학기술정보통신부 '인공지능 윤리기준'을 클릭하면 과학기술정보통신부의 보도자료가 게시된 사이트로 이동한다. 사이트에 따르면 선정된 10개국은 ‘The Global AI Index’ 평가 결과 TOP 10위로 랭크된 국가라 한다. 해당 순위는 해마다 변경되기 때문에 가이드라인 목록도 이에 맞추어 업데이트 된다고 한다.

그 밖에도 국제 인공지능 & 윤리 협회, 인공지능 & 데이터 교재, 정보인권연구소 등 참고 사이트를 소개하고 해외 대학의 AI 윤리와 관련된 커리큘럼 및 전공을 소개한다. 하버드 대학교의 경우 Embedded EthiCS 전공, 콜롬비아 대학에서는 Privacy, Security and Ethics의 전공을 소개하는 식이다.

FAIR AI의 자료는 다양한 출처에서 키워드를 기반으로 자동 수집되는 과정을 통해 제공된다. 인공지능 윤리 전문가 및 관련 종사자에게 관련 자료를 한 곳에서 찾을 수 있는 허브 역할을 할 수 있다. AI 윤리를 처음 접하는 사람이나 일반인은 전문적인 자료가 조금 부담스럽다면 언론사 뉴스 등을 보면서 AI 윤리에 대해 감을 익힐 수 있을 것이다.

따로 회원 가입 기능을 도입하지 않아 가입절차 없이 사이트를 둘러볼 수 있는 점이 매우 편리했다. 또한 PC와 모바일 기기, 태블릿 PC 모두에서 접속이 가능하다. 

NC문화재단 관계자는 "AI 윤리 정보 라이브러리 'FAIR AI'가 인공지능 기술의 윤리적 사용에 대한 사회적 합의에 기여하기를 바란다"고 밝혔다.