투데이e코노믹 = 우혜정 기자 | 딥페이크 성착취물이 심각한 사회적 문제로 대두되면서 인공지능(AI) 기본법 제정 논의가 탄력을 받고 있다.

국회 과학기술정보방송통신위원회는 최근 전체회의를 열고 조인철 더불어민주당 의원이 대표발의한 ‘인공지능 산업 육성 및 신뢰 회복에 관한 법률안(AI기본법)’을 법안심사소위원회에 보냈다. 법안에는 ▲인공지능 관련 사업과 연구 지원 ▲인공지능집적단지 지정과 지원 ▲인공지능 실증사업 지원 ▲인공지능의 잠재적 위험성 제거 등의 내용이 담겨 있다.

이 외에도 1일 기준 국회에는 AI 개발 지원과 규제안이 담긴 관련 법안 9건이 발의돼 있다.

그간 AI 관련 법안은 산업 진흥책에 초점이 맞춰져 왔다. 국내 AI 산업이 미국 등 외국에 비해 뒤처지고 있다는 판단에서다. 현재 전 세계 AI 시장은 챗GPT를 만든 오픈AI, 제미나이의 구글 등 미국 기업이 주도하고 있다. 네이버 등 국내 기업도 대규모언어모델(LLM)을 자체 개발하는 등 글로벌 시장에 진출하고 있지만 아직까진 존재감이 크지 않다.

하지만 최근 AI를 이용한 딥페이크 성범죄 사태가 불거지면서 AI 규제 논의에 속도가 붙을 것으로 전망된다. AI 악용을 막을 제동장치가 필요하다는 목소리가 높아지고 있기 때문이다.

EU, 모든 AI 시스템 이용자에 책임 부여

공공장소서 얼굴 등 생체 인식도 금지

유럽연합(EU)은 이미 지난 5월 AI 위험 수준에 따른 차등 규제를 담은 ‘AI법’을 세계 최초로 통과시켰다. EU는 AI 시스템을 쓰는 모든 사람에게 책임을 부과할 것을 명시했다.

AI 시스템 배포자는 ▲시스템이 지침에 따라 제공되도록 적절한 기술적·조직적 조치 ▲유능하고 훈련된 사람들이 하는 감독과 지원 ▲모니터링 및 감시 ▲시스템 로그가 제어 하에 있는 경우 유지 관리 ▲데이터 보호 영향평가를 실시해야 한다.

또 인종·종교와 정치적 성향, 성적 지향 등을 기준으로 사용자를 분류하기 위한 생체 정보 이용을 금지했고, 경찰이 납치나 테러 등 심각한 범죄를 제외하고는 공공장소에서 AI 기반 생체인식 시스템으로 얼굴을 스캔하는 것도 금지했다.

의무를 제대로 이행하지 않을 경우 전년도 매출의 최대 7% 또는 최대 3500만 유로(한화 523억 9430만원), 혹은 전년도 매출의 최대 1% 또는 최대 750만 유로(한화 112억 2795만원)의 벌금이 부과될 수 있다.

한편 최근 국내에서 음란물에 지인의 얼굴을 합성한 딥페이크 성착취물이 텔레그램을 통해 유포된 사실이 알려져 큰 사회적 공분을 일으키고 있다. 서울대와 인하대 등 100개 이상의 학교에서 피해 사실이 드러났고 이 중에는 중·고등학생 등 미성년자도 포함된 것으로 알려졌다.