[투데이e코노믹 = 이지혜 기자] 120개 시민단체가 정부와 국회에 인공지능(AI)에 대한 법적인 규제를 요구하고 나섰다.

참여연대, 사단법인 정보인권연구소, 진보네트워크센터, 민변 디지털정보위원회 등 120개 단체는 24일 참여연대 2층 아름드리홀에서 기자회견을 갖고 인권과 안전, 민주주의가 보장되는 AI 법제도를 만들어야 한다고 촉구했다.

이들은 선언문에서 AI가 이미 생활 전반에 자리하고 있음에도 불구하고 제대로 된 법적 규제가 없다고 비판했다. 

또한 “AI가 사회적으로 적절히 통제되지 않는다면 그 편향성과 위험성이 사람의 인권과 안전에 중대한 영향을 미칠 것”이라면서 “이용자와 소비자는 그 의사결정 사유를 설명할 수도 없고, 검증할 수도 없고, 참여할 수도 없는 AI를 신뢰하지 않게 될 것”이라고 경고했다.

시민단체는 AI 규율법의 마련을 촉구했다. 이 법률과 제도는 ▲AI의 국가 감독 체계 마련 ▲정보공개와 참여 ▲AI 평가 및 위험성 통제 ▲권리구제 절차의 보장을 규정한다.

이들은 특히 정부에 대해 “과학기술정보통신부 등이 주도하는 AI 정책이 산업계의 요구로 점철돼 있다”고 비판하면서 “사람의 인권과 안전을 보장하고 권리구제의 책무가 있는 국가는 AI 국가 감독 체계를 수립하고, 여기에 공정거래위원회, 국가인권위원회, 개인정보보호위원회가 반드시 참여하도록 해야한다”고 강조했다. 

더불어 AI를 개발, 도입하고 의사결정에 사용하는 공공기관과 민간기업이 그 소비자와 이용자에게 모든 AI 기능과 의미에 대해 이해할 수 있는 형태로 공개하고, 가능한 한 당사자의 선택권을 보장해야 한다고 주장했다. 

이들은 특히 공공기관의 경우 AI 시스템에 대한 정보를 공개해야 한다면서 “기업의 영업비밀 보호가 공공기관의 투명성 의무를 회피하는 조건이 되어서는 안되며, 국민 앞에 투명하게 공개할 수 없는 민간 시스템을 공공기관이 도입해서는 안 될 것”이라고 덧붙였다. 

시민단체는 AI 제품과 서비스가 고용과 서비스 등에서 성별, 장애, 연령, 인종, 지역 등으로부터 차별을 금지하는 현행 법률을 준수해야 한다고 밝혔다. 또한 AI가 표현의 자유, 집회시위의 권리 등 인권을 침해해서는 안되며, 제품의 안전과 소비자의 권리를 보호하는 현행 법률을 준수해야 한다고 강조했다.

일례로, 다수 기업이 AI면접과 AI서류평가를 통해 채용을 진행하고 있지만 AI가 갖는 편향성을 규제할 수 있는 방안이 없다는 점이 지적됐다. 실제로 지난해 12월 기준, AI면접 관련 국내 시장을 독점해온 ‘마이다스아이티’에 따르면 ‘AI 역량검사’ 보유 기업과 기관은 총 432곳이다. 

이들은 “AI의 편향성이 사회적 통제 없이 가정에서, 학교에서, 직장에서 사용되는 제품과 시스템에 바로 적용된다면 우리 사회에 이러한 편견과 혐오가 항구적이 될 것”이라고 말했다.

또한 이같이 AI로 영향을 받는 당사자나 일반 국민이 AI의 도입, 운영, 결정에 대해 발언과 참여기회를 보장받지 못한다는 점이 지적됐다. 

시민단체는 “금융서비스나 채용 등 개인을 평가하거나, 거부하는 등 사람에 대한 중대한 의사결정이 AI를 사용하여 자동적으로 내려졌을 경우, 그 대상이 된 정보주체는 그 사실을 통지받고, 인적 개입, 의사 표현, 그 결정의 이유 설명, 이의 제기, 안전조치 등을 보장받을 권리가 있다”고 강조했다.

이들은 오늘 발표한 선언을 국회와 관련 상임위원회, 정부 관련 부처에 민원 등으로 제출할 계획이다.

반면 정부는 인공지능의 법적인 규제보다 민간차원의 자율규제가 필요하다고 보는 입장을 여러차례 밝혀왔다. 

지난 13일 대통령 직속 4차산업혁명위원회와 과기정통부가 연 ‘신뢰할 수 있는 AI 실현전략 방안’ 관련 사전브리핑에서, 김경만 과기정통부 인공지능기반 정책과장은 “인공지능 실현 방안은 규제보다는 진흥에 방점을 뒀다”면서 “(외국 규제 동향을 모니터링했을 때 규제가 있다고 하면) 우리나라가 따라갈 수는 있겠지만 과연 우리 먼저 규제부터 하는 게 맞는지에 대해서는 부정적”이라고 밝혔다.

김 과장은 “유럽 같은 경우는 (기업이) 인공지능법을 어긴 부분에 대해서는 과징금 규모가 상당하다. 강제성을 부여하고 있다”면서 “기술적으로 어느 정도 성숙이 되고, 기술적으로 시장에서 받아들일 때 (그런 규제가) 구현이 가능한 것이다. 기술이 따라가지 않는데 법이 과하면 오히려 법이 사문화될 가능성도 있다”고 우려했다. 

지난해 12월에 발표된 ‘인공지능 법·제도·규제 정비 로드맵’에서도 정부는 “인공지능 산업 진흥과 서비스 개발 촉진을 위해 민간의 자율·창의를 존중하는 친(親)시장적 법제 개선방안을 우선 마련하겠다”고 밝혔다.

국회 차원에서도 규제 법률 마련은 지지부진한 상황이다. 지난해 7월 이상민 민주당 의원이 대표발의한 ‘인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안’, 9월 양향자 민주당 의원이 대표발의한 ‘인공지능산업 육성에 관한 법률안’이 국회에 계류 중이다.

이들 법안은 이용자 보호를 위한 AI 윤리원칙 제정과 AI 개발, 활용 등 모든 단계에서 차별과 편향이 발생하거나 인권이 침해되지 않도록 할 것을 요구하고 있지만 내용이 포괄적이다.

장여경 정보인권연구소 상임이사는 이날 본지와의 통화에서 “국회가 규제법 등을 만들지는 않고 있어서 저희가 그 내용을 담은 시민사회 선언을 한 것”이라고 밝혔다.

또한 정부가 민간차원의 규제를 우선시하는 것에 대해서는 “현행 개인정보보호법이나 분야별 장애, 노동, 차별을 금지하는 법안이 있으니 AI라 하더라도 현행 법률을 지켜야 한다”고 강조하면서 “AI가 현행 법률을 준수해야 하고, 인권을 보장하기 위해 다른 나라처럼 고위험 인공지능을 규율하는 법률을 새로 마련해야 할 것도 있다”고 말했다.