[투데이e코노믹 = 이지혜 기자]  최근 금융업계를 포함, 산업계에 인공지능(AI)이 빠르게 자리하고 있다. 뛰어난 능력을 가진 AI지만, 아직 산업 초기인 만큼 리스크에도 대비해야 한다는 우려가 일각에서 나온다.

국내에서는 최근 AI 챗봇 ‘이루다’가 이용자들로부터 성차별, 인종차별 등 잘못된 데이터를 학습하게 되면서 사회적 물의를 일으킨 바 있다.

외국에서는 2014년 아마존의 AI 채용시스템이 여성을 차별한 사례, 미국에서 활용되는 재범 위험 예측 알고리즘이 흑인에게 불리한 결과를 가지고 있는 사례, 아마존에서 개발한 안면인식 기술이 미국 국회의원을 범죄자로 잘못 인식한 사례, 마이크로소프트의 트윗봇 ‘테이’가 인종차별 및 정치편향적 트윗을 내보내 문제가 된 사례 등이 있다.

보험연구원은 18일 ‘AI리스크와 전용보험의 필요성’ 보고서에서 AI 기술 도입이 단기간에 급격하게 증가, 이전에는 예상할 수 없었던 AI 오작동 등 새로운 종류의 사고들이 발생할 수 있다고 지적했다.

보고서는 AI가 보안 리스크, 악의적으로 사용될 가능성이 있는 통제 리스크, 계층 간 불평등을 초래하는 사회적 리스크, 윤리적 가치가 결여된 윤리적 리스크, 예측 오류나 편향된 알고리즘 결과를 내놓는 수행 리스크, AI가 사람의 업무를 대체하는 경제적 리스크 등을 가지고 있을 수 있다고 설명했다.

국회입법조사처도 지난해 9월 발표한 ‘인공지능의 윤리적 사용을 위한 개선 과제’ 보고서에서 AI가 예기치 않은 문제를 발생시킬 가능성을 언급했다.

기업, AI 리스크 대응 준비해야...전용 보험 필요성도 부상

많은 기업들이 AI를 앞다퉈 도입하고 있지만 AI가 가지고 있는 리스크에 대한 인식이 부족하고, 준비가 제대로 되어 있지 않다는 우려도 나온다.

익명을 요청한 리스크 관리 전문가는 18일 본지에 “인공지능을 대표로 해 각 기업들이 앞다퉈 진행하는 디지털 전환에 따라, 전통적인 조직의 리스크 대응방식의 ‘프레임 워크(frame work)’ 자체의 변화가 필요하다”고 지적했다.

그는 “자동화로 인한 사고 발생시 책임소재, 신기술 활용에 따른 변화 관리, 디지털 자산관리로 생성된 방대한 데이터 관리 시 개인정보 보호 및 윤리적 책임 등의 이슈가 발생할 수 있으며 이에 따른 조직의 대응능력 향상 및 대응 방식 전환이 이뤄져야 한다”고 말했다.

기업은 내부 인원이 디지털화된 업무에 대해 지식 격차가 생기지 않도록 교육 및 내부통제에 힘써야 하며, AI 서비스를 사전 통제 및 조율할 수 있어야 한다. 

김윤진 보험연구원 연구원은 앞서 언급한 보고서에서 기업들이 효율적으로 AI 리스크에 대응할 수 있는 전용 보험 개발 및 활용이 필요하다고 제안했다. 현재 판매되고 있는 사이버 보험은 AI 리스크 중 데이터 및 보안 관련 위험만을 보장하고 있으므로, AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장할 수 있는 전용 보험이 필요하다는 것이다.

이순기 입법조사처 팀장도 보고서에서 인공지능 사용에 따른 문제점을 사후에 추적‧평가할 수 있는 제도와 알고리즘으로 인한 피해가 발생했을 때 손해배상을 하기 위한 보험제도 도입 검토가 필요하다고 밝혔다.