투데이e코노믹 = 이혜진 기자 |  "엄마, 나 큰일났어" 
울먹이는 딸의 목소리에 A씨는 가슴이 철렁했다. 음성과 억양, 침묵까지 실제 딸의 목소리를 꼭 닮아있었다. 심지어 딸의 학교와 거주지 정보까지 모두 알고있어 A씨는 딸이 아닐꺼라는 상상을 하지 못했다. 딥 보이스를 활용한 피싱사기 전화였다.

인공지능(AI) 기술을 동원해 보이스피싱이 진화하고 있다. 최근 '딥 보이스' 나 '딥 페이크' 등 생성형 AI 기술 요인이 보이스피싱 등 금융 사기범죄에 악용되면서 새로운 범죄유형이 생겨나고, 이에 따른 피해자도 급증하고 있다.

딥 보이스는 딥러닝과 보이스의 합성어로 AI 기술로 특정한 사람의 목소리를 발화에 합성한 기술이다. 딥 보이스는 영상을 합성하는 딥페이크와 달리 음성을 합성하는 기술이다.

딥보이스는 뉴스요약이나 AI 스피커 등 목소리 더빙 분야로 많이 활용되고 있다. 문제는, 적은 양의 데이터로도 자연스러운 음성을 구현할 수 있어 보이스 피싱 사기 같은 범죄에 이용된다는 점이다. 

SNS·모르는 번호에 목소리 노출 주의해야

경찰청은 AI 피싱사기를 예방하기 위해 "SNS에 음성이 포함된 게시물을 올린땐 주의하라"고 당부했다. SNS에 공개된 게시물로 개인정보를 파악하고 목소리를 딴 뒤, 딥 보이스를 이용해 보이스피싱에 악용하는 것이다. 딥보이스를 만들기 위해서는 목소리 샘플이 필요한데, 공개된 SNS 영상에서 목소리 샘플을 채취하는 것이다.

생성형 AI 기술을 통해 누군가의 목소리를 흉내내도록 하는 것은 어렵지 않다. 음성 AI 기술은 통상 3분 가량의 녹음만으로도 목소리를 완벽히 복원해 텍스트를 입력하는 대로 해당 목소리의 말을 생성한다. 

또한 전문가들은 모르는 번호로 걸려오는 전화에도 먼저 목소리를 노출하지 말 것을 당부했다. 통상 30초 가량의 샘플로 유사한 목소리를 만들어내는 딥 보이스가 점차 짧은 목소리 샘플만으로도 유사 목소리를 만들어 내는 것에 따른 것이다. "여보세요" "누구시죠" 같은 짧은 문장만으로도 충분히 목소리가 복제될 수 있어 주의가 요구된다.

만약 AI 보이스피싱 피해가 발생했다면, 경찰청 112, 금융감독원 1332, 해당 금융회사 콜센터로 전화해 즉시 피해 신고 및 계좌 지급 정지 요청을 해야한다. 또한 금융감독원 개인정보 노출자 사고예방시스템(pd.fss.or.kr)에 개인정보 노출사실을 등록해 2차 피해를 막아야 한다.

경찰청 관계자는 "의심스러울 경우, 일단 전화나 영상을 종료하고 당사자나 주변 지인에게 확인해보는 것이 가장 빠르고 안전한 방법"이라 밝혔다.