딥페이크 기술이 사회적 문제로 떠오르면서 금융 손실이 증가할 것이란 전망이 나왔다. 특히 보험사의 경우 디지털 전환 가속으로 딥페이크 보험사기 노출 가능성이 높아져 보험산업의 대응이 요구되고 있다.

6일 보험업계에 따르면 딥페이크(인공지능 기술을 기반으로 한 가짜 이미지, 오디오, 비디오를 의미)가 정치적 조작, 명예훼손, 성적 콘텐츠 생성, 사기 등으로 악용되고 있다. 딥페이크가 사회적 문제로 떠오르면서 이를 규제하기 위한 법안도 제정되고 있다.

지난달 26일 국회는 본회의를 열고 딥페이크 방지법(성폭력범죄의 처벌 등에 관한 특례법 개정안)을 통과시켰다. 딥페이크 방지법은 딥페이크 성착취물을 소지하거나 시청하기만 해도 처벌할 수 있는 디지털 성범죄에 대한 처벌 강화를 골자로 한다.

또한 딥페이크는 최근 금융 사기 등을 유발하는 주요 원인으로 꼽히고 있다. 딥페이크 기술 발전에 따라 관련 사기로 금융 손실이 증가하고 있는 것으로 나타났다.

딜로이트(Deloitte) 보고서에 따르면 딥페이크 관련 사기로 인한 금융 손실은 지난 2023년 123억달러(약 16조2360억원)에서 오는 2027년 400억달러(약 52조8000억원)로 급증해 연평균 32%의 증가률을 기록할 전망이다.

특히 디지털 전환을 가속하고 있는 보험업계의 경우 딥페이크 관련 보험사기에 더 취약할 수 있다는 분석도 나온다. 보험연구원이 발표한 '미국 딥페이크 관련 법안 동향과 보험회사의 대응' 보고서에 따르면 오는 2025년 보험 청구의 70%가 비대면 자동처리로 이뤄질 것으로 예상되면서 딥페이크 보험사기 노출 가능성도 올라가고 있다.

이에 따라 딥페이크 기술 발전에 따른 새로운 위험에 대한 보험산업의 대응이 필요하단 제언이 나온다. 보험사가 AI 기반 딥페이크 탐지 기술을 도입하는 등 딥페이크 악용 위험에 대비해야 한다는 분석이다.

김유미 보험연구원 연구원은 "딥페이크 관련 법적 제재 강화로 기존에 묵인되었던 딥페이크 사기 및 명예훼손 사건들이 부각될 수 있다"며 "기술 발전에 따른 새로운 범죄 형태가 등장할 가능성도 존재해 새로운 위험에 대한 보험산업의 대응이 요구된다"고 지적했다.

해외 보험사의 경우 허위 청구, 보험 사기 식별을 위한 AI 기반 딥페이크 탐지 기술을 도입하고 있다. AI를 활용해 문서, 영상, 음성에서 비정상적인 패턴이나 합성된 흔적을 감지하고 허위 청구를 방지하는 시스템을 개발하고 있다.

실제로 알리안츠(Allianz)는 머신러닝 도구 '인코그니토(Incognito)'를 개발해 허위 데이터를 감지하고 사기성이 있는 보험 청구를 식별하는 시스템을 구축했다. 알리안츠는 해당 시스템으로 170만파운드(약 30억원)를 절감한 것으로 나타났다.

김 연구원은 "보험사들은 보험 청구의 디지털화에 따른 AI 및 자동화 시스템 이용으로 딥페이크를 이용한 보험사기에 노출되고 있다"며 "일부 보험사가 선제적으로 허위 청구, 보험 사기 식별을 위한 AI 기반 딥페이크 탐지 기술을 도입하고 있다"고 말했다.