"한국이 딥페이크로 비상사태에 직면했다." (영국 BBC)

"한국은 오랫동안 '불법촬영 공화국'으로 불렸지만 이젠 '딥페이크 공화국'" (프랑스 르몽드)

대한민국이 '딥페이크 음란물 피해 1위'라는 오명을 썼다. 딥페이크는 딥러닝(Deep learning)과 페이크(fake)의 합성어로, 인공지능(AI)를 이용해 실제처럼 조작한 이미지나 영상을 뜻한다.

최근 AI의 발전으로 전세계적으로 소셜 네트워크 서비스(SNS)를 통한 딥페이크 성범죄 피해가 화두로 떠오르고 있다. 이에 따라 각국에선 SNS 사용 연령을 제한하고 각종 규제를 강화하고 있지만, 한국은 뒤늦은 대책 마련으로 인해 디지털 성범죄의 사각지대에 놓였다는 지적이 나오고 있다. 특히 10대 청소년의 중심으로 딥페이크 성범죄가 확대되면서 전방위적인 대응책을 강구해야 한다는 목소리가 커지고 있다.

10일 미국 사이버보안업체 시큐리티히어로의 보고서에 따르면 지난해 7~8월 딥페이크 성범죄물 사이트 10곳과 유튜브 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만5820건을 분석한 결과 딥페이크 성범죄물에 등장하는 개인 중 53%가 한국인으로 나타났다. 가장 큰 타깃이 된 한국인 가수는 1595건의 딥페이크물에 등장했고 조회 수는 561만회에 달했다.

무엇보다 딥페이크 범죄는 가해자와 피해자가 체감하는 피해 정도가 크게 차이를 보인다는 점이 특징이다. 가해자는 사이버 범죄 정도로 생각하는 반면, 피해자는 인격이 파괴 당하며 일상 생활이 불가할 지경까지 이른다.

이에 BBC·월스트리트저널(WSJ)·르몽드 등 주요 외신은 최근 한국의 딥페이크 음란물 사태를 집중 보도했다. 특히 한국은 10대 청소년들의 중심으로 딥페이크 성범죄 관련 사건이 크게 늘고 있다는 점이 도마 위에 올랐다.

실제 지난 3년 동안 딥페이크 성범죄로 경찰에 적발된 범죄 피의자 가운데 10대 청소년이 전체 비중 절반 이상을 차지했다. 지난달 경찰청에서 발표한 통계에 따르면 전국 경찰에 접수된 딥페이크 성범죄 관련 사건은 812건이다. 검거된 피의자 387명 중 324명(83.7%)은10대로 집계됐다.

문제는 관련 규제가 미흡해 국내 청소년들이 딥페이크 성범죄의 사각지대에 놓인 실정이다.

특히 약한 규제 강도와 딥페이크 성범죄 피해 영상물 관련 업무를 처리하는 정부 기관 인력이 부족하다는 지적이다. 방통위가 딥페이크 등 디지털 성범죄 피해 대응을 위해 온라인피해365센터를 운영하고 있지만 센터의 피해 상담 건수는 약 2년간 4707건에 달함에도 운용인력은 6명 수준이다.

방통위의 딥페이크 관련 예산이 2024년 11억원 정도였지만 내년(2025년) 정부안은 9억원 정도로 조금 삭감된 것으로 나타났다.

이상휘 국민의힘 의원은 지난 7일 국회에서 열린 과학기술방송통신위원회의 방통위 대상 국정감사에서 "방통위의 딥페이크 대처가 사후약방문 수준이다. 사전 규제를 해야 하는데 사고가 터지고 난 다음에 대책을 강구한다"고 지적했다.