관련 범죄 성행하자 감별 기술도 함께 발전

여성 연예인의 가짜 포르노 동영상을 만들어 인터넷에 공개한 ‘딥페이크’(Deepfake) 범죄가 일본에서 처음 적발된 가운데 딥페이크 기술이 날이갈 수록 정교해지고 있다. 최근에는 딥페이크 탐지 기술도 함께 발전하고 있다.

2일 교도통신에 따르면 도쿄도 경찰본부인 경시청은 여성 연예인 딥페이크를 제작·공개한 혐의로 구마모토현 거주 대학생인 하야시다 다쿠미(21)와 효고현에 사는 시스템 엔지니어 오쓰키 다카노부(47)를 명예훼손 및 저작권법 위반 혐의로 체포했다.

두 사람은 AI를 활용해 포르노 비디오에 등장하는 여배우 이미지에 피해자가 된 여성 연예인을 교묘하게 합성하는 방법으로 딥페이크를 제작해 인터넷에 공개한 혐의를 받고 있다. 교도통신은 이런 유형의 딥페이크 사건이 일본에서 적발된 것은 처음이라고 밝혔다.

딥페이크는 ‘딥러닝’과 ‘가짜’(fake)라는 의미를 담은 신조어다. AI의 고급이미지 생성 기술을 사용해 합성 방식으로 만드는 진짜 같은 가짜 동영상을 뜻한다. AI가 합성하려고 하는 사람의 표정과 습관, 음성을 학습해 영상을 합성한다.네덜란드 사이버 보안기업 ‘딥 트레이스’가 발표한 보고서에 따르면 지난해 이 회사가 확인한 딥페이크만 1만 4678건으로, 전년 대비 84% 증가했다. 이 중 96%가 유명 할리우드 여배우 등 유명인이었다.

우리나라에서도 텔레그램을 통해 모인 이들이 성착취 동영상을 제작하고 유포했던 ‘n번방’ 사건에서 일부 피의자들이 딥페이크 기술을 악용하기도 했다. 이들은 피해 여성의 사진을 음란물에 합성해 유포하는 범죄를 저질렀다.

하지만 딥페이크 기술 발전만큼 딥페이크를 탐지하는 기술도 발전하고 있다. 지난달 1일 마이크로소프트는 동영상에 딥페이크 기술을 적용했는지 여부를 감별하는 ‘비디오 어센터케이터’를 선보였다. 이외에도 구글, 페이스북 또한 딥페이크 탐지 기술을 개발하고 있다.

윤수경 기자 yoon@seoul.co.kr