딥페이크 기술 이용 범죄 기승 우려

원본에 가공 이미지 씌우는 ‘딥페이크’
억양·발성 패턴까지 비슷하게 흉내 내
성착취물·금품 사기사건 등 악용 가능
英 CEO, 실제로 속아 3억원 날리기도
“딥페이크 탐지기술 등 로드맵 갖춰야”영국의 한 에너지 기업 사장은 지난해 3월 독일에 있는 본사 사장으로부터 전화 한 통을 받았다. 22만 유로(약 2억 9000만원)를 본사로 송금해 달라는 긴급 요청이었다. 그는 본사 사장의 명령에 따라 한 치의 의심 없이 22만 유로를 송금했다. 억양과 발성 패턴이 실제 본사 사장과 매우 닮아 그가 아닐 거라고는 상상조차 하지 못했다. 그러나 사기임을 알았을 땐 이미 늦은 상태였다. 송금한 돈은 이미 헝가리와 멕시코 등 여러 국가를 거쳐 세탁된 상태라 추적이 불가능했다.

인공지능(AI)을 이용해 사진이나 동영상, 음성을 조작하는 딥페이크 기술이 논란의 중심에 섰다. 텔레그램 ‘n번방’ 등에서의 성착취물 제작부터 일반적인 사기 사건에까지 해당 기술이 이용되고 있기 때문이다.딥페이크를 활용하면 죽은 위인의 인터뷰 등 생생한 역사 교육도 가능해 교육·복지·문화 등 여러 측면에서 긍정적이지만 악용될 소지가 매우 큰 게 문제다. ‘보이스피싱’을 넘어 조금 먼 미래엔 얼굴을 조작해 돈을 빼내는 ‘페이스피싱’이 기승을 부릴지 모른다는 우려도 나온다.

12일 한국언론진흥재단의 ‘딥페이크와 사실의 위기: 어떻게 대응할 것인가’ 보고서에 따르면 딥페이크란 AI 기법의 하나인 딥러닝(기계학습 기법)을 적용해 원본 이미지나 동영상에 다른 이미지를 중첩·결합함으로써 가공의 이미지물을 만들어 내는 기술을 말한다. 딥페이크라는 말 자체에 이미 ‘딥러닝’과 ‘가짜’(fake)라는 의미가 담겨 있다. 미국에선 2017년 말 대형 온라인 커뮤니티인 ‘레딧’에 딥페이크를 활용한 유명 여성 배우의 포르노 영상이 올라와 논란이 되기도 했다.

실제로 딥페이크는 여러 국가에서 다양한 문제를 낳고 있다. 사기 사건을 넘어 정치에 활용될 경우 파장은 더 커질 수 있다. 2018년 멕시코 대선 기간에는 딥페이크를 이용한 정치 공작이 시도되기도 했다. 현 대통령인 안드레스 마누엘 로페스 오브라도르가 “캠프 사람들이 선불카드를 뇌물로 받았다”고 말하는 4분짜리 딥페이크 음성이 유포돼 당시 멕시코 사회에 큰 파장이 일었다.

물론 지금 기술 수준에서 아무나 정교한 딥페이크 영상을 만들 수는 없다. 정교한 딥페이크 가공물들은 포토샵 같은 후처리가 많이 된 것들이다. 전문가들은 100개 가운데 90개는 조악한 수준이라고 평가한다. 지금이야 딥페이크를 탐지하는 기술이 크게 중요하지 않은 수준이지만 수년 후에는 이 탐지기술이 요구될 가능성이 크다. 그러나 지금 국내에 이렇다 할 전문가가 적은 건 사실이다.

영상 보안 전문가인 이흥규 카이스트 전산학부 교수는 “10년 전부터 딥페이크 탐지기술을 연구했지만 연구를 의뢰받은 적은 딱 한 번밖에 없다”며 “다른 대학 교수들의 상황은 더 안 좋을 것”이라고 말했다.

이소은 고려대 정보문화연구소 연구교수는 “딥페이크를 기술적으로 잡아낼 수 있는 탐지기술을 눈여겨볼 필요가 있다”며 “정부는 딥페이크로 인한 허위 정보에 어떻게 대처할 것인지, 사회적 신뢰를 어떻게 높일 것인지에 대한 중장기 과제를 포함한 로드맵을 구축할 필요가 있다”고 밝혔다.

이성원 기자 lsw1469@seoul.co.kr