신호처리, 인공지능 기술을 이용한 앱 ‘카이캐치’
딥페이크 영상, 위변조 사진까지 90% 이상 신뢰도로 탐지
안드로이드 기반 앱 우선 출시...다국어 앱도 개발 예정

전 세계적으로 가짜뉴스가 심각한 사회적 문제가 되고 있다. 최근에는 영상을 합성해 전문가들조차도 혼란스럽게 만드는 가짜뉴스들이 나오고 있는 상황이다. 이런 상황에서 국내 연구진이 딥페이크 영상을 잡아내는 모바일 어플리케이션(앱)을 개발해 주목받고 있다.

카이스트 전산학부 이흥규 교수팀은 학내 창업기업 디지털이노텍과 함께 인공지능을 기반으로 동영상이나 사진 등 디지털콘텐츠의 위변조를 탐지해 낼 수 있는 소프트웨어 ‘카이캐치’를 모바일 앱 형태로 개발해 서비스를 시작한다고 30일 밝혔다. 연구팀은 지난해 11월 딥페이크와 위변조 사진 탐지기술을 개발해 화제가 되기도 했다.

사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 재현, 속성변환이라는 3가지 방식이 주로 사용된다. 얼굴교체와 재현은 가짜뉴스나 음란물 제작에 악용되기도 하고 얼굴 속성변환은 영상증거 조작에 악용되기도 한다. 연구팀은 이 같은 딥페이크 생성 유형에는 상관없이 영상의 미세 변형신호 흔적과 미세 이상신호 흔적을 탐지해 낼 수 있도록 했다. 신호처리와 인공지능 기술이 적용된 카이캐치는 얼굴 영역의 미세변형, 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발상 가능영역의 이상신호 흔적을 분석해 내 딥페이크를 찾아낸다.

카이캐치는 avi나 mp4 형식의 딥페이크 의심 동영상을 개별 프레임으로 자른 뒤 분석 대상 프레임을 이미지로 변환한 다음 딥페이크 여부를 탐지한다. 동영상 내 얼굴이 지나치게 작거나 얼굴이 상당부분 잘린 상태만 아니라면 정확한 탐지가 가능하다고 연구팀은 밝혔다. 분석 결과는 0~100까지 퍼센트로 표시되는데 숫자가 높을수록 딥페이크일 확률이 높다는 것이다.사진 위변조 탐지의 경우도 카이캐치 앱에 어떤 형태의 이미지 파일이든 상관없이 앱에 올리면 위변조가 의심되는 부분과 함께 사진의 진위여부를 알려준다.

카이캐치는 일단 안드로이드 기반 모바일 환경에서 사용될 수 있도록 개발돼 구글스토어에서 ‘카이캐치’를 검색해 앱을 내려받으면 일반인들도 간단하게 딥페이크나 사진 위변조를 알아낼 수 있게됐다. 연구팀은 애플 iOS 기반의 앱과 영어, 중국어, 일본어 앱도 출시할 예정이다.

이흥규 교수는 “카이캐치는 인공지능과 미세이상신호 흔적 분석기법을 활용해 다양한 유형의 변형을 잡아낼 수 있도록 개발됐다”라며 “우리가 예측하지 못하거나 모르는 변형기법을 사용하더라도 90% 내외의 높은 신뢰도로 딥페이크와 사진 위조를 잡아낼 수 있다”라고 설명했다.

유용하 기자 edmondy@seoul.co.kr