인공지능(AI)은 우리 삶에 많은 도움을 주고 있지만 부작용도 만만치 않다. 가장 큰 부작용이 ‘딥페이크’(deepfake)다. AI 심층학습을 뜻하는 딥러닝(deep learning)과 가짜를 의미하는 페이크(fake)의 합성어. AI 기술로 얼굴 등 이미지를 합성해 실제처럼 보이도록 조작한 허위 사진·영상 편집물이다. ‘챗GPT’ 열풍과 함께 누가 언제 어디서 누구의 얼굴을 합성해 조작하고 있을지 모를 일이다.

딥페이크가 기승을 부리면서 피해도 확산하고 있다. 방송통신심의위원회의 딥페이크 관련 심의 건수는 지난해 9월 기준 1만 305건. 2021년(1913건)에 비해 5배 이상 늘었다. 법원은 최근 텔레그램에서 딥페이크 영상물 1275개를 유포한 ‘지인 능욕방’ 운영자에게 징역 2년 6개월을 선고했다. 2019년 아동·청소년 성착취 범죄인 ‘N번방’ 사건을 계기로 성폭력처벌법에 ‘허위 영상물 등의 반포’ 처벌 조항이 신설됐다. 성적 딥페이크도 디지털 성범죄에 포함됐다. 5년 이하의 징역 또는 5000만원 이하의 벌금이 내려질 수 있다.

6·3 대선에도 ‘딥페이크 주의보’가 내려졌다. 일상화한 AI 기술로 정치공작, 가짜뉴스 유포 등에 활용될 가능성이 어느 때보다 커졌다. 이미 피해 사례도 심각한 수준이다. 대선주자들을 희화화하거나 경쟁 후보를 비방하는 동영상, 죄수복을 입은 후보 사진 등이 등장했다. 이재명 더불어민주당 예비후보도 비상이 걸렸다. 이 후보가 부인에게 욕설하는 딥페이크 영상이 유포될 수 있다는 제보가 접수됐다. 이 후보 측은 “유포 시 모든 수단을 동원해 법적 책임을 묻겠다”는 경고로 제동을 건 상태다. 중앙선거관리위원회는 ‘딥페이크 기술로 만든 선거 관련 영상이 조금이라도 오인 가능성이 있다면 법 위반’이라고 경고했다.

유권자들의 할 일이 후보자들 검증에만 머물 수 없는 세상이다. 답페이크에 속지 않고 무사히 한 표를 행사하는 것. 딥페이크 시대의 유권자들은 시력도 두 배로 좋아져야 한다.